Alors que l’intelligence artificielle (IA) assume des rôles de plus en plus critiques – de la gestion des réseaux électriques au pilotage de véhicules autonomes – il n’a jamais été aussi important de garantir la sécurité de ces systèmes. Mais comment pouvons-nous être sûrs que l’IA qui les contrôle est fiable ?
Une équipe de recherche de l’Université de Waterloo aborde cette question à l’aide d’outils issus des mathématiques appliquées et de l’apprentissage automatique pour vérifier rigoureusement la sécurité des systèmes pilotés par l’IA.
La recherche intitulée « Fonctions de Lyapunov du réseau neuronal basé sur la physique : caractérisation, apprentissage et vérification de la PDE » apparaît dans Automatique.
« Chaque fois que vous avez affaire à un système dynamique – quelque chose qui change au fil du temps, comme un véhicule autonome ou un réseau électrique – vous pouvez le modéliser mathématiquement à l'aide d'équations différentielles », a déclaré le Dr Jun Liu, professeur de mathématiques appliquées et titulaire de la Chaire de recherche du Canada sur les systèmes et le contrôle hybrides.
Pour prédire le comportement à long terme de ces systèmes, les scientifiques et les ingénieurs s'appuient sur un outil mathématique appelé « fonction de Lyapunov ». Intuitivement, cet outil montre si un système s’installera naturellement dans un état stable et sûr, un peu comme une balle qui roule au fond d’un bol et y reste. « Trouver une telle fonction, cependant, est souvent une tâche notoirement difficile », a déclaré Liu.
Pour relever ce défi, Liu et son équipe se sont tournés vers l'apprentissage automatique. Ils ont construit un réseau neuronal qui apprend à satisfaire aux règles mathématiques qui déterminent si un système reste stable et sûr – les mêmes règles sur lesquelles les ingénieurs s’appuient pour garder sous contrôle les réseaux électriques et les véhicules autonomes.
Les chercheurs ont ensuite utilisé un système de raisonnement distinct basé sur un calcul rigoureux et une logique mathématique pour vérifier que ces réseaux de neurones satisfont bien aux conditions requises pour les garanties de sécurité. Ensemble, ces outils permettent de confirmer que les contrôleurs IA peuvent gérer des systèmes complexes de manière sûre et fiable.
Cela peut paraître surprenant d’utiliser une forme d’IA pour en contrôler une autre, mais Liu explique que l’IA est un vaste domaine. Dans leur travail, les réseaux de neurones – un type courant d’IA – apprennent des preuves mathématiques de sécurité et conçoivent parfois même les contrôleurs eux-mêmes, tandis qu’un système logique – une autre forme d’IA raisonnée – vérifie que ces preuves sont correctes. Ce sont deux tâches que les chercheurs devaient autrefois effectuer manuellement.
« Pour être clair, personne ne tente de créer des usines ou des systèmes entièrement gérés par l'IA sans aucune intervention humaine », a déclaré Liu. « Il y a des domaines tels que l'éthique qui seront toujours guidés par le jugement humain. Ce que font ces contrôleurs d'IA et ces assistants de preuve, c'est prendre en charge des tâches à forte intensité de calcul, comme décider comment déployer l'énergie dans un réseau ou construire des preuves mathématiques fastidieuses qui pourront libérer les humains pour des décisions de plus haut niveau. »
Le cadre a été testé sur plusieurs problèmes de contrôle difficiles, où il correspondait ou dépassait les approches traditionnelles. L'équipe de Liu la développe actuellement pour en faire une boîte à outils open source et explore les collaborations industrielles pour faire progresser l'IA sûre et fiable pour les systèmes physiques.
Ce travail fait partie de l’engagement plus large de Waterloo à faire progresser une IA sûre et digne de confiance.
