Avec Air-Guardian, un programme informatique peut suivre où regarde un pilote humain (en utilisant la technologie de suivi oculaire), afin de mieux comprendre sur quoi le pilote se concentre. Cela aide l’ordinateur à prendre de meilleures décisions qui correspondent à ce que le pilote fait ou a l’intention de faire. Crédit : Alex Shipps/MIT CSAIL via Midjourney
Conçu pour garantir un ciel plus sûr, « Air-Guardian » allie l’intuition humaine à la précision de la machine, créant une relation plus symbiotique entre le pilote et l’avion.
Imaginez que vous êtes dans un avion avec deux pilotes, un humain et un ordinateur. Tous deux ont la « main » sur les contrôleurs, mais ils sont toujours à la recherche de choses différentes. S’ils prêtent tous les deux attention à la même chose, c’est l’humain qui dirige. Mais si l’humain est distrait ou manque quelque chose, l’ordinateur prend rapidement le relais.
Rencontrez l’Air-Guardian, un système développé par des chercheurs du MIT Laboratoire d’Informatique et d’Intelligence Artificielle (CSAIL). Alors que les pilotes modernes sont aux prises avec une avalanche d’informations provenant de plusieurs moniteurs, en particulier pendant les moments critiques, Air-Guardian agit comme un copilote proactif ; un partenariat entre l’humain et la machine, ancré dans la compréhension de l’attention.
Comprendre l’attention avec Air-Guardian
Mais comment détermine-t-il l’attention, exactement ? Pour les humains, il utilise le suivi oculaire, et pour le système neuronal, il s’appuie sur ce qu’on appelle des « cartes de saillance », qui indiquent où l’attention est dirigée. Les cartes servent de guides visuels mettant en évidence les régions clés d’une image, aidant ainsi à saisir et à déchiffrer le comportement d’algorithmes complexes. Air-Guardian identifie les premiers signes de risques potentiels grâce à ces marqueurs d’attention, au lieu d’intervenir uniquement lors de violations de sécurité comme les systèmes de pilotage automatique traditionnels.
Les implications plus larges de ce système vont au-delà de l’aviation. Des mécanismes de contrôle coopératifs similaires pourraient un jour être utilisés dans les voitures, les drones et un spectre plus large de robots.
« Une caractéristique intéressante de notre méthode est sa différentiabilité », déclare Lianhao Yin, postdoctorant au MIT CSAIL, auteur principal d’un nouvel article sur Air-Guardian. « Notre couche coopérative et l’ensemble du processus de bout en bout peuvent être formés. Nous avons spécifiquement choisi le modèle de réseau neuronal causal à profondeur continue en raison de ses caractéristiques dynamiques dans la cartographie de l’attention. Un autre aspect unique est l’adaptabilité. Le système Air-Guardian n’est pas rigide ; il peut être ajusté en fonction des exigences de la situation, garantissant un partenariat équilibré entre l’homme et la machine.
Tests sur le terrain et résultats
Lors des tests sur le terrain, le pilote et le système ont pris des décisions basées sur les mêmes images brutes lors de la navigation vers le waypoint cible. Le succès d’Air-Guardian a été évalué sur la base des récompenses cumulées gagnées pendant le vol et du trajet plus court jusqu’au waypoint. Le gardien a réduit le niveau de risque des vols et augmenté le taux de réussite de la navigation vers les points cibles.
« Ce système représente l’approche innovante de l’aviation centrée sur l’humain et basée sur l’IA », ajoute Ramin Hasani, affilié de recherche MIT CSAIL et inventeur des réseaux de neurones liquides. « Notre utilisation de réseaux de neurones liquides offre une approche dynamique et adaptative, garantissant que l’IA ne se contente pas de remplacer le jugement humain mais le complète, conduisant à une sécurité et une collaboration améliorées dans le ciel. »
Fondements technologiques et perspectives d’avenir
La véritable force d’Air-Guardian réside dans sa technologie fondamentale. À l’aide d’une couche coopérative basée sur l’optimisation utilisant l’attention visuelle des humains et des machines, ainsi que de réseaux neuronaux en temps continu (CfC) liquides et fermés, connus pour leurs prouesses dans le déchiffrement des relations de cause à effet, il analyse les images entrantes à la recherche d’informations vitales. En complément, l’algorithme VisualBackProp identifie les points focaux du système dans une image, garantissant ainsi une compréhension claire de ses cartes d’attention.
Pour une future adoption massive, il est nécessaire d’affiner l’interface homme-machine. Les commentaires suggèrent qu’un indicateur, comme une barre, pourrait être plus intuitif pour indiquer quand le système gardien prend le contrôle.
Air-Guardian annonce une nouvelle ère de ciel plus sûr, offrant un filet de sécurité fiable pour les moments où l’attention humaine vacille.
« Le système Air-Guardian met en valeur la synergie entre l’expertise humaine et apprentissage automatiquefavorisant l’objectif d’utiliser l’apprentissage automatique pour augmenter les pilotes dans des scénarios difficiles et réduire les erreurs opérationnelles », déclare Daniela Rus, professeur Andrew (1956) et Erna Viterbi de génie électrique et d’informatique au MIT, directeur du CSAIL et auteur principal sur le papier.
« L’un des résultats les plus intéressants de l’utilisation d’une mesure de l’attention visuelle dans ce travail est la possibilité de permettre des interventions plus précoces et une plus grande interprétabilité par les pilotes humains », explique Stephanie Gil, professeur adjoint d’informatique à l’Université Harvard, qui n’a pas participé à l’étude. travail. « Cela présente un excellent exemple de la façon dont l’IA peut être utilisée pour travailler avec un humain, en abaissant les obstacles à l’établissement de la confiance en utilisant des mécanismes de communication naturels entre l’humain et le système d’IA. »
Cette recherche a été partiellement financée par le laboratoire de recherche de l’US Air Force (USAF), l’accélérateur d’intelligence artificielle de l’USAF, Boeing Co. et l’Office of Naval Research. Les résultats ne reflètent pas nécessairement les opinions du gouvernement américain ou de l’USAF.
