D’éminents scientifiques en IA ont lancé un appel à une action urgente de la part des dirigeants mondiaux, critiquant le manque de progrès depuis le dernier Sommet sur la sécurité de l’IA. Ils proposent des politiques strictes pour régir le développement de l’IA et empêcher son utilisation abusive, soulignant le potentiel de l’IA à dépasser les capacités humaines et à présenter de graves risques. Crédit : Issues.fr.com
Les experts en IA mettent en garde contre l’insuffisance de l’action mondiale face aux risques liés à l’IA, et plaident en faveur d’une gouvernance stricte pour éviter d’éventuelles catastrophes.
D’éminents scientifiques en IA exhortent les dirigeants mondiaux à prendre des mesures plus décisives face aux risques liés à l’IA, soulignant que les progrès réalisés depuis le premier sommet sur la sécurité de l’IA à Bletchley Park il y a six mois ont été insuffisants.
Lors de ce premier sommet, les dirigeants mondiaux se sont engagés à gérer l’IA de manière responsable. Pourtant, à l’approche du deuxième sommet sur la sécurité de l’IA à Séoul (21 et 22 mai), vingt-cinq chercheurs de haut niveau en IA affirment que les efforts actuels sont insuffisants pour se prémunir contre les dangers posés par la technologie. Dans un document de consensus publié aujourd'hui (20 mai) dans la revue Scienceils proposent des mesures politiques urgentes qui doivent être mises en œuvre pour contrecarrer les menaces posées par les technologies de l’IA.
Professeur Philippe Torr, Département des sciences de l'ingénieur, Université d'Oxford, co-auteur du document, déclare : « Le monde a convenu lors du dernier sommet sur l’IA que nous avions besoin d’action, mais il est maintenant temps de passer de vagues propositions à des engagements concrets. Ce document fournit de nombreuses recommandations importantes sur ce que les entreprises et les gouvernements devraient s’engager à faire.
La réponse mondiale n’est pas sur la bonne voie face aux progrès potentiellement rapides de l’IA
Selon les auteurs de l'article, il est impératif que les dirigeants mondiaux prennent au sérieux la possibilité que des systèmes d'IA généralistes très puissants, surpassant les capacités humaines dans de nombreux domaines critiques, soient développés au cours de la décennie en cours ou de la suivante. Ils affirment que même si les gouvernements du monde entier ont discuté de l’IA de pointe et tenté d’introduire des lignes directrices initiales, cela est tout simplement sans commune mesure avec la possibilité de progrès rapides et transformateurs attendus par de nombreux experts.
Les recherches actuelles sur la sécurité de l’IA font cruellement défaut, avec seulement 1 à 3 % environ des publications sur l’IA concernant la sécurité. De plus, nous n’avons ni mécanismes ni institutions en place pour prévenir les abus et les imprudences, y compris en ce qui concerne l’utilisation de systèmes autonomes capables d’agir de manière indépendante et de poursuivre des objectifs.
Des experts mondiaux en IA lancent un appel à l’action
Face à cela, une communauté internationale de pionniers de l’IA a lancé un appel urgent à l’action. Les co-auteurs comprennent Geoffrey Hinton, Andrew Yao, Dawn Song, feu Daniel Kahneman ; au total, 25 des plus grands experts universitaires mondiaux en matière d'IA et de sa gouvernance. Les auteurs sont originaires des États-Unis, de Chine, de l’UE, du Royaume-Uni et d’autres puissances en matière d’IA, et comprennent des lauréats du prix Turing, des lauréats du prix Nobel et des auteurs de manuels standards sur l’IA.
Cet article est la première fois qu’un groupe international d’experts aussi important se met d’accord sur les priorités des décideurs politiques mondiaux concernant les risques liés aux systèmes d’IA avancés.
Priorités urgentes pour la gouvernance de l’IA
Les auteurs recommandent aux gouvernements de :
- établir des institutions expertes et à action rapide pour la surveillance de l’IA et leur fournir un financement bien plus important que celui qu’elles devraient recevoir dans le cadre de presque tous les plans politiques actuels. À titre de comparaison, l’AI Safety Institute des États-Unis dispose actuellement d’un budget annuel de 10 millions de dollars, tandis que la Food and Drug Administration (FDA) des États-Unis dispose d’un budget de 6,7 milliards de dollars.
- exiger des évaluations des risques beaucoup plus rigoureuses avec des conséquences exécutoires, plutôt que de s’appuyer sur des modèles d’évaluation volontaires ou sous-spécifiés.
- exiger que les entreprises d’IA donnent la priorité à la sécurité et démontrent que leurs systèmes ne peuvent pas causer de dommages. Cela inclut l’utilisation de « dossiers de sécurité » (utilisés pour d’autres technologies critiques pour la sécurité, comme l’aviation), qui transfèrent la charge de la démonstration de la sécurité aux développeurs d’IA.
- mettre en œuvre des normes d’atténuation adaptées aux niveaux de risque posés par les systèmes d’IA. Une priorité urgente est de mettre en place des politiques qui se déclenchent automatiquement lorsque l’IA atteint certains jalons de capacité. Si l’IA progresse rapidement, des exigences strictes entrent automatiquement en vigueur, mais si les progrès ralentissent, les exigences s’assouplissent en conséquence.
Selon les auteurs, pour que les futurs systèmes d’IA soient exceptionnellement performants, les gouvernements doivent être prêts à prendre les devants en matière de réglementation. Cela implique d’autoriser le développement de ces systèmes, de restreindre leur autonomie dans des rôles sociétaux clés, d’arrêter leur développement et leur déploiement en réponse à des capacités inquiétantes, d’imposer des contrôles d’accès et d’exiger des mesures de sécurité de l’information robustes aux pirates informatiques au niveau de l’État, jusqu’à ce que des protections adéquates soient prêtes.
Les impacts de l’IA pourraient être catastrophiques
L’IA fait déjà des progrès rapides dans des domaines critiques tels que le piratage informatique, la manipulation sociale et la planification stratégique, et pourrait bientôt poser des défis de contrôle sans précédent. Pour atteindre des objectifs indésirables, les systèmes d’IA pourraient gagner la confiance des humains, acquérir des ressources et influencer les principaux décideurs. Pour éviter toute intervention humaine, ils pourraient être capables de copier leurs algorithmes sur des réseaux de serveurs mondiaux. La cybercriminalité à grande échelle, la manipulation sociale et d’autres préjudices pourraient rapidement s’aggraver. En cas de conflit ouvert, les systèmes d’IA pourraient déployer de manière autonome diverses armes, y compris biologiques. Par conséquent, il existe une chance très réelle que les progrès incontrôlés de l’IA aboutissent à une perte de vies humaines et de biosphère à grande échelle, ainsi qu’à la marginalisation ou à l’extinction de l’humanité.
Stuart Russell OBE, professeur d'informatique à l'Université de Californie à Berkeley et auteur du manuel standard mondial sur l'IA, déclare : « Il s'agit d'un document de consensus rédigé par des experts de premier plan, et il appelle à une réglementation stricte de la part des gouvernements, et non à des codes volontaires. de conduite rédigées par l’industrie. Il est temps de s’intéresser sérieusement aux systèmes d’IA avancés. Ce ne sont pas des jouets. Augmenter leurs capacités avant de comprendre comment assurer leur sécurité est totalement imprudent. Les entreprises se plaindront qu’il est trop difficile de satisfaire aux réglementations – que « la réglementation étouffe l’innovation ». C'est ridicule. Il y a plus de réglementations sur les sandwicheries que sur les entreprises d’IA.
