Lors d'un forum politique, d'éminents scientifiques de l'IA mettent en garde contre les risques importants associés au développement rapide des technologies de l'IA. Ils proposent que les grandes entreprises technologiques et les bailleurs de fonds publics consacrent au moins un tiers de leurs budgets à l’évaluation et à l’atténuation des risques. Ils plaident également en faveur de normes mondiales strictes pour prévenir les abus de l’IA et soulignent l’importance d’une gouvernance proactive pour orienter le développement de l’IA vers des résultats bénéfiques et éviter des catastrophes potentielles. Crédit : Issues.fr.com
Les experts en IA recommandent des investissements importants dans l’atténuation des risques liés à l’IA et des réglementations mondiales plus strictes pour prévenir les abus et guider le développement de l’IA en toute sécurité.
Les chercheurs ont mis en garde contre les risques extrêmes associés au développement rapide des technologies d’intelligence artificielle (IA), mais il n’existe pas de consensus sur la manière de gérer ces dangers. Lors d'un forum politique, Yoshua Bengio, expert mondial en IA, et ses collègues analysent les risques liés aux progrès des technologies d'IA.
Ceux-ci incluent les impacts sociaux et économiques, les utilisations malveillantes et la perte potentielle de contrôle humain sur les systèmes d’IA autonomes. Ils proposent des mesures de gouvernance proactives et adaptatives pour atténuer ces risques.
Les auteurs exhortent les grandes entreprises technologiques et les bailleurs de fonds publics à investir davantage, en consacrant au moins un tiers de leurs budgets à l’évaluation et à l’atténuation de ces risques. Ils appellent également les institutions juridiques mondiales et les gouvernements à appliquer des normes qui empêchent l’utilisation abusive de l’IA.
Appel au développement responsable de l’IA
« Pour orienter l’IA vers des résultats positifs et éviter la catastrophe, nous devons nous réorienter. Il existe une voie responsable – si nous avons la sagesse de la suivre », écrivent les auteurs.
Ils mettent en évidence la course entre les entreprises technologiques du monde entier pour développer des systèmes d’IA généralistes capables d’égaler ou de dépasser les capacités humaines dans de nombreux domaines critiques. Cependant, ces progrès rapides entraînent également des risques à l’échelle sociétale qui pourraient exacerber les injustices sociales, miner la stabilité sociale et permettre une cybercriminalité à grande échelle, une guerre automatisée, une manipulation de masse personnalisée et une surveillance omniprésente.
Parmi les préoccupations soulignées figure la possibilité de perdre le contrôle des systèmes d’IA autonomes, ce qui rendrait inefficace l’intervention humaine.
Priorités urgentes pour la recherche sur l'IA
Les experts en IA affirment que l’humanité n’est pas suffisamment préparée pour faire face à ces risques potentiels liés à l’IA. Ils notent que, par rapport aux efforts visant à améliorer les capacités de l’IA, très peu de ressources sont investies pour garantir le développement et le déploiement sûrs et éthiques de ces technologies. Pour combler cette lacune, les auteurs décrivent les priorités urgentes en matière de recherche, de développement et de gouvernance en IA.
Pour en savoir plus sur cette recherche, voir Les scientifiques de l’IA mettent en garde contre les risques qui échappent au contrôle humain.