Les pays sont impatients d'utiliser l'IA pour automatiser certains processus gouvernementaux, mais cela risque d'éroder la confiance des citoyens et les sentiments de contrôle démocratique – parce que les erreurs de l'IA peuvent ruiner leur vie
L'IA pourrait automatiser certains documents gouvernementaux, mais il comporte des risques graves
De nombreux pays explorent comment l'intelligence artificielle pourrait aider à tout, de la transformation des impôts à la détermination des avantages sociaux. Mais une enquête montre que les citoyens ne sont pas aussi enthousiastes que leurs gouvernements – et cela peut créer de réels risques pour la démocratie.
«Se concentrer uniquement sur les gains d'efficacité à court terme et les risques technologiques brillants déclenchant un contrecoup public et contribuant à une baisse à long terme de la confiance et de la légitimité démocratiques», explique Alexander Wuttke à l'Université de Ludwig Maximilian de Munich en Allemagne.
Wuttke et ses collègues ont demandé à environ 1200 personnes au Royaume-Uni de partager leurs sentiments sur les actions du gouvernement où un humain ou une IA a géré la tâche. Ces scénarios hypothétiques comprenaient le traitement des déclarations de revenus, l'approbation ou le rejet des demandes de protection sociale et la réalisation des évaluations des risques quant à savoir si les défendeurs devraient être éligibles à la caution.
Certaines personnes n'ont été informées que sur la façon dont l'IA pouvait améliorer l'efficacité du gouvernement – mais d'autres ont appris à la fois les avantages et les risques liés à l'IA. Ces risques comprenaient des difficultés à comprendre comment les décisions de l'IA sont prises, une dépendance accrue du gouvernement à l'égard de l'IA qui devient moins réversible au fil du temps et un manque de chemins clairs pour les citoyens pour contester et corriger les décisions de l'IA.
Lorsque les gens ont pris conscience des risques liés à l'IA, ils ont signalé à la fois une baisse significative de leur confiance au gouvernement et un sentiment de perdre le contrôle. Par exemple, le pourcentage de participants signalant une perte de contrôle démocratique dans leur gouvernement est passé de 45% à plus de 81% dans les scénarios où le gouvernement est devenu de plus en plus dépendant de l'IA pour gérer des tâches spécifiques.
La proportion de personnes exigeant moins d'IA au sein du gouvernement a également fortement augmenté une fois que les participants ont appris les risques – passant de moins de 20% dans le scénario de référence à plus de 65% dans tout scénario où ils ont appris à la fois les avantages et les risques du gouvernement en utilisant l'IA.
Malgré ces résultats, les gouvernements démocrates pourraient utiliser l'IA de manière responsable qui conserve la confiance des citoyens, explique Hannah Quay-de La Vallee au Center for Democracy & Technology à Washington DC. Mais elle dit qu'il y a peu d'histoires de réussite de l'IA au gouvernement jusqu'à présent. Pendant ce temps, il y a déjà «pas mal de cas de défaillance» – et les enjeux de ces cas peuvent être incroyablement élevés.
Par exemple, les efforts de l'État américain pour automatiser le traitement des réclamations des avantages sociaux ont conduit à des dizaines de milliers de personnes à tort pour fraude. Certaines de ces personnes ont fini par devoir déposer un bilan ou perdre leur maison. «Les erreurs du gouvernement ont des impacts énormes et à long terme», explique Quay-de La Vallee.
