Keir Starmer est-il conseillé par l'IA? Le gouvernement britannique ne nous le dira pas

Le chatbot AI du gouvernement britannique est utilisé par des milliers de fonctionnaires, mais un manque de transparence sur la façon dont ils l'utilisent a des experts concernés

Des milliers de fonctionnaires au cœur du gouvernement britannique, y compris ceux qui travaillent directement pour soutenir le Premier ministre Keir Starmer, utilisent un chatbot d'intelligence artificielle propriétaire pour effectuer leur travail, Nouveau scientifique peut révéler. Les responsables ont refusé de divulguer le dossier exactement comment l'outil est utilisé, que le Premier ministre reçoive des conseils qui ont été préparés à l'aide de l'IA ou comment les fonctionnaires atténuent les risques de sorties d'IA inexactes ou biaisées. Les experts disent que le manque de divulgation soulève des préoccupations concernant la transparence du gouvernement et l'exactitude des informations utilisées au gouvernement.

Après avoir obtenu la première publication mondiale des journaux de chatppt sous la législation sur la liberté d'information (FOI), Nouveau scientifique Interrogé 20 services gouvernementaux pour les dossiers de leurs interactions avec Redbox, un outil d'IA génératif développé à la maison et testé parmi le personnel du gouvernement britannique. Selon l'une des personnes derrière son développement. Les premiers procès ont vu un fonctionnaire prétendent avoir synthétisé 50 documents «en quelques secondes», plutôt qu'une journée complète.

Tous les départements contactés ont déclaré qu'ils n'avaient pas utilisé Redbox ou refusé de fournir les transcriptions des interactions avec l'outil, affirmant que Nouveau scientifiqueLes demandes étaient «vexatoires», un terme officiel utilisé pour répondre aux demandes de FOI que le bureau du commissaire à l'information définit «susceptible de provoquer un niveau de détresse, de perturbation ou d'irritation disproportionné ou injustifiable».

Cependant, deux départements ont fourni des informations sur leur utilisation de Redbox. Le Cabinet Office, qui soutient le Premier ministre, a déclaré que 3 000 personnes de son département avaient participé à un total de 30 000 discussions avec Redbox. Il a déclaré que la révision de ces discussions pour expulser toute information sensible avant de les publier sous FOI nécessiterait plus d'un an de travail. Le Département des affaires et du commerce a également refusé, déclarant qu'il détenait «plus de 13 000 invites et réponses» et les examiner pour la libération ne serait pas possible.

Lorsqu'on lui a posé des questions de suivi sur l'utilisation de Redbox, les deux départements ont fait référence Nouveau scientifique au Département des sciences, de l'innovation et de la technologie (DSIT), qui supervise l'outil. Le DSIT a refusé de répondre à des questions spécifiques quant à savoir si le Premier ministre ou d'autres ministres du Cabinet reçoivent des conseils qui ont été préparés à l'aide d'outils d'IA.

Un porte-parole du DSIT a dit Nouveau scientifique: «Personne ne devrait passer du temps sur quelque chose que l'IA peut faire mieux et plus rapidement. Construit à Whitehall, Redbox nous aide à exploiter la puissance de l'IA d'une manière sûre, sécurisée et pratique – ce qui permet aux officiels de résumer les documents, de se concentrer sur les agendas et plus encore.

Mais l'utilisation d'outils d'IA génératifs concerne certains experts. Les modèles de grandes langues ont des problèmes bien documentés autour du biais et de la précision qui sont difficiles à atténuer, nous n'avons donc aucun moyen de savoir si Redbox fournit des informations de bonne qualité. DSIT a refusé de répondre à des questions spécifiques sur la façon dont les utilisateurs de Redbox évitent les inexactitudes ou les biais.

«Mon problème ici est que le gouvernement est censé servir le public, et une partie de ce service est que nous – en tant que contribuables, en tant qu'électeurs, en tant qu'électorat – devrions avoir un certain accès pour comprendre comment les décisions sont prises et quels sont les processus en termes de prise de décision», explique Catherine Flick à l'Université de Staffordshire, Royaume-Uni.

Parce que les outils d'IA génératifs sont des boîtes noires, Flick craint qu'il ne soit pas facile de tester ou de comprendre comment il atteint une sortie particulière, comme mettant en évidence certains aspects d'un document sur d'autres. La réticence du gouvernement à partager ces informations réduit encore la transparence, dit-elle.

Ce manque de transparence s'étend à un troisième département du gouvernement, le Trésor. En réponse à la demande FOI, a déclaré le Trésor Nouveau scientifique que son personnel n'a pas accès à Redbox et que «les outils GPT disponibles en interne dans le trésor de HM (Sa Majesté) ne conservent pas l'histoire rapide». L'outil GPT à laquelle cela fait référence n'est pas clair – alors que Chatgpt est l'exemple le plus célèbre, d'autres modèles de grande langue sont également connus sous le nom de GPT. La réponse suggère que le trésor utilise des outils d'IA, mais ne tenait pas de registres complets de leur utilisation. Le Trésor n'a pas répondu à Nouveau scientifiquedemande de clarification.

«S'ils ne conservent pas les invites qui sont utilisées, il est difficile d'avoir une sorte d'idée de la façon de reproduire les processus décisionnels là-bas», explique Flick.

Jon Baines chez le cabinet d'avocats britannique Mishcon de Reya dit que le choix de ne pas enregistrer ces informations est inhabituel. «Je trouve surprenant que le gouvernement dit qu'il ne puisse pas récupérer des invites entrées dans ses systèmes GPT internes.» Bien que les tribunaux aient jugé que les organismes publics n'ont pas à conserver les archives publiques avant l'archivage, «une bonne gouvernance de l'information suggérerait qu'il peut être très important de conserver les dossiers, en particulier lorsqu'ils auraient pu être utilisés pour élaborer ou éclairer la politique», dit-il.

Cependant, l'expert en protection des données, Tim Turner, a déclaré que le Trésor est de ses droits de ne pas conserver les invites en IA en vertu des lois FOI: « Je pense qu'à moins qu'il n'y ait une règle spécifique légale ou de la fonction publique sur la nature des données, ils peuvent le faire. »