Empire de l'IA
Karen Hao
Penguin Press | 32 $
Si vous avez suivi la montée fulgurante de l'intelligence artificielle au cours de la dernière décennie, vous avez peut-être lu des articles de la journaliste technologique Karen Hao dans le Atlantique, le Wall Street Journal ou Revue de la technologie du MIT. Dans son premier livre, Empire de l'IAHao emploie son expertise pour enquêter sur le monde de l'IA. Le résultat est un acte d'accusation à couper le souffle d'une industrie qui fonctionne avec peu de contrôle.
Le livre raconte la race moderne pour développer l'IA, dont le rythme effréné a été largement fixé par la montée en puissance d'Openai, la startup soutenue par Microsoft derrière le chatbot Chatgpt. Dès le début, Openai se considère comme un intendant de conscience de l'IA par rapport à des concurrents comme Google et les entreprises technologiques chinoises. OpenAI commence comme un organisme à but non lucratif, promettant de partager ses recherches pour le bénéfice collectif de l'humanité plutôt que de chasser les calices commerciaux. Mais sous la direction du PDG Sam Altman, que Hao dépeint comme une figure puissante et moralement grise, la société succombe à la tentation de chasser le profit sur les idéaux les plus élevés de la mise à disposition de l'IA pour tous.
Aujourd'hui, dans la poursuite de la suprématie parmi ses concurrents, Openai a renié ses engagements fondateurs pour partager ses recherches et maintenir la transparence dans ses opérations. Mais l'entreprise croit toujours que sa quête est noble. En insistant sur le fait que le développement de l'IA peut conduire à un avenir meilleur, il justifie de plier les normes éthiques et de courir à l'intérieur de ses travailleurs. Comme l'écrit Hao, «un meilleur avenir pour qui?»
OpenAI n'est pas la seule entreprise d'IA à avoir cette approche, bien que son succès commercial ait donné le ton à d'autres sociétés à suivre. Hao indique clairement que l'IA elle-même n'est pas le problème. Au lieu de cela, c'est la culture du développement de nouvelles capacités d'IA d'abord et à tout prix, qui est dirigé par OpenAI et une gamme exclusive d'entreprises ayant le pouvoir financier et l'influence politique pour garantir que les régulateurs ne se penchent pas trop de près à ses opérations.
Hao compare ce modus operandi à celui d'un empire moderne. Tout comme un colonisateur ravage ses colonies pour alimenter sa propre expansion, les mégacorporations technologiques atteignent leurs objectifs en piétinant les communautés marginalisées dans sa sphère d'influence. Les dommages collatéraux de l'expansion de l'IA comprennent l'épuisement des ressources naturelles dans les pays en développement pour nourrir la bête de l'IA, ainsi que les travailleurs vénézuéliens et kenyans qui se sont éloignés d'annoter les données de formation et de modérer le contenu d'une rémunération peu. Tout au long du livre, Hao apparaît comme une voix bienvenue de clarté et d'objectivité en contraste frappant avec l'obsession des entreprises technologiques pour dominer l'industrie.
Mais il est possible pour l'IA d'être moins colonial et plus démocratique, soutient Hao. Par exemple, elle souligne un petit effort indigène en Nouvelle-Zélande pour utiliser l'IA pour raviver le langage mourant du peuple maori. Pour atteindre cette humble utopie, Hao soutient que nous devons se révolter contre l'Empire. Cela signifie éduquer le public sur l'IA, le resserrement des réglementations afin que les développeurs soient plus transparents et encouragent les chercheurs à explorer différentes voies vers l'IA, loin du modèle de domination. La feuille de route est un peu rudimentaire, mais c'est un bon début. Après tout, écrit Hao, les braises de la révolution brûlent déjà en nous: elles viennent de notre sens de la communauté et de l'humanité – quelque chose que l'IA sera durement pressé de saisir.
Acheter Empire de l'IA de Bookshop.org. Nouvelles scientifiques est un affilié Bookshop.org et gagnera une commission sur les achats effectués à partir de liens dans cet article.
