Le lundi 25 mai, le pape Léon XIV a lu une encyclique enflammée anti-IA – terme désignant une lettre officielle délivrée par le pontife – à un groupe du Vatican comprenant deux cardinaux et quelques théologiens catholiques. Mais une personne sur la liste des invités a pris les spectateurs au dépourvu. Le groupe comprenait également Christopher Olah, cofondateur d'Anthropic et responsable de la recherche en interprétabilité de l'entreprise, portant un costume bleu marine et serrant la main du pontife. Lundi, la société a déclaré qu'Olah avait été invité à prononcer son propre discours au Vatican et a partagé une copie de son discours sur son site de presse.
L'encyclique de Léon, intitulée Magnifica Humanitas– du latin « humanité magnifique » – était farouchement opposé à l’intelligence artificielle, présentant un aperçu convaincant de ce qui sépare les humains des machines. « Les soi-disant intelligences artificielles ne subissent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations et ne savent pas de l'intérieur ce que signifient l'amour, le travail, l'amitié ou la responsabilité », a déclaré Leo. « Ils n’ont pas non plus de conscience morale, puisqu’ils ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations et n’assument pas la responsabilité des conséquences. » Le pape a également fait valoir que cette technologie ne peut pas être considérée comme morale car elle a été développée et détenue exclusivement par des entreprises privées.
Mais le pape a également invité Olah, un représentant de l'une de ces entreprises privées, à faire part de ses propres remarques. Dans son discours, Olah a félicité Leo et s'est concentré sur son espoir que des personnes extérieures à l'industrie de l'IA continueront à discuter de ces questions. « Nous avons besoin que le monde entier – les communautés religieuses, la société civile, les universitaires, les gouvernements et bien sûr toutes les personnes de bonne volonté – fasse ce que Sa Sainteté a fait ici : prendre cela au sérieux, y regarder de près et pousser les événements dans une meilleure direction », a déclaré Olah lundi. « Nous avons besoin de critiques informés qui diront aux laboratoires quand nous échouons. Nous avons besoin de voix morales que les incitations ne peuvent pas plier. »
Il n'est pas courant que des étrangers soient invités à des événements comme celui-ci, a déclaré une source haut placée au Vatican. Journaliste national catholique Lundi. Pourtant, l’invitation d’Olah était aussi le signe que sous Léon, le Vatican veut avoir une place à la table de la haute technologie. « Ce geste est en fait l'expression d'une grande volonté et d'un grand désir pour nous d'entrer ou de participer plus pleinement aux dialogues en cours », a déclaré la source vaticane. Le cardinal Blase Cupich, évêque de Chicago, la ville natale du pape, a déclaré Le New York Times il espérait une collaboration entre les entreprises technologiques et l’Église. « Je pense que l'ouverture de M. Olah, ainsi que du Saint-Père, peut être le pont par lequel tout cela peut arriver », a-t-il déclaré.
Ces dernières années, une grande partie de l'attention de la presse s'est concentrée sur le PDG d'Anthropic, Dario Amodei, qui a refusé de donner Salon de la vanité une interview lorsque le magazine l'a approché plus tôt cette année. Pourtant, Olah, l'un des sept premiers employés d'OpenAI partis en 2021 pour fonder Anthropic, a également joué un rôle crucial dans la quête de l'entreprise pour se présenter comme une alternative plus sûre à l'IA. L'équipe d'Olah chez Anthropic étudie l'orientation éthique de l'IA, ou son absence ; ses découvertes deviennent parfois virales. En 2024, Temps l'a nommé l'une des 100 personnes les plus influentes dans le domaine de l'IA.
Élevé au Canada, Olah a travaillé sur des projets liés à l'impression 3D après avoir reçu une bourse Thiel en 2012. Le programme, fondé par le milliardaire conservateur Peter Thiel, rémunère des jeunes pour qu'ils travaillent sur une start-up ou un projet de recherche après avoir sauté ou arrêté l'université. Après avoir terminé ses deux années en tant que boursier Thiel, Olah a effectué un stage chez Google, où il a contribué au développement de DeepDream, un projet de réseau neuronal qui a créé de l'art psychédélique.
Chez OpenAI, Olah dirigeait un laboratoire de recherche sur l'interprétabilité, où il a conçu des projets qui ont aidé à expliquer ce qui se passait pendant que l'équipe construisait son modèle en grand langage. Fin 2020, il a suivi Amodei hors de l'entreprise. Sur son compte X, Olah republie fréquemment les commentaires d'autres employés qui ont quitté OpenAI, prétendument parce qu'ils ne sont pas satisfaits de l'engagement de l'entreprise en matière de sécurité. Lorsqu'Anthropic était engagé dans une bataille publique avec le ministère de la Défense concernant l'utilisation de ses modèles, Olah a également partagé un mémoire d'amicus déposé par des théologiens moraux catholiques à l'appui du cas d'Anthropic.
Olah est un blogueur actif et semble faire partie du réseau social qui s'est développé autour de la recherche de l'intelligence artificielle dans la Bay Area. En 2022, il a écrit un article de blog sur sa recherche d'un partenaire romantique, qui a été repris par Filaire. Dans son article, il mentionne sa passion pour la « beauté des mathématiques et des sciences », sa recherche de « salubrité » dans sa vie et ses tendances « politiquement modérées ». Olah a également déclaré qu'il valorise le « lien moral » et a discuté de son véganisme. Il a mentionné ses émotions mitigées à propos du mouvement Effective Altruism, dans lequel des personnes enclines à la technologie s'organisent pour des dons caritatifs basés sur des données.
« Je suis très déterminé à faire ce que je crois être moralement juste. Je pense que certaines personnes me trouvent frustrant et scrupuleux, mais je pense que pour d'autres, je peux les aider à se sentir soutenus et à rester fidèles à leurs propres valeurs (même lorsque nous divergeons) », a noté Olah dans le billet de blog. « Cependant, il y a aussi certaines choses sur lesquelles je ne suis pas d'accord avec le courant dominant d'EA, et j'apprécie généralement l'indépendance morale. »
Le message peut aider à expliquer pourquoi Olah était le choix d'Anthropic pour le pape. Dans ce document, Olah dit qu'il a été élevé comme un chrétien évangélique avec des tendances créationnistes, jusqu'à ce qu'il devienne athée vers l'âge de 15 ans. Dans ses remarques au Vatican, il a démontré une certaine facilité avec le langage de la tradition chrétienne, citant des concepts tels que le discernement, l'épanouissement humain et l'histoire de préoccupation de l'Église pour les pauvres du monde. Mais ses remarques étaient de nature laïque – et il y reconnaissait également que les outils de son entreprise représentaient un défi pour l’avenir du travail humain.
« Nous nous attardons si souvent sur ce qui nous divise, mais l'humanité, pleine de dignité et de conscience, a tellement de points communs », a déclaré Olah devant le pape Léon. « Au cours des conversations que nous avons eues chez Anthropic avec des dirigeants de différentes religions et traditions culturelles, nous avons découvert une conviction partagée et profondément ancrée : si cette technologie arrive, elle doit bien se passer, pour notre maison commune et pour les enfants à venir. »
