Les PDG et les politiciens de la technologie se préparent pour la journée que l'IA superintellite prend le relais, tout en ne faisant pas face aux problèmes devant eux – du droit d'auteur aux machines de mise à mort autonomes
Les politiciens devraient-ils s'assurer que l'IA nous aide à coloniser la galaxie ou à protéger les gens de la réduction des grandes technologies? Le premier semble plus amusant, mais cela ne devrait pas être la priorité.
Parmi l'ensemble de la Silicon Valley, l'IA Superintelligent est considérée comme une inévitabilité rapide, les PDG de la technologie promettant que les années 2030 verront une ère d'or de progrès. Cette attitude a atteint Westminster et Washington, avec des groupes de réflexion disant aux politiciens d'être prêts à exploiter le pouvoir de l'IA entrant et de l'administration Trump soutenant l'initiative de 500 milliards de dollars d'Openai pour les centres de données d'IA Ultrapowerful.
Tout cela semble excitant, mais comme le grand et le bon rêve de la superintelligence, ce que nous pourrions appeler «intelligence stupide» cause des problèmes ici et maintenant. L'une des questions auxquelles le secteur de l'IA est confrontée est de savoir si le montage de vastes étendues d'Internet – une partie nécessaire de la formation AI – est la violation du droit d'auteur.
Il y a des arguments raisonnables des deux côtés. Les partisans disent cela, tout comme vous n'enfilez pas Nouveau scientifiqueCopyright en lisant simplement ces mots, l'apprentissage de l'IA doit être traité de la même manière. Les détracteurs, quant à eux, incluent désormais les géants du divertissement Disney et Universal, qui poursuivent la firme IA Midjourney pour la reproduction d'images de tout, de Dark Vador aux Minions. Seule la législation peut régler la question.
Nous nous dirigeons vers un monde dans lequel les machines pourraient tuer avec peu de surveillance humaine
Les champs de bataille de l'Ukraine posent un autre problème de l'IA épineux. Alors que Sam Altman d'Openai a dit qu'il craignait qu'une IA supentillellite puisse un jour nous tuer tous, une intelligence stupide mortelle est déjà là. La guerre de Russie-Ukraine nous conduit vers un monde dans lequel, très bientôt, les machines pourraient tuer avec peu de surveillance humaine.
Les politiciens n'ont pas entièrement échoué à saisir cette menace. Les Nations Unies ont tenu sa première réunion sur la réglementation des «robots de tueurs» en 2014. Une décennie plus tard, nous ne sommes pas plus près de restreindre leur utilisation. Si nos dirigeants attendent leur temps dans l'espoir qu'une superintelligence finira par résoudre leurs problèmes pour eux, ils se trompent beaucoup.
