Jeudi après-midi, Ashley St.Clair, la mère de l'un des Elon MuskLes 14 enfants de notoriété publique de, ont intenté une action en justice à New York contre sa société xAI, affirmant que Grok, le chatbot IA de la société, avait produit des images sexuellement explicites d'elle à la demande des utilisateurs. L'écrivain et stratège politique est aux prises avec une série de conflits juridiques avec Musk depuis février dernier, lorsqu'elle a annoncé publiquement qu'elle avait donné naissance à son fils. Romulus en septembre 2024.
St. Clair allègue que des utilisateurs de X ont trouvé des photos d'elle à l'âge de 14 ans et ont demandé à Grok de la déshabiller et de la mettre en bikini, ainsi que de générer une variété de contenus graphiques deepfake comprenant des images d'elle « agenouillée sur le sol dans une pose sexuelle » et arborant un tatouage qui disait « La pute d'Elon ».
« Sur une image, St. Clair, qui est juive, est déshabillée et enfilée dans un bikini à cordes recouvert de croix gammées », peut-on lire dans la plainte. Elle allègue en outre que la plateforme a non seulement conservé certaines des images explicites en ligne pendant plus de sept jours, mais a également supprimé l'abonnement premium de St. Clair à la suite de ses plaintes.
Dans le cadre d'un procès défensif préventif déposé le même après-midi, xAI a poursuivi St. Clair, alléguant que lorsqu'elle a créé un compte sur la plateforme X, elle a accepté les conditions de service qui exigent que tout litige impliquant l'entreprise ait lieu devant les tribunaux d'État ou fédéraux du Texas.
St. Clair est représentée dans son procès par un avocat Carrie Goldberg, qui a déclaré qu'elle se spécialisait dans la défense des victimes de « pervers, connards, psychopathes et trolls » et a représenté des clients contre Harvey Weinstein. Ces dernières années, son travail s'est de plus en plus concentré sur la responsabilisation des grandes entreprises technologiques pour les préjudices survenus sur leurs plateformes en ligne, notamment le harcèlement criminel, le trafic, la sextorsion et la diffusion de matériel pédopornographique.
En réponse à la poursuite de xAI, Goldberg a déclaré Salon de la vanité, « Nous sommes consternés que xAI ait intenté une action en justice dingue contre (St. Clair) pour leur avoir fourni l'avis obligatoire qu'elle cherchait à obtenir une ordonnance d'interdiction temporaire. » Elle a ajouté : « Nous avons l’intention de tenir Grok pour responsable et d’aider à établir des limites juridiques claires pour le bénéfice de l’ensemble du public afin d’empêcher que l’IA ne soit utilisée à des fins abusives. »
Ces poursuites surviennent au milieu d’une crise réglementaire mondiale entourant le développement rapide des capacités des modèles d’IA, qui ont jusqu’à présent pu progresser en grande partie sans garde-fous juridiques. Musk n'a pas immédiatement répondu à une demande de commentaire. Lorsqu'on l'a contacté pour commenter, le répondeur automatique de xAI a répondu : « Legacy Media Lies ».
Selon des documents judiciaires antérieurs, la relation amoureuse entre St. Clair et Musk a commencé vers mai 2023 et ils ont conçu un fils pendant des vacances à Saint-Barthélemy en janvier 2024. En février dernier, après l'échec de leurs négociations privées, St. Clair a intenté une action en justice pour établir la paternité de Musk et obtenir la garde et la pension alimentaire de leur fils, Romulus. Alors que Musk avait initialement émis des doutes quant à savoir s'il était ou non le père, il a posté sur X lundi, affirmant qu'il demanderait la garde complète de l'enfant en réponse à son soutien à la communauté trans. (Musc n’a pas encore donné suite à cette menace.)
Pour sa part, Musk a publiquement ridiculisé le problème de l’exploitation de l’IA. Mercredi, il a posté : « Quelqu'un peut-il réellement briser la modération des images de Grok ? Son message a rapidement suscité diverses réponses de la part des utilisateurs, proposant des solutions de contournement qui généreraient en fait des images explicites.
Plus tard dans la journée, X a annoncé dans un communiqué qu'il empêcherait Grok de générer du contenu inapproprié de personnes réelles dans certains endroits où de telles images sont illégales.
