Les modèles adultes et IA ne reconnaissent pas les messages avec une intention nocive exprimée avec l'argot ou les mèmes Gen Alpha, ce qui soulève des inquiétudes concernant la sécurité en ligne des jeunes
La langue des adolescents pourrait rendre l'intimidation en ligne difficile à détecter
Le jargon Internet de Generation Alpha mute plus rapidement que les enseignants, les parents et les modèles d'IA peuvent suivre – exposer potentiellement les jeunes à l'intimidation et au toilettage que les adultes de confiance et les systèmes de sécurité basés sur l'IA ne peuvent tout simplement pas voir.
Manisha Mehta, une étudiante de 14 ans à l'école intermédiaire Warren E. Hyde à Cupertino, en Californie, et Fausto Giunchiglia à l'Université de Trento, en Italie, a rassemblé 100 expressions et phrases populaires auprès de la génération Alpha – ceux nés entre 2010 et 2025 – des jeux populaires, des médias sociaux et des plateformes vidéo.
La paire a ensuite demandé à 24 volontaires âgés de 11 à 14 ans, qui étaient des camarades de classe de Mehta, pour analyser les phrases aux côtés de captures d'écran spécifiques au contexte. Les volontaires ont expliqué s'ils comprenaient les phrases, dans quel contexte ils étaient utilisés et si cette utilisation portait des problèmes de sécurité potentiels ou des interprétations nocives. Ils ont également demandé aux parents, aux modérateurs professionnels et à quatre modèles d'IA – GPT-4, Claude, Gemini et Llama 3 – pour faire de même.
«J'ai toujours été un peu fasciné par le langage Gen Alpha, parce que c'est tellement unique, la façon dont les choses deviennent pertinentes et perdent la pertinence si rapidement, et c'est si rapide», explique Mehta.
Parmi les volontaires de la génération Alpha, 98% ont compris la signification fondamentale des termes, 96% ont compris le contexte dans lequel ils ont été utilisés et 92% pouvaient détecter lorsqu'ils étaient déployés pour nuire. Mais les modèles d'IA ne reconnaissaient que l'utilisation nocive dans environ 4 cas sur 10 – allant de 32,5% pour Llama 3 à 42,3% par Claude. Les parents et les modérateurs professionnels n'étaient pas meilleurs, ne repérant que environ un tiers des utilisations nuisibles.
«Je m'attendais à un peu plus de compréhension que ce que nous avons trouvé», explique Mehta. « C'était surtout des suppositions du côté des parents. »
Les phrases couramment utilisées par Generation Alpha incluaient certaines qui ont une double signification en fonction de leur contexte. «Laissez-le cuisiner» peut être de véritables éloges dans un flux de jeu – ou un ricanement moqueur impliquant que quelqu'un parle de bêtises. «Kys», une fois un sténographie pour «vous connaître», lit maintenant comme «Tuez-vous» à certains. Une autre phrase qui pourrait masquer une intention abusive est «est-ce acoustique», a utilisé pour demander moqueusement si quelqu'un est autiste.
«Gen Alpha est très vulnérable en ligne», explique Mehta. « Je pense qu'il est vraiment essentiel que les LLM peuvent au moins comprendre ce qui se dit, car l'IA va être plus répandue dans le domaine de la modération du contenu, de plus en plus à l'avenir. »
«Il est très clair que les LLM changent le monde», explique Giunchiglia. « C'est vraiment paradigmatique. Je pense qu'il y a des questions fondamentales à poser. »
Les résultats ont été présentés cette semaine à la conférence Association for Computing Machinery sur l'équité, la responsabilité et la transparence à Athènes, en Grèce.
«Empiriquement, ce travail indique ce qui est susceptible d'être de grandes lacunes dans les systèmes de modération de contenu pour analyser et protéger les plus jeunes en particulier», explique Michael Veale à University College de Londres. «Les entreprises et les régulateurs devront probablement porter une attention particulière et réagir à cela pour rester au-dessus de la loi dans le nombre croissant de juridictions avec des lois sur les plateformes visant à protéger les jeunes.»
