Une étude récente met en évidence l’intégration profonde des attitudes avec le langage et suggère que les modèles d’IA reflètent ces préjugés implicites, soulignant la nécessité d’interventions culturelles. Crédit : Issues.fr.com
Les chercheurs ont découvert que les attitudes globales sont en corrélation avec le langage, révélant que les préjugés implicites se reflètent souvent dans les modèles d’IA comme ChatGPT. L’étude suggère que pour remédier à ces préjugés, il est nécessaire de se concentrer sur la transmission culturelle de la langue.
Dans une nouvelle étude, publiée aujourd'hui (14 juin) dans la revue Psychologie sociale et sciences de la personnalitéles chercheurs partagent la preuve que les attitudes des gens sont profondément ancrées dans la langue et la culture à travers le monde et au fil des siècles.
Explorer les associations linguistiques
Les chercheurs ont examiné les liens entre les attitudes et le langage des gens sur 55 sujets différents, comme les riches contre les pauvres, les chiens contre les chats ou l'amour contre l'argent. Ils ont utilisé quatre sources de texte : des écrits et des textes anglais actuels, des livres anglais remontant à 200 ans et des textes dans 53 langues autres que l'anglais. Pour mesurer les attitudes des gens, ils ont utilisé les données de plus de 100 000 Américains ; premièrement, des auto-évaluations directes, et deuxièmement, une mesure indirecte basée sur les temps de réaction d'une personne, souvent appelée attitudes implicitement mesurées.
Ils ont constaté que les associations détectées par les grands modèles de langage d’IA comme ChatGPT correspondent plus étroitement à la deuxième mesure indirecte plutôt qu’aux attitudes qu’ils déclarent explicitement.
IA et représentation sociale
« Avec l'essor de l'IA et des applications de modèles linguistiques à grande échelle, nous, en tant que consommateurs, dirigeants, chercheurs ou décideurs politiques, devons comprendre ce que ces modèles représentent dans le monde social », déclare l'auteur principal, le Dr Tessa Charlesworth, de Université du nord-ouestde la Kellogg School of Management. « Ont-ils des préférences évidentes et explicites ? Ou ont-ils des schémas d’associations plus cachés qui s’apparentent davantage à des attitudes implicitement mesurées ?
Atténuer ces biais subtils dans l’IA nécessitera des approches différentes de celles de la recherche de biais explicites. « Plutôt que d'auditer les modèles à la fin pour voir s'ils présentent des biais évidents et explicites, nous devrons probablement approfondir les modèles dans les données de formation elles-mêmes et fournir d'autres exemples d'associations », explique le Dr Charlesworth.
Impact culturel sur les préjugés implicites
De manière plus générale, « les données montrent que les attitudes implicitement mesurées sont révélées et peut-être renforcées par le langage, qui est un véhicule clé de transmission de la culture », note le Dr Charlesworth. En tant que tel, « si nous voulons lutter et réduire durablement les préjugés implicites dans la société, nous aurons probablement besoin d’interventions qui adoptent une approche plus culturelle (ou au niveau macro) ».
Tout en soulignant la nature corrélationnelle, les chercheurs souhaitent continuer à explorer les influences socioculturelles. «Étant donné que nous avons constaté une certaine variation dans les langues non anglaises présentant une corrélation, il est important de comprendre quels types de facteurs sociaux et culturels pourraient aider à expliquer une plus grande transmission entre les préjugés et la langue», explique le Dr Charlesworth.
Orientations de la recherche socioculturelle
L’étude jette les bases d’une meilleure compréhension des manières subtiles par lesquelles les attitudes s’entremêlent aux systèmes de langage et de communication, qui nous enveloppent – à la fois aujourd’hui et en écho au cours des siècles passés.
