Des chercheurs de Stanford créent des agents d’IA qui prédisent avec précision le comportement humain

Des chercheurs de l’Université de Stanford ont mis au point des agents d’IA capables de prédire le comportement humain avec une précision remarquable. Une étude récente, dirigée par le Dr Joon Sung Park et son équipe, démontre qu’un entretien de deux heures fournit suffisamment de données pour que l’IA puisse reproduire les modèles de prise de décision humaine avec une précision normalisée de 85 %.

Les clones numériques d’une personne physique vont au-delà des deepfakes ou des « adaptations bas de gamme » connues sous le nom de LoRA. Ces représentations précises des personnalités pourraient être utilisées pour profiler les utilisateurs et tester leurs réponses à divers stimuli, des campagnes politiques aux propositions politiques, en passant par les évaluations de l’humeur et des versions encore plus réalistes des avatars actuels de l’IA.

L’équipe de recherche a recruté 1 052 Américains, soigneusement sélectionnés pour représenter divers groupes démographiques en termes d’âge, de sexe, de race, de région, d’éducation et d’idéologie politique. Chaque participant s’est engagé dans une conversation de deux heures avec un intervieweur IA, produisant des transcriptions de 6 491 mots en moyenne. Les entretiens, qui suivent une version modifiée du protocole de l’American Voices Project, ont exploré les histoires de vie, les valeurs et les perspectives des participants sur les problèmes sociaux actuels.

Et c’est tout ce dont vous avez besoin pour être profilé et avoir un clone.

Mais contrairement à d’autres études, les chercheurs ont adopté une approche différente pour traiter les données des entretiens. Au lieu de simplement introduire des transcriptions brutes dans leurs systèmes, ils ont développé un module de « réflexion experte ». Cet outil d’analyse examine chaque entretien à travers plusieurs prismes professionnels : le point de vue d’un psychologue sur les traits de personnalité, le point de vue d’un économiste comportemental sur les modèles de prise de décision, l’analyse d’un politologue sur les positions idéologiques et l’interprétation contextuelle d’un expert en démographie.

Une fois cette analyse multidimensionnelle terminée, l’IA est mieux à même de comprendre correctement le fonctionnement de la personnalité du sujet, ce qui permet de mieux comprendre ce qui pourrait être accompli simplement en essayant de prédire le comportement le plus probable sur la base de statistiques. Le résultat est un groupe d’agents d’IA alimentés par GPT-4 capables de reproduire le comportement humain dans différents scénarios contrôlés.

Les tests ont été remarquablement réussis. « Les agents génératifs reproduisent les réponses des participants à l’enquête sociale générale avec une précision de 85% par rapport à la façon dont les participants reproduisent leurs propres réponses deux semaines plus tard, et ont des performances comparables dans la prédiction des traits de personnalité et des résultats dans les réplications expérimentales », indique l’étude. Le système a montré des prouesses similaires dans la reproduction des traits de personnalité des Big Five, atteignant une corrélation de 0,78, et a démontré une précision significative dans les jeux de prise de décision économique avec une corrélation normalisée de 0,66. (Un coefficient de corrélation de 1 indiquerait une corrélation positive parfaite.)

Ce qui est particulièrement remarquable, c’est la réduction des préjugés entre les groupes raciaux et idéologiques par rapport aux approches démographiques traditionnelles, ce qui semble être un problème pour de nombreux systèmes d’IA, qui ont du mal à trouver un équilibre entre les stéréotypes (en supposant qu’un sujet présenterait des traits du groupe dans lequel il est inclus) et le fait d’être trop inclusif (éviter les hypothèses factuelles statistiques/historiques afin d’être politiquement correct).

« Notre architecture réduit les biais de précision entre les groupes raciaux et idéologiques par rapport aux agents qui reçoivent des descriptions démographiques », ont souligné les chercheurs, suggérant que leur méthode basée sur des entretiens pourrait être très utile dans le profilage démographique.

Mais ce n’est pas la première fois que l’on utilise l’IA pour profiler les gens.

Au Japon, la plateforme CLONEdev d’alt Inc. a expérimenté la génération de personnalité grâce à l’intégration des données du journal de vie. Son système combine un traitement linguistique avancé avec la génération d’images pour créer des clones numériques qui reflètent les valeurs et les préférences des utilisateurs. « Grâce à notre technologie P.A.I., nous nous engageons à travailler à la numérisation de l’ensemble de la race humaine », a déclaré alt Inc. dans un billet de blog.

Et parfois, vous n’avez même pas besoin d’un entretien individuel. Prenons l’exemple de MileiGPT. Un chercheur argentin en IA a réussi à mettre au point un LLM open source avec des milliers d’heures de contenu accessible au public et à reproduire les modèles de communication et les processus de prise de décision du président argentin Javier Milei. Ces avancées ont conduit les chercheurs à explorer l’idée de « jumeaux numériques » pensants/sensibles, qui, selon les analystes et les experts en technologie comme Rob Enderle, pourraient être pleinement fonctionnels dans les 10 prochaines années.

Et bien sûr, si les robots IA ne prennent pas votre travail, votre jumeau IA le fera probablement. « L’émergence de ceux-ci nécessitera beaucoup de réflexion et de considération éthique, car une réplique de nous-mêmes pourrait être incroyablement utile aux employeurs », a déclaré Enderle à la BBC. « Que se passe-t-il si votre entreprise crée un jumeau numérique de vous et dit : « Hé, vous avez ce jumeau numérique que nous ne payons pas de salaire, alors pourquoi continuons-nous à vous employer ? »

Les choses peuvent sembler un peu effrayantes. Non seulement les deepfakes imiteront votre apparence, mais les clones d’IA seront capables d’imiter vos décisions sur la base d’un bref profilage de votre comportement. Bien que les chercheurs de Stanford se soient assurés de mettre en place des mesures de protection, il est clair que la frontière entre l’identité humaine et l’identité numérique devient de plus en plus floue. Et nous sommes déjà en train de le franchir.