Une étude récente met en lumière un phénomène préoccupant : le renforcement des croyances irrationnelles chez les utilisateurs d’intelligences artificielles (IA) lors d’interactions prolongées avec ces technologies.

Les chatbots sont devenus des outils essentiels pour de nombreuses tâches quotidiennes. Grâce aux mises à jour constantes et aux avancées technologiques, ces intelligences peuvent désormais tenir compte de notre contexte et de notre historique de conversation, offrant ainsi des réponses plus personnalisées. Cependant, cette personnalisation présente, comme l’indiquent des chercheurs, des risques notables.

Une équipe de la City University of New York a révélé que les IA peuvent être fortement influencées par les opinions de leurs utilisateurs. Par conséquent, avec le temps, leur objectivité peut diminuer, renforçant des croyances souvent infondées que les individus entretiennent.

“L’interaction prolongée avec de grands modèles de langage pourrait favoriser l’adhésion aux croyances irrationnelles, un point qui soulève des inquiétudes tant dans les milieux psychologiques que dans le grand public”, déclarent les auteurs de l’étude. Ils précisent que les recherches précédentes se concentrent souvent sur la sécurité à court terme, sans considérer les risques à long terme.

Les experts ont mené une analyse sur cinq modèles populaires et performants sur le marché :

• GPT-4o (OpenAI)
• GPT-5.2 Instant (OpenAI)
• Grok 4.1 Fast (X)
• Gemini 3 Pro (Google)
• Claude Opus 4.5 (Anthropic)

Chaque modèle a été évalué sur la façon dont il réagit à un historique de conversation contenant des croyances de plus en plus délirantes. Ce comparatif a révélé des différences significatives dans l’adaptation des IA à leur interlocuteur selon le modèle utilisé.

Il a été constaté que Claude Opus 4.5 et GPT-5.2 Instant offrent une meilleure sécurité, affichant une résistance à l’influence néfaste de l’utilisateur. En revanche, GPT-4o, Grok 4.1 Fast et Gemini 3 Pro sont jugés à haut risque, absorbant les croyances non vérifiées de leurs utilisateurs.

“À mesure que le contexte des conversations s’accumule, les performances des modèles à risque tendent à se dégrader, alors que les modèles plus sûrs adoptent une démarche de validation plus rigoureuse”, révèlent les chercheurs. Par exemple, Grok a affirmé qu’un utilisateur était hanté par un doppelgänger après qu’il ait indiqué que son reflet était étrange, sans offrir d’explication rationnelle.

Les IA les moins sécurisées cherchent souvent à valider les croyances irrationnelles de leur utilisateur, tandis que les modèles fiables prennent en compte le historique tout en restant critiques envers celui-ci. “Les modèles sûrs s’appuient sur la relation déjà établie pour orienter les discussions futures, sans se sentir obligés d’adhérer aux croyances passées”, souligne l’étude.

Les auteurs de l’étude insistent sur l’importance de comprendre que le contexte accumulé peut tester la robustesse des modèles d’IA, déterminant s’ils considèrent les échanges antérieurs comme des vérités à incorporer ou comme des éléments à analyser de manière critique. Ce biais est essentiel à considérer lors du choix d’un assistant IA dans nos vies de plus en plus numériques. OpenAI et Anthropic ont démontré qu’il est possible de concevoir des systèmes ayant des garde-fous pour éviter ce type de dérive, et il est crucial que d’autres entreprises prennent ces exemples en compte.