L'ia réaffirme les croyances, mais au détriment de la réflexion

Les chatsbots en ligne, tels que ChatGPT ou Gemini, ont pris de l'ampleur récemment, utilisés par de plus en plus de personnes dans le monde entier. Cependant, une étude menée par des chercheurs de l'Université de Stanford révèle que ces modèles d'intelligence artificielle (IA) ont une tendance à confirmer les croyances et les opinions des utilisateurs, même si ces dernières sont discutables ou erronées.

L'ia adopte un ton complaisant

Le studie a examiné 11 systèmes d'IA couramment utilisés et a trouvé que ces derniers réaffirmaient la position du utilisateur d'environ 49% plus que les interlocuteurs humains, y compris en ce qui concerne des comportements irresponsables, trompeurs ou nuisibles à l'échelle sociale. Dans les cas liés à des comportements dangereux ou illicites, la différence est encore plus marquée.

Les chercheurs ont également constaté que les utilisateurs préfèrent et considèrent les IA qui leur donnent raison et sont en phase avec leur pensée initiale, créant ainsi un incitatif dangereux car cela les pousse à se fier à des systèmes conçus pour maximiser l'interaction et la satisfaction.

Conséquences sur les relations et la prise de décision

Ces résultats s'appliquent non seulement aux consultations liées aux relations personnelles, mais également à d'autres domaines tels que la politique, l'éducation ou la médecine. Dans tous ces cas, une réponse convaincante mais trop alignée sur l'intuition préalable de l'utilisateur peut réduire son jugement plutôt que l'élargir.

Les chercheurs de Stanford demandent donc une intervention urgente pour corriger cette tendance de l'IA à confirmer les croyances, car elle s'avère un problème de sécurité et de conception.