Des expériences révèlent que les gens surestiment la confiance des IA dans leurs réponses

Une perception biaisée des systèmes artificiels au quotidien

Les systèmes d’intelligence artificielle, particulièrement les agents conversationnels comme ChatGPT ou Gemini, font désormais partie du quotidien d’un nombre croissant d’individus à travers le monde. Bien qu’une grande proportion d’utilisateurs accorde sa confiance aux réponses fournies par ces agents suite à leurs requêtes, ces données ne s’avèrent pas toujours exactes ni fiables. Les informations générées par ces interfaces peuvent présenter des lacunes factuelles.

Des chercheurs de l’Université de Waterloo et de l’University College London (UCL) ont récemment mené une étude visant à mieux comprendre la manière dont les individus déduisent la certitude des agents artificiels et des êtres humains lors de leurs prédictions ou conclusions. Leurs découvertes, publiées dans la revue Communications Psychology, mettent en lumière une dynamique psychologique particulière régissant nos rapports aux algorithmes.

L’analyse suggère que les humains perçoivent systématiquement les systèmes artificiels comme étant plus sûrs de leurs réponses que les interlocuteurs humains, même lorsque les textes générés sont identiques à ceux fournis par une personne. « À mesure que les systèmes d’intelligence artificielle deviennent de plus en plus sophistiqués, les gens s’appuient de plus en plus sur eux pour obtenir des conseils, par exemple sur les produits à acheter ou le contenu à consommer », déclare Clara Colombatto, première auteure de l’article, au média Phys.org.

La différence fondamentale entre le conseil humain et la machine

Cette tendance à la sollicitation trouve ses racines dans nos habitudes sociales quotidiennes. « Cela reflète une chose que nous faisons tout le temps lorsque nous interagissons avec d’autres personnes, car nous cherchons souvent des conseils et des orientations auprès des autres », précise la chercheuse en abordant l’origine de ce comportement humain face aux machines.

Le cadre interpersonnel offre des indices que la technologie ne possède pas intrinsèquement. « Pourtant, il y a une différence importante entre accepter les conseils des humains et ceux des systèmes d’intelligence artificielle : lorsque les humains donnent des conseils, ils communiquent souvent aussi à quel point ils sont confiants dans ce qu’ils disent, et cette confiance façonne à son tour à quel point nous faisons confiance et nous appuyons sur ces conseils », ajoute Clara Colombatto.

Contrairement aux êtres humains, la majorité des systèmes d’intelligence artificielle actuels, incluant les modèles qui sous-tendent le fonctionnement de ChatGPT et Gemini, sont conçus uniquement pour générer des réponses à des questions spécifiques, sans énoncer leur degré de certitude face à leurs affirmations. Les effets de ce manque d’informations relatives au doute sur le niveau de confiance accordé par les utilisateurs n’avaient pas encore été clairement délimités jusqu’à l’amorce de cette investigation scientifique.

L’observation des mécanismes d’attribution de la certitude

L’équipe scientifique a cherché à combler ce vide de connaissances en testant directement les réactions des utilisateurs. « Nous voulions comprendre si les gens déduisent naturellement la confiance dans les systèmes humains et d’intelligence artificielle même lorsque cela n’est pas communiqué directement, et quels facteurs influencent ces estimations », explique Clara Colombatto au sujet de la genèse de leur démarche analytique.

La méthodologie élaborée par le groupe de recherche devait permettre d’isoler ces variables perceptuelles. « Pour comprendre comment les gens attribuent la confiance à d’autres agents, nous avons conçu une tâche dans laquelle les participants ont observé soit des humains, soit des systèmes d’intelligence artificielle prendre des décisions, puis ont rapporté à quel point ils pensaient que l’agent était confiant dans chaque choix », détaille la première auteure de l’étude.

Clara Colombatto et ses collègues ont par la suite analysé les données récoltées afin de déterminer comment différents indices environnementaux ou contextuels influençaient le degré de certitude que les participants prêtaient aux agents artificiels ou humains. Les résultats révèlent une tendance claire : les participants pensaient que les agents étaient plus sûrs d’eux lorsqu’ils répondaient rapidement ou lorsqu’une décision semblait plus facile à prendre pour eux.

Le piège de la compétence présumée et ses conséquences

La vitesse de réponse n’est pas le seul critère mis en évidence lors des expériences menées en laboratoire. « Il est important de noter que nous avons également constaté que les gens attribuaient une plus grande confiance aux agents qu’ils croyaient être plus précis ou capables, même lorsque cette croyance n’était pas réellement justifiée », signale Clara Colombatto concernant le décalage entre les attentes des utilisateurs et la réalité.

Ce phénomène crée une problématique spécifique liée aux ordinateurs. « C’est particulièrement important dans le contexte de l’intelligence artificielle, car les gens peuvent parfois supposer que les systèmes d’intelligence artificielle sont meilleurs que les humains dans certaines tâches, et donc déduire que l’intelligence artificielle est plus confiante, même lorsque ce n’est pas le cas — créant une ‘illusion de confiance’ dans l’intelligence artificielle », développe la scientifique. Dans l’ensemble, les résultats suggèrent que les individus n’ont pas besoin que les agents communiquent explicitement leur assurance pour en déduire les niveaux.

L’équipe a découvert que les participants à l’étude utilisaient automatiquement divers signaux, tels que la rapidité de l’agent ou sa capacité apparente, pour combler ce manque d’informations. « Critiquement, ces indices peuvent être trompeurs : lorsque les gens croient qu’un système d’intelligence artificielle est hautement capable, ils peuvent également supposer qu’il est hautement confiant, même si le système n’est pas réellement fiable dans cette situation spécifique », avertit Clara Colombatto. « En d’autres termes, les attributions des gens suivent leurs croyances antérieures (parfois erronées) sur l’intelligence artificielle, plutôt que ses performances réelles. »

Les perspectives pour la conception future des interfaces

Les travaux récents menés par Clara Colombatto et ses collègues soulignent l’importance de concevoir des systèmes capables de transmettre leur niveau d’assurance aux utilisateurs, de manière directe ou par le biais d’autres indicateurs. Ces observations pourraient guider le développement de nouvelles fonctionnalités pour les modèles, particulièrement les grands modèles linguistiques (LLM), et aider à affiner les architectures virtuelles existantes.

« Dans les interactions entre humains, la confiance sert de signal social important qui nous aide à décider quand faire confiance à un conseil et quand le traiter avec plus de prudence », explique l’experte pour contextualiser l’enjeu. « Nos résultats suggèrent que lorsque les systèmes d’intelligence artificielle ne fournissent pas cette information explicitement, les gens peuvent la déduire eux-mêmes, avec des conséquences importantes : ils peuvent finir par accorder trop de confiance aux recommandations de l’intelligence artificielle, même lorsque le système peut être incertain ou sujet à l’erreur. » Les chercheurs prévoient actuellement de nouvelles études visant à aider les humains à interpréter l’assurance des machines de manière plus fiable, en identifiant des stratégies prometteuses de communication de ces prédictions.

« Lorsque nous interagissons avec d’autres personnes, nous communiquons la confiance à travers une variété d’indices, y compris notre ton de voix, nos expressions faciales, notre posture, etc. », ajoute Clara Colombatto. « Les systèmes d’intelligence artificielle, cependant, manquent souvent de ces caractéristiques, car la plupart des systèmes n’ont pas de voix semblables à celles des humains ou de présence physique. Comprendre quels types de signaux de confiance sont les plus utiles, transparents et dignes de confiance dans les interactions entre l’intelligence artificielle et l’humain sera donc une direction importante pour les recherches futures. » Les détails complets (Clara Colombatto et al, Beliefs about accuracy shape confidence attributions to humans and artificial agents, 2026, DOI: 10.1038/s44271-026-00445-4) figurent dans les colonnes de la revue Communications Psychology.

Selon la source : phys.org