Dans une étude récente menée par l'Imperial College de Londres, il a été constaté que les humains font preuve d'empathie et ont tendance à protéger les agents virtuels des Intelligence Artificielle (IA) qui sont exclus lors des interactions ludiques.
Les chercheurs ont utilisé un jeu virtuel appelé « Cyberball », dans lequel les participants se lancent une balle virtuelle sur un écran. L'objectif était d'observer la réaction de 244 personnes, âgées de 18 à 62 ans, face à l'élimination d'un agent d'IA par un autre joueur humain.
Dans certaines versions du jeu, le joueur partageait équitablement le ballon avec l'IA. Dans d'autres, l'IA était volontairement exclue, recevant le ballon moins fréquemment. Les résultats ont montré que la plupart des participants cherchaient à corriger cette injustice en passant le ballon plus fréquemment à l'IA exclue. Il est à noter que les participants les plus âgés étaient encore plus susceptibles de remarquer et de réagir à cette exclusion.
Implications pour la conception d'agents virtuels
Cette recherche suggère que les humains ont une tendance naturelle à traiter les agents d'IA comme des êtres sociaux. Jianan Zhou, auteur principal de l'étude et membre de la Dyson School of Design Engineering de l'Imperial College, a commenté : « Cette étude offre un aperçu unique de la façon dont les humains interagissent avec l'IA, avec des implications intéressantes pour la conception de ces systèmes et pour notre compréhension de la psychologie. »
Alors que les agents virtuels se généralisent dans les tâches collaboratives et les interactions quotidiennes, comprendre cette dynamique devient crucial. Les chercheurs avertissent que si cette tendance peut être bénéfique dans les environnements de travail collaboratifs, elle peut devenir préoccupante lorsque les agents virtuels commencent à remplacer les interactions humaines dans les contextes sociaux ou de santé mentale.
Le Dr Nejra van Zalk, co-auteur principal de l'étude, a ajouté : « Nos résultats soulèvent d'importantes questions sur la façon dont les individus perçoivent et interagissent avec ces agents. Éviter des conceptions d'agents trop humanoïdes pourrait aider les individus à mieux distinguer les interactions virtuelles des interactions réelles. »
Prochaines étapes de la recherche
Conscients que le scénario du jeu virtuel pourrait ne pas refléter fidèlement les interactions humaines réelles, les chercheurs prévoient de mener des expériences supplémentaires. Celles-ci impliqueront des conversations en face à face avec des agents virtuels dans différents contextes, afin d'évaluer si les résultats s'appliquent à d'autres formes d'interaction.
Conclusion
Cette étude souligne la nécessité de prendre en compte les perceptions humaines lors de la conception d'agents d'IA. En comprenant que ces agents peuvent être traités comme des êtres sociaux, les développeurs ont la possibilité de créer des expériences plus conscientes et responsables, conciliant efficacité technologique et considérations éthiques et psychologiques.
