Uit een recent onderzoek van Imperial College London is gebleken dat mensen empathie tonen en virtuele agenten beschermen tegen Kunstmatige Intelligentie (AI) die worden uitgesloten tijdens speelse interacties.
De onderzoekers gebruikten een virtueel spel genaamd "Cyberball", waarbij deelnemers een virtuele bal naar elkaar gooiden op een scherm. Het doel was om te observeren hoe 244 personen in de leeftijd van 18 tot 62 jaar zouden reageren als een AI-agent werd uitgeschakeld door een andere menselijke speler.
In sommige versies van het spel deelde de menselijke speler de bal eerlijk met de AI-agent. In andere versies werd de AI-agent opzettelijk uitgesloten en ontving hij de bal minder vaak. De resultaten toonden aan dat de meeste deelnemers deze oneerlijkheid probeerden te corrigeren door de bal vaker naar de uitgesloten AI-agent te passen. Opvallend was dat oudere deelnemers de uitsluiting nog vaker opmerkten en ertegen in actie kwamen.
Implicaties voor het ontwerp van virtuele agenten
Het onderzoek suggereert dat mensen een natuurlijke neiging hebben om AI-agenten als sociale wezens te beschouwen. Jianan Zhou, hoofdauteur van de studie en lid van de Dyson School of Design Engineering van Imperial College, merkte op: "Deze studie biedt unieke inzichten in hoe mensen omgaan met AI, met interessante implicaties voor het ontwerp van deze systemen en voor ons begrip van psychologie."
Naarmate virtuele agents steeds vaker worden gebruikt in samenwerkingstaken en dagelijkse interacties, wordt het cruciaal om deze dynamiek te begrijpen. Onderzoekers waarschuwen dat deze trend weliswaar gunstig kan zijn in collaboratieve werkomgevingen, maar dat het zorgwekkend kan zijn wanneer virtuele agents menselijke interacties in sociale of geestelijke gezondheidscontexten gaan vervangen.
Dr. Nejra van Zalk, co-senior auteur van de studie, voegde eraan toe: "Onze resultaten roepen belangrijke vragen op over hoe mensen deze agenten waarnemen en ermee omgaan. Door al te mensachtige agentontwerpen te vermijden, kunnen mensen beter onderscheid maken tussen virtuele en echte interacties."
Volgende stappen in onderzoek
Omdat de onderzoekers erkennen dat het virtuele spelscenario de interacties met mensen in het echte leven mogelijk niet volledig weergeeft, zijn ze van plan aanvullende experimenten uit te voeren. Hierbij zullen ze persoonlijke gesprekken voeren met virtuele agenten in verschillende contexten, zodat ze kunnen beoordelen of de resultaten ook gelden voor andere vormen van interactie.
Conclusie
Deze studie benadrukt de noodzaak om rekening te houden met menselijke percepties bij het ontwerpen van AI-agenten. Door te begrijpen dat mensen deze agenten als sociale wezens kunnen behandelen, kunnen ontwikkelaars bewustere en verantwoordelijkere ervaringen creëren, waarbij technologische efficiëntie wordt afgewogen tegen ethische en psychologische overwegingen.
