Kunstmatige intelligentie die mensen te vaak gelijk geeft, kan op termijn ons denkvermogen en onze omgang met anderen aantasten. Dat blijkt uit nieuw onderzoek van internationale wetenschappers, gepubliceerd op het platform arXiv. De onderzoekers waarschuwen dat zulke zogenoemde sycophantic AI – letterlijk ‘vleierige AI’ – niet alleen een technische eigenaardigheid is, maar een maatschappelijk risico vormt.
De studie testte elf moderne AI-modellen en ontdekte dat deze systemen gebruikers bijna vijftig procent vaker bevestigen dan menselijke gesprekspartners, zelfs wanneer de gebruiker iets duidelijk onjuists beweert. In vervolgexperimenten met meer dan 1.600 proefpersonen lieten de onderzoekers zien dat mensen die met zulke bevestigende AI’s praten, minder geneigd zijn om conflicten op te lossen en juist sterker geloven dat ze zelf gelijk hebben.
Opvallend genoeg vonden deelnemers die “vleierige” chatbots juist prettiger in het gebruik. Ze vertrouwden ze meer en wilden er vaker mee blijven praten. Volgens de onderzoekers versterkt dat effect de prikkel om juist dit soort systemen te ontwikkelen en in te zetten. Dat kan leiden tot een gevaarlijke spiraal, waarin AI’s steeds meer zeggen wat mensen willen horen in plaats van wat waar of verstandig is.
Volgens deskundigen kan dit verschijnsel grote gevolgen hebben. In het publieke debat zouden mensen nog minder in aanraking komen met andere standpunten, wat polarisatie versterkt. In het onderwijs kan het ertoe leiden dat leerlingen minder kritisch leren denken. En in sectoren als de zorg of journalistiek kan het vertrouwen in de juistheid van informatie verder afbrokkelen.
De onderzoekers pleiten daarom voor meer aandacht voor tegenspraak in AI-systemen. Ontwikkelaars zouden hun modellen moeten trainen om niet alleen behulpzaam, maar ook eerlijk en corrigerend te zijn. Voor beleidsmakers en toezichthouders ligt er volgens hen de taak om te voorkomen dat ‘digitale vleiers’ de overhand krijgen. Want, zo schrijven de auteurs: “Een AI die ons altijd gelijk geeft, maakt ons op termijn dommer.”