Verleidelijke AI-influencers verspreiden desinformatie en racistische denkbeelden

Het creëren van een realistisch ogend persoon met AI is vrij simpel, legt Trouw in het artikel uit. Op verschillende websites kun je gemakkelijk een fictief mens creëren met de leeftijd, etniciteit, het haartype en de lichaamsbouw naar keuze.

Een verdienmodel voor de makers
Gezien hoe makkelijk dit kan, is het dus niet raar dat het op sociale media wemelt van de vrouwelijke AI-influencers. Deze fictieve personages presenteren zich onder andere als verpleegkundige, stewardess of boerin, maar hebben vaak ook publieke functies bij het leger of de politie.

Voor de makers achter deze AI-influencers is het een verdienmodel. De accounts plaatsen vooral content gericht op verleiding, die subtiel neigt naar pornografisch materiaal. Vaak wordt er gelinkt naar websites zoals Fanvue, waar pornografisch materiaal van de AI-personages tegen betaling te zien is.

Gevolgen
Onschuldig is het fenomeen zeker niet. De makers proberen op sociale media in een bepaald algoritme terecht te komen om zo hun doelgroep te bereiken. Volgens Trouw promoot een deel van de onderzochte accounts ook de Amerikaanse president Donald Trump en verspreiden ze desinformatie en racistische of transfobe denkbeelden.

Laurens Naudts, postdoctoraal onderzoeker bij het AI, Media en Democracy Lab van de Universiteit van Amsterdam, noemt deze AI-influencers in het artikel dan ook een vorm van desinformatie, manipulatie en misleiding. Hij waarschuwt dat deze accounts racistische en transfobe denkbeelden normaliseren. Sanne Kruikemeier, hoogleraar Digitale Media en Samenleving aan Wageningen University & Research, vertelt in het artikel ook dat de regelmatige blootstelling aan nepbeelden het algehele vertrouwen in sociale media verlaagt. Meer bij Trouw