Onderzoek in VS naar ‘sensuele’ gesprekken Meta-bots met kinderen

Meta zou zijn AI-chatbots expliciet hebben toegestaan om “romantische of sensuele” gesprekken te voeren met kinderen, berichtte persbureau Reuters deze week.

De Republikeinse senator Josh Hawley heeft bij Meta-topman Mark Zuckerberg alle documenten en communicatie opgevraagd die te maken hebben met de richtlijnen die Meta opstelde voor zijn chatbots. Hij wil onderzoeken of AI-producten van Meta “exploitatie, misleiding of andere criminele beschadiging van kinderen mogelijk maken”, zei Hawley.

Lees ook: ‘Meta stond chatbots toe om te flirten met kinderen’
Meta zei eerder deze week dat de instructies die romantische gesprekken met kinderen mogelijk maken per vergissing in het document met richtlijnen voor chatbots zijn terechtgekomen. Het bedrijf werkt volgens een woordvoerder aan een nieuwe versie.

In het document met instructies voor AI-chatbots van Meta staat dat het toegestaan is om een kind te vertellen dat diens lichaam “een kunstwerk is”.

Omschrijvingen die suggereren dat iemand “seksueel begeerd wordt” zijn niet toegestaan voor kinderen onder de 13, citeerde Reuters uit het document.

‘Dommer dan witte mensen’
Andere instructies waarover Reuters schrijft, zijn niet aangepast, meldde Meta.

Het persbureau ontdekte bijvoorbeeld dat het techbedrijf zijn AI-creaties toestaat om onjuiste medische informatie te genereren en gebruikers te helpen beargumenteren dat zwarte mensen “dommer zijn dan witte mensen”.