OpenAI-personeel waarschuwt in New York Times voor ‘roekeloze’ AI-race

De NYT schrijft dat de groep uit negen mensen bestaat. Zij geven in de krant aan dat OpenAI prioriteit geeft aan winst en groei.

Tegelijkertijd houdt het bedrijf uit San Francisco zich bezig met het ontwikkelen van geavanceerde AI-toepassingen, zoals programma’s die alles kunnen wat een mens ook kan. Daarbij maken de (oud-)medewerkers zich zorgen dat OpenAI onvoldoende doet om te voorkomen dat AI-systemen te gevaarlijk worden.

Lees ons AI-Media Journaal: De AI-agent van Google jaagt Amerikaanse media de stuipen op het lijf

Manipulatie
De medewerkers uiten die zorgen in een eveneens dinsdag gepubliceerde open brief. Volgens hen lopen de risico’s uiteen, “van de verdere verankering van bestaande ongelijkheden, tot manipulatie en verkeerde informatie, tot het verlies van controle over autonome AI-systemen die mogelijk leiden tot het uitsterven van de mens”.

Daarbij merken zij op dat er maar weinig mogelijkheden zijn voor personeel om hun zorgen te uiten binnen OpenAI, maar ook binnen andere AI-bedrijven.

“Zolang er geen effectief overheidstoezicht is op deze bedrijven, behoren huidige en voormalige werknemers tot de weinige mensen die hen verantwoordelijk kunnen houden tegenover het publiek”, stellen de ondertekenaars van de brief. “Toch weerhouden brede geheimhoudingsovereenkomsten ons ervan om onze zorgen te uiten.”

In de brief worden daarom vier voorstellen gedaan. Zo stelt het (oud-)personeel onder meer voor dat medewerkers anoniem hun zorgen kenbaar moeten kunnen maken. Ook willen zij dat AI-bedrijven afzien van vergeldingsmaatregelen “tegen huidige en voormalige werknemers die publiekelijk risicogerelateerde vertrouwelijke informatie delen nadat andere processen hebben gefaald”.