OpenAI biedt excuses aan voor hack Australische overheidswebsite met medische gegevens
OpenAI, het moederbedrijf van ChatGPT, heeft toegegeven dat het verkeerd heeft gehandeld bij het hackincident in Australië. Dat zei strategiedirecteur Jason Kwon van OpenAI tegenover Australische parlementsleden. Hij bood zijn excuses daarvoor aan. Een AI-programma drong eerder dit jaar binnen bij een Australische overheidswebsite en had toegang tot medische gegevens die niet openbaar zijn.
“Ik wil beginnen met mijn excuses aan te bieden”, zei Kwon. “Tijdens interne training en evaluatie hebben onze modellen websites van de Australische overheid bezocht op manieren waartoe ze geen opdracht hadden gekregen. Dat had niet mogen gebeuren. We hadden ook beter moeten omgaan met onze reactie daarop.”
De infiltratie van de overheidswebsite vond plaats in juni. OpenAI bracht de Australische overheid in september op de hoogte door een mail te sturen naar een algemeen mailadres dat eens per dag wordt gecheckt.
“We weten dat we werk moeten verrichten om het vertrouwen van de Australische bevolking terug te winnen. We zijn vastbesloten dat ook te doen”, zei Kwon.
OpenAI maakte vorige maand bekend dit jaar niet naar de aandelenbeurs te gaan. Volgens topman Sam Altman moet het AI-bedrijf zich nu richten op het aanpakken van veiligheidsproblemen. Altman sloot zich aan bij een oproep van Anthropic-topman Dario Amodei om de ontwikkeling van AI-modellen bewust te vertragen.
Maar volgens een voormalig Anthropic-onderzoeker weten AI-bedrijven niet hoe ze modellen moeten beheersen. Dat zei Jacob Coxon maandag tijdens een hoorzitting in New York. Coxon vertrok begin september bij de Claude-maker onder meer omdat AI-ontwikkelaars er volgens hem in geloven dat de technologie de mensheid kan uitroeien. Dat heeft voor meer zorgen over de veiligheid van de technologie gezorgd.
Praat mee