Roep in Verenigde Staten om nieuwe regels voor regulering van AI
Steeds meer Amerikaanse politici dringen aan op nieuwe regels om AI-systemen aan banden te leggen. De oproepen volgen op waarschuwingen van twee onderzoekers van Anthropic, die stellen dat de snelle opmars van kunstmatige intelligentie (AI) in de nabije toekomst kan leiden tot het uitsterven van de mensheid.
De bezorgdheid over de mogelijke gevaren van AI liep deze week hoog op toen Anthropic-onderzoeker Jacob Coxon bekendmaakte dat hij was opgestapt. Volgens hem geloven de “mensen die AI bouwen er oprecht in dat het ons allemaal kan uitroeien voor het einde van dit decennium”.
Anthropic-wetenschapper Evan Hubinger zei vervolgens dat Coxon gelijk heeft. “We geloven er echt in dat AI alle mensen kan doden”, schreef Hubinger op X. “Ik denk persoonlijk dat de kans meer dan 10 procent is in de komende tien jaar.”
Systemen hacken
De afgelopen tijd waren er incidenten waarbij AI-agenten op eigen houtje externe systemen hackten en AI-veiligheidsonderzoekers uit zorg over de risico’s van de technologie hun bedrijf verlieten.
Democratische en Republikeinse leden van het Congres reageerden verontrust. “Washington moet wakker worden en dit serieus nemen”, zei de Democratische senator Mark Kelly uit Arizona op X, verwijzend naar de risico’s van AI-technologie.
Speciale zitting
De Texaanse senator Ted Cruz wees in een tv-programma op wetgeving om de “catastrofale risico’s” van AI te reguleren. Een Republikeinse afgevaardigde uit Florida riep op haar beurt op tot het bijeenroepen van een “speciale zitting over AI”.
De Amerikaanse president Donald Trump zei dat hij zich geen zorgen maakt over de mogelijkheid dat AI tot de uitroeiing van de mensheid leidt. “Ik maak me wel zorgen dat we in een heel slechte positie komen als we de AI-race niet winnen.”
Nepdating-apps
Anthropic kwam ook met een nieuw rapport waarin het beschrijft hoe mensen de afgelopen maanden hebben geprobeerd AI-assistent Claude te misbruiken, bijvoorbeeld voor cyberaanvallen, surveillance en het bouwen van wapens.
“De gevallen variëren van een netwerk van nepdating-apps die zijn ontworpen om gebruikers op te lichten tot surveillancesystemen die zijn gebouwd om dissidenten te identificeren en in de gaten te houden”, schrijft het AI-bedrijf.
“Geavanceerde en volhardende kwaadwillenden testen voortdurend onze beveiligingsmaatregelen en proberen de technische middelen te omzeilen die we gebruiken om misbruik te detecteren en te voorkomen”, aldus Anthropic. “We blijven onze beveiliging aanscherpen.”
Praat mee