Europa mag nieuw AI-model Mythos nog niet gebruiken van Amerika

De pas verschenen modellen Mythos 5 en Fable 5 vallen volgens Axios voortaan onder exportcontroles. Daardoor mogen buitenlandse regeringen, bedrijven en personen er niet zonder toestemming bij, ook niet als zij zich in de Verenigde Staten bevinden.

De modellen blijven volgens Axios afgeschermd totdat het Amerikaanse veiligheidsapparaat beter is voorbereid op mogelijke risico’s, bijvoorbeeld voor de cyberveiligheid. Dat zou binnen enkele weken het geval kunnen zijn.

De maatregel kan op termijn grote gevolgen hebben voor Europa. Europese bedrijven en overheden bouwen hun AI-toepassingen nu grotendeels op Amerikaanse modellen. Als zij geen toegang meer krijgen tot de beste systemen, dreigen ze afhankelijk te blijven van verouderde of minder geavanceerde technologie, met gevolgen voor hun concurrentiepositie, veiligheid en digitale autonomie.

Gesprek met Amazon
Het besluit van de Amerikaanse regering, kwam voort uit gesprekken met Amazon. Dat zeggen ingewijden tegen The Wall Street Journal (WSJ). De krant schrijft dat medewerkers van Amazon onderzoek deden naar het omzeilen van beveiligingen en dat daarbij enkele kwetsbaarheden van een van de modellen aan het licht kwamen.

Amazon-topman Andy Jassy heeft volgens de bronnen tegen overheidsfunctionarissen, waaronder de minister van Financiën Scott Bessent, gezegd dat onderzoekers bij het Amerikaanse tech- en webwinkelconcern een reeks prompts hadden gebruikt om Fable 5 informatie te laten verstrekken die gebruikt kon worden voor cyberaanvallen en eigenlijk verboden terrein zou moeten zijn.

Een woordvoerder van Amazon zei dat het niet ongebruikelijk is dat overheden het bedrijf raadplegen over veiligheidsrisico’s, maar wilde geen details delen over dit soort gesprekken.

Zwakke plekken
De afgelopen tijd is veel commotie rond Mythos ontstaan, omdat het snel zwakke plekken in softwarebeveiliging kan opsporen. Cybercriminelen zouden het kunnen misbruiken om aanvallen uit te voeren. Verder is Anthropic ook bekend van zijn chatbot Claude.

Anthropic benadrukt dat er niets verandert aan de toegang tot zijn andere modellen.