Europees Parlement stemt in met wet ter regulering van kunstmatige intelligentie

Sommige toepassingen worden nu simpelweg verboden, zoals de bouw van sociale scoresystemen zoals China kent, waarbij een automatisch toegekende score stevige impact kan hebben op waar je mag werken, hoeveel je mag lenen, waar je kunt wonen of je naar het buitenland mag reizen.

Ook mogen er geen systemen worden gemaakt die burgers inschalen op basis van bepaalde biometrische gegevens of gezichtsherkenningssystemen die zijn gevoed met van het internet geschraapte beelden of bewakingsbeelden. Verder worden systemen verboden die emoties meten of die voorspellingen doen over mogelijk gedrag, puur op basis van een profilering of karaktereigenschappen. Manipuleren of uitbuiten van emoties via AI is ook niet toegestaan.

Verder moeten burgers actie kunnen ondernemen als er geautomatiseerd over hen is beslist. Ook moet duidelijk zijn dát AI werd gebruikt bij besluitvorming. Verder moeten AI-ontwikkelaars hun systemen in lijn met Europees recht bouwen, willen ze binnen de Europese Unie actief kunnen zijn en transparanter zijn hoe en waarmee de AI is getraind.

De maatschappelijk meest impactvolle AI-toepassingen krijgen extra controles opgelegd en de makers zullen duidelijk moeten vertellen wat ze zelf doen om schade te beperken.

Gemanipuleerde beelden, audio of video moet straks gelabeld worden. Hoe dat - zeker bij kwaadwillenden - precies wordt afgedwongen, is niet duidelijk.

De wet schaalt AI-toepassingen in verschillende risicoklassen, waarbij de strengste eisen worden gesteld aan AI met mogelijk negatieve impact op openbare veiligheid, de democratie, risico’s van gezondheids- en milieuschade of werking van politie en banken. AI-systemen in deze groepen moeten een risico-analyse hebben uitgevoerd, duidelijke logbestanden bijhouden, transparant en correct opereren en menselijke toezichthouders hebben.

Hoewel biometrische identificatie door opsporingsdiensten en principe verboden is, kent de wet enkele uitzonderingen bij terreurdreiging of vermiste personen. Dan mogen real-time systemen wel worden gebruikt, zij het beperkt in tijd, geografische omvang - en pas na gerechtelijke of bestuurlijke goedkeuring.

De nieuwe wet krijgt nog een laatste juridische controle en moet dan nog door de Europese Raad worden goedgekeurd. Het duurt mogelijk nog drie jaar voor de Artificial Intelligence Act volledig is ingevoerd.