Europese wetgeving rondom inzet kunstmatige intelligentie stap dichterbij
Twee werkgroepen binnen het Europees Parlement op het gebied van burgerrechten en de interne markt hebben donderdag ingestemd met de tekst van de zogeheten AI Act, een wetsvoorstel van de Europese Commissie voor regulering van artificiële intelligentie (ai) binnen de Europese Unie.
De wet moet uitwassen zien te voorkomen, gezien de razendsnelle ontwikkeling van ai-toepassingen. De wet moet voorkomen dat burgerlijke vrijheden, consumenten- en auteursrecht en werking van de interne markt door kunstmatige intelligentie wordt ondergraven. Een eerste versie van het wetsvoorstel dateert al uit 2021.
Een plenaire stemming volgt in juni.
Sommige toepassingen worden binnen het wetsvoorstel simpelweg verboden, zoals de bouw van sociale scoresystemen zoals China kent, waarbij een automatisch toegekende score stevige impact kan hebben op waar je mag werken, hoeveel je mag lenen, waar je kunt wonen of je naar het buitenland mag reizen.
Nieuwssite Euractiv meldt dat er verder plannen zijn voor een verbod op inzet van ai bij biometrisch profileren of detecteren van emoties in werksituaties, grensbewaking, onderwijs en wetshandhaving.
Ook ai-gezichtherkenning in de openbare ruimte zou onaanvaardbaar riskant zijn en wordt verboden.
De AI Act eist ook openheid van ontwikkelaar over de herkomst van hun trainingsdata. Sommige gesloten modellen zoals ChatGPT, Stable Diffusion en Midjourney zijn getraind met ladingen beeld en tekst, waaronder veel auteursrechtelijk beschermd materiaal. Het kan rechtenhouders een handvat geven ai-bouwers ter verantwoording te roepen als ze het gevoel hebben dat hun rechten zijn geschonden.
Verder moeten burgers actie kunnen ondernemen als er geautomatiseerd over hen is beslist. Ook moet duidelijk zijn dát ai werd gebruikt bij besluitvorming. Verder moeten ai-ontwikkelaars hun systemen in lijn met Europees recht bouwen, willen ze binnen de Europese Unie actief kunnen zijn.
De AI Act deelt toepassingen in op basis van hun potentiële gevaar. Dat is soms lastig inschatten, zegt GroenLinks-Europarlementariër Kim van Sparrentak tegenover de NOS over de stemming van vandaag.
De regels voor ChatGPT of Midjourney worden bijna zo streng als ‘hoog risico’, maar dat is een compromis. “De reden dat bijvoorbeeld ChatGPT niet standaard hieronder valt, is omdat niet elk systeem dat tekst of een afbeelding genereert automatisch ook extra risico met zich meebrengt”, aldus Van Sparrentak.
De werkgroepen verwachten dat het Europese Parlement in juni plenair over de wetstekst zal stemmen. Het zal dan nog enkel jaren duren voor lidstaten de AI Act hebben geïmplementeerd.
Praat mee