Digitaal artiest Marina Amaral waarschuwt voor groei aan AI ‘geschiedenisbeeld’

“Amaral geeft met haar inkleuringen voor ‘De Tijd In Kleur’ materiaal nieuwe urgentie, zelfs of misschien juist van foto’s die deel uitmaken van ons collectieve geheugen”, schreef ik indertijd in mijn recensie voor Villamedia.

In een opiniestuk schrijft Amaral dat toen ze in 2015 met inkleuren van historisch beeld begon, zij zélf werd beschuldigd van het vervalsen van de geschiedenis. “Dat was een fascinerende reactie, en eentje waarop ik niet was voorbereid”, schrijft ze.

Sinds het verschijnen van haar boek heeft beeldgeneratie via AI een enorme vlucht genomen. Er zijn accounts op Instagram actief die via AI vervaardigde historische foto’s (glasplaat, daguerrotype) als echt verspreiden - regelmatig inclusief een verhaaltje om de vintage afbeelding meer gewicht en provenance te geven.

Amaral doet voor ze een beeld inkleurt eerst diepgravend onderzoek, over bijvoorbeeld kleuren van uniformen, vlaggen en interieurs.

“Ik heb het niet over de nepbeelden die zijn gemaakt met humor of sarcasme. Als je Napoleon een TED Talk ziet geven of Mata Hari een iPhone-selfie ziet nemen, zul je niet snel denken dat het om een historische foto gaat. Het echte gevaar ligt in die beelden die expliciet zijn bedoeld om mensen te misleiden, de beelden die zo overtuigend realistisch zijn dat ze voor authentieke historische foto’s kunnen doorgaan”, aldus Amaral.

Elk nepbeeld vervaagt de scheiding tussen feit en fictie, stelt Amaral. Historische informatie kan meestal worden gecontroleerd tegen andere bronnen en je eigen kritisch denkvermogen. “Maar als je een hyper-realistische AI-foto voorgeschoteld krijgt waarin een historische scene of figuur wordt afgebeeld, hoe verifieer je die? Hoe weet je of dat is gebaseerd op tastbaar bewijs of enkel de fantasie van een algoritme?”

In de recent aangenomen Europese Artificial Intelligence Act is opgenomen dat generatieve AI bij producties moet onthullen dat het met AI gemaakt is. De exacte technische uitwerking is nog onduidelijk, maar zou de vorm van onzichtbare watermerken of in bestanden verwerkte meta-data kunnen krijgen.

Amaral: “Misschien ben ik te dramatisch. Het is niet dat er mensen zijn die misschien, och, ik weet het niet, met opzet de geschiedenis willen manipuleren zodat het strookt met hun eigen politieke agenda? Marina Amaral: AI is creating fake historical photos, and that’s a problem