Facebook verbiedt plaatsen van deepfakes
Facebook zal voortaan gemanipuleerde video's, zoals zogeheten 'deepfakes', verwijderen, meldt het social mediabedrijf.
Hoewel deze video’s volgens Facebook nog steeds zeldzaam zijn op het internet, “vormen ze een belangrijke uitdaging voor onze industrie en de maatschappij naarmate hun gebruik toeneemt”.
Bij deepfakes wordt bijvoorbeeld het gezicht van iemand anders in een video geplaatst, om bijvoorbeeld iemand anders uitspraken in de mond te leggen, terwijl deze persoon ze niet heeft gedaan.
Deepfake-video’s krijgen al langer een label, om duidelijk te maken dat het om nepbeelden gaat. Die regels worden nu aangescherpt, zodat de video’s voortaan worden verwijderd.
Er zijn twee specifieke eisen waardoor een video als ‘deepfake’ wordt aangemerkt. Dat gebeurt als de video “is bewerkt, afgezien van aanpassingen voor verduidelijking of kwaliteit. En op manieren die niet direct duidelijk zijn voor de gemiddelde persoon, en die een persoon kan misleiden om te denken dat iemand op een video iets zegt dat niet daadwerkelijk gezegd is”. Een andere eis is dat een video “gemaakt is door kunstmatige intelligentie of ‘machine learning’ die content in een video samenvoegt, vervangt of toevoegt zodat het authentiek lijkt”. Facebook zegt dat parodieën en satire niet onder de regels vallen, of video die alleen is bewerkt om de volgorde van woorden weg te laten of te wijzigen.
Zorgen over deepfakes zijn er al langer, vooral met de buitenlandse inmenging in de afgelopen Amerikaanse presidentsverkiezingen in het geheugen en nieuwe verkiezingen in zicht. Er zijn al diverse video’s opgedoken waarbij de uitspraken van politici worden gemanipuleerd.
Tweakers geeft aan dat de controversiële video over de Amerikaanse Congres-voorzitter Nancy Pelosi van vorig jaar niet onder de nieuwe Facebook-regels valt. De politicus leek toen in een video dronken of verward. Later bleek dat het om een video ging waarin het geluid bewust was vertraagd. Dergelijke video’s kunnen toch nog opduiken tijdens de presidentsverkiezingen.
Lees ook:
Social mediabedrijven voeren strijd tegen desinformatie op met presidentsverkiezingen VS in vooruitzicht (22 oktober 2019)
Wetenschappers ontwikkelen programma om deepfake-video’s te herkennen (24 juni 2019)
De strijd tegen nepvideo’s (27 maart 2019)
Praat mee