‘Deepfakes zijn te herkennen door detectie bloedsomloop sprekers’
Intel werkt aan een systeem om deepfakes te detecteren met behulp van geavanceerde video-analyse, dat onder meer hartslag en gerelateerde minuscule vasculaire veranderingen kan herkennen. Bij een deepfake waarbij een gezicht op een bestaande video wordt geplakt, ontbreekt die relatie.
Intel introduceerde FakeCatcher eind vorig jaar en claimt een succespercentage van 96 procent in het herkennen van nepvideo’s. Waar de meeste deepfake-detectoren analyseren wat er technisch mis is, draait FakeCatcher dat volgens Intel-onderzoeker Ilke Demir om en kijkt wat er klopt - in deze een realistische bloedsomloop bij de spreker.
Het systeem gebruikt zogeheten fotoplethysmografie voor het meten van het bloedvolume in de huidvaatjes en bouwt daar een model van. Sommige smartwatches en hartslag- en bloedzuurtofmeters gebruiken deze techniek ook.
Volgens Intel kunnen sociale mediabedrijven met hun systeem deepfakes al bij de upload analyseren en voor publicatie afvangen. Onduidelijk is hoe hoog de resolutie moet zijn, voor FakeCatcher er niets meer mee kan. In een interview met vakblad IT Pro stelde Demir begin dit jaar dat FakeCatcher ook met sterk gecomprimeerde video overweg kan.
Het systeem werd minder accuraat toen er enkel met ongecomprimeerde video werd getraind. Daarom is er een mix van video’s gebruikt in het trainingsmodel. Enkel als het gezicht van de spreker constant wisselend wordt belicht, heeft FakeCatcher meer moeite om de vasculaire wijzigingen te detecteren.
Volgens Demir is vanwege het model op fotoplethysmografie het lastig (of kostbaar) voor deepfake-makers om ook dit element te imiteren. De BBC ging langs om te zien in hoeverre Intels claims over de bijna perfecte score terecht zijn.
Praat mee