— woensdag 11 augustus 2021, 09:56 | 0 reacties, praat mee

Apple onder vuur om plannen voor het doorspitten van privéfoto’s naar strafbaar materiaal

De cartoon van David Jonik, gemaakt in respons op Amerikaanse wetgeving rondom de War on Terror, blijft ook rondom nieuwe overheidsinitiatieven scherp en actueel.

In de rubriek Innovatie schrijft Villamedia-redacteur Lars Pasveer over alles met een stekker of internetadres. Dit keer: Apple rekruteert iPhones en iPads ongevraagd in de strijd tegen kinderporno. Het plan past in een trend om kunstmatige intelligentie - voor niet te ontkennen nobele doelen - toegang te geven tot privégegevens, maar misbruik ligt op de loer.

Cartoonist John Jonik maakte in het begin van deze eeuw, toen de War Against Terror nog volop raasde, een in mijn ogen klassieke cartoon over digitale surveillance. Wie kan er tegen het beoogde einddoel zijn? Terroristen en pedofielen, wie anders?

In vorige week voorgestelde plannen worden - in eerste instantie Amerikaanse - iPhones en iPads straks voorzien van een lokaal bestand met de digitale vingerafdrukken van honderdduizenden beelden van zogeheten Child Sexual Abuse Material (CSAM).

Het gaat dus niet om de daadwerkelijke foto’s maar om een unieke code waar zo’n foto aan valt te herkennen. Het Amerikaanse National Center for Missing and Exploited Children levert deze ‘vingerafdrukken’, aangemaakt op basis van materiaal dat door autoriteiten op servers en bij misbruikers is aangetroffen.

De iPhone gaat in de plannen foto’s scannen die via Messenger wordt gedeeld of naar iCloud Photos worden geduwd. Gaat er bij dat proces een alarmbel af, worden in principe de autoriteiten ingelicht, al benadrukt Apple dat dit pas na menselijke controle gebeurt. Is er twijfel over het oordeel van Apple’s NeuralHash, zal een echt mens de privéfoto’s beoordelen. Het is vooralsnog onduidelijk of dat een gewone Apple-werknemer of bijvoorbeeld een gedetacheerde rechercheur is.

Klokkenluider Edward Snowden waarschuwt voor massa-surveillance en het hellend vlak als zo’n techniek eenmaal beschikbaar is. “Vergis je niet: als ze vandaag voor kinderporno kunnen scannen, kunnen ze morgen álles doorlichten”, aldus Snowden op Twitter.

Apple, wellicht geschrokken van de reacties op hun plannen, beschreef de goede bedoelingen nog eens in een pdf met veelgestelde vragen. De techniek moet iCloud Photos gevrijwaard houden van CSAM en moet families in staat stellen om chattende kinderen te beschermen tegen seksueel expliciet materiaal, meer niet.

Apple belooft dat het druk vanuit overheden zal weerstaan om de techniek in te zetten voor andere zaken dan CSAM.

Privacy-organisaties hebben grote bezwaren. Volgens de Electronic Frontier Foundation (EFF) gaat met de introductie van de scans “het slot van de deur” naar je privéleven. “We hebben het niet over een hellend vlak dat vrijheid van meningsuiting beperkt en onze communicatie onveiliger maakt. Daar zijn we allang beland: dit is een compleet gebouwd systeem dat enkel wacht op het moment dat externe druk wijzigingen afdwingt”, aldus EFF.

Apple’s belofte wordt door kenners met een korrel zout genomen. Het bedrijf assisteert repressieve regimes nú al, stellen ze. In landen als China, Saudi-Arabië en Wit-Rusland werd een onlangs aangekondigde versleuteling weggelaten, die gebruikers volledig zouden hebben afgeschermd van derden bij het browsen op internet. Ook is vanwege gebruikte versleuteling videobellen via Apple FaceTime niet overal beschikbaar.

In China haken iPhones en iPads aan op een alternatieve overheidsclouddienst voor Chinese gebruikers. In Rusland worden iOS en iPadOS-gebruikers sinds april verplicht bepaalde overheid-apps te installeren, waardoor de autoriteiten makkelijker kunnen meekijken.

Verder is het reguliere iCloud-platform is op het moment van schrijven niet versleuteld. Fysieke toegang tot een iPhone of iPad is voor de politie problematisch - daar heeft Apple principieel over geruzied met onder meer de FBI. Staat het materiaal toevallig ook in iCloud, kan een rechter vrij eenvoudig toegang tot die gegevens afdwingen.

MIT Technology Review sprak met een hoogleraar Computerwetenschappen die Apple’s NeuralHash in een vroege fase heeft beoordeeld.

David Forsyth van de Universiteit van Illinois Urbana-Champaign verwacht dat “onschuldige gebruikers minimale tot geen verlies van privacy” zullen ondervinden. De alarmbel gaat niet bij één foto af, maar enkel als meerdere overeenkomsten met bekend CSAM-materiaal worden vastgesteld, aldus de hoogleraar. De accuratesse van het systeem, gecombineerd met deze drempel, maakt het volgens Forsyth “hoogst onwaarschijnlijk” dat foto’s die niet aan een CSAM-afdruk voldoen tot problemen leiden.

Blijft de vraag of met de introductie van scans óp de telefoon de geest nu uit de fles is. Snowden noemt miljoenen iPhones nu potentiële informanten. Diverse veiligheidsexperts dringen via een open brief bij Apple aan af te zien van de scanning-techniek.

Vrees over overheidsverzoeken om te speuren naar ander beeldmateriaal dan kinderporno is niet ongegrond: activisme in landen als China, Iran, Myanmar en Wit-Rusland neemt soms de vorm van memes.

De Chinese president Xi verbood in 2018 de Chinese release van een biopic over de Britse auteur AA Milne, bedenker van Winnie de Pooh, omdat hij in memes met de beer werd vergeleken. President Erdogan van Turkije begon rechtszaken over memes waarin hij met Gollum werd vergeleken.

Een systeem waarbij regimes kunnen scannen op bezwaarlijke digitale foto’s op telefoons en in chats is vermoedelijk onweerstaanbaar. Het hoeft uiteindelijk niet eens Apple’s systeem te zijn: dat zoiets is gebouwd en ingevoerd door een toonaangevend bedrijf is rechtvaardiging genoeg om zelf met iets op de proppen te komen.

We hoeven wat dat betreft niet eens verder te kijken dan de Europese Unie. Het Europese Parlement nam vorige maand een uitzondering aan op bestaande Europese online privacywetgeving, dat scannen van online privégesprekken mogelijk maakt. Ook hier is het bedoeld om het uitwisselen van CSAM-beelden te detecteren.

In de consultatieronde, eind vorig jaar afgesloten, gaven diverse grote bedrijven als Microsoft en Google en diverse deskundigen feedback op de plannen. Critici menen dat de discussie over de beste aanpak van kindermisbruik op het internet niet langer op rationele maar emotionele gronden wordt gevoerd.

Er zijn voorafgaand aan de stemming stevige twijfels geuit over accuratesse van het systeem en de impact op privacy, niet in de laatste plaats door EDPS, de eigen data-toezichthouder van de Europese Unie. EDPS betwijfelde in een niet-bindend oordeel (hier in pdf-formaat) de “noodzakelijkheid, effectiviteit en proportionaliteit” van de gekozen methode. De Europese Commissie heeft nagelaten dat aan te tonen, meent de EDPS.

Ook de Raad van Europa heeft zorgen geuit over de inzet van geautomatiseerde processen die al het chatverkeer tegen het licht houden, meldt Europese vaktitel Euractiv, niet in het laatst om voor individuen potentieel desastreuze gevolgen, als zo’n algoritme de plank misslaat.

Het Europees Verdrag voor de Rechten van de Mens garandeert - in artikel 8 - het recht op privacy, maar dat staat op gespannen voet met voorstellen om alle online privégesprekken te laten scannen op mogelijk illegale activiteiten. Op zeer korte termijn, nog mogelijk dit kwartaal, komt de Europese Commissie met nieuwe aanbevelingen op basis van de consultatieronde. Wordt vervolgd.

Bekijk meer van

Europese Unie Apple

Praat mee

Colofon

Villamedia is een uitgave van Villamedia Uitgeverij BV

Postadres

Villamedia Uitgeverij BV
Postbus 75997
1070 AZ Amsterdam

Bezoekadres

Johannes Vermeerstraat 22
1071 DR Amsterdam

Contact

redactie@villamedia.nl

Redactie (tips?)

Dolf Rogmans
Hoofdredacteur

Marjolein Slats
Adjunct-hoofdredacteur

Linda Nab
Redacteur

Lars Pasveer
Redacteur

Trudy Brandenburg-Van de Ven
Redacteur

Anneke de Bruin
Vormgever

Marc Willemsen
Webontwikkelaar

Vacatures & advertenties

redactie@villamedia.nl

Bereik

Villamedia trekt maandelijks gemiddeld 120.000 unieke bezoekers. De bezoekers genereren momenteel zo’n 800.000 pageviews.

Rechten

Villamedia heeft zich ingespannen om alle rechthebbenden van beelden en teksten te achterhalen. Meen je rechten te kunnen doen gelden, dan kun je je bij ons melden.