Beseffen we eigenlijk wel wat we in huis halen met al die AI-toepassingen?

Bijna niemand vraagt het zich nog af, maar we zouden het wel wat vaker mogen doen. Beseffen we eigenlijk wel wat we in huis halen met al die AI-toepassingen? Ik leg het je uit aan de hand van Rosa Parks, Adolf Eichmann, Gandhi, Roomba-stofzuigers en babysitters.

AI is een oplossing op zoek naar een probleem
Met angstretoriek over treinen die al rijden, boten die zijn gemist en vermeend succes bij andere organisaties, dwingt Silicon Valley ons slim in een eenzijdig, dominant perspectief om onze huidige tijd te bezien: technologie-centrisch. Dit keer is de belofte dat AI voor alles de oplossing is, ongeacht het probleem. Onwetend, gewillig en blij automatiseren wij onze levens weg terwijl de miljardairs hun technotopia’s realiseren waar alleen uitverkorenen welkom zijn. Het onvermijdelijkheidsnarratief dat door menig AI-expert wordt gepusht, heeft op redacties inmiddels een gewillig oor (Ja, ik heb een beetje boter op mijn hoofd, LV).

Om iets op te lossen, leerde ik ooit als ontwerper, hoef je maar twee vragen te stellen, De eerste is of je het juiste probleem te pakken hebt en de tweede is welke (bestaande) oplossingen daarbij passen. Eerst onderzoeken en begrijpen, daarna creëren. Een simpel hedendaags voorbeeld hiervan is dat je geen chatbot inzet als oplossing om klachten van gebruikers goedkoper en sneller af te handelen. Wel dat je onderzoekt hoe je je product- of dienstverlening verbetert - het waarschijnlijke probleem.

Intelligent oordelen
Pedagoog Gert Biesta denkt veel na over de mens in relatie tot AI. Hij gaf onlangs een lezing over opgroeien in tijden van AI en gebruikte daarin het voorbeeld van zogeheten adaptieve intelligentie. Dat wordt aan het onderwijs al jaren gepresenteerd als de heilige graal: een digitaal onderwijssysteem dat op het juiste moment de juiste stof behandelt, voor iedere leerling persoonlijk en op maat afgestemd. Dat systeem zal nooit werken omdat softwarebouwers een nogal beperkte blik hebben op onderwijs. Dat gaat volgens hen primair over kennis en de ontwikkeling van cognitieve taken. Handig dat dat precies de dingen zijn die je goed in data kunt vatten en meten. Onhandig voor hen dat onderwijs zoveel meer behelst dan dat. En vervelend voor ons als maatschappij, omdat we door automatisering veel belangrijke lessen weggooien.

Biesta zegt nog meer: ‘Mensen zijn veroordeeld tot oordelen’. Dat is soms onhandig of onjuist, maar vooral heel menselijk en nodig. De zelfstandig lerende en opererende stofzuiger Roomba is volgens hem zo’n ‘adaptief intelligent’ ding. Het leert de oppervlakten van je huis kennen en past zich daarop aan. Het apparaat mist iets essentieels: de mogelijkheid om ‘nee’ te zeggen. Of je hem nu bij Poetin of bij jou thuis aan de gang zet, de Roomba heeft geen oordeel.

Denk tijdens je aankomende vakantie na of en hoe we AI nog verder in ons huis van de journalistiek binnenlaten

Is daar iemand?
Volgens Biesta gaat volwassen zijn niet om wie je bent. ‘Dat is identiteit; het gaat om hoe je bent. Wat doe ik met mijn identiteit, met alles wat ik weet en kan, met mijn talenten en beperkingen. Vooral als het er op aankomt, wanneer we zelf niet zoveel te kiezen hebben.’ Hij haalt Gandhi aan: ‘Een “nee” uitgesproken vanuit de diepste overtuiging is beter dan een “ja” om tevreden te stellen, of erger nog, om problemen te vermijden.’

Biesta geeft een spannend voorbeeld, waarin hij verschillen en overeenkomsten toont tussen Rosa Parks en Adolf Eichmann. Parks stapte in een tijd van heftige segregatie in Amerika de bus in, maar ging niet achterin zitten (bestemd voor mensen van kleur), maar voorin (de plaats voor witte mensen). Eichmann was als nazi-topman verantwoordelijk voor de deportatie van Joden. Zowel Parks als Eichmann namen verantwoordelijkheid voor hun acties. Bij Parks was het vanuit een overtuiging waarbij ze bewust ergens tegen in ging. Ergens ‘nee’ tegen zei. Ze wilde juist niet gehoorzamen.

Of Eichmann zich bewust was van het kwaad dat hij aanrichtte, deed er voor hem niet toe; hij had precies gedaan wat mensen van hem vroegen. Hij ging juist nergens tegenin, had vooral de wens gehoorzaam te zijn.

Biesta vraagt ons om ‘aan de deur te kloppen’ van de opgroeiende mens en te vragen: ‘Is daar iemand? Bij Eichmann was er niemand thuis, bij Rosa Parks wel.’

Babysitters van synthetische media machines
Het biedt een interessant perspectief op AI. In de software die veel mensen intelligent noemen, is niemand ‘thuis’. Maar wie laten wij eigenlijk binnen met al die AI-toepassingen? Wat nemen ze van ons over en wat van ons weg? Wetenschappers Emily Bender en Alex Hanna stellen in hun onlangs verschenen boek ‘The AI Con’ dat journalisten, als ze niet oppassen, verworden tot babysitters van synthetische media machines. Het wordt een dagtaak om de vreemde, onjuiste en middelmatige AI-output te controleren en te corrigeren.

Ik ben niet anti-technologie, zeker niet wat betreft de ‘oude’ vorm van AI, die helpt documenten en afbeeldingen te classificeren, clusteren, voorspellen, herkennen, vertalen en transcriberen. Wat ik wil is een technologie die met het uitgangspunt is ontworpen dat het voor mensen werkt, niet tegen ze. Ik wil met mijn chatbotgebruik niet medeplichtig zijn aan extractieve systemen die zijn gebouwd op datadiefstal, die (onzichtbare) uitbuiting van de Globale Meerderheid in stand houdt, die vooroordelen versterkt en gemarginaliseerde groepen niet ziet of nog sterker benadeelt, die machtsconsolidatie verder vergroot en die door energieverbruik het klimaat nog sneller naar de knoppen helpt.

Mag ik je daarom vragen om tijdens je aankomende vakantie te bedenken of en hoe we AI nog verder in ons huis van de journalistiek binnenlaten? Ik ben benieuwd naar je oordeel. Heb een fijne zomer!