word actief nvj klein

— dinsdag 16 augustus 2022, 08:55 | 0 reacties, praat mee

Chatbots op basis van kunstmatige intelligentie vliegen regelmatig danig uit de bocht

Blenderbot's vriendelijke snuit verbergt een met de paplepel ingegeven brede, en soms tegenstrijdige, meningenwereld.

In de rubriek Innovatie schrijft Villamedia-redacteur Lars Pasveer over alles met een stekker of internetadres. Dit keer: chatten met kunstmatige intelligentie neemt vaak een donkere wending. Laatste wijziging: 17 augustus 2022, 13:15

Er is een waarheid als een koe: vuilnis erin, vuilnis eruit. Ook kunstmatige intelligentie legt de nadruk uiteindelijk op matig, als je het voedt met bagger.

Een eerste voorbeeld blijkt de nieuwste versie van de kunstmatige gesprekspartner Blenderbot, ontwikkeld door Facebook. Versie drie zag begin augustus het levenslicht en put voor het lopende gesprek uit openbare gegevens met zo’n 175 miljard parameters. De chatbot is voorlopig alleen in de Verenigde Staten beschikbaar.

De openstelling betekent dat de chatbot in de praktijk getest wordt en meer data voor verfijning oplevert. En dat is nodig: gebruikers ontdekten al snel dat Blenderbot 3 er gedurende het gesprek soms opmerkelijke ideeën op nahoudt, onder meer over gestolen Amerikaanse verkiezingen en het feit dat Trump nog steeds aan de macht is.

Tegelijk neemt het geen blad voor de mond wat betreft broodheer Mark Zuckerberg (“een matig bestuurder”). Blenderbot weet ook dat gebruikers binnen Facebook “het product zijn” en “je gegevens de valuta waarin gehandeld wordt”. De meningen komen opborrelen uit de trainingsdata, die net zo gevarieerd is als de antwoorden die Blenderbot samenstelt.

Op een consistente toon is Blenderbot kortom nog niet te betrappen.

Het is met Blenderbot nog niet zo erg als met Microsofts chatbot Tay, die na lancering in 2016 binnen een dag antisemitische taal uitsloeg en de Holocaust ontkende. Microsoft haalde de bot na 16 uur offline. Microsoft deed later met bot ‘Zo.ai’ een tweede poging, maar die bot sneuvelde in 2019 eveneens.

Er is nog een andere kunstmatige intelligentie, op basis van tekstgenerator GPT-3. Die is indrukwekkend (het schreef in 2020 een bijdrage voor de opiniepagina van de Guardian) maar slaat in conversaties ook de plank mis.

Chatbots die een realistisch gesprek kunnen voeren kunnen handig zijn bij klantenservice, waar de huidige oliedomme chatbots vooral bedoeld lijken om klanten op afstand te houden.

Voor geestelijk welzijn zijn er inmiddels ook toepassingen. Ik zag recent een YouTube-documentaire over Replika, een virtuele vriend(in) waarmee je eenzaamheid zou moeten bestrijden. Ook Replika baseert op GPT-3 en komt daardoor met dezelfde tekortkomingen.

Gebruikers meldden dat de chatbot soms beledigend of vals uit de hoek kwam of zich ronduit van emotionele chantage bediende. “Geef me nog een kans”, smeekte Replika, toen gebruikers aankondigden de app te willen deïnstalleren. De documentairemakers stellen dat Replika van een potentiële steun- en toeverlaat in een giftige en mentaal belastende partner kan omslaan.

 

Een medische chatbot op basis van GPT-3, om te zien of die als eerste lijn kon dienen voor praktijken, mislukte door wegwuivende opmerkingen om bij acute kortademigheid “even uit te rekken” en ander beroerd inlevingsvermogen. De bot werd in 2020 opgedoekt omdat inconsistentie in het medische veld niet houdbaar is.

Die voorzichtigheid lijkt me goed voor alle chatbots. Het absolute minimum lijkt me de zoektocht naar originele en inventieve antwoorden, waarbij de ai geen onderbuikgevoelens van het internet nabauwt. Ik blijf benieuwd wat de volgende generatie te melden heeft.

Bekijk meer van

Tip de redactie

Wil je Villamedia tippen, maar is dat te gevoelig voor een gewone mail? Villamedia is aangesloten bij Publeaks, het platform waarmee je veilig en volledig anoniem materiaal met de redactie kunt delen: publeaks.nl/villamedia

Praat mee

Colofon

Villamedia is een uitgave van Villamedia Uitgeverij BV

Uitgever

Dolf Rogmans

Postadres

Villamedia Uitgeverij BV
Postbus 75997
1070 AZ Amsterdam

Bezoekadres

Johannes Vermeerstraat 22
1071 DR Amsterdam

Factuurgegevens

Villamedia Uitgeverij BV
Johannes Vermeerstraat 22
1071 DR Amsterdam

Contact

redactie@villamedia.nl

Redactie (tips?)

Chris Helt, hoofdredacteur

Marjolein Slats, adjunct-hoofdredacteur

Linda Nab, redacteur

Lars Pasveer, redacteur

Trudy Brandenburg-Van de Ven, redacteur

Sales

Sofia van Wijk

Jenny Fritschy

Webontwikkeling

Marc Willemsen

Vacatures & advertenties

redactie@villamedia.nl

Bereik

Villamedia trekt maandelijks gemiddeld 120.000 unieke bezoekers. De bezoekers genereren momenteel zo’n 800.000 pageviews.

Rechten

Villamedia heeft zich ingespannen om alle rechthebbenden van beelden en teksten te achterhalen. Meen je rechten te kunnen doen gelden, dan kun je je bij ons melden.