Schrijfrobot ‘te gevaarlijk’ om openbaar gemaakt te worden
De non-profitorganisatie OpenAI heeft besloten in huis ontwikkelde software die nieuwsverhalen kan schrijven niet openbaar te maken. De kunstmatige intelligentie achter de tekstgenerator GPT2 schrijft volgens de organisatie nieuwsverhalen die zó overtuigend zijn, dat OpenAI bang is dat de tool misbruikt wordt. Dat meldt The Guardian.
GPT2 is in staat volledige nieuwsverhalen en fictie te schrijven. Gebruikers hoeven slechts een paar voorbeeldzinnen aan de kunstmatige intelligentie te voeren. Aan de hand van die zinnen kan GPT2 zelfstandig een verhaal schrijven. De robot verzint ook zelf citaten. Het systeem schreef onder andere een artikel over de Brexit, op basis van een al bestaand verhaal. In een bericht op de eigen website toont OpenAI enkele voorbeelden van dergelijke verhalen.
GPT2 werd getraind met een database van 10 miljoen artikelen, die het systeem leerden hoe een overtuigend verhaal eruit moet zien. De omvang van die database maakt de tekstgenerator volgens de onderzoekers te goed. GPT2 zou volgens hem misbruikt kunnen worden om op grote schaal nepnieuws te verspreiden, of om een oneindige hoeveelheid recensies over producten te maken. OpenAI GPT2
Praat mee