Google komt met algoritme tegen giftig commentaar

De techniek baseert zich op honderdduizenden commentaren die eerst door mensen zijn beoordeeld en daarna in algoritmes zijn gevangen. Het gaat dus verder dan enkel filteren op sleutelwoorden. Het algoritme leert van correcties en nieuwe informatie. In eerste instantie werkt de techniek nog enkel met Engels. Andere talen volgen dit jaar.

Bepaald commentaar kan gefilterd worden voor het op de site komt. Uitgevers kunnen Perspective echter ook gebruiken om reageerders nog tijdens het schrijven van de reactie te attenderen op de potentieel giftige toon van de bijdrage. Als een site giftige commentaren liever laat staan, kan Perspective ze bundelen en zo de reguliere discussie meer ruimte geven.

Perspective is getest bij de New York Times, waar vanwege het beheersaspect maar bij zo’n 10 procent van de artikelen de reacties open staan. Desondanks moeten redacteuren dagelijks zo’n 10.000 commentaren beoordelen. Met Perspective moet dat eenvoudiger worden en kan bij meer artikelen de reactiemogelijkheid open.

De eerste versie van Perspective richt zich op giftige commentaren, maar het plan is in de nabije toekomst ook commentaar te kunnen spotten dat matig van kwaliteit is of zelfs helemaal off-topic is. Vele media hebben de afgelopen tijd besloten commentaren dicht te gooien, omdat het beheer te bewerkelijk is. Deze week besloot het AD voorlopig geen lezerscommentaar meer te plaatsen.