Google Jigsaw weegt inmiddels dagelijks 500 miljoen reacties op giftig taalgebruik

Het algoritme is open-source en gratis te gebruiken voor uitgevers en andere bedrijven met veel online commentaar. De techniek kan giftig commentaar voor publicatie herkennen, maar biedt ook opties om een reageerder nog tijdens het schrijven te wijzen op de toon van zijn of haar reactie.

Bij uitgeverijconcern McClatchy werd Perspective ingezet; volgens hun gegevens wijzigt 40 procent van de gebruikers het taalgebruik in een reactie, na op de toxiciteit van de woordkeuze te zijn gewezen. Onderzoek bij reactiebeheerder OpenWeb bleek bijna de helft van de gebruikers (44,7 procent) bereid aanstootgevende woorden te verwijderen of te vervangen. Ruim 7 procent herschreef de hele reactie, na feedback over de toon.

De geautomatiseerde detectie neemt moderatoren werk uit handen en maakt het daardoor mogelijk om meer gebruikersreacties te publiceren. Voor Perspective bij de New York Times werd ingevoerd kon een fractie van de reacties van gebruikers verwerkt worden.

In 2017 kon Perspective alleen Engelstalige reacties beoordelen, inmiddels begrijpt het algoritme ook Duits, Frans, Italiaans, Portugees en Spaans. Diverse uitgeverijen in dat taalgebied laten reacties nu (mede) beoordelen door Perspective: goed voor 500 miljoen verzoeken per dag.

Vanwege giftige commentaren en uit de klauwen lopend reactiebeheer besloten diverse Nederlandse uitgaven de laatste jaren om reacties onder artikelen te schrappen. Meer bij Jigsaw