Googles inkubator för socialt entreprenörskap – Jigsaw – har utvecklat en mjukvara som ska upptäcka och stoppa näthat.
Mjukvaran som går under namnet Perspective släpptes i veckan till utvecklare över världen, rapporterar The Verge. Genom artificiell intelligens och maskininlärning ska Perspective lära sig att känna igen kommentarer som kan anses stötande.
Flera stora mediehus som är anslutna till Googles Digital News Initiative testar just nu Perspective i sina kommentarsfält.
"Nyhetsorganisationer vill uppmuntra engagemang och diskussion kring sitt innehåll, men alla hatkommentarer gör det dyrt och tidskrävande att övervaka kommentarsfält. Därför har många medier helt enkelt valt att stänga kommentarsfälten trots att det inte är vad de vill", säger Jared Cohen, chef för Jigsaw till Financial Times.
När Di Digital testar mjukvaran verkar den fungera som förväntat. En berömmande kommentar om oss själva anses med 94 procents sannolikhet inte vara "giftig".
En tweet från USA:s president Donald Trump passerar också Perspectives test om än med lite mer "giftighet".
Du kan själv testa vilka kommentarer som flaggas som olämpliga på Perspectives API-sida. Googles projekt inom Jigsaw syftar inte till att dra in pengar till IT-jätten utan är enbart en del i bolagets arbete med socialt entreprenörskap.