Algorytm Google’a wykrywa internetowych trolli. Wystarczy 5-10 wypowiedzi!

Jak skutecznie zwalczać internetowych trolli? Do tej pory najlepszą metodą wydawało się po prostu ignorowanie, ale Google chce rozwiązać problem w inny sposób – algorytmem, oceniającym wypowiedzi w Internecie. Skuteczność tego rozwiązania sięga 80 proc.!

Niektórzy uważają, że trollowanie jest sztuką, jednak działania internetowych trolli nie są zazwyczaj mile widziane. Jak sobie z nimi poradzić? Google wpadło na pomysł, aby wykrywaniem i wskazywaniem potencjalnych trolli zajmowały się algorytmy, interpretujące wypowiedzi różnych użytkowników Sieci.

Łatwo napisać, trudniej zrobić. Nie dość, że termin „troll” wydaje się bardzo często nadużywany, to jak, wśród milionów wypowiedzi wyłonić te, które wskazują na niecne intencje ich autorów? Do pracy nad tym problemem zaproszono zespoły z Cornell University i Uniwersytetu Stanforda, które - dzięki wsparciu Google’a – rozpoczęły prace nad automatycznym wykrywaniem trollowania.

Pomogła w tym analiza komentarzy z trzech serwisów: CNN.com z newsami, Breitbart.com z informacjami politycznymi i IGN.com, poświęconego elektronicznej rozrywce. W sumie prześledzono wypowiedzi 1,7 mln użytkowników i około 40 mln komentarzy. Część komentujących pod artykułami była banowana za zachowania antyspołeczne i trolling. Wyodrębniono w ten sposób grupę 10 tys. trolli, których komentarze nadal były przechowywane przez każdy z serwisów.

Dysponując listą zbanowanych osób i wykazem ich wypowiedzi wystarczyło poszukać wśród nich jakichś prawidłowości. Okazało się, że trolle zachowują się w dość charakterystyczny, zgodny ze wzorcem sposób. Na czym polegał ten wzorzec? Wypowiedzi trolli zawierały m.in. mniejszą niż reszta liczbę słów nacechowanych pozytywnie, mniej pojednawczych stwierdzeń typu „przypuszczam” czy „może”, a także koncentrowały się na niewielkiej liczbie tematów.

Ogólnie rzecz biorąc jest to – mniej więcej – zgodne z tym, co na temat trolli ustalono już dawno: gdy ktoś jest życiowym frustratem, wyżywa się w Sieci. Brzmi to trochę jak banały rodem z twórczości Paulo Coelho, ale opracowany na podstawie takich wskazówek algorytm okazał się zaskakująco skuteczny. Na podstawie 5-10 wypowiedzi był w stanie przewidzieć, czy dana osoba dostanie bana za trollowanie, a na dodatek robił to z 80-procentową trafnością.

20 procent błędnych wskazań to nadal całkiem dużo, ale na razie zadaniem algorytmu jest wspieranie żywych moderatorów i wskazywanie im osób, które mogą być potencjalnymi trollami. Ostateczna decyzja w tej kwestii należy jednak ciągle do człowieka.

Warto przy tym spojrzeć na całą sprawę z nieco szerszej perspektywy. Google po raz kolejny poświęca uwagę przewidywaniu ludzkich zachowań, zanim w ogóle będą miały miejsce. Gdy dorzucimy do tego np. zbieranie informacji, pozwalające chronić nas przed niechcianymi spoilerami w Internecie, otrzymujemy obraz konsekwentnych i coraz bliższych szczęśliwego finału prac, za sprawą których Google zmienia się w cyfrową wróżkę, dysponująca możliwością zaglądania w przyszłość.

Tym samym nadchodzą – być może – ciężkie czasy dla internetowych trolli: moderatorzy dostali narzędzie, pozwalające na szybkie wyławianie ich spośród rzeszy pozostałych użytkowników, zanim na dobre zaczną działać i zatruwać innym życie swoimi prowokacjami.

Z jednej strony to bardzo dobrze, ale z drugiej czy nie kojarzy się Wam to z jakąś formą cenzury prewencyjnej, albo raczej wstępem do niej? Nie jest moim celem oskarżanie o nią Google’a – chodzi mi raczej o zwrócenie uwagi na to, że opisywane narzędzie może przecież być używane do różnych celów. A może po prostu jestem przewrażliwiony?

W artykule wykorzystałem informacje z serwisow Digital Trends, Naked Security i Wired.