Articolele de știri ale Yahoo au o mulțime de comentarii neplăcute, la fel ca restul internetului, astfel încât echipa Yahoo a decis să folosească secțiunea de comentarii pentru a dezvolta un algoritm care ar putea identifica cu succes cei mai răi infractori. Al lor nou algoritm de detectare a abuzurilor funcționează 90 la sută din timp, ceea ce spun ei că o face mai eficientă decât încercările altor organizații de a face fapte similare și descrisă ca un pas major înainte în domeniu. 90 la sută face sun destul de bine, recunosc.
Cu fir raportează că Yahoo lansează, de asemenea, prima bază de date curată disponibilă public cu discursuri de ură online ca parte a proiectului lor de combatere a abuzurilor. Aceasta înseamnă că alte site-uri vor putea folosi baza de date Yahoo cu comentarii pentru a-și concepe propriii algoritmi. Algoritmul Yahoo a fost dezvoltat pe baza învățării automate și, de asemenea, pe datele raportate de utilizator despre secțiunile lor de comentarii.
Cea mai dificilă parte a oricărui algoritm de moderare a comentariilor este tratarea pozitivelor false. Mulți algoritmi de detectare a abuzurilor caută cuvinte sau fraze specifice, cum ar fi insultele sau insultele obișnuite, și semnalează automat comentariile pentru moderare. Cu toate acestea, acest lucru duce la semnalarea comentariilor chiar dacă fac trimitere la o insultă în contextul spunerii că nu este adecvat, de exemplu, sau dacă comentariul este o imitație sarcastică a unui troll. Se pare că algoritmul Yahoo poate detecta anumite tipare de vorbire și este conceput pentru a putea face diferența dintre sarcasmul glumeț și abuzul real. (Desigur, dacă comentariul tău hilar nu se distinge de abuzul real, atunci sunt destul de sigur că algoritmul îl va semnaliza în continuare, dar nu pot spune cu siguranță cum funcționează acea parte a AI.)
Yahoo a apelat la moderatori de comentarii instruiți pentru a ajuta la perfecționarea algoritmului și, de asemenea, au plătit niște moderatori neantrenați și au descoperit că moderatorii instruiți au fost mult mai buni în a afla care sunt comentariile potrivite (un fel de neintenționat, dar hei). Pe parcursul creării AI, Yahoo a constatat că activitatea acestor moderatori umani instruiți a fost esențială pentru menținerea eficacității algoritmului și perfecționarea tehnicilor sale de detectare.
Desigur, algoritmii au încă părtiniri , ceea ce ar necesita o echipă (sperăm că diversă) de moderatori umani să continue să repete metodologiile utilizate pentru clasificarea comentariilor. Pare o treabă grea, dar cel puțin Yahoo înțelege acum importanța instruirii și a valorii rolurilor atât ale moderatorilor umani bine pregătiți, cât și ale noului lor coleg AI.
Legenda lui Korra sezonul unu
(prin intermediul Următorul web , imagine via Michael Cordedda / Flickr )
