“Velika količina mržnje koju smo identificirali na društvenim mrežama jasno pokazuje da EU, države članice i internetske platforme mogu pojačati svoje napore u stvaranju sigurnijeg internetskog prostora za sve, poštujući ljudska prava, uključujući slobodu izražavanja. Neprihvatljivo je napadati ljude na internetu samo zbog njihova spola, boje kože ili vjere”, kaže direktor FRA Michael O’Flaherty.

Izvještaj o moderiranju online sadržaja bavi se izazovima otkrivanja i uklanjanja govora mržnje s društvenih mreža.

U izvještaju se ističe da ne postoji zajednički dogovorena definicija govora mržnje na mreži (online). Sustavi za moderiranje online sadržaja također nisu otvoreni za pristup i nadzor istraživača, a što otežava dobivanje pune slike o razmjerima mržnje na internetu i otežava napore da se s njom uhvati u koštac.

Analiza objava i komentara objavljenih na platformama društvenih mreža između siječnja i lipnja 2022. godine ukazuje na:

• Mržnja na internetu je široko rasprostranjena - od 1500 objava koje su pregledali AI alati za moderiranje sadržaja, više od polovice (53%) ljudski programeri smatraju mržnjom.
• Mizoginija čini većinu govora mržnje na internetu - žene su glavne mete mržnje na internetu na svim platformama i u svim državama u kojima je provedeno istraživanje. Većina govora mržnje protiv žena uključuje upotrebu uvredljivog jezika, uznemiravanje i poticanje na seksualno nasilje.
• Mržnja na internetu koristi negativne stereotipe – najčešće mete negativnog stereotipiziranja su osobe afričkog podrijetla, Romi i Židovi.
• Uznemiravanje – gotovo polovica (47%) svih mrzilačkih objava su izravno uznemiravanje osoba.

Kako bi se učinkovito borili protiv  mržnje na internetu, EU i platforme bi trebale:

• Omogućite sigurniji prostor na internetu za sve – kako bi spriječile mržnju na internetu, platforme bi trebale obratiti posebnu pozornost prilikom moderiranja i praćenja sadržaja na zaštićene karakteristike kao što su spol i etnička pripadnost. Vrlo velike internetske platforme, primjerice X (bivši Twitter) ili YouTube, trebale bi uključiti mizoginiju u izradu procjene rizika i mjere za smanjenje učinaka opasnosti prema Zakonu o digitalnim uslugama (DSA). Sve države članice EU također bi trebale ratificirati Istanbulsku konvenciju kako bi bolje zaštitile žene na internetu.
• Osigurati više smjernica za prepoznavanje govora mržnje – nije uvijek jasno što se smatra govorom mržnje, a što je zaštićeno slobodom govora. EU i nacionalna regulatorna tijela trebala bi dati više smjernica o prepoznavanju nezakonitog govora mržnje na internetu.
• Zabilježiti sve oblike mržnje na internetu – kako bi se osiguralo prepoznavanje različitih vrsta mržnje na internetu, Europska komisija i nacionalne vlade trebale bi organizirati i financirati mrežu pouzdanih prijavitelja (trusted flaggers), a koja uključuje i civilno društvo. Policija, moderatori sadržaja i prijavitelji trebaju biti odgovarajuće obučeni kako bi se osiguralo da platforme ne propuste ukloniti ili pak da prekomjerno ne uklanjaju sadržaj.
• Testirati tehnologiju na pristranost - pružatelji usluga i korisnici automatiziranih alata za moderiranje sadržaja trebali bi testirati tehnologiju koju koriste na pristranost, a kako bi zaštitili ljude od diskriminacije. Ova preporuka je već istaknuta u prethodnom izvještaju Agencije EU za temeljna prava o pristranosti u korištenju umjetne inteligencije.
• Osigurati pristup podacima za neovisno istraživanje – Europska komisija treba osigurati da se procjene rizika koje provode platforme u okviru Zakona o digitalnim uslugama nadopune neovisnim istraživanjima. Različiti pristupi, ispitivanja i mjerenja pružit će potpunu sliku o tome koja vrsta mržnje nije ispravno identificirana i uklonjena te kakav to ima utjecaj na temeljna prava.

Ovaj izvještaj obuhvaća četiri društvene mreže (Reddit, Telegram, X i YouTube) u Bugarskoj, Njemačkoj, Italiji i Švedskoj. Za ovo istraživanje, Agencija nije mogla pristupiti podacima s Facebooka i Instagrama.

Između siječnja i lipnja 2022. godine Agencija je prikupila gotovo 350 000 objava i komentara na temelju određenih ključnih riječi. Programeri su procijenili oko 400 nasumičnih objava iz svake zemlje kako bi utvrdili sadrže li te objave mržnju, a 40 nasumičnih objava su zatim detaljnije ocijenili i pravni stručnjaci. Ovaj izvještaj prikazuje različite vrste govora mržnje u pojedinim zemljama, skupinama prema kojima je takav govor usmjeren i platformama na kojima se nalazi.

 

Centar za mirovne studije je dio multidisciplinarne istraživačke mreže FRANET Agencije za temeljna prava zajedno s organizacijama BaBe - Budi aktivna. Budi emancipiran. i Kućom ljudskih prava Zagreb od 2014. godine.