Sporne sadržaje na društvenim mrežama uklanjaju fektčekeri i veštačka inteligencija

Sve velike internet kompanije imaju politike koje određeni sadržaj prepoznaju kao podoban ili nepodoban, kaže za Radio Slobodna Evropa (RSE) Andrej Petrovski, istraživač u "SHARE fondaciji" koja se bavi unapređenjem ljudskih prava i sloboda na internetu.

On tako komentariše najave velikih internet kompanija da će sa svojih platformi uklanjati sadržaje u kojima se negira genocid u Srebrenici, što su 11. avgusta za RSE potvrdile kompanije Tviter (Twitter) i Gugl (Google).

Inicijativa je potekla od Instituta za istraživanje genocida Kanada (IGK), koji vodi evidenciju o sadržajima na društvenim mrežama. Prema njihovim podacima, najviše objava u kojima se vređaju žrtve srebreničkog genocida iz 1995. godine dolazi iz Srbije ali da ima i iz Rusije, Francuske i drugih država.

Petrovski kaže da su kompanije Tviter i Gugl potvrdile da već sprovode politiku uklanjanja sadržaja u kojem postoje elementi govora mržnje i da će to nastaviti i kada je reč o negiranju genocida u Srebrenici.

"Kad pričamo o tehničkoj implementaciji toga, oni se već neko vreme hvale da veštačka inteligencija koju koriste za moderaciju sadržaja u najvećem broju ukloni sporne sadržaje. Oni takođe imaju i takozvane fektčekere (eng. fact checker), dakle zaposlene koji uklanjaju taj sadržaj koji je prijavljen ili detektovan kao sporan iz nekog ugla", objašnjava Petrovski.

On naglašava da ti sistemi nisu u potpunosti efikasni, naročito kada se sadržaji plasiraju na jezicima koji u tržišnom smislu nisu dominantni. Bez obzira na to o kojoj temi je reč, dodaje Petrovski, kompanije posmatraju regione kao tržišta. Što je više korisnika to je tržište atraktivnije.

"Balkan, odnosno ovo govorno područje, jeste malo u odnosu na druga tržišta, poput nemačkog ili francuskog. Samim tim, i kad je moderacija sadržaja u pitanju, to znači da će se u ovom regionu verovatno izazovnije sprovoditi, odnosno da će zahtevati da ove kompanije investiraju u nešto u šta do sada nisu toliko", smatra Petrovski.

Koji su dometi veštačke inteligencije?

Velike kompanije koje vode platforme na društvenim mrežama su tokom pandemije korona virusa mnogo intenzivnije počele da koriste veštačku inteligenciju (AI od eng. artificial intelligence) u moderaciji sadržaja.

U tekstu iz oktobra prošle godine, portal Politico piše da su kompanije Fejsbuk (Facebook) i Gugl gotovo udvostručile broj uklonjenog sadržaja, koji je označen kao potencijalno opasan, u drugoj polovini 2020. u poređenju sa prva tri meseca iste godine.

Kako piše ovaj portal, ove kompanije su pre izbijanja pandemije imale više od 30.000 ljudi – često nisko plaćenih radnika u mestima poput Berlina i Ostina u Teksasu – koji su satima pretraživali sporne materijale koji se mogu pronaći na najvećim svetskim društvenim mrežama.

Međutim, kako navodi Politico, veštačkoj inteligenciji koja koristi algoritme za detekciju problematičnog sadržaja, je na mrežama promaklo mnogo sumnjivih postova. U Francuskoj su borci protiv rasizma i antisemitizma primetili da je govor mržnje porastao za više od 40 odsto, kao i da je manje od 12 posto tih postova uklonjeno.

"Najveća uloga veštačke inteligencije iz ugla kompanija jeste da one prikažu da nešto rade po pitanju uklanjanja spornih sadržaja sa interneta. Ne kažem da to nije efikasan način – veći procenat jeste uklonjen algoritmima – ali to ne znači da su sve ove kompanije rešile problem sa postojanjem spornih sadržaja na svojim platformama", kaže Andrej Petrovski.​

Google i etika - otpuštanja istraživačica za etiku vještačke inteligencije

Krivokapić: Što ne plaćamo novcem, plaćamo podacima

Ana Toskić Cvetinović, izvršna direktorka organizacije Partneri za demokratske promene Srbije, ocenjuje za RSE da u moderaciji sadržaja na internetu mora postojati sinergija ljudske procene i veštačke inteligencije, te naglašava da nije dovoljno samo poznavanje lokalnog jezika.

"Poznavanje konteksta je neophodno da bi mogla da se napravi dobra procena za prepoznavanje nekog nedozvoljenog ponašanja. Recimo, ako se radi o nekim sadržajima koji podrazumevaju samo fotografije ili slike, da li je dovoljno samo prepoznati fotografiju i pročitati samo sadržaj nekog tvita ili posta ili su potrebne dodatne informacije da bi se zaključilo da li se radi o nedozvoljenom ponašanju", kaže Toskić Cvetinović.

Potrebno i korisno

Ona je ocenila i da na internetu ne bi trebalo da bude dozvoljeno ništa što nije dozvoljeno i u stvarnom životu.

Toskić Cvetinović, čija organizacija se, između ostalog, bavi unapređenjem vladavine prava, smatra da ovaj potez velikih kompanija može samo u izvesnoj meri da smanji prisutnost govora mržnje u onlajn prostoru Zapadnog Balkana, ali dodaje da to neće rešiti uzroke.

"Po mom mišljenju, ovakve politike su potrebne i korisne. One funkcionišu na društvenim mrežama, jer one zapravo primenjuju svoja pravila uređivanja sadržaja a ne propise nacionalnih pravnih sistema, ali bez šire društvene akcije i edukacije korisnika, mislim da se tu samo ‘gase požari’, dakle da ovim nećemo rešiti uzrok i da će oni koji su skloni širenju takvih poruka i ideja naći kanal da ih prošire", kaže Toskić Cvetinović.

Osim edukacije prvenstveno mladih korisnika interneta, sagovornica RSE smatra da je neophodno i da pravni sistem Srbije sankcioniše ispade na društvenim mrežama.

"Dakle, da zaista pokažemo i da naš pravni sistem kažnjava one koji pozivaju na raspirivanje mržnje, nacionalne i verske netrpeljivosti. To je posebno važno u onim situacijama kada takve vrste poziva dovedu do nekih konkretnih napada. Ta vrsta kažnjivosti ovde nedostaje da bi mogla da se pošalje poruka da mora postojati odgovornost za izgovorenu reč", smatra Ana Toskić Cvetinović.

Šta kaže zakon u Srbiji?

Krivični zakonik Srbije previđa kazne od pet meseci do šest godina zatvora za sve one koji "negiraju, minimiziraju i opravdavaju genocid i ratne zločine".

Međutim, te odredbe se odnose na pravosnažne presude sudova u Srbiji i Međunarodnog krivičnog suda u Hagu, ali ne i na presude Međunarodnog suda pravde i Haškog tribunala koji su odlučivali o genocidu u Srebrenici.

To znači da oni koji negiraju genocid na području bivše SFRJ (Socijalistička Federativa Republika Jugoslavija), a koji je potvrđen presudama u Hagu, u Srbiji ne mogu biti kažnjeni.

Internet se doživljava kao prostor slobode i to tako treba da ostane, ali je potrebno napraviti paralelu između onlajn prostora i realnog života, smatra Ana Toskić Cvetinović.

"Međutim, problem je što dosta onoga što se radi na internetu nije regulisano nacionalnim propisima, već to internet platforme regulišu u svojim sistemima. To je jako osetljivo pitanje. Ne treba ići u prevelike restrikcije zbog gušenja slobode govora, ali uvek treba napraviti paralelu sa onim što je nedozvoljeno u oflajn svetu", kaže Toskić.

Šta piše u politici kompanija?

Kompanije Tviter, Fejsbuk (Facebook) i Gugl izričito zabranjuju u svojim politikama korišćenja promociju nasilja i slanje pretnji drugim ljudima na osnovu "zaštićenih karakteristika".

Fejsbuk, nakon prijave koja dođe od dugih korisnika, uzima u obzir svoja pravila, kako bi izrekao upozorenje, a zatim zabranu korišćenja ove društvene mreže.

Korisnik ima pravo žalbe.

Kompanija Tviter zabranjuje "ciljanje pojedinaca ili grupa sadržajem koji se odnosi na oblike nasilja ili nasilne događaje gde je zaštićena kategorija bila primarna meta ili žrtva".

"Ovo uključuje, ali nije ograničeno na medije ili tekst koji se odnosi na ili prikazuje genocide (npr. Holokaust) i linč", navodi Tviter.

Tviter, za ponovljene prekršaje ovih politika, predviđa zabranu naloga i uklanjanje sa mreže.

Prema pravilima Jutjuba, osim širenja mržnje i nasilja na osnovu "zaštićenih karakteristika", zabranjena je i dehumanizaciju pojedinaca, kao jedan od oblika govora mržnje.

Kako stoji u Jutjub pravilima, zabranjena je upotreba rasnih, verskih ili drugih uvreda i stereotipa koji izazivaju ili promovišu mržnju na osnovu bilo kog od gore navedenih atributa.

Jutjub može ukinuti kanal ili nalog zbog ponovljenih kršenja smernica zajednice ili uslova korišćenja usluge.

Gugl, u čijem vlasništvu je platforma Jutjub, u svojim pravilima protiv širenja govora mržnje navodi da su njihovi proizvodi i platforme za slobodno izražavanje, a da se ne dozvoljava širenje govora mržnje.

Kako se dodaje, ako Gugl pronađe sadržaj koji širi mržnju na nekoj od svojih platformi, kazna je, kao prvo – potencijalno uklanjanje tog sadržaja, a ukoliko korisnik nastavi da širi govor mržnje – ukidanje naloga.

"Takođe možemo napraviti izuzetke od ovih smernica na osnovu umetničkih, obrazovnih, istorijskih, dokumentarnih ili naučnih razmatranja ili tamo gde postoje druge značajne koristi za javnost", stoji u pravilima Gugla.

Tviter, Gugl i Fejsbuk su sa Kanadskim centrom za izraelska i jevrejska pitanja (Centre for Israel and Jewish Affairs) potpisali jula ove godine dokument u kojem se obavezali na zaustavljanje širenja mržnje prema Jevrejima kroz svoje platforme.

Reakcije u beogradskim medijima

Vest da će Tviter i Gugl uklanjati sporne sadržaje u delu medija u Srbiji propraćena je kao napad na slobodu govora.

Poslanik vladajuće Srpske napredne stranke (SNS) Vladimir Đukanović je, povodom najave velikih internet kompanija, na društvenoj mreži TikTok izjavio da je "uznemiren" i ocenio da je to "diktatorska odluka".

Đukanovićev stav da srpske snage u Srebrenici nisu počinile genocid, uprkos presudama međunarodnih sudova, dele i drugi zvaničnici Srbije.

Tokom genocida u Srebrenici u julu 1995. godine snage Vojske Republike Srpske ubile oko 8.000 muškaraca i dečaka u Srebrenici i okolini.

Uz presudu Međunarodnog suda pravde u Hagu iz februara 2007. godine kojom je potvrđeno da se u Srebrenici dogodio genocid, Međunarodni krivični sud za bivšu Jugoslaviju osudio je 14 bivših pripadnika vojske i policije Republike Srpske.

Među osuđenima, najveće kazne, doživotni zatvor, određene su za Radovana Karadžića, nekadašnjeg predsednika Republike Srpske i Ratka Mladića, bivšeg komandanta Vojske Republike Srpske.