AI ili Miloš Medenica? Kada svaka slika može biti laž

Prvo je nestao iz kućnog nadzora, a onda se dan kasnije pojavio na videu na društvenim mrežama. Uprkos saopštenju policije i dalje se postavlja pitanje da li je osoba na snimku zaista Miloš Medenica, u Crnoj Gori osuđen za organiziranje kriminalne grupe, ili se radi o proizvodu umjetne inteligencije.

"Najpošteniji odgovor je da javnost zasad nema dokaz da je to stvarni Medenica, ali nema ni javno prezentovan forenzički dokaz koji bi definitivno zatvorio priču da je sve AI," kaže za Radio Slobodna Evropa (RSE) Snežana Nikičević iz crnogorske nevladine organizacije 35mm koja se bavi promocijom univerzalnih demokratskih vrijednosti.

Miloš Medenica je 28. januara prvostepeno osuđen na više od deset godina zatvora za organizovani kriminal, krijumčarenje i protivzakonit uticaj. Njegova majka Vesna Medenica, bivša predsjednica Vrhovnog suda, takođe je osuđena na deset godina zatvora.

Dok je njegovoj majci nakon objavljivanja presude oduzet pasoš i produžena mera zabrane napuštanja boravišta, Medenici, koji je bio pod mjerom zabrane napuštanja stana, određen je pritvor zbog opasnosti od bijega. Umesto odlaska u pritvor, Medenica je krajem januara postao nedostupan javnosti.

Za njim je u međuvremenu raspisana i Interpolova poternica, a njegova majka je poslana u privor, što je Apelacioni sud 23. marta potvrdio odbijanjem žalbe uložene na odluku o pritvoru.

A onda je 1. februara na platformi X objavljen prvi video. Ubrzo nakon objave policija je saopštila da se radi o manipulativnom sadržaju koji sadrži "obmanjujuće informacije usmjerene na narušavanje profesionalnog kredibiliteta i ugleda menadžmenta Ministarstva unutrašnjih poslova i Uprave policije.

"Riječ je o video-zapisu na kojem je navodno odbjegli Miloš Medenica, a koji je sintetički generisan, odnosno izrađen korišćenjem alata zasnovanih na vještačkoj inteligenciji, sa ciljem stvaranja lažne predstave i dovođenja javnosti u zabludu."

U jednom od prvih videa navodni Medenica kaže da će se "oglašavati svakoga dana dok me ne uhapse ili dok ne demantuju da sam bot."

Skoro dva mjeseca kasnije video objave se nastavljaju, osoba sa snimaka se javlja u program jedne televizijske emisije, policija u drugoj emisiji pokazuje na koji način se može zloupotrijebiti snimak uz pomoć umjetne inteligencije, dok je Miloš Medenica i dalje u bijegu.

Snežana Nikičević, koja je i ambasadorica Ethical AI Alliance za Zapadni Balkan, kaže da je dodatni problem kada su u pitanju video snimci to što se radi o osobi koja je u bjekstvu zbog čega je cijela situacija osjetljivija i podložnija manipulacijama.

Dodaje i da bez originalnog snimka i "ozbiljne forenzičke analize" nema načina da se pouzdano utvrdi da li je to "on ili AI, bez obzira koliko uvjerljivo djelovalo."

"A kad se to spoji sa već ozbiljno narušenim povjerenjem u sektor bezbjednosti i konstantnih međusobnih optužbi unutar sistema, potpuno je očekivano da građani ne vjeruju ni jednoj verziji priče," dodaje Nikičević.

Ranija istraživanja crnogorskog Centra za građansko obrazovanje pokazala su da da 75,3 posto ispitanih smatra crnogorsko društvo koruptivnim. Kao glavne krivce navode sistem (23,9 posto), političare (23,6 posto), pravosuđe i policiju (po 15,3 posto).

Mogućnost da video koji gledamo ne predstavlja stvarnu osobu nego takozvani "deepfake" materijal napravljen uz pomoć alata umjetne inteligencije samo dodatno produbljuje nepovjerenje između građana i institucija.

I iz Europola su u ranijoj publikaciji naveli da u vrijeme kada nepovjerenje u institucije raste, "deepfake" i manipulirani snimci mogu biti korišteni da se negativno utiče na mišljenje javnosti.

"Uticaj takvih slika i snimaka ne treba potcijeniti", navode iz Europola.

Dalje pojašnjavaju kako "deepfake" tehnologija može proizvesti materijal u kojem ubjedljivo pokazuje ljude kako govore ili rade stvari koje u stvarnosti nisu uradili.

"Njihov je cilj da pojačaju postojeće sukobe i rasprave, potkopaju povjerenje u državne institucije i potaknu ljutnju i emocije općenito. Erozija povjerenja vjerojatno će otežati policijski rad," navodi Europol.

Ministarstvo unutrašnjih poslova Crne Gore nije odgovorilo na upit RSE koliko im otežava samu potragu za Medenicom činjenica da moraju da provjeravaju da li su videa stvarna.

'Sve zavisi od kvaliteta manipulacije'Europol navodi da iako "deepfake" materijali mogu proizvesti veoma uvjerljiv sadržaj, ponekada postoje nedostaci koji se mogu vidjeti tokom detaljnog pregleda. Neki od primjera uključuju zamagljeno područje oko lica, manjak treptanja, nedosljednosti kada je u pitanju kosa, vene, ožiljci i slično.

Otkrivanje da li je neki video napravljen uz pomoć umjetne inteligencije ili ne zavisi od kvaliteta manipulacije pojašnjava Nikičević.

"Kod lošijih AI videa mogu se primijetiti greške u mimici, svjetlu, pokretima ili sinhronizaciji zvuka i slike. Ali kod naprednijih alata, posebno ako se koristi kombinacija stvarnog snimka i AI obrade, te razlike postaju vrlo suptilne," kaže Nikičević uz dodatak da ne postoji jednostavan test koji kaže da je nešto AI ili ne.

Kada je u pitanju sama legislatura, Evropska unija ima implementiran AI Act, sveobuhvatni zakon kojim se reguliše umjetna inteligencija. Crna Gora je na korak da postane članicom Unije, što znači da će trebati uskladiti svoje zakone sa pravnim nasljeđem bloka.

Nikičević pojašnjava da na papiru Crna Gora prati EU, radi na AI strategiji i usklađivanju zakona.

"U praksi stvari izgledaju dosta drugačije, na primjer, i dalje nemamo usvojen zakon o zaštiti podataka koji je u potpunosti usklađen sa GDPR-om (što je preduslov naše zaštite u digitalnom prostoru u kontekstu EU regulativa). Ovaj slučaj jasno ogoljava falinke sistema, posebno u sektoru bezbjednosti, nedostatak kapaciteta, manjak stručnosti za napredne tehnologije i prilično fragmentisan institucionalni odgovor."

Dodaje i da će implementacija biti problem, dijelom zbog generalnog nivoa digitalne pismenosti, dijelom zbog nedostatka stručnog kadra. "I generalno netransparentne i nedovoljno kontrolisane upotrebe AI tehnologija u praksi."

Prošlogodišnje istraživanje američkog Pew Centra o umjetnoj inteligenciji pokazalo je da je mnogo više ljudi zabrinuto zbog korištenja AI nego uzbuđeno.

Europol upozorava da je smanjenje povjerenja građana u vlast i medije jedna od nuspojava korištenja deepfake materijala za dezinformacije.

"Jedan od najštetnijih aspekata deepfake-a možda nije dezinformacija sama po sebi, već načelo da bilo koja informacija može biti lažna", navodi se u Europolovom izvještaju "Zlonamjerna upotreba i zloupotreba umjetne inteligencije".

U takvoj klimi na društvenim mrežama je objavljeno više od desetak videa sa likom Miloša Medenice, osobe koja je u bijegu nakon presude u kojoj je prvostepeno osuđena zbog stvaranja i vođenja kriminalne organizacije koja se bavila trgovinom narkotika, švercom cigareta, podmićivanjem i nedozvoljenim držanjem oružja.