Nástroj propagandy: Umelá inteligencia tvorila falošné fotky a videá z vojny v Gaze

Medzi zábermi rozbombardovaných domov a spustošených ulíc Pásma Gazy vynikali niektoré absolútnou hrôzou: skrvavené a opustené bábätká. Tieto snímky, ktoré boli od začiatku vojny na internete zobrazené miliónkrát, sú podvrhy vytvorené pomocou umelej inteligencie.

Ak sa pozriete pozorne, môžete si všimnúť vodítok: čudne skrútených prstov alebo očí, ktoré sa lesknú neprirodzeným svetlom, to všetko sú poznávacie znamenie digitálneho podvodu. Rozhorčenie, ktoré mali fotografie vyvolať, je však až príliš reálne, napísala agentúra AP.

Nástroj propagandy

Snímky z vojny medzi Izraelom a Hamasom názorne a bolestivo ukázali potenciál umelej inteligencie ako nástroja propagandy, ktorý sa používa na vytváranie realistických obrazov krviprelievania.

"Bude horšie, oveľa horšie, ako bude lepšie," povedal Jean-Claude Goldenstein, generálny riaditeľ technologickej spoločnosti CREOpoint so sídlom v San Francisku a Paríži, ktorá využíva umelú inteligenciu na overovanie tvrdení na internete. "Obrázky, videá a zvuky: S generatívnou AI to bude eskalácia, akú ste ešte nevideli," dodal.

V niektorých prípadoch boli fotografie z iných konfliktov alebo katastrof znovu použité a vydávané za nové. V iných boli programy generatívnej umelej inteligencie použité na vytvorenie snímok od základu alebo na zhotovenie videí ukazujúcich údajné izraelské raketové údery, tanky prechádzajúce zničenými štvrťami alebo rodiny, ktoré v sutinách hľadajú preživších.

V mnohých prípadoch sa zdá, že tieto podvrhy majú vyvolať silnú emocionálnu reakciu tým, že obsahujú dojčatá, deti alebo rodiny.

Obavy u ľudí

Propagandisti, ktorí takéto snímky vytvárajú, sú vycvičení cielene pôsobiť na najhlbšie pudy a obavy ľudí, uviedol Imran Ahmed, generálny riaditeľ Centra pre boj proti digitálnej nenávisti, neziskovej organizácie, ktorá sleduje dezinformácie z vojny.

Či už ide o deepfake dieťaťa, alebo o skutočný obrázok bábätka z iného konfliktu, emocionálny dopad na diváka je rovnaký.

Čím je obrázok odpornejší, tým je pravdepodobnejšie, že si ho užívateľ zapamätá a bude ho zdieľať, čím nevedomky šíri dezinformáciu ďalej.

Podobne klamlivý obsah generovaný pomocou umelej inteligencie sa začal šíriť po ruskej invázii na Ukrajinu v roku 2022. Jedno zmenené video vyzeralo, že ukazuje ukrajinského prezidenta Volodymyra Zelenského, ako nariaďuje Ukrajincom, aby sa vzdali. Takéto tvrdenia sa šírili naposledy ešte minulý týždeň, čo ukazuje, aké vytrvalé môžu byť aj ľahko vyvrátiteľné dezinformácie.

Každý nový konflikt alebo volebné obdobie poskytuje šíriteľom dezinformácií nové príležitosti na demonštráciu najnovších pokrokov umelej inteligencie.

To núti mnohých odborníkov na AI a politológov varovať pred rizikami v budúcom roku, keď sa vo viacerých krajinách konajú významné voľby, vrátane USA, Indie, Pakistanu, Ukrajiny, Taiwanu, Indonézie a Mexika.

Rozpoznanie deepfake obrázkov

Po celom svete pracuje množstvo začínajúcich technologických firiem na nových programoch, ktoré dokážu rozpoznať deepfakes, pripojiť vodoznaky k obrázkom, aby preukázali ich pôvod, alebo skenovať text, aby overili prípadné nepravdivé tvrdenia, ktoré mohli byť vložené umelou inteligenciou.

"Ďalšia vlna umelej inteligencie bude: Ako môžeme overiť obsah, ktorý je tam vonku. Ako možno odhaliť dezinformácie, ako analyzovať text, aby sme zistili, či je dôveryhodný? "povedala Maria Amelieová, spoluzakladateľka nórskej spoločnosti Factiverse. Tá vytvorila program AI, ktorý dokáže skenovať obsah a hľadať v ňom nepresnosti alebo skreslenia vnesené inými programami umelej inteligencie.

Takéto programy by boli bezprostredne zaujímavé pre pedagógov, novinárov, finančných analytikov a ďalších záujemcov o vyvracanie neprávd, plagiátov alebo podvodov. Podobné programy sú vyvíjané tiež na odhaľovanie sfalšovaných fotografií alebo videí.

Podľa Davida Doermanna, počítačového vedca, ktorý viedol snahu výskumnej agentúry amerického ministerstva obrany DARPA reagovať na hrozby pre národnú bezpečnosť, ktoré predstavujú obrázky zmanipulované umelou inteligenciou, je táto technológia sľubná. Tí, ktorí AI využívajú na klamstvo, sú ale podľa neho často o krok napred.

Doermann, ktorý teraz pôsobí ako profesor na univerzite v Buffale, uviedol, že účinná reakcia na politické a spoločenské výzvy, ktoré dezinformácie umelej inteligencie predstavujú, bude vyžadovať lepšie technológie, lepšie predpisy, dobrovoľné priemyselné štandardy a rozsiahle investície do programov digitálnej gramotnosti, ktoré pomôžu užívateľom internetu zistiť, ako rozlíšiť pravdu od fantázie.