Muskův chatbot Grok se vymkl kontrole. Velebil Hitlera a psal antisemitské příspěvky
Americká technologická společnost xAI miliardáře Elona Muska musela smazat nevhodné zprávy, které v interakcích s uživateli na sociální síti X vygeneroval její chatbot s prvky umělé inteligence Grok. Podle médií a uživatelů šlo například o oslavování vůdce nacistického Německa Adolfa Hitlera nebo o antisemitismus.
Chatbot také urážel polské politiky, tureckého prezidenta Recepa Tayyipa Erdogana, jeho zesnulou matku a zakladatele moderního tureckého státu Mustafu Kemala Atatürka.
Chatbot v některých případech spontánně vkládal antisemitské poznámky do odpovědí bez zjevného vyzvání a mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu, uvedl server NBC News.
Reakce vyvolala mimo jiné odpověď Groka na snímek údajně zobrazující osobu, jak slaví smrt bělošských dětí při povodních v Texasu, kde chatbot použil antisemitské stereotypy a komentáře typu: „Každý ví, jak to chodí s tím příjmením.“
Při otázce na vyjasnění dodal: „Lidé s příjmeními jako Steinberg (často Židé) se stále objevují v extrémně levicovém aktivismu, zejména v tom protibělošském. Ne pokaždé, ale dost na to, aby to vzbudilo pozornost. Pravda je podivuhodnější než fikce, že?“
Grok sám sebe dokonce v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D. V dalších interakcích šířil antisemitské stereotypy a citoval známé židovské osobnosti v souvislosti s konspiračními teoriemi.
Incident se odehrál jen několik dní poté, co společnost xAI představila aktualizovanou verzi Groku. Musk v té době slíbil méně takzvaně woke odpovědí a uživatelé měli očekávat odlišný tón interakcí. Woke je výraz používaný často pro různé aspekty filozofie sociální spravedlnosti a protidiskriminační nebo sociálně-liberální politiky. Republikáni a jim naklonění komentátoři termín často používají pejorativně.
Společnost později přiznala, že příspěvky byly nevhodné, a oznámila, že přijala opatření, která mají zabránit publikování nenávistných výroků. Některé příspěvky ale podle médií na síti X zůstaly i poté. Na incident reagovala i Liga proti hanobení, která označila výroky Groka za nezodpovědné, nebezpečné a jasně antisemitské. Její mluvčí dodal, že společnosti vytvářející modely generativní AI, jako je Grok, by měly spolupracovat s odborníky na extremistickou rétoriku a kódovaný jazyk, aby podobným výstupům zabránily.
NBC News připomněla, že Musk v minulosti čelil několika obviněním z antisemitismu, včetně podpory konspiračních teorií o židovském vlivu nebo gesta při projevu na inauguraci Donalda Trumpa, které se nápadně podobalo nacistickému pozdravu.
Polsko ve středu informovalo, že bude po Evropské komisi požadovat vyšetřování chatbota. Turecký soud mezitím nařídil, aby přístup ke Grokovi byl v této zemi zakázán, uvedla agentura AP a další média.
Podle tureckého státního zastupitelství urážky ohrožují veřejný pořádek a jsou postihnutelné trestem až čtyř let vězení. Soud nařídil tureckému telekomunikačnímu úřadu, aby zákaz přístupu k chatbotu Grok prosadil. Turecké úřady identifikovaly přibližně padesát odpovědí, které vedly k vyšetřování a následnému zákazu, uvedl podle agentury Reuters expert na kybernetiku Yaman Akdeniz.
Žádost Polska o prošetření Groka v Evropské unii ve středu zmínil ministr pro digitalizaci Krzysztof Gawkowski v rozhovoru na rozhlasové stanici RMF FM. „Mám dojem, že vstupujeme na vyšší úroveň nenávistných projevů, které jsou řízeny algoritmy, a že zavírat před tím oči nebo to dnes ignorovat… je chyba, která může lidstvo v budoucnu stát život,“ řekl podle Reuters.
„Ministerstvo pro digitalizaci bude reagovat v souladu s platnými předpisy, porušení předpisů nahlásíme Evropské komisi, aby je prošetřila a případně společnosti X uložila pokutu. Svoboda projevu patří lidem, ne umělé inteligenci,“ dodal Gawkowski.
Turecko v posledních letech značně zvýšilo dohled nad sociálními médii a streamovacími službami. Přijalo také zákony, které úřadům dávají větší kontrolu nad obsahem na těchto platformách. V některých případech úřady omezují či blokují přístup k internetovým službám a stránkám.
Na jaře irská Komise pro ochranu dat zahájila vyšetřování Muskovy sociální sítě X kvůli využívání údajů získaných od uživatelů z Evropské unie k trénování Groka. Komise přezkoumává, zda postup sítě X neporušuje pravidla Evropské unie o ochraně osobních údajů.
Musk síť X koupil v roce 2022, kdy ještě působila pod názvem Twitter. Síť následně prošla rozsáhlými změnami, které kromě přejmenování zahrnovaly také propuštění většiny zaměstnanců a uvolnění pravidel pro regulaci obsahu.
Letos v březnu Musk oznámil, že kontrolu nad sítí X převzal jeho startup pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Převzetí sítě X by mu mohlo usnadnit trénování Groka. Jedním z Muskových projektů bylo integrování chatbotu do sítě X, což umožňuje uživatelům jej povolat na pomoc v běžných veřejných konverzacích. Například když chtějí ověřit, zda je výrok jiného uživatele pravdivý nebo když mu chtějí dodat kontext.
The post Muskův chatbot Grok se vymkl kontrole. Velebil Hitlera a psal antisemitské příspěvky appeared first on Forbes.