YouTube vrací lidské kontrolory obsahu, umělá inteligence selhává
Populární internetová video platforma YouTube, patřící stejně jako vyhledávač Google společnosti Alphabet, navrátí více lidských kontrolních pracovníků pro závadný obsah. Kvůli koronavirovým omezením se společnost původně více spoléhala na umělou inteligence a i přesto, že při oznámení upozorňovala na větší počet možných chybných vyhodnocení, skutečná čísla vedení Youtube překvapila. Populární sociální síť navíc čelí obvinění z nedostatečných pracovních podmínek právě pro moderátory obsahu.
V březnu se kanceláře YouTube, stejně jako mnoho dalších společností, z velké části uzavřely. To vedlo k jednomu poměrně významnému kroku – při posuzování závadného obsahu se společnost rozhodla více spoléhat na umělou inteligenci. Kvůli citlivosti údajů, se kterými je při posuzování nakládáno, není možné tuto činnost vykonávat z jiného místa, než z konkrétních počítačů v kancelářích společnosti. Proto do práce docházela jen menší část moderátorů obsahu.
Umělá inteligence se měla zaměřovat hlavně na videa obsahující nenávistné projevy a dezinformace. V období mezi dubnem a červencem bylo ze serverů smazáno přes 11 milionů videí – což je dvojnásobek obvyklého objemu obsahu. To samotné poukazuje na fakt, že umělá inteligence přistupovala k obsahu přísněji, než tomu bylo u kontrolních pracovníků.
Z celkových 11 milionů stažených videí došlo k zákaznické podpoře YouTube 320 tisíc odvolání kvůli nesouhlasu se stažením obsahu. Polovině odvolání bylo následně, za lidské asistence, vyhověno. Umělá inteligence, nebo v současné době stále spíše technologie strojového učení, stále není na takové úrovni, aby pochopila kulturní rozdíly a odkazy. To pak může vést k neporozumění a přespříliš tvrdému přístupu k potenciálně závadnému obsahu.
Přesto však společnost považuje umělou inteligenci při kontrolování obsahu za důležitý nástroj. Na online platformy je totiž vytvářen čím dál větší tlak, aby zabránili šíření dezinformací a dalšího závadného obsahu ještě předtím, než ho stihne kdokoliv zhlédnout. A to právě na umělé inteligenci oceňuje Niel Mohan z vedení společnosti. „Z 11 milionů smazaných videí jich bylo před prvním zhlédnutím smazáno 50 procent a 80 procent z nich mělo méně než 10 zhlednutí,“ ocenil pro Financial Times Mohan důležitost automatického potírání problematického obsahu.
Moderování obsahu na sociální síti YouTube a dalších online platformách je dlouhodobě diskutované téma. Často se připomíná nevyhovující podmínky pro dotyčné moderátory nebo skutečnost, že vystavovaní extrémnímu obsahu na denní bázi u některých pracovníků může vést až vývinu duševní poruchy. V loňském roce byl kvůli těmto skutečnostem Facebook donucen zaplatit svým bývalým i současným moderátorům odškodné a zdravotní péči vy výši 52 milionů dolarů.
A podobný problém se řítí i na YouTube. Jeho bývalá pracovnice, zaměstnaná skrze personální agenturu, žaluje YouTube za nepřijatelné podmínky pro vývoj práce poté, co se u ní prokázala posttraumatická stresová porucha. Moderátoři jsou nuceni zhlédnout mezi 200 až 300 videi denně, mezi kterými se nezřídka objevují záznamy vražd, znásilnění a dalších násilných či nepříjemných záběrů.
Podle žaloby byli pracovníci instruováni, aby na nevyhovující podmínky nikoho mimo tým zabývající se ověřováním obsahu neupozorňovali. Dále bývalý zaměstnankyně YouTube uvádí, že psychologická podpora byla nekompetentní a v případě potíží ji bylo doporučeno využít nelegální medicínské přípravky, další pracovníci se zase museli spokojit s doporučením víry v boha.