Delete. Ignore. Cenzoři sociálních sítí. Kdo jsou a co sledují

Každou minutu se do éteru nahraje 500 hodin videí na YouTube, 450 tisíc tweetů a 2,5 milionu příspěvků na Facebook. Kolik z nich se nikdy nedostane k uživatelům a kdo provádí cenzuru? Rozklíčovat to se pokusil dokumentarista Moritz Riesewieck, který se za čističi sociálních sítí vydal na Filipíny.

Proč jste odjel právě na Filipíny? Co mají společného s internetovým odpadem?

Ve filipínském hlavním městě Manille pracuje odhadem deset tisíc moderátorů obsahu, tak se říká čističům internetu. Zaměstnávají je firmy, kterým čištění digitálního obsahu outsourcují všechny velké sociální sítě - Facebook, Twitter, YouTube, Google. Pracují tam pod různými krycími kódy, například čištění Facebooku se nazývá Projekt Medojed. Zjišťovali jsme to postupně při svých četných cestách, dostávali jsme tipy od místních lidí. Facebook totiž nereagoval ani na jediný z našich e-mailů, a to jsme obeslali asi padesát lidí na různých úrovních. Na dotaz komise amerického Kongresu, kolik lidí na moderování obsahu zaměstnává, představitel Facebooku loni na podzim odpověděl, že "asi sto padesát". Přitom každou minutu přidají uživatelé na Facebook 2,5 milionu příspěvků. To je absurdní.

Všichni přece víme nebo tušíme, že sociální sítě určitý obsah mažou. Proč by to měly chtít tajit?

Mark Zuckerberg postavil svůj byznysmodel na tvrzení, že na Facebooku "každý člověk na světě může cokoli sdílet s kýmkoli". Jenže ono to tak nefunguje. Co je to za lidi, kteří cenzurují náš obsah, podle jakých kritérií se rozhodují a mohou být vůbec taková kritéria objektivní? Co se děje v případech, na něž kritéria nepomyslela, kolik času tito lidé mají na rozhodnutí o tom, co pustí do světa a co ne? Když se začnete nad těmito otázkami zamýšlet, rychle vám dojde, že tyto platformy ve skutečnosti nejsou tak otevřené, jak se tváří, nýbrž že nějakým způsobem formují svět předtím, než nám ho prezentují.

Je důvod nechtít, aby sociální sítě cenzurovaly škodlivý obsah?

Všichni se shodneme na tom, že není dobré sdílet dětskou pornografii nebo teroristické výzvy, ale kdo určuje hranici toho, co ještě je a co už není přípustné? A co s politicky kontroverzním obsahem? Například v případě terorismu figuruje seznam řady organizací, jež naplňují definici terorismu, a jako takové by měly být na sociálních sítích nedostupné. Jenže tyto seznamy sestavuje americké ministerstvo vnitra a jeho pohled na to, které skupiny lidí představují nebezpečí terorismu, může být úplně jiný než pohled Rusů, Číňanů nebo Evropanů. Ovšem pro všechny uživatele na světě platí stejná, tedy americká pravidla.

Nechávají se sociální sítě v cenzuře obsahu ovlivňovat?

Ano, a to je něco, co vidím velice kriticky. Nicole Wongová, která se podílela na budování strategie Googlu, nám vysvětlila, že sociální sítě mají své Transparency Reports, v nichž vykazují, jak často dostávají od vlád různých zemí žádosti o blokaci určitých účtů a jak často na to reagují. Z autoritářských zemí, jako je Turecko, je počet žádostí o blokace nesmírně vysoký. Co ovšem tyto sociální sítě nezveřejňují, je to, o jaké žádosti přesně jde. Jeden z moderátorů obsahu, s nimiž jsme mluvili, nám ukazoval instrukce, že musí blokovat určitý obsah na Facebooku, protože to je přání turecké vlády.

A Facebook poslechne?

Různě s tím lavíruje. YouTube takové požadavky nějakou dobu toleroval, dokud se tato blokace týkala IP adres pouze dané země, ale v okamžiku, kdy daná vláda žádala, aby se takový obsah zablokoval pro všechny uživatele na světě, se z toho stáhl. Facebook se chová v různých zemích různě. Snaží se například dostat na čínský trh, jenž mu ještě není dostupný. Zuckerberg se kvůli tomu dokonce naučil mandarínštinu a pravidelně se potkává s čínskými politiky a snaží se lobbovat. Čínská vláda ovšem žádá, aby mezi Facebook a uživatele byl nainstalován určitý software, který by automaticky vyfiltroval to, co si nepřeje, aby se zobrazovalo. A Zuckerberg se tváří, že je lepší přistoupit na trochu cenzury a být na trhu, než aby tam nebyl vůbec.

Jak to vidíte vy?

Já si myslím, že v tom případě je lepší na čínském trhu vůbec nebýt. Protože jinak mohou Číňané nabýt dojmu, že když mají dostupný Facebook, ocitají se ve svobodném světě, který jím ale ve skutečnosti není. Na fakt, že jejich realita je filtrovaná, velice rychle zapomenou. V jiných částech světa zase Facebook napomáhá šíření genocidy. Například v Barmě je v podstatě jedinou aplikací používanou na internetu, všechno je zveřejňováno jen přes toto jedno médium. V Barmě přitom už několik let probíhá systematické vyvražďování etnické minority Rohingiů, nenávistné příspěvky vyzývající k násilí vůči nim se přes Facebook šíří rychlostí blesku a rozdmýchávají další žár nenávisti. Facebook není schopen tyto příspěvky třídit, evidentně tam na moderování obsahu mají málo lidí.

Jak moderování obsahu Facebooku a dalších sociálních sítí konkrétně vypadá?

Je to podobné jako se zpracováním našeho plastového a toxického odpadu - vyvážíme ho z Evropy a Ameriky do nízkonákladových zemí. Pracují tam velmi mladí lidé - kolem dvaceti let -, které je snadné zaměstnat, vyždímat a pak propustit a doplnit stav novou várkou zaměstnanců, což by v našich podmínkách nebylo možné. Tito lidé třídí ze sociálních sítí zejména obrázkový odpad. Den co den musejí projít pětadvacet tisíc obrázkových příloh a kliknout na "delete" (smazat) nebo "ignore" (ponechat).

Jak mohou lidé z úplně jiné kultury rozhodovat o tom, co je a co už není přípustné? Kde začíná a kde končí svoboda projevu, kterou ve vlastní zemi často nemají?

Outsourcingové firmy propagují pro tuto práci nízkonákladové Filipíny, protože na rozdíl od ostatních zemí v regionu jsou převážně katolickou zemí. Díky tomu nám prý Filipínci rozumějí, sdílejí naše západní hodnoty a převzali velkou část našeho morálního etického kodexu - na rozdíl třeba od Pákistánců nebo Indů, kteří zase za nízký plat dělají jinou, Evropany zavrhovanou práci. Filipínci jsou sice asi z devadesáti procent křesťané, ale ani to neznamená, že jde o shodný způsob prožívání víry. Na facebookových profilech mají tito mladí čističi často uvedeny citáty z bible nebo jsou vyfotografováni v tričku s nápisy "Bůh mě dělá neporazitelným" nebo "Bůh mi odklízí z cesty překážky". To znamená, že je pro ně víra nesmírně důležitou součástí života.

V čem je jejich konzervativní prožívání víry problematické?

Mnozí z nich přistupují ke své práci fanaticky, vidí ji jako boj se zlem, jež je potřeba porazit. Někteří nám říkali, že kráčejí ve stopách Ježíše, jenž na sebe také vzal hříchy světa. Tito moderátoři obsahu svou práci vnímají jako jakousi misi, jsou toho názoru, že je lepší toho vymazat více nežli méně, protože tím člověk společnost více chrání... U některých se tato mise prolíná s oficiální ideologií a sympatiemi k filipínskému prezidentovi Rodrigovi Dutertemu, jenž velí, že je potřeba společnost očistit od špíny, narkomanů a bezdomovců. S hesly jako "úklid" a "očista" vyhrál volby. Pokud moderátor obsahu podporuje takový přístup, dochází k tomu, že rozhodnutí, na co nás nechá dívat a na co ne, ovlivňuje velice toxická ideologická směs.

Co je pro ně těžké relevantně posoudit?

Máte-li na rozhodnutí o daném příspěvku pár sekund, jak můžete zodpovědně zhodnotit jeho obsah, jak můžete rozlišit třeba satiru od propagandy? Fakt, že je někde vyobrazen hákový kříž, ještě neznamená, že jde o nacistickou propagandu - může to být satira, v níž je hákový kříž zobrazen kriticky. Nebo nahota - je uměleckým aktem, anebo jde o pornografii? Pro někoho z konzervativního křesťanského prostředí to může být velmi těžké rozlišit. Navíc tito mladí a většinou životem nezkušení lidé musejí zhlédnout ohromné množství vysoce problematických příloh - od dětské pornografie až po teroristická videa včetně záznamů, kde někomu uřezávají hlavu. Videa nesmějí přetáčet, musejí je skutečně zhlédnout, jinak by jim mohly uniknout důležité informace - příspěvky s trestně stíhatelným obsahem musejí nahlásit a orgánům činným v trestním řízení předat IP adresy, z nichž pocházejí.

Jak se s takovými zážitky srovnávají?

Muž, s nímž jsme mluvili o teroristických popravách, působil velice cynicky. Když o těch videích vyprávěl, bylo v tom něco až lékařsky odborného, jako by popisoval pitvu: "Tady na tomto místě je patrné, že k oddělení hlavy od těla byl použit kuchyňský nožík..." On ty záběry opravdu do detailu studuje. Psychologové se shodli na jednom - symptomy, jež vykazují lidé, kteří se musejí prodírat takovým množstvím špíny, jsou podobné symptomům lidí, již se vracejí z války. Strašně důležité je, jestli člověk o tom, co vidí a zažívá, může s někým mluvit. Pokud to nejde, začíná se rozvíjet posttraumatická stresová porucha.

Dostává se filipínským zaměstnancům psychologické podpory?

Je to problematické. Na Filipínách nikdo neřeší, že by tito lidé měli dostávat psychologickou podporu - tam je jiná kultura, lidé běžně umírají hlady na ulici. Tito moderátoři si často svá traumata vůbec nepřipouštějí, protože na jejich výdělku jsou obvykle závislé celé rodiny a oni nesmějí prokázat slabost, bojí se ztráty zaměstnání. Filipínští čističi obsahu Googlu či Facebooku mají ve smlouvě výslovně ukotveno, že o své práci nesmějí s nikým mluvit, ani s rodinnými příslušníky, dokonce ani s ostatními kolegy, jinak je čekají peněžní postihy. Na tomto byznysu se živí i řada "sekuriťáckých" firem, které nedělají nic jiného, než že zaměstnance kontrolují a lustrují příspěvky, jež dávají na sociální média.

Měl jste možnost se oněch čističů zeptat, jak se vyrovnávají s takovým množstvím digitální špíny?

Mnoho z nich je na to, co dělají, opravdu hrdých. Například moderátoři obsahu, kteří posílají informace o dětské pornografii do USA do Centra pro pohřešované a zneužívané děti, získávají občas zpětnou vazbu o tom, že se díky jejich informacím podařilo zadržet prznitele dětí, a na to jsou pyšní. Stávají se však i jiné věci. V jednom oddělení se oběsil zaměstnanec. Firma se to snažila svést na jeho labilitu, ale kolegové protestovali, že to pramenilo z jeho pracovní náplně: musel celé dny sledovat živá vysílání pokusů o sebevraždu a sebepoškozování, až ho to dohnalo.

Jak to, že takovou práci dělají lidé, a ne stroje? Dnes přece už software dokáže zázraky.

Software se používá jako předfiltr. V systému jsou zakódovány určité algoritmy, podle nichž lze identifikovat určité obrázky. To se dělá proto, aby se už nemohla opakovat situace z roku 2013, kdy se dětská pornografie dostala na internet, aniž ji někdo detekoval a dopředu vyfiltroval. Tehdy bylo video zneužívaného dítěte šestnácttisíckrát sdíleno, než ho odstranili. Dnešní algoritmy dokážou ve snímcích rozlišit odstíny kůže - všechny fotografie, jež mají barvu kůže, jsou nejprve zadrženy, kontrolovány, a pokud jsou v pořádku, zveřejní se s malou prodlevou.

A to funguje?

Problém je, že tyto algoritmy ne vždy dokážou rozlišit, jestli jde o snímek z dovolené, sochu, pornografii nebo umění. Tyto technologie jsou ještě pořád příliš nespolehlivé, nedokážou si poradit s něčím takovým, jako je satira nebo humor.

V takových případech nastupují moderátoři obsahu?

Ano. A také v případech, kdy uživatelé sami označí na Facebooku nějaký příspěvek za nevhodný. Facebook nám ovšem neprozradí, jak to má přesně nastaveno. Některé typy fotografií se na internet dostanou ihned, patrně odpovídají určitým parametrům daným pro snímky z dovolené, jiné se nezveřejní okamžitě, ale nejprve je posuzují moderátoři obsahu. Mohou to ale posoudit zodpovědně? Třeba v novinách pracují redaktoři, kteří se na poradách hodiny nebo dny dohadují, zda určité informace mají nebo nemají být zveřejněny. Zohledňují například právo na ochranu osobnosti nebo důsledky, jež jejich rozhodnutí bude mít. Jak tohle mohou stejně zodpovědně rozhodnout dvacetiletí moderátoři obsahu v daleké Asii, kteří na to mají tři vteřiny? To přece nejde, to je systémová chyba.

Pokud obrázky moderují špatně placení Asiaté, kdo rozhoduje o našich psaných příspěvcích?

Podobné firmy podle našich vědomostí působí i v Berlíně a ve Varšavě. Pracují v nich lidé, kteří mluví různými evropskými jazyky. Jejich situace ale není tak prekérní, protože v Evropě se společnosti musejí držet pravidel ohledně počtu odpracovaných hodin a tito lidé také mají k dispozici psychologickou podporu.

Změnil se váš přístup k Facebooku po této investigativní práci?

Ano. Došlo mi, že se tam nesdílejí jen videa koček a snídaní, že tam je i mnohem temnější svět. Myslím si ale, že by člověk  před tím neměl utíkat, nýbrž by se měl spíše snažit vést debatu a nabádat lidi k tomu, aby se o tuto problematiku zajímali a nakládali s ní obezřetně. Je třeba se naučit digitální gramotnosti, které někdo musí definovat pravidla. Nemůžeme od skutečnosti ani utéct, ani se jí nechat ukolébat, na to je to příliš mocný nástroj.

Moritz Riesewieck (32) Vystudoval režii na divadelní škole Ernsta Busche v Berlíně. Ze svých investigativních cest na Filipíny vydal spolu s Hansem Blockem v září 2017 knihu s názvem Digitale Drecksarbeit (Digitální špinavá práce aneb Jak z nás Facebook a spol. snímají naše hříchy) a sestříhal snímek The Cleaners (Čističi), který po uvedení na prestižním festivalu dokumentárních filmů v americkém Sundance zahájil aktuálně probíhající festival Jeden svět v Praze.

Čtěte dále

další zprávy