Rozhovor

Contagious

10. října 2019

Shoshana Zuboff: Dohledový kapitalismus 

Parazitická, ekonomická logika si přivlastnila vaši existenci jako surový materiál a zároveň podryla význam lidských práv. A marketéři ji platí. Vítejte ve věku dohledového kapitalismu

Článek vyšel v 60. vydání magazínu Contagious. Více o tom, jak se stát členem Contagious a získat přístup ke spoustě dalšího, skvělého obsahu najdete tady.

Shoshana Zuboff, profesorka z Harvard Business School, věnovala svou kariéru studiu vzestupu digitálních technologií a jejich dopadu na společnost. Její poslední kniha, The Age of Surveillance Capitalism, zkoumá, jak metody sběru dat a mechanismy společností jako Facebook a Google normalizovaly stav sledování skupinového chování, což Zuboff označuje za „významné ohrožení lidské přirozenosti 21. století stejně jako byl průmyslový kapitalismus hrozbou pro přírodu v 19. a 20 století.“

Alex Jenkins Zuboff vyzpovídal, aby zjistil, proč marketéři tuto hrozbu přiživují a proč by se všechna uživatelská data mohla brzy stát škodlivými aktivy. 

Můžete nám, méně zběhlým v ekonomických a politických teoriích, vysvětlit koncept dohledového kapitalismu?

Dohledový kapitalismus ráda vysvětluji zařazením do historického kontextu. Vývoj kapitalismus spočívá v tom, že si stále přivlastňuje věci mimo trh, pak je na něj přináší a mění je na komodity. Vývoji průmyslového kapitalismu stál na myšlence začlenění přírody do trhu. Louky, lesy a řeky se proměnily na komodity, které se prodávaly a nakupovaly – nemovitosti a tak dál. 

V malém měřítku to kolem sebe vidíme pořád. Existují aplikace, které vám prozradí, kde jsou volné plochy ke zřízení parkovacích stání a vy si můžete si najmout lidi, kteří vám je pomohou zabrat. Vezmete něco veřejného a přinesete to na trh. Dohledový kapitalismus je srovnatelný s anexí přírody průmyslovým kapitalismem, ale komodity, které tvoří, jsou založené na soukromých lidských zkušenostech.

Odkud pramení „dohled“ v dohledovém kapitalismu? Google pochopil, že pouhé uchopení vašich zkušeností a jejich začlenění do dat pro jejich vlastní systémy výroby a prodeje se lidem nebude zamlouvat. Takže hned od začátku věděli, že tyto mechanismy budou muset být skryté. Museli začít sledovat skrz polopropustné sklo. To z toho dělá dohled.

V knize nesouhlasíte s často používanou frází: „Jestliže využíváte službu zdarma, jste produkt,“ a reagujete větou: „Nejste produkt, ale zapomenutá mršina.“ Jaký je rozdíl?

Dohledový kapitalismus si jednostranně přivlastňuje lidskou zkušenost jako zdroj bezplatného surového materiálu, který lze přinést na trh, využít pro výrobu a nakonec ho také prodat. Soukromá lidská zkušenost se v tomto novém ekonomickém modelu stává komoditou.

Ti, kdo si soukromé lidské zkušenosti přivlastňují a mění je v obchodovatelná data, argumentují svou bezplatností a dostupností, díky tomu se ospravedlňují před společností. To je velmi důležitý krok. Spousta konverzací ohledně regulačních opatření začíná otázkou vlastnictví dat. Když ale těm mechanismům porozumíte, problém podle mě začíná ještě dřív, než je vůbec co vlastnit. Nejdřív přichází na řadu samotná přeměna zkušenosti v data.

 

/Nejste produkt, ale zapomenutá mršina./

Shoshana Zuboff

 

S tímto přístupem se různé produkty Googlu jako Vyhledávač, Mapy, Obrázky, Gmail atd. vlastně vůbec neliší – jsou to jen mechanismy k přeměně zkušeností na data.

Všeobecně panuje naprosté nepochopení toho, čím veškeré tyto věci jsou. Slouží jako zásobovací řetězec rozhraní. Jediné, čeho se dohledoví kapitalisté musí skutečně obávat, je zásobovací řetěz. Jde v něm o rozšiřování nových toků behaviorálního přebytku. Každé internetové rozhraní se stane zásobovacím rozhraním.

V každodenním životě to začíná být čím dál tím patrnější a lidé to pociťují mnoha podivnými způsoby. Google například přiznal, že má zaměstnance, kteří poslouchají audio nahrávky od jeho automatizovaného asistenta. Všechny konverzace, které kdy nahrála různá zařízení se neztrácí jen tak do éteru. Stanou se komoditami. V branži se jim říká kusy dialogů a jejich poslechu a analýze se věnuje celý ekosystém lidí. Porovnávají své lidské porozumění se systémem AI a potom to využívají k vytváření a vylepšování AI.   

Tyto zkušební sety, kusy dialogů, pak prodávají například CIA nebo komukoliv, kdo má zájem o zlepšení svých schopností rozpoznávání hlasu. 

Dohledový kapitalismus jste popsala jako „vyvlastnění zásadních lidských práv“ a jako „významnou hrozbu lidské přirozenosti“. Pokud je to skutečně tak, společnosti, které tuhle dynamiku vytvořily, rozhodně nesou vinu.

Když ale vezmeme v potaz, že většina z nich je významně financována reklamou, myslíte si, že vinu nesou také marketéři?

Bez marketérů by tohle nebylo. Inzerenti jsou spoluviníci. Inzerenti tvoří trh. Tvoří poptávku i tržní sféru. Oni byli počátečním impulsem toho všeho. Pravdou je, že před několika lety zaprodali své duše černé skříňce. Samozřejmě aniž by pomysleli na možné důsledky. Možná si teď uvědomí, že se jim naskýtá příležitost předstoupit a chopit se vedení.

 

/Inzerenti jsou spoluviníci. Tvoří poptávku i tržní sféru. Pravdou je, že před několika lety zaprodali své duše černé skříňce. /

Shoshana Zuboff

 

I když si veřejnost díky vaší knize nebo třeba díky skandálu Cambridge Analytica začíná sledování více uvědomovat, opačný přístup je „Proč byste se o to měli zajímat, pokud nemáte co skrývat?“

No, to „nezajímání se“ musíme rozebrat po částech.

Zaprvé, neznalost. 98 % příjmů Facebooku a 87 % příjmů Googlu pochází v současné době z cílených reklam. To je hodně peněz. Obrovská tržní kapitalizace těchto společností vedla k neuvěřitelnému bohatství. Sedí na hromadě kapitálu a jeho velkou část používají k dosažení jednoho konkrétního cíle: zajištění toho, aby se v jejich systémech populace nevyznala. Lidé prostě nevědí, co se děje. Většina systematických důkazů potvrzuje, že když se dozví o pravé podstatě zákulisních operací, zajímají se. 

Když přijde na zjištění, přesouváme se k „netuším, kam se teď obrátit.“ Spousta „nezajímání se“ je velmi škodlivou interpretací takzvaného paradoxu soukromí. Lidé tvrdí, že se zajímají, ale systémy používají dál, společnosti to pak vnímají jako důkaz, že jsou systémy v pořádku. Tomu se v logice říká „přirozený blud“. To, že se používá ještě neznamená, že je dobrý. 

Ve skutečnosti je pravda, že si lidé neuvědomují, co se děje, protože je to všechno pečlivě schované a protože postupně „zmizely“ alternativy, takže ať se vydáte kamkoliv, brodíte se těmito zásobovacími řetězy.

Systémy fungují tak, aby byly nezjistitelné a nerozluštitelné, ale aby kampaň, která se s nimi pojí, byla vznosná. Tady se nám velmi hodí Orwell.

Primárně se zajímal o jazyk a velmi detailně se zabýval jeho užíváním za války a eufemismy, které v něm skrývají pravdu. V tomto ohledu jsou dohledoví kapitalisté geniální. Od samého začátku vznikaly vznosné kampaně plné matení a mlžení: „Pokud nemáte co skrývat, nemáte se čeho obávat“ nebo „Jestli máte co skrývat, neměli byste to dělat vůbec“ – věty, které se opakují napříč dekádami. To je vznosná kampaň nadvlády, která má lidi konejšit, ukolébat do pocitu klidu. Je opakem toho, co by měli lidé dělat. A oni (dohledoví kapitalisté) to opravdu velmi dobře vědí.  

Znepokojuje vás, že stavíte morální argument proti obchodní realitě? Navzdory tomu, že je neetické nabourávat soukromí na společenské úrovni, pro některé firmy, kterým na etice příliš nezáleží, jde o skvělý obchod.

V oblasti etiky se to nachází jen do okamžiku, než přijde zákon. Vezměte si například dětskou práci. Průmyslovým vůdcům Zlatého věku, které jsme se později rozhodli nazývat zloději (vykořisťovatelé), se na konci 19. století neříkalo zloději, byli to prostě extrémně bohatí průmysloví kapitalisté. Byli milionáři. Jeden ze způsobů, jak zbohatli, bylo, že pro ně lidé pracovali za otrocké peníze, sedm dní v týdnu, neuvěřitelné množství hodin v otřesných podmínkách. Zaměstnávali děti. Teprve když se společnost spojila a řekla: „Děti, které pracují v nebezpečných podmínkách továren, i skutečnost, že vůbec pracují, představují nebezpečí pro naši společnost, protože potřebujeme, aby děti byly zdravé, vzdělané a schopné se jako občané integrovat do naší společnosti, abychom mohli zachovat demokracii.“

Myšlenka, že by děti měly být vykořisťované, hnít na pracovištích a mít dlouhou pracovní dobu není morální. Je nepřípustná proto, že pokud by tomu tak bylo, nemohli bychom mít společnost takovou, jakou bychom chtěli. Zpočátku jste (v USA) mohli zaměstnávat děti jen v některých státech a v jiných ne. Potom lidem došlo, že zákaz musí platit v celé zemi, protože jde o naši společnost. Tak jsme došli k obecně platné federální legislativě týkající se dětské práce. 

Změní se dramaticky současná situace až nás zákony doženou?

Zákon zaostává za trhem, protože trh se posouvá do míst, kde žádné zákony neplatí. To je celá myšlenka „Vzali jsme si přírodu, protože ji nechránily žádné zákony, protože si nikdo ani nepomyslel, že by si ji někdo mohl jen tak vzít.“ Neexistovaly žádné zákony na ochranu soukromé lidské zkušenosti, protože si nikdo nemyslel, že by bylo možné si ji přivlastnit. Pochopit to, co se děje, chvíli trvá, protože demokracie je pomalejší než trh – a to je dobře. Ale potom to demokracie vyřeší a přijde období zákona.

Teď zníte poměrně optimisticky. Myslíte si, že to má dohledový kapitalismus spočítané?

Bez pochyby.

Přestože se zdá, že zákony tempu technologické inovace a přisvojování, zdaleka nestačí?

Bohužel to není tak, že by naši zákonodárci posledních dvacet let pracovali na tom, aby tomu všemu zabránili. Ve skutečnosti jsme ani nezačali. Až teď začínáme chápat rozsah a důsledky těchto mechanismů a metod. Ještě jsme nevytvořili zákony a regulace, které by je přerušily a postavily mimo zákon. Jakmile začneme a stanovíme si správný účel a správný cíl, budeme je samozřejmě schopni eliminovat. Případy, jako když Eric Schmidt  (bývalý výkonný ředitel a výkonný předseda Googlu) tvrdí: „Vláda nás nikdy nedožene“ a další klamné výroky o tom, že zákony jsou nepřátelé inovací a tak dál – to vše je prostě směšné. Jde o obrovský omyl.

Jsou to řečnické prostředky, které mají zastrašit zákonodárce a přesvědčit veřejnost, že se zkrátka nedá nic dělat. Koneckonců, napříč světem vidíme předvoj zákonodárců, kteří to začínají chápat. Mezinárodní Velká Komise (pro Big data, soukromí a demokracii) se zrovna sešla podruhé v Ottawě a reprezentuje teď 14 zemí. Jsem si jistá, že až se na podzim sejde v Dublinu, bude jich ještě víc. Začíná tedy reprezentovat obrovskou část světové populace. A mohu vám s jistotou říct, že zákonodárci v této komisi si význam situace zcela uvědomují. 

Jaké budou podle vás v budoucnosti důsledky těchto regulací?

Podle mého názoru, všechna data, která nyní oslavujeme jako „velká“, jsou protkaná kradenými aktivy. Až vejdou v platnost zákony, budou označena za škodlivá. Stejně jako druhořadé hypotéky, které ovládly trh s deriváty, a následně byly všechny tyto finanční produkty interpretovány coby škodlivá aktiva, která zavalila trh. Věřím, že ten den se blíží.

Jakmile se svět probudí a my získáme potřebné regulace stanou se z nich škodlivá aktiva. Myslím, že to je trajektorie, na níž se právě nacházíme.

Contagious je platforma, která pomáhá značkám a agenturám dosáhnout toho nejlepšího v komerční kreativitě. Více informací o členství najdete zde.