Ty internety, to bude naše zkáza!

Jaron Lanier

Nejste zákazníkem internetových firem: jste jejich produktem, říká podtitul knihy, kterou nakladatelství Dokořán a Argo společně vydaly v populárně naučné edici Zip. Stojíme na prahu společenské revoluce, která může dopadnout opravdu špatně. A všechny ty servery, plné informací o nás, v tom rozhodně nejsou nevinně.

Několik web serverů, těch, co patří nejbohatším světovým firmám, které patří nejbohatším lidem světa, nejenže má přístup v každé vteřině k informacím o pohybu na celé zeměkouli, ale dokáže tyto informace pěkně třídit a pak buď zobchodovat nebo použít na to, abychom se k internetu ještě víc připoutali. Autor téhle knihy je vlastně v něčem typickým produktem své doby. Jaron Lanier (*1960) sice napíše takovou knihu, jakou je Komu patří budoucnost?, ale v jeho životopisu se dočteme, že v současnosti pracuje na projektech pro Microsoft. Asi už budeme nakonec všichni nějak porouchaní!
 

 Ukázka z knihy:

Mooreův zákon mění oceňování lidí

Základní vliv na to, jak technologové od počátku století uvažují o budoucnosti, má jejich přímá zkušenost s digitálními sítěmi prostřednictvím spotřební elektroniky. Zažít změny způsobené Mooreovým zákonem už mladému člověku netrvá celý život, ale pouhých několik let.

Mooreův zákon je vůdčím principem Silicon Valley, něco jako deset přikázání shrnutých do jednoho. Zákon říká, že výkon mikroprocesorů se zvyšuje geometrickou řadou. Zlepšování se neděje pouhým hromaděním, jako když hromadu kamenů rozšiřujeme přidáváním dalších kamenů. Zlepšení se nenačítají, ale násobí. Výkon digitálních technologií se vždy zhruba každé dva roky zdvojnásobí. To znamená, že po čtyřiceti letech zlepšování by mikroprocesory mohly být milionkrát lepší, i když nikdo neví, jak dlouho takové tempo vydrží. Nevíme přesně, proč se vývoj technologií řídí Mooreovým zákonem. Je to lidskou invencí tažené sebenaplňující proroctví nebo přirozená vlastnost počítačové technologie? Ať je to jakkoli, stále rychlejší změny vedou v nejvlivnějších kruzích technologického odvětví až k náboženským emocím, neboť dodávají pocit smyslu a kontextu.

Mooreův zákon znamená, že stále více věcí lze obstarat prakticky zdarma; zádrhel je ale v tom, že stále existují lidé, kteří potřebují dostat zaplaceno. Lidé jsou v Mooreově zákoně jen nepříjemnou mrzutostí. Až bude práce strojů velmi levná, stanou se lidé neúnosně drahými. Kdysi byly tiskařské lisy drahé, takže zaplatit reportérům vypadalo jako odůvodněný výdaj – bylo nutné něčím zaplnit stránky novin určených k prodeji. Nyní však dostáváme zprávy zadarmo a nosič informací také skoro nic nestojí, takže se začalo zdát, že není důvod někomu vůbec platit. Kvůli Mooreovu zákonu vypadají nyní platy – a s nimi i sociální záchranné sítě – jako neodůvodněný luxus.

Bezprostřední zkušeností lidí s Mooreovým zákonem jsou však jen čím dál levnější zařízení a služby. Včera nedosažitelně drahý fotoaparát je dnes jen jednou z mnoha nepodstatných součástí mobilního telefonu. Až budou informační technologie milionkrát výkonnější, bude jejich používání ke konkrétním účelům milionkrát levnější. Už je celkem samozřejmé očekávat, že online služeb (nejen zpráv, ale i všech internetových výdobytků 21. století, jako je vyhledávání nebo komunikace na sociálních sítích) budeme moci využívat bezplatně, či spíše výměnou za souhlas se sledováním našeho života.

 

Podstatné, ale bezcenné

Pokud tyto řádky čtete na síti, pak právě v této chvíli vylaďují tisíce vzdálených počítačů tajné modely vaší osoby. Co je na nás tak zajímavého, že má cenu nás sledovat?

Cloudové služby, které poskytují vzdálené výkonné servery*, jsou řízeny statistikou. Tyto servery se neustále plní osobními daty všech, včetně lidí, kteří vypadají jako exemplární případy nevzdělanosti, nezajímavosti, lenosti a bezvýznamnosti. S takovými informacemi by se dalo nakládat jako se skutečnou tržní hodnotou, která se vyjadřuje v penězích, tak to ale není. Naše účtování je vůči této hodnotě slepé, což postupně podkopává celý kapitalistický systém.

V budoucnu přestane v tomto dnešním systému existovat rozdíl mezi obyčejnými a kvalifikovanými lidmi. Prozatím si vzdělaní lidé s různými typy dovedností vedou ve světě softwaru dobře, pokud se ale nic zásadního nezmění, pak se jedinou zbylou elitou stanou ti, kteří vlastní nejvýkonnější počítačové vybavení. Zamysleme se třeba nad tím, zda by pokrok informačních technologií nemohl udělat s chirurgickými operacemi totéž, co už udělal s hudebními nahrávkami.

Odvětví nahrávání hudby bývalo kdysi založeno na mechanickém procesu, pak se z něj ale stala služba zprostředkovaná sítěmi. Továrna vyráběla CD s hudbou a auta je rozvážela do prodejen, kde se prodávala. Tento systém sice nebyl zcela opuštěn, rozhodně je ale dnes obvyklejší získat hudbu okamžitě po síti. Dříve existoval značný počet lidí ze střední třídy, které hudební průmysl živil, to už je ale minulostí. Většinu výhod z digitální distribuce hudby dnes těží provozovatelé digitálních síťových služeb, kteří hudbu v podstatě dávají zdarma výměnou za údaje, jimiž zdokonalují materiály na uživatele a softwarové modely každého z nich. Totéž by se mohlo stát chirurgii.

Operace srdce by jednoho dne mohli provádět nanoroboti, holografické ozařování nebo prostě jen staří známí roboti vybavení endoskopy. Tato zařízení budou hrát stejnou ekonomickou roli, jakou v distribuci hudby sehrály přehrávače MP3 a chytré telefony. Ať budou detaily tohoto vývoje jakékoli, k operacím se bude v budoucnu přistupovat stejně jako k informačním službám. Role chirurgů ale není určena předem. Zůstanou nepostradatelní, protože se technologie budou opírat o data, která budou dodávat lidé; není však jasné, zda tato data budou oceněna tak, aby jim to zajistilo prosperitu.

Nespecializovaní lékaři již možnost být pány svého osudu do určité míry ztratili, protože se nedostali na ústřední pozice v sítích, které začaly zprostředkovávat léčbu. Pojišťovny, farmaceutické koncerny, nemocniční řetězce a různé další instituce protřelé ve využívání digitálních sítí si dávaly větší pozor. Avšak nikdo z nich, ba ani kardiochirurgové, by neměl předstírat, že je takový vývoj mine.

Vždy budou existovat lidé, a bude jich hodně, kteří poskytují data, díky nimž bude uplatnění jakékoli technologie v síti lepší a levnější. Pokusíme se navrhnout alternativní, dlouhodobě životaschopný systém, který by tyto lidi i nadále oceňoval a odměňoval, bez ohledu na vyspělost technologií. Budeme-li totiž pokračovat v nastoupené cestě, budou z toho těžit především správci nejvýkonnějších počítačů, které nabízejí data o operacích získaná v podstatě špehováním lékařů a pacientů.

* „Server“ je počítač na síti, který dodává služby jiným počítačům. Domácí počítače nebo přenosná zařízení obvykle nejsou uzpůsobena k propojení s libovolnými jinými počítači, takže to nejsou servery. „Cloud“ je soubor serverů, který jedná koordinovaně.

 

Pláž na okraji Mooreova zákona

V metafyzice Silicon Valley je velkou módou jedna lákavá představa – díky mechanizaci se lidé stanou nesmrtelnými. V utopické technologické kultuře se považuje za zřejmé, že lidé – dobrá, možná ne všichni – budou ještě v tomto století, možná už během jednoho nebo dvou desetiletí, digitálně přeneseni do cloudových serverů a ve virtuální realitě se stanou nesmrtelnými. Popřípadě, pokud zůstaneme ve fyzickém světě, nás budou obklopovat oživené robotické technologie. Budeme prý proplouvat od jednoho potěšení ke druhému a i ti nejchudší si budou žít jako požitkářští kouzelníci. Nebudeme přitom muset ani říkat, co si přejeme, protože statistiky v cloudech nás tak dokonale namodelují, že bude vždy jasné, co chceme.

Zkusme si to představit: je asi tak polovina 21. století a jsme na pláži. Přiletí racek a přes své neurální rozhraní nám sdělí, že nanoboti právě spravují naši srdeční chlopeň (kdo věděl, že máme srdeční problémy?) a že operaci sponzoruje nedaleké kasino; to také zaplatilo tento ptačí vzkaz a také automatické kardiologické vyšetření prostřednictvím Googlu nebo jiné firmy, která tento druh služeb provozuje už celá desetiletí.

Když zafouká vítr, zjistíme, že poletující listy stromů jsou vlastně nenápadní bioroboti, kteří větru využili, aby se dostali k nám, obklopili nás a zajistili nám závětří. Automaticky vyhodnotí naše potřeby a touhy a z písku se vytvaruje robotická masérka, která nám udělá masáž, zatímco my můžeme ve svém dočasném příbytku rozjímat o šelestu větru.

Existuje nekonečné množství variací pohádky o technologickém věku hojnosti, který je užuž za dveřmi. Některé z těchto vizí najdeme v dílech science fiction, častěji se ale objevují v běžných rozmluvách. V kultuře Silicon Valley jsou tak všudypřítomné, že se staly součástí jeho atmosféry. Obvykle od lidí z této komunity uslyšíme myšlenkové experimenty na téma, jak budou počítačové technologie levné nebo jak daleko pokročí poznávání materiálů; z toho pak vždy vyplyne závěr, že během tohoto století se nevyhnutelně otevřou možnosti, které se nám nyní zdají nadpřirozené.

Je to myšlenkové schéma tisíců inspirujících diskusí a motivuje vznik velkého množství nových firem, přednáškových cyklů a kariér. Klíčovými termíny zde jsou výrazy zrychlená změna, hojnost a singularita.

 

Cena za ráj

Pohádka o mluvícím rackovi mi připadá kýčovitá a vyumělkovaná. Podobně ale působí každý scénář, v němž si lidé představují, že zmizí všechna jejich materiální omezení.

Nemusíme se ale obávat, že zmizí všechna omezení. Utopisté předpokládají příchod věku hojnosti nikoli proto, že služby a zboží budou levné, nýbrž proto, že budou zdarma – za podmínky, že budeme souhlasit s naším sledováním.

Všechno to začalo počátkem 80. let, kdy zprvu úzká vrstva nadaných technologů přemýšlela o novém významu pojmů jako soukromí, svoboda a moc. Byl jsem jedním z raných účastníků těchto debat a sám jsem přispěl k formulaci mnoha myšlenek, jež zde nyní kritizuji. Kdysi nepočetná subkultura se rozvinula a její vize počítačové technologie a společnosti fungující prostřednictvím softwaru dnes převládla.

Jedna z větví hnutí, jemuž můžeme říkat „hackerská kultura“, říká, že svoboda znamená absolutní soukromí, jehož se dosáhne pomocí kryptografie. Pamatuji si, jaké vzrušení jsme zažívali, když jsme na MIT kolem roku 1983 používali silné vojenské šifry jen k domlouvání, kdo zaplatí pizzu.

Na druhé straně někteří z mých tehdejších přátel, s nimiž jsem se dělil o pizzu, nakonec závratně zbohatli na tom, že nahromadili gigantické soubory dat propojené křížovými odkazy. Ty pak zpřístupnili finančním společnostem, inzerentům, pojišťovnám a dalším organizacím, které rozvíjejí své představy o řízení světa na dálku.

Pro lidskou povahu je typické nevnímat pokrytectví, a navíc čím je toto pokrytectví větší, tím méně je ho obvykle vidět. My technologové míváme sklon spojovat ideje do kompaktních myšlenkových celků. Jedna taková dost rozšířená myšlenková syntéza (kryptografie pro experty spolu s masivním sledováním ostatních) říká: o soukromí pro běžné lidi je teď už zbytečné usilovat, protože brzy stejně bude nutné změnit jeho definici. Dohled malého počtu technických odborníků nad masou ostatních lze prý dočasně tolerovat, protože v cílovém stavu bude stejně všechno transparentní. Podnikatelé na sítích i kyberaktivisté si zřejmě představují, že špičkové síťové servery, které dnes těží ze své informační převahy, nakonec přestanou být škodlivé nebo se prostě rovnou samy zruší.

Digitální utopie si představuje, že v éře ultravýkonných a ultralevných počítačových technologií si vůbec nebudeme muset dělat starosti s mocí a vlivem provozovatelů elitních sítí z řad dravců finančního trhu nebo technologických gigantů typu Google a Facebook. V budoucím světě hojnosti prý bude každý motivován k tomu, aby byl otevřený a velkorysý.

Je bizarní, jak socialistické jsou představy konečné podoby utopie, a to i u těch nejhorlivějších zastánců technologické svobody. Představují si, že radosti života budou natolik levné, že bude zbytečné je měřit. Zavládne všeobecná hojnost.

Takové vize sdílejí nejrůznější kybernetikou oslnění podnikatelé i političtí aktivisté od Facebooku po WikiLeaks. Podle jejich vizí nebudou v budoucnu žádná tajemství a žádné bariéry přístupu k informacím; svět se otevře, jako by se celá planeta stala průzračnou křišťálovou koulí. Mezitím si ovšem tito přesvědčení věřící budou kódovat své servery a zároveň shromažďovat informace o zbytku světa, aby je co nejlépe finančně využili.

Až příliš snadno se zapomíná na to, že „zadarmo“ také nevyhnutelně znamená, že o našich životech bude rozhodovat někdo jiný.

7.2.2017