Distopijska budućnost?

U prodavaonici u New Musem for Contemporary Art na Manhattanu među prodavanijim je izlošcima ogledalo na čijoj je reflektirajućoj površini ispisana upozoravajuća poruka: “Današnji selfie je sutrašnji biometrijski profil”. Dio je to projekta mladog berlinskog umjetnika, jednog u nizu koji provokativno propituju probleme privatnosti i nadziranja u digitalnom svijetu. Jedan čikaški umjetnik na 3D printeru proizvodi maske za zaštitu od računalnog prepoznavanja lica, a student s New York Universityja je dizajnirao “Backslash Tool Kit”, seriju funkcionalnih uređaja za prosvjednike i pobunjenike budućnosti koji pokušavaju biti digitalno izolirani, što uključuje i “pametnu bandanu” za umetanje skrivenih poruka i javnih ključeva…

Novu generaciju aktivista, umjetnika i inovatora koji se smatraju pozvanima da kreiraju umjetnost i znanost za skrivanje, odnosno digitalnu nevidljivost, spominje na kraju svoga impresivnog djela, netom objavljene knjige “Doba nadzirajućeg kapitalizma” (The Age of Surveillance Capitalism), Shoshana Zuboff, američka znanstvenica, umirovljena profesorica Harvard Business School.

Iako ih spominje tek kao majušni dio složenog društvenog mozaika, ona ih vidi kao briljantnu umjetničku avangardu koja ukazuje zašto bi, barem u zapadnim društvima, moralo doći do pobune. Pobune protiv “odmetnutog”, agresivnog i sveprisutnog nadzirajućeg kapitalizma koji je lansirao i do neslućenih razmjera razvio Google na temelju neviđene količine podataka o nama i našem iskustvu, a brzo su prihvatili drugi tehnološki divovi poput Facebooka i Microsofta, kao i moćne telekomunikacijske kompanije, dok niz ostalih biznisa, od trgovine, financijskog sektora do osiguravatelja, kupuje njihove “predikcijske proizvode”, odnosno strojnom inteligencijom obrađene podatke o našem budućem ponašanju, za ciljano oglašavanje i razvoj prodaje.

Distopijska budućnost

Ona se ne protivi razvoju, tehnologiji, umjetnoj inteligenciji ili internetu stvari, nego novom obliku kapitalizma za koji smatra da nas – unatoč sve većoj regulativi i unatoč demokratskim sustavima vladavine – vodi u zastrašujuću distopijsku budućnost gdje automatizirani ljudi žive iza “staklenih zidova”, bez prava na dom (koji će postati samo koordinata za pametne uređaje) i bez pravog utočišta (zaštite koju suvremenom čovjeku inače pruža pravo). Nužan je drukčiji, ljudskiji temelj informacijskog kapitalizma, naglašava, a sadašnji propisi koji reguliraju privatnost i zaštitu od monopola ne mogu to osigurati (ostavlja, doduše, mogućnost da europski GDPR, Opća uredba o zaštiti osobnih podataka, donese promjenu, ali prilično je skeptična oko toga).

“Ako se sprema borba, neka to bude borba oko kapitalizma. Neka bude inzistiranje na tome da je sirovi nadzirajući kapitalizam prijetnja društvu kao i samom kapitalizmu. To nije tehnički pothvat, nije program za naprednu enkripciju, poboljšanje anonimnosti podataka ili vlasništva nad podacima. Takve strategije samo priznaju neizbježnost komercijalnog nadzora. (…) Nadzirajući kapitalizam ovisi o društvenom tkivu te nam samo u kolektivnoj društvenoj akciji i kroz nju može biti vraćeno obećanje o informacijskom kapitalizmu koji je u skladu s cvjetanjem trećeg moderniteta”, poručuje autorica. Ona nas podsjeća da je Google u svojim počecima utjelovljivao obećanje o informacijskom kapitalizmu kao oslobađajućoj i demokratizirajućoj snazi, ali je nakon dot.com krize otkrio lukrativni poslovni model (AdWords) i sve je krenulo u drugom smjeru.

“Trećim modernitetom” Shoshana Zuboff naziva novo društvo koje se pomalja, ono koje će nastati kao posljedica silnih tehnoloških i informacijskih promjena, budući da način proizvodnje, kapitalizam, uvijek sa sobom uskladi, mijenja društvo. Kao “prvi modernitet” ona definira industrijsko doba koje je počelo s Henryjem Fordom, masovnom proizvodnjom i stvaranjem populacije masovnih potrošača. Zbog opipljivog reciprociteta koji je postojao između ondašnjih kapitalista/kapitala i društvenog poretka, ono autorici često služi i kao referenca da objasni u čemu to nadzirajući kapitalizam odstupa, odmeće se od poželjnog. “Oni” nadziru sve, ne obaziru se na društvene norme i prava, ne dijele znanja i probitke. S druge strane, ukazuje, kao što je industrijska civilizacija cvala na račun prirode te sada prijeti planetu, tako se informacijska civilizacija sada razvija na račun ljudske prirode i mogla bi zaprijetiti našoj ljudskosti.

Trenutačno smo pri kraju “drugog moderniteta” koji je, kaže, počeo u drugoj polovici 20. stoljeća, s erom Margaret Thatcher i Ronalda Reagana. U tom se razdoblju kapitalizam postupno preusmjerio iz profitabilne proizvodnje dobara i usluga u “egzotične forme financijske špekulacije”, a objektivnom funkcijom kompanije postala je maksimizacija vrijednosti za dioničare. Takav je modernitet omogućila neoliberalna doktrina, a potom su s informatičkom tehnologijom u njezinu okrilju nastali Apple, pa Google, Facebook i drugi, odnosno nadzirajući kapitalizam.

Možda je prikaz toga čudovišnog kapitalizma i zastrašujućeg nastupajućeg “trećeg moderniteta” pretjerivanje, ali financijska i tehnološka moć tih globalnih brzorastućih kompanija (koje nam, doduše, omogućavaju drukčiji, efikasniji život i individualiziranu potrošnju), kao i širenje lažnih vijesti na društvenim mrežama, ili skandali poput onih s Facebookom i Cambridge Analyticom, pokazuju kako je vrijeme da se zamislimo i pitamo kako dalje, kako oblikovati bolji “treći modernitet”.

Digitalni san

Autorica zatamnjuje digitalni san, kako sama kaže. Želi da se ponovno, kao na početku internetske ere, čudimo i propitujemo što sve “oni” o nama znaju, tražimo odgovore na pitanje o tome kako su to uspjeli te što sve mogu; da se ne navikavamo na novu realnost i ne otupljujemo. Primjerice, a to je samo jedan iz gomile “nevinih” slučajeva, da shvatimo pozadinu i razloge igre poniknule u ambijentu Google Mapsa i Street Viewa, Pokemon Go, koja je 2016. godine zaludila svijet. To je zapravo bio prvi veliki eksperiment koji je demonstrirao kako se efikasno, brzo i lako može oblikovati ponašanje ljudi u realnom svijetu, a pritom kroz mapiranje interijera, eksterijera, javnih i privatnih prostora, prikupljati goleme količine novog bihevioralnog viška podataka. Također, ta Nintendova igra je imala i direktan komercijalni dio, sponzorirane lokacije… Ludilo oko te igre je splasnulo, ali kreator je poručio: “Samo smo zagrebali po površini”.

Knjiga Shoshane Zuboff već je dobila velike (kritičke) prikaze u New York Timesu i Financial Timesu, hvale je znanstvenici i autori proslavljenih knjiga – poput Darona Acemoğlua (“Zašto nacije propadaju”) i Naomi Klein (“No Logo”) – a osnovno je da detektira novi ekonomski poredak, oslikava ga i stvara kategorijalni aparat za njegovo razumijevanje, prvenstveno kroz prikaz poslovnog blitzkriega koji je postigao Google. Kako kaže, nekad smo mi pretraživali Google, sada on pretražuje nas. Ili, Facebook je bio “naše mjesto”, a postao je jedan od “najautoritativnijih i prijetećih izvora dubokog prediktivnog bihevioralnog viška”. Njihova ekspertiza sada minira samu bit autonomije pojedinca, oni su zahvaljujući znanju kojim vladaju i velikoj količini podataka počeli usmjeravati naše ponašanje, a provode i razne eksperimente (s našim podacima i našim ponašanjem), bez da ih u tome vežu pravila koja vežu znanstvenike. Jedno od poglavlja u knjizi koje o tome govori zove se stoga “Natjerajmo ih da plešu”.

Analizom prakse i futurističkih ili utopijskih digitalnih proklamacija osnivača i direktora Googlea (Larry Page, Sergey Brin, Eric Schmidt, Sundar Pichai), kao i drugih promotora tog kapitalizma (Mark Zuckerberg, Satya Nadella i drugi), Shoshana Zuboff dolazi do opasne vizije, dalekosežnih reperkusija za ljude kao slobodna bića i njihovu budućnost, pa i samu demokraciju. Utjecaj na politiku već je vidljiv.

Knjiga je pomalo proročka, ali unatoč tome vrlo temeljita i multidisciplinarna; sociološki utemeljena, povijesno situirana, ekonomski obrazložena, filozofski, psihološki i politički pojašnjena. Na gotovo 700 stranica, to je rezultat višegodišnjeg istraživanja i razgovora s 50-ak vrhunskih podatkovnih znanstvenika iz 19 značajnih kompanija Silicijske doline, donosi niz opisa i originalnih uvida u digitalnu transformaciju svijeta, kao i čudesnih usporedbi gdje smo pokatkad prikazani kao urođenici koje osvajaju konkvistadori, a pokatkad i kao odbačena tijela slonova koje su ubili radi bjelokosti.

Kineski eksperiment

Kada govori o kontekstu razvoja nadzirajućeg kapitalizma, Shoshana Zuboff posebnu pažnju posvećuje i ulozi američke države, pogotovo njene obavještajne zajednice u vrijeme nakon terorističkih napada 2001. godine. Tada se država, tražeći pomoć, okrenula novim tehnološkim kompanijama i njihovoj moćnoj aparaturi i znanju, bila je blagonaklona prema invaziji u svijet privatnih podataka. Autorica je podsjetila i na već pomalo zaboravljenog Edwarda Snowdena koji je 2013. godine otkrio suučesništvo državnih sigurnosnih agencija i tehnoloških kompanija. Jedno poglavlje je posvetila i Kini, odnosno njezinu digitalnom eksperimentu sa sustavom u kojem građani i kompanije dobivaju bodove ovisno o svom ponašanju, što je već zaista zastrašujući primjer automatizacije društva ili digitalnog totalitarizma. Cijena takvog smjera, izaberu li ga svjesno ili ne zapadne demokracije, opominje autorica, jest naša sloboda.

Rječnik novog kapitalizma

Nadzirajući kapitalizam: Shoshana Zuboff zove ga i odmetnuti kapitalizam. Američki “izum” nastao u Googleu početkom dvijetisućitih pretvorio se u globalnu realnost, dominantnu i moćnu formu kapitalizma našeg vremena koja polaže pravo na ljudsko iskustvo kao besplatnu sirovinu za skrivenu komercijalnu praksu ekstrakcije, predviđanja i prodaju. Glavni reprezenti su Google, Facebook i Microsoft, a nadziranje je temeljni mehanizam u transformaciji investicije u profit. Neoliberalna ideologija i politika pružila mu je habitat u kojem je mogao procvjetati. Dugogodišnji Googleov glavni ekonomist Hal Varian smatra se ocem discipline “googlenomije”, on je njezin Adam Smith, a ujedno i kum Googleova oglašivačkog modela. Ciljano oglašavanje popločilo je put do financijskog uspjeha i postavilo kamen temeljac za nadzirajući kapitalizam. Takva koncentracija bogatstva, znanja i moći nema presedana u povijesti.

Bihevioralni višak: Masa prikupljenih digitalnih podataka o našim iskustvima koji nisu nužni za poboljšanje neke temeljne usluge koju pružaju tehnološke kompanije, poput Gmaila ili Newsfeeda na Facebooku. Bihevioralni višak je osnovna sirovina nadzirajućeg kapitalizma. U početku su to bili tek “kolateralni” podaci o korisnicima tražilice Google koje je kompanija, bez znanja korisnika, počela obrađivati i koristiti za ciljano oglašavanje. Taj je bihevioralni višak zapravo posve nova klasa imovine i temelj nadzirajućeg kapitalizma.

Imperativ ekstrakcije podataka: Prvi ekonomski imperativ nadzirajućeg kapitalizma koji kaže da nabava besplatne sirovine iz različitih dobavnih pravaca mora neprestano rasti. Odnosi se na sve što je dostupno online.

Predikcijski proizvod: To je predviđeno ponašanje ljudi do kojeg se dolazi prikupljanjem i obradom bihevioralnog viška. Predikcijski proizvodi se potom prodaju klijentima. Autorica to opsuje kao proricanje budućnosti na temelju podataka. Ljudi su izvor sirovine, a oglašivači (i druge kompanije) su kupci gotovih proizvoda.

Sredstva za proizvodnju nadzirajućeg kapitalizma: Umjetna ili strojna inteligencija. Ona pretvara višak bihevioralnih podataka u predviđanja. Kompleksni algoritmi (računalno znanje) i golemi podatkovni centri s milijunima servera. Google posjeduje najveću računalnu mrežu na svijetu i najbolje podatkovne znanstvenike.

Tržište bihevioralnih budućnosnica: Glavno tržište novog kapitalizma. Na njemu se prodaju raznovrsni predikcijski proizvodi. Nadzirajući kapitalisti su se silno obogatili jer se sve više kompanija kladi na naše buduće ponašanje.

Predikcijski imperativ: Drugi imperativ nadzirajućeg kapitalizma. Nastao je kad je narasla konkurencija među tehnološkim kompanijama. Taj imperativ vodi u sve veću kompleksnost operacija izvlačenja bihevioralnog viška s novim izvorima podataka (kroz internet stvari, IoT), kao i sve veću kvalitetu predikcijskih proizvoda. On je doveo nadzirući kapitalizam u svakodnevni život ljudi, iz online okruženja u realni svijet, u naše domove, duboko u ljudsku osobnost i emocije. Pritom su novi kapitalisti shvatili još jedno: najbolji način da se predvidi ponašanje ljudi je da se utječe na njegove izvore i tako ga oblikuje, gura u određenom smjeru. Stoga je proizvodnja predikcija koncentrirana na modificiranje i manipuliranje ponašanja ljudi. Time počinje nova era komercijalnog nadziranja koju Shoshana Zuboff naziva “reality business”.

Sredstva bihevioralne modifikacije 21. stoljeća: Pametan (“smart” je tu ključna riječ) i mišićav aparatus koji tehnološke kompanije grade kako bi izazvale ponašanje ljudi koje pouzdano vodi do željenih komercijalnih rezultata. Autorica kaže kako je moguće zamisliti postojanje interneta stvari bez nadzirajućeg kapitalizma, ali on ne bi postojao u današnjem obliku da nije za sebe iskoristio IoT, odnosno znanje o nama koje prikuplja preko senzora pa to indeksira, obrađuje i komercijalizira.

Instrumentarijanizam: Nova vrsta moći koja se materijalizira u sveprisutnoj, umreženoj računalnoj infrastrukturi, a drže je i brane novi kapitalisti koji teže dominaciji nad ekonomijom i društvom te predstavljaju izazov za demokraciju. Autorica ih ponekad naziva “visokim svećenicima” koji o nama znaju sve i prijete “državnim udarom s vrha”

Gordana Grgas/Jutarnji.hr/https://novac.jutarnji.hr/Hrvatsko nebo