Yuval Noah Harari: Zašto tehnologija pogoduje tiraniji


I. Rastući strah od beznačajnosti

Ništa nije zajamčeno kad se radi o demokraciji. Unatoč svim uspjesima demokracija tijekom zadnjeg stoljeća ili nešto više, one su samo točke na radaru povijesti. Monarhije, oligarhije i drugi oblici autokratske vladavine bili su daleko više prisutni vidovi upravljanja ljudskim društvom. 

Pojava liberalnih demokracija povezana je s idealima slobode i jednakosti koji mogu izgledati samorazumljivi i neopozivi. No ti su ideali puno krhkiji no što vjerujemo. Njihov uspjeh u 20. stoljeću ovisio je o jedinstvenim tehnološkim uvjetima koji bi se mogli pokazati prolaznima.

U drugom desetljeću 21. stoljeća, liberalizam je počeo gubiti na vjerodostojnosti. Pitanja o sposobnosti liberalne demokracije da se skrbi za srednju klasu, sve su glasnija; politika je postaje sve više plemenska; a u sve više zemalja lideri pokazuju sklonost demagogiji i autokraciji. Uzroci ove političke promjene su složeni, no po svemu sudeći usko povezani sa suvremenim tehnološkim razvojem. Tehnologija koja je pogodovala demokraciji mijenja se, a razvoj umjetne inteligencije mogao bi dalje pospješiti tu promjenu.  

Informacijska tehnologija nastavlja žustro napredovati; biotehnologija počinje otvarati prozor u naš unutarnji život – naše emocije, misli i izbore. Infotehnologija i biotehnologija zajedno će potaknuti nečuvene preokrete u ljudskom društvu, nagrizajući ljudsko djelovanje i vjerojatno, potkopavajući ljudske težnje. U takvim uvjetima, liberalna demokracija i ekonomija slobodnog tržišta mogle bi postati zastarjele.

Obični ljudi možda ne razumiju umjetnu inteligenciju i biotehnologiju u detalje, ali mogu osjetiti da ih budućnost mimoilazi. Godine 1938. prilike običnog čovjeka u Sovjetskom savezu, Njemačkoj i Sjedinjenim državama možda su bile mračne, ali stalno je bio uvjeravan da je najvažniji na svijetu i da je on budućnost (uz uvjet, naravno, da je “običan čovjek”, a ne, recimo Židov ili žena). Gledao je propagandne plakate – koji su u pravilu prikazivali rudare i radnike u željezarama u herojskim pozama – i na njima je vidio sebe: “Ja sam na tom plakatu! Ja sam heroj budućnosti!”.

U godini 2018.-oj prosječna osoba osjeća se sve više nevažnom. Mnoštvo tajnovitih izraza spominje se uzbuđeno na TedTalk skupovima, u vladinim grupama za strateško promišljanje odnosno think tank-ovima i na konferencijama o visokoj tehnologiji – globalizacija, blockchain, genetski inženjering, umjetna inteligencija, strojno učenje – a obični ljudi, muškarci i žene podjednako, imaju razloga sumnjati da se bilo koji od tih termina odnosi na njih.   

U 20. stoljeću mase su se pobunile protiv eksploatacije i stremile su da svoju vitalnu ulogu u ekonomiji prevedu u političku moć. Danas mase strahuju od nevažnosti i mahnito nastoje iskoristiti svoju preostalu političku moć prije no što bude kasno. Brexit i Donald Trump mogli bi stoga ukazivati na putanju suprotnu tradicionalnim socijalističkim revolucijama. Rusku, kinesku i kubansku revoluciju pokrenuli su ljudi koji su bili ključni za ekonomiju, ali im je nedostajala politička moć; 2016. godine Trump i Brexit podržavalo je mnogo ljudi koji su još uvijek imali političku moć, ali su strahovali da gube svoju ekonomsku vrijednost. Populistički pokreti u 21. stoljeću vjerojatno će biti okrenuti, ne protiv ekonomske elite koja iskorištava ljude, već protiv ekonomske elite koja ih više ne treba. To bi možda mogla biti izgubljena bitka. Puno je teže boriti se protiv beznačajnosti nego protiv eksploatacije.    

Revolucije u informacijskoj tehnologiji i biotehnologiji još uvijek su u povojima, a opseg njihove odgovornosti za postojeću krizu liberalizma je diskutabilan. Većina ljudi u Birminghamu, Istanbulu, St. Petersburgu i Mumbaiju samo je nejasno svjesna, ako su uopće svjesni, uspona UI – umjetne inteligencije i njenog potencijalnog utjecaja na njihove živote. Nesumnjivo je, međutim, da će tehnološke revolucije koje se sada zahuktavaju, u sljedećih nekoliko decenija čovječanstvo suočiti s najtežim iskušenjima do sada.

II. Nova beskorisna klasa?

Započnimo sa poslovima i prihodima jer bez obzira na bilo kakvu filozofsku privlačnost liberalne demokracije, ona je svoju snagu stekla uvelike zahvaljujući praktičnim prednostima. Decentralizirani pristup donošenju odluka koji je karakteristika liberalizma – kako u politici tako i u ekonomiji – omogućio je liberalnim demokracijama da prestignu druge države i svojim ljudima osiguraju sve veće obilje.

Liberalizam je pomirio proletarijat s buržoazijom, vjernike s ateistima, domaće stanovništvo s imigrantima, Europljane s Azijatima, svima obećavajući veći komad kolača. S kolačem koji neprestano raste to je bilo moguće. I kolač je možda mogao i dalje rasti. Međutim, ekonomski rast ne može riješiti socijalne probleme koje je sada počela stvarati tehnološka disrupcija, zbog toga jer se takav rast sve više zasniva na iznalaženju sve više disruptivnih tehnologija.

Strah od mašina koje će ljude izgurati sa tržišta rada, naravno, nije ništa novo i u prošlosti su se takvi strahovi pokazali neopravdanima. No, umjetna inteligencija se razlikuje od starih mašina. U prošlosti su se mašine natjecale s ljudima uglavnom u manualnim vještinama. Sada se počinju s nama natjecati u kognitivnim vještinama. A mi ne poznajemo nikakvu treću vrstu vještina – osim manualne i kognitivne – u kojoj će ljudi uvijek biti u prednosti.

Bar još nekoliko desetljeća ljudska inteligencija će po svoj prilici daleko nadmašivati inteligenciju  kompjutora na brojnim poljima. Stoga, kako kompjutori budu preuzimali sve više rutinskih kognitivnih poslova tako će se pojavljivati novi kreativni poslovi za ljude. Mnogi od tih poslova vjerojatno će ovisiti o kooperaciji prije nego o natjecanju između ljudi i umjetne inteligencije. Timovi ljudi i umjetne inteligencije vjerojatno će se pokazati nadmoćniji, ne samo od ljudi, već i od kompjutora kad rade samostalno.

Međutim, može se pretpostaviti da će većina novih poslova zahtijevati visoku razinu stručnosti i darovitosti, pa zbog toga neće predstavljati rješenje za problem nezaposlenih nekvalificiranih radnika ili radnika sposobnih za rad na ekstremno slabo plaćenim radnim mjestima. Štoviše, kako se UI bude dalje usavršavala, čak i poslovi koji zahtijevaju visoku inteligenciju i kreativnost mogli bi postepeno nestajati. Za smjer u kojem stvari kreću može poslužiti primjer iz svijeta šaha. Nekoliko godina nakon što je IBM-ovo računalo Deep Blue pobijedilo Garrya Kasparova 1997. godine, igrači šaha još su uvijek blistali; UI je korištena za treniranje izuzetno nadarenih pojedinaca, a timovi sastavljeni od ljudi i kompjutora pokazali su se nadmoćni nad kompjutorima koji su igrali sami.      

Tek zadnjih godina su kompjutori postali tako dobri u igranju šaha da su njihovi ljudski suradnici izgubili svoju vrijednost i uskoro bi mogli postati potpuno irelevantni. Druga ključna prekretnica dogodila se 6. prosinca 2017. godine kada je Google-ov AlphaZero program porazio program Stockfish 8. Stockfish 8 je osvojio svjetsko kompjutorsko prvenstvo 2016. godine. Imao je pristup ljudskom znanju šaha akumuliranom stoljećima kao i desetljećima kompjutorske znanosti. Nasuprot tome, AlphaZero nije bio podučavan nikakvim šahovskim strategijama od strane svojih ljudskih kreatora – čak ni standardnim otvaranjima. Umjesto toga on je koristio najnovije principe strojnog učenja tako da je igrao protiv samog sebe. Unatoč tome, od 100 partija koje je početnik AlphaZero igrao protiv Stockfish 8 programa, AlphaZero pobijedio je u 28 partija, remizirao 72 – a niti jednom nije izgubio. Budući da AlphaZero nije ništa naučio od ljudi, mnogi od njegovih pobjedničkih poteza i strategija izgledali su nekonvencionalni ljudskom oku. Mogli bi biti opisani kao kreativni, ako ne, naprosto genijalni.  

Možete li pogoditi koliko dugo je AlphaZero učio šah, počevši bez ikakvog predznanja, pripremajući se za meč protiv Stockfish 8 i razvijajući svoje instinkte genija? Četiri sata. Stoljećima je šah smatran jednim od krunskih vrhunaca ljudske inteligencije. AlphaZero krenuo je od potpunog neznanja i dostigao majstorsko znanje za samo četiri sata, bez pomoći ljudskog vodiča.

AlphaZero nije jedini imaginativni softver na tržištu. Jedan od načina za hvatanje varalica na šahovskim turnirima danas, je nadziranje razine originalnosti igrača. Ako odigraju neki izuzetno kreativni potez, suci će često posumnjati da to može biti ljudski potez – to mora da je potez kompjutora. Bar u šahu, kreativnost se već smatra zaštitnim znakom kompjutora, a ne ljudi! Pa, ako je šah naš kanarinac u rudniku, pravovremeno smo upozoreni da kanarinac umire. Ono što se danas događa sa timovima ljudi i umjetne inteligencije u šahu moglo bi se uskoro dogoditi sa timovima ljudi i umjetne inteligencije u policiji, medicini, bankovnom poslovanju i mnogim drugim područjima.  

Štoviše, UI posjeduje jedinstvene nehumanoidne osobine, što čini da razlika između UI i čovjeka radnika predstavlja razliku u vrsti, a ne u stupnju. Dvije posebno važne nehumanoidne sposobnosti umjetne inteligencije su konektivnost i mogućnost ažuriranja.

Na primjer, mnogi vozači nisu upoznati s promjenama u regulaciji prometa na cestama kojima voze i često ih krše. Osim toga, budući da je svaki vozač jedinka za sebe, kada se dva vozila približavaju istom raskršću, vozači ponekad krivo interpretiraju namjere jedan drugog i dolazi do sudara. Nasuprot tome, samovozeći automobili znat će sve prometne regulacije i nikada ih neće namjerno prekršiti i svi mogu biti međusobno povezani. Kada se dva takva vozila približavaju istom raskršću, oni ustvari neće biti dvije odvojene jedinke, već dio jednog algoritma. Šanse da dođe do nesporazuma i sudara bit će stoga puno manje.  

Slično tome, ako Svjetska zdravstvena organizacija prepozna novu bolest ili se u laboratoriju proizvede novi lijek, ne mogu se smjesta obavijestiti svi liječnici na svijetu. No, čak i ako imate milijarde UI doktora na svijetu – od kojih svaki prati zdravlje pojedinog ljudskog bića – vi možete u djeliću sekunde ažurirati sve njih i svaki od njih mogao bi jedan drugom prenijeti svoje procijene u vezi nove bolesti ili novog lijeka. Ove potencijalne prednosti u odnosu na konektivnost i mogućnost ažuriranja toliko su goleme da bi, bar u nekim djelatnostima, imalo smisla zamijeniti sve ljude sa kompjutorima, čak i ako pojedinačno neki ljudi ipak posao obavljaju bolje od strojeva.

Sve ovo vodi do jednog važnog zaključka: Revolucija automatizacije neće se sastojati samo od jednog događaja koji će biti razvodnica poslije kojeg će se tržište rada ustaliti u jednoj novoj ravnoteži. Prije će to biti kaskada sve većih poremećaja. Stari poslovi će nestajati, a novi će se pojavljivati, no i ti novi poslovi će se ubrzano mijenjati i nestajati. Ljudi će se morati prekvalificirati i ponovo se osmišljavati, ne samo jednom, već mnogo puta.

Baš kao što su u 20. stoljeću vlade uvodile opsežne obrazovne sustave za mlade, u 21. stoljeću će morati uvoditi opsežne sustave za prekvalifikaciju odraslih. No, hoće li to biti dovoljno? Promjena je uvijek stresna, a grozničavi svijet 21. stoljeća proizvodi globalnu epidemiju stresa.  Kako raste nestalnost poslova, hoće li ljudi biti u stanju nositi se s tim? Do 2050. godine mogla bi se pojaviti beskorisna klasa kao rezultat, ne samo pomanjkanja poslova ili nedostatka primjerenog obrazovanja, već također nedovoljne izdržljivosti za neprekidno učenje novih vještina.

III. Uspon digitalnih diktatura

I dok mnogi ljudi gube svoju ekonomsku vrijednost, moglo bi se dogoditi da izgube i svoju političku moć. Iste one tehnologije koje bi mogle milijarde ljudi učiniti ekonomski nevažnima, mogle bi također olakšati njihovo nadziranje i kontrolu.

UI plaši mnoge ljude jer ne vjeruju da će ostati poslušna. Znanstvena fantastika naglašava  mogućnost da kompjutori ili roboti razviju vlastitu svijest – i ubrzo nakon toga pokušaju ubiti sve ljude. No, ne postoji neki određeni razlog za vjerovanje da će UI, bivajući  sve inteligentnija, razviti svijest. Mi bismo se trebali bojati umjetne inteligencije upravo zato što će uvijek slušati svoje ljudske gospodare i nikada se neće pobuniti. UI je oruđe i oružje različito od svega što su ljudska bića do sada razvila; ona će gotovo sigurno omogućiti onima koji već sada imaju moć da je još više učvrste.  

Uzmimo nadziranje. Brojne zemlje diljem svijeta, uključujući i neke demokratske, aktivno rade na razvoju nadzornih sustava bez premca. Izrael je, na primjer, vodeći na polju tehnologije za nadzor i od okupirane Zapadne obale stvorio je radni prototip za režim totalnog nadzora. Već danas, kad god Palestinci telefoniraju, objavljuju nešto na Facebooku ili putuju iz jednog grada u drugi, vjerojatno će biti nadzirani uz pomoć izraelskih mikrofona, kamera, dronova ili softvera za špijuniranje. Algoritmi analiziraju prikupljene podatke pomažući izraelskim snagama sigurnosti da precizno identificiraju i neutraliziraju ono što smatraju potencijalnim prijetnjama. Palestinci mogu administrirati neke gradiće i sela na Zapadnoj obali, ali Izraelci vladaju nebom, zračnim putovima i kibernetičkim prostorom. Zbog toga je potrebno iznenađujuće malo izraelskih vojnika da bi učinkovito kontrolirali 2,5 milijuna Palestinaca koji žive na Zapadnoj obali.

U jednom incidentu u listopadu 2017. palestinski radnik objavio je na svojoj privatnoj Facebook stranici svoju sliku na radnom mjestu, pokraj bagera. Uz sliku je napisao, “Dobro jutro!”. Facebook-ov algoritam za prevođenje napravio je malu grešku transliterirajući arapska slova. Umjesto Ysabechhum (što znači “Dobro jutro”), algoritam je slova prepoznao kao Ydbachuhum (što znači “Naudi im”). Posumnjavši da bi čovjek mogao biti terorist koji namjerava bagerom krenuti na ljude, izraelske snage sigurnosti brzo su ga uhitile. Pustili su ga nakon što su shvatili da je algoritam napravio grešku. Unatoč tome, uvredljiva Facebook objava je skinuta – opreza nikad previše. Ono što danas doživljavaju Palestinci na Zapadnoj obali mogao bi biti samo primitivni uvod u ono što će milijarde ljudi na koncu doživljavati diljem planete.

Zamislite, na primjer, da postojeći režim u Sjevernoj Koreji u budućnosti dođe do naprednije verzije tehnologije te vrste. Stanovnici Sjeverne Koreje bili bi prisiljeni nositi biometrijske narukvice koje prate sve što oni rade i govore kao i njihov krvni tlak i moždanu aktivnost. Koristeći sve veće razumijevanje ljudskog mozga i ogromne mogućnosti strojnog učenja, vlada Sjeverne Koreje mogla bi na koncu biti u stanju precizno prosuditi što svaki pojedini građanin misli u svakom trenutku. Ako građanin gleda sliku Kim Jong Una, a biometrijski senzori uhvate izdajničke znakove bijesa (viši krvni tlak, povećana aktivnost u amigdali), ta bi se osoba mogla drugi dan naći u gulagu.

Sukob između demokracije i diktature obično je sukob između dvaju različitih sustava za obradu podataka. UI može pomoći da prevagne prednost ovog zadnjeg.

No, takva stroga taktika može se pokazati suvišnom, bar u većini slučajeva. Fasada slobodnog odlučivanja i slobodnih izbora može i dalje ostati na snazi u nekim zemljama, čak i kada kontrola javnosti postaje sve slabija. Nedvojbeno, pokušaji manipulacije osjećajima birača nisu ništa novo. No jednom kada netko (bilo to u San Franciscu ili Beijingu ili Moskvi) postigne tehnološke sposobnosti da manipulira ljudskim srcem – pouzdano, jeftino i u širokim razmjerima – demokratska politika mutirat će u emocionalnu lutkarsku predstavu.  

U desetljećima koja dolaze mala je vjerojatnost da ćemo biti suočeni s pobunom svjesnih strojeva, ali ćemo možda imati posla s hordama botova koji znaju kako upravljati našim emotivnim prekidačima bolje no što to znaju naše majke i koji po nalogu ljudske elite  koriste tu tajanstvenu sposobnost da nam pokušaju prodati nešto – bilo to auto, političara ili čitavu ideologiju. Botovi bi mogli prepoznati naše najdublje strahove, mržnje i žudnje i iskoristiti ih protiv nas. Neki okus toga dobili smo već u vrijeme nedavnih izbora i referenduma diljem svijeta kada su hakeri naučili kako manipulirati pojedinačnim glasačima analizirajući podatke o njima i iskorištavajući njihove predrasude. Dok su naučno-fantastični trileri skloni dramatičnim apokalipsama punim vatre i dima, mi bismo se u stvarnosti mogli suočiti s banalnom apokalipsom pritiskom na gumb.

Najveći i najstrašniji utjecaj UI revolucije možda je njen utjecaj na relativnu učinkovitost demokracija i diktatura. Povijesno su se autokracije suočavale s paralizirajućim hendikepom u odnosu na inovacije i ekonomski rast. Krajem 20. stoljeća demokracije su obično funkcionirale bolje od diktatura jer su bile puno bolje u procesiranju informacija. Sukob između demokracije i diktature skloni smo tumačiti kao sukob između dva različita etička sustava, ali to je zapravo sukob između dva različita sustava za obradu informacija. Procesiranje informacija i donošenje odluka demokracija distribuira na mnogo ljudi i institucija, dok diktatura informacije i moć koncentrira na jednom mjestu. S obzirom na tehnologiju 20. stoljeća, koncentriranje informacija i moći na jednom mjestu bilo je neučinkovito. Nitko nije bio u stanju dovoljno brzo procesirati sve raspoložive informacije kako bi donosio ispravne odluke. To je jedan razlog zbog kojeg je Sovjetski savez donosio mnogo lošije odluke od Sjedinjenih država i zbog čega je sovjetska ekonomija zaostajala za američkom.  

Međutim, umjetna inteligencija mogla bi uskoro gurnuti njihalo u suprotnom smjeru. UI omogućava centralno procesiranje ogromnih količina informacija. Ustvari, ona centralizirane sustave čini puno učinkovitijima od raspršenih sustava zato jer strojno učenje funkcionira bolje ako stroj ima na raspolaganju više informacija za analizu. Ako zanemarite sve probleme u vezi privatnosti i sve informacije o milijardu ljudi koncentrirate u jednoj bazi podataka, imat ćete mnogo bolje algoritme nego ako poštujete individualnu privatnost i u svojoj bazi podataka imate samo parcijalne informacije za milijun ljudi. Autoritarna vlada koja svim svojim građanima nalaže sekvenciranje DNK-a i davanje medicinskih podataka nekom središnjem organu imala bi golemu prednost u genetskom i medicinskom istraživanju u odnosu na društva u kojima su medicinski podaci strogo privatni. Glavni hendikep autoritarnih režima u 20. stoljeću – želja za koncentriranjem svih informacija i moći na jednom mjestu – mogla bi postati njihova odlučujuća prednost u 21. stoljeću.

Nove tehnologije će se naravno i dalje pojavljivati i neke od njih poticat će distribuciju radije nego koncentraciju informacija i moći. Blockchain tehnologija i korištenje kriptovaluta koje ona omogućava, trenutno se reklamiraju kao moguća protuteža centraliziranoj moći. No, blockchain tehnologija još je uvijek u stadiju embrija i mi još ne znamo hoće li zaista biti protuteža centralističkim tendencijama umjetne inteligencije. Sjetite se da je i Internet u svojim ranim danima bio najavljivan kao libertarijanska panaceja koja će ljude osloboditi centraliziranih sustava – ali je sada spreman centraliziranu vlast učiniti moćnijom no ikada prije.

IV. Prijenos ovlasti na mašine

Čak iako neka društva ostanu prividno demokratska, sve veća učinkovitost algoritama prenijet će sve više ovlasti sa pojedinačnih ljudi na umrežene mašine. Možda ćemo sve više i više ovlasti nad našim životima prepuštati algoritmima jer ćemo iz iskustva naučiti da im vjerujemo više nego vlastitim osjećajima, gubeći na koncu svoju sposobnost da sami za sebe donosimo odluke. Pomislite samo kako je, u samo dva desetljeća, milijarde ljudi došlo na to da Google-ovom algoritmu za pretraživanje povjeri jedan od najvažnijih zadataka: pronalaženje relevantnih i pouzdanih informacija. Pouzdajući se sve više u odgovore koje nam daje Google, naša sposobnost da neovisno pronalazimo informacije polako nestaje. Već danas se “istina” poistovjećuje sa rezultatima Google pretrage. Jednako tako taj proces djeluje na naše fizičke sposobnosti kao što je snalaženje u prostoru. Ljudi od Googlea ne traže samo da nađe informacije nego i da ih vodi naokolo. Samovozeći automobili i UI liječnici predstavljat će daljnje urušavanje. Uz to što će te inovacije ostaviti bez posla vozače kamiona i ljude doktore, njihov još veći utjecaj leži u kontinuiranom prijenosu ovlasti i odgovornosti na mašine.  

Ljudi su se navikli o životu misliti kao o drami donošenja odluka. Liberalna demokracija i kapitalizam slobodnog tržišta smatraju pojedinca autonomnim agentom koji neprestano radi izbore o svijetu. Umjetnička djela – bilo to Shakespearove drame, romani Jane Austen ili elegantne holivudske komedije – obično se vrte oko heroja koji mora donijeti neku ključnu odluku. Biti ili ne biti? Poslušati svoju ženu i ubiti Duncana ili slušati svoju savjest i poštedjeti ga? Oženiti g. Collinsa ili g. Darcya? Slično  tome, kršćanska i muslimanska teologija fokusiraju se na dramu donošenja odluka tvrdeći da vječno spasenje ovisi o ispravnim izborima.     

Što će se dogoditi s takvim pogledom na život ako se pouzdajemo u UI da sve više odluka donosi za nas? Već sada se oslanjamo na Netflix da nam preporuča filmove, a na Spotify da za nas odabire muziku. No, zašto bi korisnost UI stala na tome?

Svake godine milijuni studenata moraju odlučiti što će studirati. To je jako važna i teška odluka koja se donosi pod pritiskom roditelja, prijatelja i profesora s različitim interesima i stavovima. Na nju također utječu osobni strahovi i sanjarije samog studenta, a koji su oblikovani filmovima, romanima i reklamnim kampanjama. Da stvari budu kompliciranije, dani student zapravo ne zna što je nužno za uspjeh u danoj profesiji i ne mora imati realističan osjećaj za svoje vlastite sposobnosti i slabosti.

Nije teško vidjeti kako bi UI jednoga dana mogla, bolje od nas samih, donositi odluke u vezi profesionalne karijere, a možda i međuljudskih odnosa. No, jednom kada se počnemo oslanjati na UI da za nas odlučuje što ćemo studirati, gdje ćemo raditi, s kim se sastajati ili čak sklopiti brak, ljudski život više neće biti drama donošenja odluka i naša koncepcija života morat će se mijenjati. Demokratski izbori i slobodno tržište neće možda više imati smisla. Isto tako ni religije kao ni umjetnička djela. Zamislite Anu Karenjinu kako vadi pametni telefon i pita Siri da li da ostane u braku s Karenjinom ili da pobjegne s vatrenim grofom Vronskim. Ili zamislite svoju najdražu Shakespearovu dramu u kojoj bi sve odluke donosio Google-ov algoritam. Hamlet i Macbeth živjeli bi puno ugodnije, ali kakvi bi to životi bili? Imamo li mi modele za razumijevanje takvih života?

Mogu li parlamenti i političke stranke prevladati ove izazove i spriječiti mračnije scenarije? U ovom času to se ne čini vjerojatno. Tehnološka disrupcija nije čak ni vodeća točka na političkoj agendi. Za vrijeme utrke za predsjednika SAD-a 2016. godine, glavna referenca na disruptivnu tehnologiju odnosila se na fijasko s elektroničkom poštom Hilary Clinton, pa unatoč svim razgovorima o gubitku poslova, niti jedan kandidat nije direktno spomenuo potencijalni utjecaj automatizacije. Donald Trump je upozoravao glasače da će im Meksikanci uzeti poslove i da stoga SAD treba sagraditi zid na svojoj južnoj granici. Nikada nije upozorio glasače da će im algoritmi uzeti poslove niti je predložio da se sagradi vatrozid (firewall) oko Kalifornije.  

Pa što nam je činiti?

Prije svega, trebalo bi puno veći prioritet pridijeliti razumijevanju funkcioniranja ljudskog uma – posebno pitanju kako kultivirati vlastitu mudrost i suosjećanje. Ako previše investiramo u UI, a premalo u razvoj ljudskog uma, vrlo sofisticirana umjetna inteligencija kompjutora mogla bi služiti jedino osnaživanju prirodne ljudske gluposti i njegovanju naših najgorih (i, također, vjerojatno najsnažnijih) impulsa, među kojima su pohlepa i mržnja. Kako bi izbjegli takav ishod, za svaki dolar i svaku minutu koju investiramo u razvoj UI, bilo bi nam mudro investirati dolar i minutu u istraživanje i razvoj ljudske svijesti.

Ono što je praktičnije i hitnije, ako želimo spriječiti koncentraciju bogatstva i moći u rukama malobrojne elite, moramo regulirati vlasništvo nad podacima. U drevnim vremenima zemlja je bila najvažnija imovina, stoga je politika bila borba za kontrolu nad zemljom. U moderno doba strojevi i tvornice postali su važniji od zemlje, pa su se političke bitke fokusirale na kontroliranje tih ključnih sredstava za proizvodnju. U 21. stoljeću podaci će zasjeniti i zemlju i strojeve kao najvažnija imovina, pa će politika biti borba za kontrolu tokova podataka.

Nažalost nemamo mnogo iskustva u reguliranju vlasništva nad podacima, što je inherentno daleko teži zadatak nego reguliranje zemlje ili mašina. Podaci su svugdje i nigdje istovremeno, mogu se kretati brzinom svjetlosti i možete ih kopirati koliko želite. Da li podaci o mojoj DNK, mom mozgu i mom životu pripadaju meni ili vladi ili korporaciji ili ljudskoj zajednici?

Utrka u akumuliranju podataka već traje i trenutno su joj na čelu giganti poput Googlea i Facebooka, a u Kini su to Baidu i Tencent. Zasada, mnoge od tih kompanija djeluju kao “trgovci pažnjom” – oni zaokupljaju našu pažnju pružajući nam besplatne informacije, usluge i zabavu, a onda našu pažnju preprodaju oglašivačima. Ipak, njihov pravi posao nije samo prodaja oglasa. Zaokupljajući našu pažnju oni uspijevaju akumulirati ogromne količine podataka o nama, koji vrijede više od bilo kojeg dohotka od oglašavanja. Mi nismo njihovi klijenti – mi smo njihovi proizvodi.

Običnim ljudima vrlo je teško oduprijeti se tom procesu. U današnje vrijeme mnogi od nas s veseljem prepuštaju svoju najdragocjeniju imovinu – svoje osobne podatke – u zamjenu za besplatnu uslugu elektroničke pošte i smiješne video snimke mačaka. No, ako bi kasnije obični ljudi odlučili pokušati blokirati taj odljev podataka, vjerojatno bi pritom imali neprilika, posebno zato jer bi mogli postati ovisni o mreži u vezi donošenja odluka ili čak u vezi zdravlja i fizičkog opstanka.  

Nacionalizacija podataka od strane vlada mogla bi ponuditi jedno rješenje; to bi u svakom slučaju obuzdalo moć velikih korporacija. Ali povijest pokazuje da nam nije nužno bolje u rukama svemoćnih vlada. Zato nam je bolje da pozovemo naše znanstvenike, naše filozofe, naše odvjetnike, pa čak i naše pjesnike da se pozabave ovim važnim pitanjem: Kako regulirati vlasništvo nad podacima?

Trenutno su ljudi u opasnosti da postanu nalik na domaće životinje. Mi smo uzgojili poslušne krave koje proizvode ogromne količine mlijeka, ali su inače mnogo inferiornije u odnosu na svoje divlje pretke. Manje su okretne, manje znatiželjne i manje dosjetljive. Mi danas stvaramo pitome ljude koji proizvode ogromne količine podataka i funkcioniraju kao učinkoviti čipovi u golemom mehanizmu za obradu podataka, ali teško maksimiziraju svoj ljudski potencijal. Ako ne budemo oprezni, završit ćemo s degradiranim ljudima koji zlorabe usavršene kompjutore pustošeći sebe i cijeli svijet.  

Ako vam se ovakvi izgledi čine alarmantni – ako vam se ne sviđa pomisao na život u digitalnoj diktaturi ili nekom sličnom degradiranom društvu – onda najvažniji doprinos koji možete učiniti je da nađete načina za sprečavanje koncentracije prevelike količine podataka u premalom broju ruku i, također, da nađete način kako bi podržali veću učinkovitost distribuirane obrade podataka u odnosu na centraliziranu obradu podataka. To neće biti laki zadaci. Ali njihovo uspješno rješavanje možda je najbolja zaštita demokracije.  

Objavljeno u The Atlantic u listopadu 2018. kao dio serije priča koje pokušavaju odgovoriti na pitanje: Umire li demokracija?

(originalni članak: https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/ )