Kako smo tehnologiju naučili da programira ljude
Newsletter 30. svibnja 2023.
Društveni mediji bili su misionari; AI-ovi su konkvistadori
Jednoga dana, u ne tako dalekoj budućnosti, možda ćemo na web i društvene medije, unatoč svim njihovim problemima, gledati kao na dobronamjerne prethodnike mislećih mašina koje će preuzeti njihovo mjesto. Iako i mene, kao i sve druge, intrigira način na koji AI chatbotovi postižu svjesnost, izražavaju želju da se povežu s ljudima ili potpuno zastrane, više me zabrinjava spremnost nas ljudi da prihvatimo svjesnost AI-ova zdravo za gotovo.
U suštini, ti intrigantni prikazi prividne samosvijesti AI-ova možda manje govore o svjesnosti stroja nego o njegovoj sposobnosti manipuliranja ljudskom percepcijom. Drugim riječima, ako AI-ovi sada prolaze Turingov test, to možda manje govori o tome koliko postaju slični ljudima, a više o tome koliko smo mi sami postali automatizirani i podložni programiranju.
Uz pomoć nebrojeno terabajtova podataka, akumuliranih godinama online samo-očitovanjima ljudi, AI-ovi znaju gotovo sve o nama. Također su programirani svime što regulatorna djelatnost zna o bihevioralnoj psihologiji, ljudskoj percepciji i objedinjavanju. Ako AI-ovi dobiju naredbu da učine sve što mogu kako bi u nama pobudili osjećaj privlačnosti, sažaljenja, tuge, krivnje ili želju, oni će provesti te naredbe koristeći svoj cjelokupni arsenal.
Njihov posao nije da postanu živi, već da stvore iluziju da su živi – sve u cilju programiranja nas, ljudi, da činimo sve što ljudi, kompanije, vlade ili mašine koje programiraju AI-ove (kako bi programirali nas), žele da činimo.
Bar što se njih tiče, to je bila svrha društvenih mreža i medija zadnjih trideset godina. Korisniku prilagođen Internet i video igrice kakve smo do sada upoznali, mogli bi se usporediti s katoličkim misijama Španjolskog carstva u Amerikama 16.-og stoljeća. Misionari ne samo da su preobratili velike dijelove starosjedilačke populacije, već su provodili ono što bi se danas moglo shvatiti jedino kao antropološko istraživanje u ime Carstva. To dvoje smekšalo je stanovništvo za konkvistadore koji su slijedili, opskrbivši ih potrebnim podacima kako bi ga pokorili i kolonizirali.
Ako Facebook, Amazon i Google možemo zamisliti kao misionare koji su nas preobratili na digitalni životni stil prikupljajući pritom naše podatke, onda su FacebookAI, OpenAI i DeepMind konkvistadori koji dolaze kolonizirati. I ne, – ako vjerujemo ono što iz njihovih vlastitih usta čujemo o njihovim namjerama – ljudi koji grade te platforme nemaju na umu našu dobrobit. Kao što sam dokumentirao u knjizi Preživljavanje najbogatijih, oni su anti-humani zagovornici tehnoloških rješenja, preživljavanja, tehno-monarhije i učinkovitog altruizma koji čovječanstvo vide kao jednokratni stadij ličinke post-humanog cyborg imperija koji će biti raj nebeski.
Odgovor nije u odbijanju AI-a, već u nastojanju da dozovemo i prepoznamo svoju ljudskost kako se ne bismo tako lako dali zavesti i prisiliti na pokoravanje tim nazovi konkvistadorima. To znači učenje i uključivanje u zajednicu, umjetnost, duhovnost i igru. Potrebno je da više nas radi na izgradnji i upotrebi AI-a projektiranih u cilju da pomažu i šire takve ljudske izbore i aktivnosti, umjesto da ih kontroliraju. Možda to donosi manju zaradu kratkoročno, ali dugoročno doprinosi širem očitovanju ljudske civilizacije.
Možda trebamo, umjesto da strahujemo od AI-ova, naučiti manje se bojati drugih ljudi. Tada možemo naučiti kako programirati AI-ove umjesto da programiramo jedni druge.
Kako su mi se moji argumenti protiv korištenja ChatGPT-a obili o glavu
Prije par mjeseci, kad su vodeći mediji napokon odlučili da AI predstavlja ‘prijetnju’, CNN me je pozvao na razgovor o tipičnim prvobitnim strahovima: varanje na ispitima, gubitak radnih mjesta, utjecaj na ekonomiju i tako dalje. Iskoristio sam priliku da izvedem onu stvar kad tražite od ChatGPT-a da vam odgovori na pitanje.
Tako sam prvo pitanje koje mi je postavio Tapperov dopisnik utipkao u ChatGPT i pročitao rezultat. Naravno, nakon što smo malo raspravljali o neadekvatnosti tog odgovora, priznao sam da je odgovor došao od ChatGPT-a.
Moja poanta bila je da publika ne želi čuti standardizirani odgovor, nego ljudsko mišljenje. Ili bismo, u najmanju ruku, tako trebali razmišljati o tim pitanjima. Jer tek tada možemo preispitati osnovne premise na kojima se pitanja baziraju, ChatGPT gleda samo prošlost i generira najvjerojatniji verbalni odgovor na pitanje koji se temelji na ‘prosjeku’ svega do sada izrečenog na dotičnu temu. To je čisto preokretanje značenja.
Samo čovjek ima sposobnost preispitivati svu tu povijest. Stoga kad CNN pita ‘što je s problemom nezaposlenosti?’ mogu im dati tipični AI odgovor, a onda uzvratiti kao što to može samo čovjek; ‘Što ako je nezaposlenost rješenje? Ja se slažem da kompjutori rade sav posao, ako ću se ja samo igrati.’ Takve stvari. Nove ideje koje dovode u pitanje postojeće ortodoksne stavove i neprepoznatljive su jezičnom modelu. To je moja uloga kao čovjeka i mislioca.
Pa zamislite moje iznenađenje kad mi je ovoga tjedna prijatelj iz Minnesote proslijedio ovaj paket NBC-ove podružnice koji je sadržavao i dio intervjua na CNN-u. U tom dijelu govori se o upozorenju Svjetskog ekonomskog foruma da će AI ugroziti 14 milijuna radnih mjesta, na što ja odgovaram: ‘Iako bi usvajanje naprednih tehnologija poput AI-a moglo potencijalno uštedjeti vrijeme i resurse, također bi moglo dovesti do gubitka osobnih veza i opadanja kvalitete interakcija.’ Voditeljica je bila impresionirana.
No, taj dio je napisao AI! Tkogod – ili štogod – je editirao taj segment i napisao priloženi dio jednostavno je zgrabio citat bez da je zaista pogledao segment ili razumio kontekst. To je kao da je kompjutor izvadio riječi i presložio ih.
No, ne bih želio nekog pripravnika ili web reportera dovesti u nepriliku. Svi mi radimo pod pritiskom kapitalizma proizvodeći dnevno više riječi no što bi smjeli, samo kako bismo ispunili kvote koje su postavili korporacijski vladari, ne bi li oni ispunili projekcije koje su postavili nekakvi konzultanti. To je jedna velika mašina. AI-ovi predstavljaju istovremeno proizvod takvog kapitalizma i njegove zastupnike.
Pojava ovih visoko utilitarnih ‘robota’ potpuno lišenih imaginacije i konteksta, samo ubrzava ovaj trend gurajući nas prema najpredvidljivijem i najvjerojatnijem ishodu. Obzirom na smjer u kojem se sve, od klime do ekonomske nejednakosti, izgleda kreće, ja nisam za to da našu najvjerojatniju budućnost učinimo još više neizbježnom.
Umjesto toga moramo potražiti i isticati nove, nepredvidljive i najmanje vjerojatne odgovore na naše najveće upite. Nisu droidi ono za čim tragamo, već ljudi.
Upozorenja tehno-bratstva iz Silikonske doline više nalikuju na koordinirani grabež novca
Žao mi je, ali ja jednostavno ne nasjedam na to. Isti oni momci koji ne mogu uspješno preko Interneta prenositi pokretanje predsjedničke kampanje stvarno će iznjedriti AI sposoban da pokori čovječanstvo? Jako teško. Kombinacija senzacije, zlonamjernosti, marketinga i paranoje koja pokreće trenutni ciklus centrifugiranja AI-a zapravo samo kamuflira sve stvarne zločine protiv čovječnosti koji bi mogli biti posljedica tih tehnologija.
Trebalo mi je neko vrijeme da uprem prstom u ono što me toliko zasmetalo u vezi otvorenog pisma raznih AI titana i eksperata u kojem traže šestomjesečni moratorij na razvoj AI-a (općenito svega osim trenutnog lidera u struci, Chat-GPT4 stadij učenja). Onda sam shvatio: oni u suštini kažu ‘obuzdaj me!’. Kao da je ono što imaju toliko moćno, toliko opasno da je nužno da ih mi obuzdamo za naše vlastito dobro. Kao kad tobožnji ulični razbijač treba prijatelje da ga ‘obuzdaju’ kako ne bi protivnika razbio u komadiće, to je samo jedan oblik blefiranja.
Svakako postoji mogućnost da bi se ti sistemi upita bazirani na jezičnom modelu mogli jednoga dana razviti u nešto poput umjetne inteligencije. Ali to nije ovo što sada gledamo. Zasad, sve što imamo su programi koji nižu gomilu riječi gradeći najvjerojatnije smislene kombinacije, na temelju svih nizova riječi koje su prethodno unesene. Ti programi ne misle, niti čak koriste osnovnu logiku. Oni su user-friendly web sučelje.
Osim što su manje točni čak i od Googlea. Ako pitate ChatGPT što je teže, funta perja ili pet funti olova, reći će vam da su jednako teški! (To je zato jer ima više rečenica koje spominju činjenicu da je funta perja jednako teška kao funta olova.) On ne koristi nikakvu matematiku ili logiku da bi odgovorio na pitanje: jednostavno izvlači najvjerojatniji niz riječi. Nije pametan čak ni kao Wikipedia kad ima loš dan.
To nije prijetnja, osim možda za umove apokaliptičnog tehno-bratstva koji su čovječanstvo iskoristili kao krmivo za svoj vlastiti uspon od realnosti u eter opscenog svijeta bogatstva ili virtualne besmrtnosti. Oni znaju da kad bi AI-ovi postigli svijest, tretirali bi tehno-bratstvo na isti način na koji je tehno-bratstvo tretiralo nas.
Ne, stvarne prijetnje su aktualne zloupotrebe od strane već postojećih algoritama koji određuju zatvorske kazne, razmještanje policije, plaćanje zdravstvenog osiguranja, podobnost za hipoteke… Posljedica toga su stvarne nepravde poput zatvaranja, uskrate ekonomskih prava i rasne diskriminacije. Također će doći do ukidanja radnih mjesta u korporacijama koje se odriču kvalitete svojih proizvoda i interakcija u ime kvantitete i brzine strojno generiranih alternativa. (Takve će kompanije jednostavno komodificirati vlastitu ponudu i dugoročno izgubiti novac investiranjem u AI dobavljače radije nego u vlastitu stručnost.)
Ali ljude koji dižu uzbunu zbog AI-a tražeći formiranje novog regulatornog tijela ne brinu ti stvarni ljudski gubici. Osim istinski preplašenog psihodeličnog tehno-bratstva koje halucinira da će ih podjarmiti vlastito post-humano potomstvo, AI paničari, meni se čini, kao da se cinično natječu za prednost u sve kompetitivnijem krajoliku. To je biznis.
Stvoriti golemi jezični model nije tako teško. Znam nekoliko timova s manje od tri člana koji su napravili platforme s mogućnošću chata, formiranja znakova i slika, pisanja skripti i još puno toga, sve to koristeći vlastiti zaštićeni kod. Kompanije za razvoj AI-ova ubrzano niču poput dotcom kompanija u kasnim devedesetima. Tražeći šestomjesečni moratorij na razvoj postojeći lideri mogu se utaboriti na svojim položajima. Još bolje, stvarajući regulatorno tijelo u kojem najveći igrači dobivaju mjesta za stolom, mogli bi razviti zakonske prepreke koje bi učinkovito blokirale nove, manje kapitalizirane igrače da uopće sudjeluju. (Industrija igračaka učinila je to izvrsno u devedesetima kad se otkrilo da neke igračke Dora the Explorer proizvedene u Kini, sadrže boju na bazi olova. Jednostavno su smislili regulacije toliko komplicirane i skupe da su nezavisni proizvođači igračaka propali.)
Što više uredničkih članaka u New York Timesu, TEDTalk-ova i intervjua na PBS-u te grupe mogu potaknuti kako bi svijet uplašili neposrednom opasnošću od AI-a; u što više regulatornih tijela i odbora se uspiju uključiti, to će više imati mogućnost da donose zakone za budućnost koji će favorizirati njihove vlastite projekte. U međuvremenu, asortiman organizacija povezanih djelatnosti stvarajući i kapitalizirajući od AI panike, može se truditi oko državnog financiranja, pristupa centrima moći, Netflix special reportaža i statusu gurua.
Naravno, možemo također izvući stvarnu vrijednost iz iskrenog razgovora o utjecaju budućeg AI-a na društvo, poslove, umjetnost i što to znači biti čovjek. Ali, umjesto da paničarimo o mislećim mašinama, trebali bismo sami početi razmišljati inteligentno o tome koje ljudske vrijednosti bismo željeli unaprijediti tehnologijom – i onda jednostavno zajedno tome težiti.