Singularitet (ni)je blizu: Top 9 najčešćih kritika teorije Reja Kurcvajla


Rej Kurcvajl je u knjizi „Singularitet je blizu“ (eng. Singularity is near) zastupao tezu da će eksponencijalni rast razvoja tehnologije uskoro dovesti do izjednavačavanja biološkog mozga i mašinskih struktura, tj. kompjuterske tehnologije. U širem smislu, Kurcvajl zastupa pozitivno spajanje čovjeka i mašine, jer samo na taj način ljudski potencijal može ispuniti maksimalne ciljeve. S druge strane, u užem smislu, autor zastupa tezu da je moguće izvršiti „inžinjering“ ljudskog mozga na način da se iskoriste pozitivne strane kompjuterske tehnologije, a da se ne izgubi ljudska suština.

Predmet ovog teksta su kritike Kurcvajlovog singulariteta. U ovoj 2019. godini imamo mnogo jasniju sliku o trendovima o kojima je Kurcvajl hipotetički promišljao, pa u realnom vremenu možemo upotrebiti test vremena da provjerimo gdje je autor bio u pravu, a gdje je pogriješio. Ipak, ne treba biti previše oštar, jer dobri futurolozi najčešće pogriješe samo u jednoj stvari: vrijeme kada će se nešto dogoditi. Džordž Orvel je sredinom dvadesetog vijeka odlično anticipirao negativne trendove tehnološkog nadzora, jedino je pogriješio u tome što je te promjene smjestio u 1984. godinu.

Singularitet
rawpixel.com

Devet kritika Kurcvajlove teorije singulariteta

U devetom poglavlju knjige „Singularitet je blizu“, Rej Kurcvajl iznosi ukupno 13 kritika drugih autora prema njegovoj teoriji. U ovom tekstu iznosimo 9 kritika, jer se određene stavke ponavljaju, pa se mogu sistematizovati u neku od sličnih.

#1 Kritika “nevjernika”

Najvažniji argument protiv singulariteta Kurcvajl naziva „kritikom nevjernika“, odnosno on kaže kako je najrasprostranjeniji stav da, ako je nešto nemoguće zamisliti, onda sigurno ne postoji. Autor s pravom kritikuje ovaj pseudo-argument, jer je „mogućnost“ nečega potpuno subjektivna stvar, a nerijetko je uslovljena objektivnim okolnostima. Prije svega jednog vijeka je bilo nemoguće zamisliti tehnologiju koja danas postoji, a iz naše perspektive, ona nam se čini kao da je oduvijek bila tu.

Prije Nikole Tesle se činilo nemogućim da elektricitet može energetski napajati gradove, kao što je izgledalo nemoguće da se glas putem radio tehnologije prenese u različitu vremensko-prostornu dimenziju. Ako razmišljamo u kategorijama koje su danas apsolutno moguće, moramo priznati da je današnja tehnologija zadržala nekadašnja pravila u smislu promišljanja mogućeg i nemogućeg.

Osim stručnjaka i entuzijasta koji se bave tehnologijom, prosječna svijest, prosječan korisnik tehnoloških dostignuća ne zna gotovo ništa o njima: na primjer, Viber ili WhatsApp se globalno koriste za prenos tekstualnih, audio-vizuelnih poruka u realnom vremenu, ali većina korisnika ne razumije kako se poruka prenese od njegovog telefona/uređaja do drugog.

Dakle, za većinu društva internet je realnost, ali se suštinski ne razumije kako on funkcioniše. Zato je Kurcvajl izrazito kritički orijentisan prema ovom argumentu, te dodaje kako ljudska vrsta živi u još jednoj zabludi, a to je navodna činjenica da je ljudska vrsta specijalna, posebna. Autor ovdje zastupa stav da se fenomenologija ljudskog bića previše romantizuje, te da ne postoji niti jedan argument koji ide u prilog tome da se dokaže posebnost ljudske vrste.

#2 Kritika Maltusa

Druga kritika kojom se Kurcvajl bavi u devetom poglavlju je „kritika Maltusa“. Maltus je bio francuski filozof koji je smatrao da na planeti Zemlji ne postoji dovoljno resursa, pa je zbog toga potrebno da se smanji broj stanovnika. On je koristio matematički dokaz o eksponencijalnom rastu, smatrajući da broj stanovnika raste eksponencijalno, dok se količine hrane povećavaju aritmetičkim trendom. Sličan argument se koristi protiv Kurcvajla, jer prema teoriji velikih brojeva u matematici, eksponencijalni rast ima limit. Pored gornje granice, eksponencijalni rast ima tendenciju da u određenoj tački povećanje napretka tehnologije bilježi malu promjenu.

Kurcvajl ovaj argument smatra validnim sa matematičke strane, ali ga kritikuje sa suštinskog stanovišta: gornja granica eksponencijalnog rasta ne podrazumijeva isključivost njegove teorije singulariteta. Naprotiv, ovo stanovište je u skladu sa teorijom, jer Kurcvajl upravo zastupa takav stav, da će u bližoj budućnosti doći do tačke u kojoj tehnologija i čovjek dijele iste sposobnosti. Dalji eksponencijalni rast u okvirima singulariteta svakako ne može biti toliko drastičan kao ranije, jer stvarnost mijenja postavke mogućeg i nemogućeg, o čemu smo govorili ranije.

#3 Kritika sporog razvoja softvera

„Kritika softvera“ je kritika koja kaže kako hardverske sposobnosti zaista rastu eksponencijalno, ali to je beznačajno ako softverske komponente ne mogu da prate taj trend. Kurcvajl kategorično odbacuje ovaj argument, pozivajući se na nepobitne dokaze koji govore u prilog softverskog rasta. On navodi jednostavan primjer softvera kompjutera od prije dvadeset godina, koji je u poređenju sa današnjim inferioran i sa programerske i sa korisničke strane. Gledano iz ugla programera, najjednostavniji softveri su prije dvadeset godina bili puni beskonačnih linija koda, od kojih su mnoge bile redudantne.

Sa druge strane, današnji softveri imaju sposobnost mašinskog učenja i prepoznavanja šablona. Istini za volju, Kurcvajl ipak govori pretežno o algoritmima, ali iz današnje perspektive možemo zaključiti da je on bio pravi vizionar u ovom aspektu. Algoritmi su danas u centru pažnje razvoja softvera, oni na društvenim medijima „biraju“ šta je dobro za korisnike, algoritmi „znaju“ šta korisnici vole ili ne vole, upravo na bazi mašinskog učenja.

Možda najbolji primjer koji dokazuje kako se softverska industrija bori da sustigne hardversku – je razvoj agilnog projektnog menadžmenta, posebno „scrum“ okruženja. Agilni menadžment u centar pažnje stavlja promjenu kao poželjnu, tj. podržava stav da je razvoj softvera dinamična kategorija koja se može mijenjati iz dana u dan (u zavisnosti od potreba tržišta ili želja naručioca). „Scrum“ okruženje funkcioniše po Kurcvajlovim principima eksponencijalnog rasta, tj. razvojni timovi isporučuju funkcionalan softver što je prije moguće.

Džef Saterlend, kreator „scrum“ okruženja kaže kako se većina softvera, od strane prosječnog korisnika, koristi u maksimalno 20 procenata kapaciteta. Agilna metodologija, u skladu sa tim, podrazumijeva da se razvoju softvera pristupa tako da se primarno isporuči tih osnovnih 20 procenata, dok ostalih 80 procenata pripada kategoriji „unapređenja i usavršavanja“. Zaista, softverska industrija je bila spora za eksponencijalni rast kada je funkcionisala po principu „vodopadnog“ projektnog menadžmenta, jer su razvojni timovi radili više godina na projektima koji se na kraju ispostave već zastarjelim.

Singularitet
pexels.com/@negativespace

#4 Kritika analognog

Četvrta kritika se naziva „kritika analognog“: digitalno okruženje je rigidno, ljudska inteligencija je analogna. Kurcvajl smatra da ovaj argument nije nikako održiv, jer ne postoji ono analogno što digitalno ne može izvesti. To se najčešće radi kombinacijom digitalnog i analognog, ili emulacijom analognog putem digitalnog. U razradi ovih argumenata, Kurcvajl se dotiče pojma „kvantuma“, za koji se smatra da je osobina ljudskog mozga, odnosno neurona.

Kvantum podrazumijeva mogućnost ili sposobnost izračunavanja svih mogućnosti odjednom. U ljudskom mozgu se ova funkcija prvenstveno obavlja u prefrontalnom korteksu, koji je zadužen za analitiku i planiranje. Kurcvajl smatra da ovu funkciju kvantuma kompjuterska tehnologija može obavljati mnogo brže, jer ljudi nemaju mogućnost stvarnog sagledavanja svih mogućnosti odjednom.

Inžinjeringom mozga, smatra Kurcvajl, ljudski mozak uz pomoć tehnologije može unaprijediti ovu sposobnost, jer se ljudski mozak služi prečicama i analogijama kako bi štedio energiju. Mičio Kaku u knjizi Budućnost uma govori o tome: ljudski mozak koristi jako malo energije za obavljanja moždanih aktivnosti (analogija sa jednom manjom strujnom sijalicom) kako ne bi došlo do pregrijavanja, ali zato ima nešto što Kurcvajl zaboravlja.

Naime, kako kaže Kaku, ljudski mozak se razlikuje od kompjutera po tome što nema centralnu „procesorsku jedinicu“ koja je zadužena za konačno odlučivanje i razvrstavanje. U ljudskom mozgu se aktiviraju različiti dijelovi koji svaki put djeluju drugačije, u zavisnosti od podražaja.

#5 Kritika Tjuringove teze

„Kritika Tjuringove teze“ se zasniva na stavu da neke probleme mašine jednostavno ne mogu riješiti, dok tako nešto kod ljudi ne postoji. Međutim, Kurcvajl nije saglasan sa ovom tezom, jer smatra da ni ljudi nisu sposobni riješiti sve probleme. Naime, potrebno je da se napravi razlika između stvarnog rješenja nekog problema i „informisanog nagađanja“ za koje su ljudi svakako sposobni. Kurcvajl hoće reći da sposobnost pokušaja da se neki problem riješi ne znači njegovo potencijalno rješavanje.

Alan Tjuring je, na tragu Bertrana Rasela, vjerovao da matematika i logika imaju svoje granice, pa samim tim i mašine koje nastanu upotrebom takve logike ne može imati potencijalno rješenje na sve. Iz današnje perspektive možemo reći da su algoritmi na društvenim medijima, uz pomoć mašinskog učenja, razvili slične (ne)sposobnosti kao čovjek – tačnije, algoritam na osnovu prepoznavanja šablona ne može riješiti više od onoga što je sastavni dio navedenih šablona.

Na primjer, mašinskim učenjem algoritmi razvijaju sposobnost prepoznavanja zakonitosti i pravila koje deriviraju iz velike količine podataka, ali još uvijek ne postoji algoritam koji je u stanju kreirati šablon iz jednostavnog promišljanja. On mora imati ulaznu informaciju u smislu velike količine podataka, jer nema sposobnost imaginacije.

Singularitet
https://www.pexels.com/@markusspiske

#6 Kritika nestabilnosti sistema

Šesta kritika se odnosi na „kritiku pada sistema“, odnosno stav da sa eksponencijalnim porastom sposobnosti tehnologije, dolazi eksponencijalno povećanje utroška energije, a samim tim dolazi do potencijalnih problema gdje tehnologija zakaže. Kurcvajl iznosi kontra-argument i navodi primjere gdje veliki sistemi za kontrolu nuklearnih reaktora, vojno-sigurnosnih sistema i slično – rade gotovo bez greške i bez pada sistema.

To naravno, zaboravlja Kurcvajl, ne znači da je tehnologija nepogrešiva i stabilna, nego da se zasniva na mreži zamjenskih kompjutera koji se brinu da sistemi rade neometano. Posmatrano sa ove strane, „kritika pada sistema“ ima logike, jer ljudski mozak nema „rezervni“ izvor funkcionisanja i održavanja sistema ukoliko dođe do greške u radu.

Mašine svakim eksponencijalnim rastom troše sve više energije, što se može ilustrovati primjerom mobilnih telefona. Litijumske baterije za mobilne telefone su 2007. godine sadržavale 2700 mA, što je bilo dovoljno za napajanje telefona koji je posjedovao 32 mb memorije i imao jednojezgreni procesor od 8 bita. Danas, 12 godina poslije, baterije većine pametnih telefona sadrže 3000 mA, a napajaju uređaje od 256 gb memorije i osmojezgrene, 64-bitne procesore.

#7 Kritika ontologije

Sedma kritika se naziva „kritika ontologije“ koja se odnosi na najlakše dokaziv argument: mašine ne mogu dostići ljudske mogućnosti jer jednostavno nisu svjesne, one samo prate pravila. Kurcvajl se od ovog filozofskog argumenta brani filozofski, pa postavlja suprotno pitanje: šta je uopšte svijest, šta znači razumjeti, biti svjestan nečega? Mičio Kaku ima svoju teoriju svijesti, koja nam može pomoći da rasvjetlimo ovu naizgled bezizlaznu situaciju.

Naime, Kaku u svojoj teoriji zastupa stav da postoje različiti stepeni svijesti: na primjer, gmizavci su na nižem nivou svijesti od sisara, iako obje vrste dijele istu svijest koja se gradi na prostoru. Ljudi, sa druge strane, su na najvišem nivou jer mogu da se dugoročno osvrću na prošlost i okreću budućnosti, dok su niži oblici svijesti „zarobljeni u momentu“. Sada se postavlja pitanje svih pitanja: da li roboti, koji su danas sve više izloženi globalnoj pažnji, ikada mogu dostići ljudske osobine, jer ne mogu imati svijest i emocije? Robot može „misliti“, kao što misli kompjuter, ali kompjter „ne zna da zna misliti“.

Takođe, emocije su nešto što se može robotski simulirati, ali se uglavnom radi o simulaciji ispoljavanja, a ne osjećaju i doživljaju. Iako je ovaj argument iz ontologije validan, ne možemo reći da ga Kurcvajl ne anticipira u svojoj teoriji, jer on upravo govori o spajanju tehnologije i ljudskog mozga, bića. Tehnologija možda ne može razviti osjećanja, ali zato može procesuirati mnogo više informacija nego što čovjek trenutno može.

#8 Kritika bogatih i siromašnih

„Kritika podjele na siromašne i bogate“ zastupa tezu da eksponencijalni rast razvoja tehnologije više koristi donosi bogatima, dok siromašni dobijaju još jednu dimenziju potčinjenosti bogatima. Kurcvajl se refleksno stavlja na odbranu svoje strane, navodeći argumente u prilog toga da kada se razvija nova tehnologija, vremenom dolazi do pojeftinjenja, što je onda čini dostupnom svima. Međutim, ono o čemu Kurcvajl ne govori je teza o jazu u znanju, jer bogati imaju ekskluzivitet da prvi iskuse skupu tehnologiju i prvi iskoriste njene mogućnosti. Kada ista ta tehnologija postane dostupna, javlja se jaz u znanju, jer je teško nadoknaditi vrijeme dok je tehnologija bila nedostupna svima.

#9 Kritika regulatora

Deveta kritika, odnosno „kritika pogodnosti za regulaciju“ predstavlja argument koji kaže da je singularitet nedostižan zbog toga što vlasti neće dopustiti da tako nešto prođe bez njihove kontrole, te potencijalne (zlo)upotrebe. Posljednje afere sa zloupotrebom velikih (ličnih) podataka i algoritama govore u prilog ovog argumenta, jer Kurcvajl idilično smatra da je tehnologija „sama po sebi“ dovoljna da dovede do promjene. Autor u svoju odbranu iznosi argumente koji kažu da svaka vlast može pokušati da zaustavi razvoj neke tehnologije, ali da je dokazano da ona to ne može suštinski.

Simulacija singulariteta u svakodnevnom životu

Krajem sedamdesetih godina prošlog vijeka, te početkom osamdesetih, u popularnoj seriji „Zvjezdane staze“, jedan od glavnih likova koristi nešto što liči na današnje mobilne telefone. U to vrijeme nepojmljivo, ali za naučnu-fantastiku realnost, mobilni telefon se nametnuo društvu prvo kao ideja kroz popularnu kulturu. Ova teza možda zvuči previše usiljeno, ali se ne može reći da nema smisla: određene ideje se testiraju, nameću, promovišu kroz (masovne) medije, kako bi uslovili ili anticipirali određene promjene. Na tom tragu ćemo iznijeti nekoliko fenomena za koje smatramo da su simulacija singulariteta u današnje vrijeme.

Kompanija Apple je razvila jedan oblik umjetne inteligencije (AI) pod nazivom Siri. On(a) je virtuelni asistent koji može slušati komande, razgovarati, postavljati pitanja, pisati elektronsku poštu na zadate riječi, zakazati sastanak u kalendaru i slično. Iako djeluje isključivo na naše komande, Siri je svakako simulacija singulariteta, jer je u dogledno vrijeme potpuno moguće da bude smještena u nekoj „internoj memoriji“ ljudskog mozga.

Singularitet
https://www.pexels.com/@lastly

Takođe, dvije popularne televizijske serije novijeg datuma govore o sličnim fenomenima o kojima je pisao Rej Kurcvajl. Serija Intelligence govori o agentu koji unutar mozga ima kompjuterski čip koji mu omogućava da rekonsturiše zločine u realnom vremenu putem holograma, može da telefonira „iz glave“, prepoznaje lica kao softver, pohrani gigabajte informacija i pretražuje ih prema ključnim riječima. Dakle, ovaj agent može da koristi najsavremeniju kompjutersku tehnologiju, a da pri tome ne ulaže fizički napor.

Međutim, kao što i sama serija stidljivo pokazuje, ovo može da ima negativne efekte, jer u određenim epizodama baš tehnologija preuzima kontrolu nad čovjekom. Bez obzira na to, serija pokazuje onu kritiku koju smo opisali ranije: najsavremeniju tehnologiju koristi isključivo FBI, a ne „obični ljudi“.

Slična ovoj seriji je Person of interest, koja govori o sistemu za nadzor grada koji ima umjetnu inteligenciju. Sistem obrađuje veliku količinu informacija i dvojici ljudi šalje signal da postoji nešto čudno u vezi toga: ili je osoba u opasnosti ili je ona opasna po nekog drugog. Ovakva postavka stvari na početku pokazuje kako mašina ne može donositi odluke jer joj nedostaje kontekst, ali što više radnja odmiče, mašina postaje sve „svjesnija“ i počinje „razmišljati“ mimo čovjeka. U određenim scenama, u interakciji sa čovjekom, pokazuje se kako taj sistem za nadzor čak ispoljava strah da će doživjeti bol!?

Na kraju, prenosim sopstveno iskusvo simulacije singulariteta koji se može dobiti kroz popularnu kulturu. Video igra Mass Effect u svom trećem dijelu nosi sav duh Kurcvajlove teorije, tako što kompletan kontekst usmjerava ka dilemama koju nam budu i knjiga „Singularitet je blizu“.

Singularitet
https://www.pexels.com/@mali

Igrač se stavlja u ulogu Džona Šeparda, vojnika koji se bori protiv „Ripera“, vanzemaljske rase mašina koja osvaja svijet ne zato što je to smisleno, nego zato što to može. Na kraju, igrač se stavlja u poziciju da donese odluku, gdje svaka ima svoje prednosti i mane (SPOILER upozorenje!): može odlučiti da stavi mašine pod svoju kontrolu, da ih koristi kao sredstvo za postizanje cilja; može ih uništiti i zauvijek zaustaviti mogućnost pokoravanja; te može izabrati „sintezu“, što ustvari predstavlja singularitet – može dopustiti tehnologiji da nadogradi čovjeka.

Ono što je interesantno, kada sam prelazio ovu video igru prije 6 godina, „sinteza“ mi je kao igraču predstavljena kao nešto jednostavno, ali opasno. Mogu reći da i danas dijelim slično mišljenje, baš iz razloga što smatram da je singularitet blizu i – najvjerovatnije neminovan.

Počela treća “Konverzija”: Banja Luka ovog vikenda domaćin najcjenjenijim stručnjacima iz svih oblasti digitalnog marketinga