„Homo Deus: A Brief History of Tomorrow“ („Homo deus: tuleviku lühiajalugu“) on Iisraeli ajaloolase Yuval Noah Harari tulevikumõtiskluste kogum. See on omamoodi edasiarendus tema eelmisest raamatust „Sapiens. Inimkonna lühiajalugu“, mille eesmärk oli anda ülevaade inimajaloost. Süvitsi ajaloo, psühholoogia, tehnoloogia ja eriti tehisintellekti ning sünteetilise bioloogia arengut tundvale inimesele pakub see raamat vähe uusi faktiteadmisi. Võlu on just suure pildi ja suundumuste esiletoomises, mida muidu ei oskakski omavahel seostada.
Erilise rünnaku alla on sattunud klassikalise liberalismi traditsioon, mida käesolev sajand pureb kuni humanistlike juurteni. Harari ei räägi pinnavirvendustest, nt võitlus rahvusluse ja globalismi vahel,1 vaid inimese olemuse ja rolli ümbermõtestamisest tehnoloogilise arengu ja teadmiste kasvu käigus. Küsitavaks on osutunud kolm liberalismi sammast, arusaamad, et iga inimene on jagamatu indiviid, et tõeline „mina“ on vaba ja ainult indiviid ise saab enese kohta kõike olulist teada ja seeläbi otsuseid teha. Nendest kolmest põhimõttest tulenevalt on liberalism andnud indiviidile palju vabadust ise otsustada, mistõttu on nii kapitalismis kliendil kui ka demokraatias valijal alati õigus. XIX ja XX sajandi tehnoloogia ja piiratud teadmised inimpsühholoogiast ei võimaldanud riikidele ja turgudele rohkem teavet ja kontrolli inimeste üle.
Psüühika paistab läbi
Praegu on olukord teine. Indiviid on jagatav ja isegi tema psüühika funktsioonid ajupiirkondadeni uuritavad. Kõige suurem ja selgem erisus tuleb esile kogeva (experiencing) ja jutustava (narrating) „mina“ vahel.2 Üks „mina“ kogeb maailma ja teine „mina“ jutustab sellest iseendale loo. Kui kogev „mina“ peab kogu elu läbi elama, siis jutustav „mina“ mäletab ja meenutab eelkõige kogetu algust (start), kõige eredamaid (peak) ja hilisemaid (end) sündmusi. Jutustav „mina“ on ka see osa psüühikast, kes annab julgeid uusaastalubadusi, mille täitmisse kogev mina alati panustada ei taha.
Komplekssust lisab asjaolu, et meie mälu on pidevas muutumises. Uute sündmuste peale tulles meie aju tõlgendab olevikku ja minevikku selliselt, et see kõige paremini sobiks praegusesse ajahetke. Seega ei pruugi mälestus millestki olla kuigi adekvaatne. Inimene paneb rõhu kohta, mis kõige paremini sobitub tema praeguse minaga. Psühholoogia ja neuroteadus ei oska inimest ja aju veel täiel määral praktilistes küsimustes seletada, kuid suundumus on selge: üha vähem on inimkäitumises ja -olemises müstilist ja seletamatut. Küsimus on üha enam täpsuses ja selles, millal seletused muutuvad kõikehõlmavaks.
Kui panna inimene fMRI skanneri alla, mis mõõdab ajus liikuvaid elektriimpulsse suure täpsusega, ning lasta tal teha otsus, nt kas valida tema ette asetatud kahest nupust punane või must, siis otsuse tegemise impulss võib minna ajust liikvele kuni kümme sekundit varem, kui inimene teadvustab, et ta on midagi otsustanud.3 Kurikuulsast Stanfordi vanglaeksperimendist ilmnes, et täiesti terve psüühikaga noored poisid on võimalik panna tegema koletuid tegusid, kui sotsiaalne keskkond on vastav.4 Igaüks, kes on läbinud ajateenistuse, peaks sedasama teadma. Vaba tahe on ilus lugu, mida „mina“ endale räägib.
Siit järgneb veel suurem, kuigi vähem üllatav järeldus: ka inimene ei ole ratsionaalne olend. Vähemalt mitte selline, nagu modelleerib majandusteadus ja inimene ise arvab. Ometi on seaduspärasused ja sisemine loogika olemas. Harari väidab, et inimesed on kõigest paljude algoritmide kogumid. Algoritm on protsess või järjestikuste reeglite kogum arvutuste tegemiseks või probleemide lahendamiseks, eriti arvutis. Mida muud, kui algoritmid on närviimpulsid, mis juhivad meie käitumist, tulenedes omakorda algoritmilisest geneetikast. Tõsi, tegemist on väga komplekssete algoritmidega, mida isegi superarvutitega ei suudeta veel modelleerida, kuid ka see on vaid aja küsimus.
Inimpsüühika algoritme on vorminud geenid ja keskkond ning need võtavad otsuseid vastu kas ettemääratud viisil või juhuslikult. Siit järgneb, et välised algoritmid võivad inimese soovidest ja käitumisest olla teadlikumad kui inimene ise. Väline algoritmiline süsteem, mis jälgib inimese kõiki sisendeid-väljundeid, kehalisi ja aju toiminguid, teab väga väikese vea piires, millise inimesega on tegu, millised tunded teda valdavad ja mida ta tahab. Selline algoritm suudab asendada nii valijat kui ka tarbijat. Pole vaja saavutada isegi 100% täpsust, kui konkureeriv alternatiiv on inimene, kes ei suuda isegi sellisel analüüsitasemel reaalajas tarvilikku infot koguda, rääkimata analüüsimisest.
Juba praegu saab reaalajas koguda väga palju isikustatud ja isikustamata metaandmeid. Selles mängus on osalised kõik suuremad tehnoloogiaettevõtted, kes seetõttu teavad kliendi soove paremini kui klient ise – nagu ka ülepaisutatud julgeolekuteenistused, kelle andmekogumiseesmärgid on jätkuvalt ebamäärased. Veebikauplus Amazon ennustab kõheda täpsusega, mida klient järgmisena tahab osta, ning Facebooki ja Google’i isikustatud reklaamid on nii intuitiivselt õiged, et on saanud iseenesestmõistetavaks.
Arvelaua materjal
Peab siiski täpsustama, et Harari on algoritmide ja nende võimekuse osas haibirongi peale sattunud. Inimese tervikut loovad algoritmid ei ole tõenäoliselt taandatavad ühelegi teisele kujule, kui nad ise. Selleks on vaja perfektset simulatsiooni, sisuliselt inimese digitaalset klooni. Tulevikul on arvatavasti oma arvutusvõimsusega paremat teha. Sellest hoolimata on huvitav, kuidas Harari hinnangul on liberalismi kolm sammast ümber lükatud või ümberlükkamisel.
Iga elusorganism, sh inimene, on algoritmide kogum, mida looduslik valik on vorminud miljonite aastate jooksul. Algoritmiline arvutus ei sõltu kalkulaatori materjalidest. Arvelaud võib koosneda kas puidust, rauast või plastist, aga kaks pluss kaks on alati neli. Seega ei ole põhjust arvata, et orgaanilised algoritmid oleksid kuidagi paremad kui mitteorgaanilised, või nad suudaksid teha asju, mida mitteorgaanilised ei suuda. Seni kuni arvutused peavad paika, ei ole arvelaua materjal määrav.
Kahjuks siinkohal Harari jälle eksib. Erinev substraat soosib eri konfiguratsioone, võimaldab erinevat arvutuskiirust ja energiaefektiivsust. Bioloogilisel inimajul on oma energiatõhususes vähemalt lähitulevikus arvestatavaid eeliseid isegi superarvutite ees. Keskmine aju kulutab päevas 20 vatti,5 samal ajal kui maailma parim superarvuti, hiinlaste Sunway TaihuLight kulutab 15,3 megavatti.6
Sellest hoolimata on huvitav Harari ennustus, et liberalism kukub kokku päeval, mil süsteem teab inimese kohta rohkem kui inimene ise. Just „süsteem“ on üha õigem sõna kirjeldamaks meie maailma haldavaid ja olulisi otsuseid tegevaid algoritmilisi institutsioone. Calestous Juma sõnul on iga institutsioon olemuslikult läbipõimitud tehnoloogiast – selle keerukus ja võimu haare sõltub tehnoloogilisest võimekusest.7 Tehnoloogia enam ei täienda inimest, nagu oli kombeks klassikalises inimestest koosnevas institutsioonis, vaid üha enam ka asendab. Süsteemid mitte ainult ei saavuta inimestega võrdväärset taset, vaid ületavad selle suurandmete, masinõppealgoritmide ja reaalaja analüüsi kaudu. Kui usk individualismi sammastesse kukub kokku, nihkub autoriteet üksikutelt inimestelt võrgustatud algoritmidele.
Algoritmiline juhtimine ei ole uus fenomen. Bürokraatia sündis vajadusest luua üheti mõistetavad reeglid sinna, kus varasemalt valitses inimeste suva. Bürokraatia juba on algoritm,8 kuid see on enamasti halvasti läbi mõeldud ja koosneb samamoodi tihti oma suva järgi mõtlevatest inimestest, kelle otsuseid kallutavad mõtlemisvead ja heuristikud.9
Liberalismi ei lükata ümber mitte filosoofilisel, vaid praktilisel tasemel. Kirjeldatud areng võib muuta inimesed kasutuks ka majanduslikult ja sõjaliselt. Raske on näha, et demokraatia, turumajandus ja teised liberaalsed institutsioonid suudaksid selle üle elada. Liberalismist ei saanud domineerivat ideoloogiat mitte seetõttu, et selle filosoofilised argumendid olid kõige paremad. Pigem oli igale inimesele väärtuse omistamine mõistlik poliitika nii majanduse kui ka sõjanduse vaatenurgast. Scott Alexander on esinenud seisukohaga, et indiviidi väärtusel ja vabadusel põhinev maailmakord ei ole mitte ainult parem, vaid ka ülimuslik alternatiivsete poliitilis-kultuuriliste süsteemide suhtes just nendel põhjustel.10 Esimeses ja Teises maailmasõjas luges iga inimene, kes panustas kas majanduslikult või sõjaliselt – iga kätepaari oli vaja nii lahinguväljal kui ka tootmisliinil.
Ebapopulaarne ratsionaalsus
Selline visioon ei ole vältimatu tulevik. Algoritmiliste ülemuste vastu on mässualgeid juba praegu. Hiliseim näide on Londonis Uberi vastu UberEatsi kullerite streik, millega võideldi selle vastu, kuidas algoritm kullerite tööotsi määrab ja karistusi jagab.11 Huvitavam veel on aga USAs Minnesotas toimunu. Nimelt on Minnesota transpordiamet 1969. aastast kasutusele võtnud järjest enam teearvesteid, mis lasevad sõidukeid kiirteedele selle järgi, kui suur on ummiku tekkimise tõenäosus – idee oli vähendada ummikuteni viivat varieeruvust. Suurenesid nii kiirteede läbilaskevõime kui ka keskmine kiirus. Arvudes oli kõik ilus, kuid süsteem muutus kasutajate seas kiiresti ebapopulaarseks ja 2000. aastal toimus agressiivne kampaania selle kaotamiseks.
Probleem oli olemuselt lihtne: tegelik ja tajutav ooteaeg ei ole samad. Inimpsühholoogia teeb trikke, millega statistikud ei osanud arvestada: inimestele ei meeldinud oodata, nad tahtsid teha oma vaba, kuigi mitteoptimaalset, valikut.12 Mis kõige olulisem – selleks et süsteem oleks vastuvõetav, tuli see teha halvemaks ja seetõttu on nii teede läbilaskevõime kui ka keskmine kiirus seniajani Minnesota algoritmiliselt juhitud teedel mitteoptimaalsel tasemel, samal ajal kui rahulolu süsteemiga on suurenenud.
Ka Stanfordi vanglaeksperimendi autor Philip Zimbardo on viimasel ajal hakanud rääkima kangelaslikust käitumisest (heroic action), mida saab teadlikult endas harjutada. Kui tajuda, et inimest ümbritseb sotsiaalne süsteem ja sellel on oma sisemine seaduspära, mis inimest alati kõige paremini käituma ei pane, saab ka ebaõiglusele võimaluse korral vastu hakata. Isegi kui see süsteemile enesele halvasti mõjub. Ka meie ei pea sotsiaalseid ega algoritmilisi süsteeme pimesi omaks võtma, koosnegu need inimestest või nullidest ja ühtedest. Kui mitmekordne Ameerika „Kuldvillaku“ saate võitja Ken Jennings kaotas 2011. aastal mängus IBMi superarvutile Watson, kirjutas ta alandlikult oma tahvlile: „I for one welcome our new computer overlords.“ Me ei pea tema eeskuju järgima.
1 Eerik-Niiles Kross, Vana maailmakord ongi juba lõppenud – Postimees 18. XI 2016, http://m.postimees.ee/section/127/3913393
2 Michael Gazzaniga, Who’s in Charge?: Free Will and the Science of the Brain. Hachette UK, 2012.
3 Chun Siong Soon et al., Unconscious determinants of free decisions in the human brain. Nature neuroscience 11.5 (2008): 543–545.
4 Philip G. Zimbardo, Lucifer Effect. Blackwell Publishing Ltd, 2007.
5 http://discovermagazine.com/2009/oct/06-brain-like-chip-may-solve-computers-big-problem-energy/
6 http://www.netlib.org/utk/people/JackDongarra/PAPERS/sunway-report-2016.pdf
7 Calestous Juma, Innovation and Its Enemies: Why People Resist New Technologies. Oxford University Press, 2016.
8 Josh Haasi kommentaar MIT tehisintellekti labori antropoloogi Kate Crawfordi postitusele Mediumis: https://medium.com/@jphaas1/who-rigorously-studied-and-validated-the-existing-human-led-processes-that-computer-systems-are-861a7e847830#.t4tkwty43
9 Daniel Kahneman, Thinking, fast and slow. Macmillan, 2011. // Tversky, Amos, Daniel Kahneman, Judgment under uncertainty: Heuristics and biases. Utility, probability, and human decision making. Springer Netherlands, 1975. 141–162. // Hastie, Reid, and Robyn M. Dawes, eds. Rational choice in an uncertain world: The psychology of judgment and decision making. Sage, 2010.
10 http://slatestarcodex.com/2016/07/25/how-the-west-was-won/
11 https://www.ft.com/content/88fdc58e-754f-11e6-b60a-de4532d5ea35
12 Fung, Kaiser. Numbers rule your world: the hidden influence of probability and statistics on everything you do. New York: McGraw-Hill, 2010.
