Täispikkuses! Karmen Turk arvamusliidrite lõunal: mina, Robot! Kas uue aja õudusjutt?

Kas ei oleks aeg alustada eetiliste kokkulepete sõlmimist, selleks et teaksime, kuidas disainitakse homseid süsteeme, küsis Postimehe arvamusliidrite lõunal vandeadvokaat Karmen Turk.

Ehk olete kuulnud Sofiast, mitte veel kuigi targast, kuid näiliselt emotsionaalselt intelligentsest humanoidrobotist, kes kord lubab võidelda naiste õiguste eest ning teine kord võtta eesmärgiks hävitada maailm. Või kauplemisbotist «Trump and Dump», mis analüüsib Ameerika Ühendriikide presidendi säutse Twitteris, ning tuvastades neis viite ettevõttele, mille aktsiad on avalikult kaubeldavad, ostab või müüb nende põhjal aktsiaid. Ja seda enne, kui ükski inimkaupleja suudaks säutsu läbigi lugeda. Ja veel Siri ning Google Now – personaalsed abimehed, mis otsivad ja tuvastavad parimad valikud ning teostavad neid… meie nimel.

Ühiskond hirmu altari ees

Kas ei kõla nagu õudusjutt? See kõik on olemas, kuid ei ole teada, kuhu see meid viib. Igaks juhuks, me ühiskonna ja inimesena justkui kardame seda, kuhu tehnoloogia arenemas on. Asume eitama ja vastu võitlema. Sestap on intrigeeriv küsida, miks me kardame, kas selleks on põhjust ning kas saame teha midagi, mis meid hirmu nõiaringist vabastaks.

Peagi on iseõppivad algoritmid ja intelligentsed robotid paremad õpetajatest, arstidest, apteekritest, klienditeenindajatest. Paljude rõõmuks, minu kurvastuseks, ka juristidest. Kõigi nende ametite sisu on määratud muundumisele või täielikule kadumisele.

Kartmine on inimlik. Meile kõigile omane. Kartmine emotsioonina tekib meie ajus eelkõige, kui on põhjust karta oma tuleviku pärast või muretseda eksistentsiaalselt meie kui liigi püsima jäämise pärast. Seega püüan tuua teie ette mõned mõtted, mida võiks nimetada ühiskondliku hirmu põhjustena.

Hirm, et äkki meie, inimesed, ei ole enam kõige erilisemad. Me ei karda enda pärast mitte seetõttu, et see oleks ratsionaalne ja külmalt loogiline, vaid sellepärast, et humanistlikule ja homotsentristlikule ühiskonnale omaselt näeme inimest kui midagi, mille ümber keerleb terve universum ning kes on kõige tähenduse ja kogu võimu allikaks. Me oleme justkui jumalad, maailma valitsejad. Meist kõrgemat liiki ei ole ja olla ei saa! Sest muidu ei oleks me enam oma planeedi kuningad.

Kuid mis on see eriline säde, mis annab meile õiguse universumit valitseda ning mida näiteks sigadel, ahvidel, koerade, intelligentsetel algoritmidel ja robotitel ei ole? On see hing? Või teadvus? Või hoopis meie vaba tahe?

Hing kui element, mis inimkonda ülendab. Alustame hingest. Meie kultuuri on kujundanud alates põllumajanduslikust revolutsioonist kristlik maailmavaade. Kristlus ütleb, et sina ja mina oleme erilised. Meil on hing. See on ainulaadne ja ainuomane. See on igavene ja muutumatu. Loomadel hinge ei ole.

Teame, et meie keha ei ole igavene. Keha sureb ja kõduneb. Hing aga jääb. Läheb taevasse või põrgusse. See on suur kosmiline draama, milles osaleme ainult meie. Inimesed. Küsin: kas nii on?

Võib väita, et evolutsiooniteooria välistab oma olemuse tõttu hinge sellise olemasolu, sest eeldab, et kõik bioloogiline koosneb väiksematest ja lihtsamates osistest, mis kogu aeg kombineeruvad ja arenevad. Väikeste sammude kaupa ja pidevalt. Miski, mis on muutumatu ja igavene, ei ole Darwini mõttelõnga järgides võimalik. Vastupidine tähendaks, et kuskil ja kunagi oli üks vastsündinu, ütleme näiteks nimega Katarina, kellel oli äkitsi muutumatu ja igavene hing. Tema vanematel, kellelt ta päris iga viimse kui oma geeni, seda hinge ei olnud. Ei osa ega tükkigi. Sest hing on muutumatu ja igavene. Teaduslikult tundub võimatu leida ajaloost see lehekülg, kus äkitsi on beebitüdruk Katarina, kellel on terviklik hing.  

Võttes aluseks Ameerika Ühendriikide viimased uurimused, usub kõigest 15 protsenti inimestest Darwinit ja seda, et inimene pärineb vaid looduslikust valikust. Doktorikraadi omandamine tõstab selle protsendi vaid 29ni. Kaldun arvama, et Eesti ühiskonnas on evolutsiooniteooria pooldajate hulk suurem ning seega hinge tuvastamise ühiskondlik tung ja valu selle võrra väiksem.

Kui see ei ole hing, siis äkki on see eriline, vaid inimesele omane säde meie teadlik meel ja teadvus. Mis on see teadlik meel? Selge, et see ei ole müstiline hing ning samas ei ole see ka organ, nagu näiteks aju. Teadlik meel on subjektiivsete kogemuste voog. Selles voos on emotsioonid, nagu viha, kadedus ja rõõm. Teadlik meel on reaalne ning selle olemasolus ei ole põhjust kahelda.

Enamgi veel: selge on, et masinatel ega robotitel seda olla ei saa, sest neil ei ole tundeid ega soove. Isegi kui teie robottolmuimejal on energiasensorid ning ta kiirustab laadimisjaama poole enne rammu lõppemist, ei tee ta seda tunde või soovi tõttu. Inimene, vastupidi, läheb külmkapi juurde, sest tunneb nälga ning soovib sellest ebameeldivast tundest vabaneda.

Kuigi teadlikkus on reaalne ja päris, on selle tuvastamine täiesti eraldi küsimus. Läbi ajaloo on filosoofid teadlikkuse kontrolltesti üle vaevelnud, sest emotsioonide ja tunnete olemasolu saame kontrollida vaid iseenda puhul Descartes’i õpetussõnade järgi: kui kahtlen, olen olemas. Seetõttu ongi tänaseni teadlikkuse kontrolltestiks minimaalne küsimus: «Kas oled teadvusel?» Jaatav vastus tähendab testi läbimist.

Teadlikkust omistame traditsiooniliselt jällegi vaid inimestele. Loomade puhul on levinud seisukoht, et neil puudub teadlik meel. Mõned teadlased nõustuvad, et neil võib olla laiem teadvus, kuid igal juhul puudub loomadel eneseteadvus. Kogemuse põhjal julgeks vastu vaielda! Ei ole täheldanud, et kui mu koer on näljane ning annan talle kondi, et ta siis eneseteadvuse puudumise tõttu asuks konti naabri koerale serveerima. Ikka endale. Sest temal ENESEL on nälg. Loomade teadvuse eitamise teeb eriliselt küsitavaks asjaolu, et inimpsüühika tööpõhimõtteid uurime ja kontrollime ikka loomade, hiirte, ahvide, sigade peal.

Teadus julgeb seega kahelda, et vaid inimestel on teadvus. Ka intelligentsed masinad on korduvalt läbinud Turingi nime kandva teadvuse testi, kus eesmärk on petta vestluspartner ära, nii et ta ei taipaks, et suhtleb masinaga.

Kui see eriline säde ei ole teadlik meel, mis meid kõigist teistest ülendab, siis kas võib see olla vaba tahe? Julgen ka sellele eitavalt vastata, sest on legitiimne küsida, kas inimesel üldse on vaba tahe. Nüüdisaegne teadus vastab pigem eitavalt. Näiteks siin saalis istumine. Kas see on vaba tahe? Teadus ütleks, et ei! Istumine oli ajus toimuva elektrokeemilise protsessi deterministlik või juhuslik tagajärg, mitte vaba tahte tulemus.

Kui küsiksin praegu teilt, kas teil on vaba tahe, siis vist pigem noogutate? Neuroteadlased vististi raputaksid pead, sest neil on õnnestunud mõõta, et igale otsusele «vaba tahte» alusel tegutseda eelneb kuni mitme sekundi vältel juba aju neurotegevus. Kui te ikka pead noogutate, siis tegelikult on vaba tahte olemasolu ülimalt lihtne kontrollida. Testigem end: kas suudate oma vaba tahte alusel otsustada, et ei mõtle mitte millelegi järgmised 60 sekundit? Kümme sekundit? Millised on tulemused?

Vaba tahte puudumine ei ole filosoofiline küsimus, vaid ülimalt praktiline järeldus. Kuidas muidu saaksid meil toimuda efektiivselt katsed, kus hiired, kelle ajju on sisestatud elektroodid, keeraksid paremale ja vasakule, hüppaksid ning peatuksid teadlase nupuvajutuse peale. Ei saakski! Kuid sellised, robohiirte katseteks nimetatud laborieksperimendid on olemas. Ärgem muretsegem, teadlased kinnitavad, et hiirtele liiga ei tehta, sest nad ei tea, et see ei ole nende, vaid neuroteadlase tahe, mille tõttu nad tegutsevad.

Seega, mis on ikkagi see säde, ilma milleta ei tunnista me kedagi ega midagi endaga võrdseks? Kas lisaks sellele, et ise peame endid kõigist kõrgemaks, on veel midagi, mis seda tõestaks? Pigem mitte.

Äkki meie ühiskondlik kartus ei olegi seotud hirmuga meist kõrgema vormi ees, vaid eksistentsiaalse murega inimkonna tuleviku pärast? Usun, et igaüks meist on näinud vähemalt ühte Atlandi-tagust tulevikufilmi, mis lõppeb viimsepäevalahinguga ning millele eelneb tekstirida ekraanil: «Computer says NO.» Kindlasti oleme kuulnud ka manitsevaid hoiatusi Elon Muski ja hiljuti lahkunud Stephen Hawkingi suust. Nõustun. Intellekt, mis on igas aspektis parem kui ükskõik kes meist siin saalis, kätkeb endas selget ohtu ühiskondlike alustalade püsima jäämisele, humanistlikule maailmavaatele ning lõppeks inimkonnale endale.

Kuid kas see kartus on edasiviiv? Oleme inimestena loodud püüdlema. Kuigi Freud vaidleks vastu, on inimesele omaseim tung uurida ja avastada. Kas on võimalik peatada teaduse arengut? Olgem ausad, lastes end hirmust juhtida, eitades ja vastu võideldes võime leida ennast olukorrast, milles olid tööstusrevolutsiooniaegsed suksud. Taluhobune on täitnud suurt rolli inimeste elus, osates ka tunda ära nägusid, hüpata üle aedade ning teha tuhandet muud asja palju paremini kui näiteks Wolksvagen Passat või miljonieurone Ferrari Enzo. Kuid see ei saanud takistuseks hobuste asendamisele autodega, sest autod olid paremad käputäies asjades, mida ühiskonnal tol hetkel vaja oli.

Peagi on iseõppivad algoritmid ja intelligentsed robotid paremad õpetajatest, arstidest, apteekritest, klienditeenindajatest. Paljude rõõmuks, minu kurvastuseks, ka juristidest. Kõigi nende ametite sisu on määratud muundumisele või täielikule kadumisele.

Seega, võib-olla on see turvatunde puudumine meie enda ettenähtava tuleviku suhtes, mis sunnib meid ühiskonnaüleselt kartma ja eitama? Eitamine ei aita. Naljaga pooleks, kuid veel 2004. aastal tegid MITi ja Harvardi teadlased uurimuse tulevikutöökohtadest, mis automatiseeruvad. Üks amet, mille nad kaduvate hulgast välistasid, oli rekajuhi oma. See on vaid 14 aastat tagasi esitatud väide ja täna näeme Norras juba isejuhtivaid rekaronge.

Kas on enam, mida eitada?

Eitamise puhul on õigussüsteem minu meelest kui lakmuspaber, mis paljastab tõe. On riike, kus eitatakse ajakirjanike tagakiusamist. Eitamine saab kesta, kuni kohus tuvastab ajakirjaniku inimõiguste rikkumise. On ühiskondi, kus eitatakse samasooliste kooselu kui fakti. Eitus saab kesta, kuni kohus leiab võrdsuspõhiõiguse rikkumise. Samamoodi on õigussüsteem see, mis määratleb hetke, milleni on võimalik eitada meile paljuski arusaamatute, intelligentsemate tehisvormide olemasolu. Kas oleme sealmaal, võib küsida.

Kuigi tehisintelligentne terviksüsteem on täna veel küsitav ja kauge tulevik, on iseõppivad algoritmid tänaseks saanud interneti alustalaks. Algoritmidel on mõju päris-, tavamaailmas. See mõju on juba suurem, kui oleksime arvanud veel mõned aastad tagasi.

Toon mõned näited. Esiteks, algoritmide kaudu võib meie elusaatust hetkega muuta. Ma ei räägi siin sellest, et sotsiaalmeedias tekivad kõlakojad või et meie andmete põhjal on võimalik mõjutada riikide valimistulemusi. Toon näite hoopis nn kohtualgoritmidest. Ameerika Ühendriikides on laialdaselt kasutusel algoritmil põhinev lahendus Compas, mis hindab andmete põhjal, kui suur on tõenäosus, et isik paneb tulevikus toime kuritegusid. Algoritmi järelduste alusel määrab kohtunik karistuse. Wisconsinist pärit Eric Loomisele määrati kuueaastane karistus ning üks põhjendus oli raporti  sisu, mis härrat kõrge riskikoefitsiendiga hindas.

Loomis esitas kaebuse, kuid otsus jäi jõusse, sest nagu väitis Wisconsini riigikohus, härra Loomise tegu – politseisõiduki eest põgenemine ning tema kriminaalne minevik – oleks väärinud samasugust karistust ka ilma Compasi raportita. Samal ajal avaldas ProPublica uurimuse, kui suures osas on Compasi algoritm rassipõhiselt diskrimineeriv. Compasi arendajad piirdusid aga väitega, et algoritm ei eksi, kuid algoritmi sisu on ja jääb saladuseks, olles nende äri «põhituum». Seega on põhjust küsida, kas meil on ühiskonnas piisavad kokkulepped selleks, et kasutada selliseid intelligentseid algoritme isiku elusaatuse üle otsustamiseks. Küsida tuleb ka, kas õigusriiklus ja õiglane kohtupidamine on tagatud, kui otsuse aluseks on saladuslikult tekkinud raport.

Teiseks, algoritmid osalevad meie nimel ja ülesandel majanduselus, evides võimet tekitada tegelikku ja mõõdetavat rahalist kahju. Toon näiteks börsi kauplemisrobotid. Kauplemisrobotid on intelligentsed algoritmid, mis analüüsivad inimmõistusele kättesaamatus koguses andmeid, hindavad selle baasil kasulike otsuste tõenäosust ning ostavad-müüvad vastavalt kaubeldavaid väärtpabereid.

Tekkinud õigusvaidlused on kahetised. Esimene osa neid seondub humanistlikule ja kapitalistlikule ühiskonnale omase lähtemotoga, et kõigil peaksid olema võrdsed võimalused osaleda ja õnnestuda. Kas on aga võimalik enam rääkida võrdsusest, kui algoritmi kasutav kaupleja suudab teha miljoneid tehinguid juba enne, kui algoritmi mitte kasutav kaupleja on saanud valmis hommikukohvi ning arvuti tervitusekraan viimaks ennast üles laadib? Samas kutsun üles mõtlema ka teiselt poolt: ega aurumasin kui tööstusrevolutsiooni hing jäänud kasutamata vaid seetõttu, et käsitöölised protestisid ja leidsid selle olevat äärmiselt ebaõiglase, võrdseid võimalusi hävitava ning üldiselt kurjast vaimust vaevatu.

Teine osa kohtuvaidlustest seondub asjaoluga, et selliselt, börsiroboti poolt n-ö läbi räägitud, kokku lepitud ja ka täide viidud tehing ei puugi olla kehtiv. Nimelt, küsimus on, kas saab olla siduv tehing, mille kohta isik ei ole tegelikult avaldanud konkreetset tahet.

Mida ma mõtlen selle konkreetse tagajärjega? Selgitan: näiteks olen otsinud pikalt endale uut sõidukit ning lõpuks jõuan autosalongiga kokkuleppele, et just see sinine, musta nahast sisuga, mis salongis uhkeldab, saab minu omaks. Selline ostutehing kehtib, sest tulemuses on konkreetselt kokku lepitud. Börsiroboti puhul tehtavad tehingud on aga vastupidised. Nende osas on roboti kasutaja ainus tahe abstraktne ja üldine: õhtul töölt lahkudes jääb algoritm toimetama ning hommikuks on loodetavasti teinud head otsused. Kui need otsused ei olnud head, siis kas kasutaja saaks väita, et see ei olnudki tema tahe ning tehingut ei ole? Näiteks kui algoritmilised kauplejad ei suutnud mõista, et tegu oli valetviidiga Twitteris pommi kohta Valges Majas, nagu juhtus mõni aeg tagasi USAs, mille tulemusena börsid läksid hetkeks vabalangusesse. Kahju on reaalne ning keegi peaks vastutama.

Mida enam on meie keskel intelligentseid masinaid ja algoritme, seda enam tekib isikuid, kes tavalises maailmas selle tõttu kannatavad: kas seetõttu, et hooldusrobot pillab maha hooldatava, või seetõttu, et uberdava isejuhtiva sõiduki ja jalakäija kohtumine lõppeb kahetsusväärselt viimase surmaga.  Ühegi puhul ei ole oluline vaagida lõppeks seda, kas tegemist on teadliku ja hingega tehisintellektiga. Oluline on vaid, et nende kõigi puhul on masin piisavalt intelligentne sõlmima ja viima täide tehinguid ning omama mõju välismaailmas ning täna puuduvad ühiskonnas vastused, kes ja mida peaks tegema ja mille eest vastutama.  

Mida teha hirmu ja eitamise asemel?

Kas on käitumismustrit, mis aitaks ära hoida meie ühiskondliku eksistentsi lõpu, kuid samas ei takistaks arenemist suunas ja kõrgustesse, mida täna ettegi ei kujuta? Usun, et on.

Esmalt, alati on võimalik panna toas tuled kustu, hoida silmad hästi kõvasti kinni ja karta kolli. Eitada, et on olemas äärmiselt intelligentsed, iseõppivad ning paljunevad algoritmid ning on tulemas tehisvorme, mille puhul oleme sunnitud küsima, kas inimene ei ole mitte teisene vorm siin maal.

Teiseks on võimalik jätkata nii nagu täna. Oodata ja vaadata, mis juhtub. Sellega võime minu meelest millestki ilma jääda – võimalustest ühiskonna ja rahvana. Võimalusest osaleda järgmises tööstus-tehnorevolutsioonis ning väljuda sellest edukana.

Kolmandaks võime asetuda kasti «julge hundi rind on rasvane». Küsida isekeskis ning riigina, kas ei oleks aeg alustada eetiliste kokkulepete sõlmimist, selleks et teaksime, kuidas disainitakse homseid süsteeme. Et teaksime, miks ja kuidas otsustab meie isejuhtiv pereauto käituda, kui valikus on otsasõit teisele sõidukile või rühmale jalakäijatele. Et teaksime ühiskonnana olla kindlad, et homne reaalsus on meile arusaadav, sest robotite ehitus ei ole vaid globaalsetele gigantettevõtetele teadaolev „saladus“.  

Juba enne tehnoloogia pärale jõudmist peaksime ehk asuma looma usaldust tekitavat keskkonda? Keskkonda, kus oleme kokku leppinud meist igaühe õigused ja kohustused. Näiteks et intelligentse ja iseõppimisvõimekusega sõiduki omanik on kohustatud oma sõiduki tarkvara uuendama. Kus on kokkulepped, et tootjad tagavad, et juhul kui nutikülmkapp tellib nädala toiduvarude asemel ukse taha (palgamõrvari ja) kilo kanepit, siis vastutab selle eest isik, kes päriselt selle eest vastutama peaks. Et teaksime, et personaalne abimees, tellides Amazonist raamatut, on päriselt õigustatud enda omaniku nimel tegema kehtiva tehingu ning võib julgelt raamatu teele panna.

Õudusjutust saab väljuda, pannes toas tuled põlema, avastamaks, et kolli tegelikult ei olegi. Mulle tundub, et ainuüksi tänane sündmus siin kinnitab, et meie Eestis tahame ja soovime väljuda järgmisest revolutsioonist võitjana: arutleme ühiskonnas teemade üle, mis võivad tunduda kauge või ka fantastilise tulevikuna, ning adume, et see võib samas saada reaalsuseks.