:format(webp)/nginx/o/2018/07/26/11038246t1h1470.jpg)
Teadlased sõnavad mõnikord, et tehismõistus ja masinõpe on alles teismeeas. Kui nii, siis on tegu teismelisega, kelle kätesse me oleme andnud võimu mõjutada meie uudiseid, palgata ja vallandada inimesi ja isegi neid tappa, kirjutab USA jurist Cori Crider.
Hoiatusi ohu eest, mida kujutab endast tehismõistus, kohtab tänapäeval juba kõikjal. Väga erinevad inimesed Elon Muskist Henry Kissingerini aina kuulutavad, et ülitaibukad arvutid pühivad meid minema, umbes nagu filmis «Terminaator». Kui neid kuulama jääda, tekib mulje, et me seisame otse düstoopia veerel – Skynet juba varitseb meid kuskil siinsamas.
Need hoiatused on tegelikult asjakohased, aga jätavad tähelepanuta palju aktuaalsema probleemi: relvaks muudetud tehismõistus juba tegutseb. Minu praegusegi videoloo vaatamise ajal kasutavad mõjuvõimsad jõud alates korporatsioonidest ja lõpetades riigiasutustega, näiteks sõjaväe ja politseiga, tehismõistust inimeste jälgimiseks, nende hindamiseks ja seejärel nende elu kohta ühe- või teistsuguse järelduse langetamiseks. Kas me peaksime sõlmima lepingu autonoomsete relvade keelamiseks? Täiesti kindlalt. Ent kahju tekitamiseks ei ole meil vaja inimesi «välja noppida». Töötlusel tarvitatavad vigased algoritmid on juba aastaid tekitanud kahju vaestele ja kaitsetutele kogukondadele.
Seda, kuidas andmepõhine sihikule võtmine võib valesti minna, panin esimest korda tähele viie aasta eest Jeemenis. Olin sõitnud pealinna Sanaasse intervjueerima neid, kes olid ellu jäänud Ameerika droonirünnakus, milles olid hukkunud süütud inimesed. Kaks surnud tsiviilisikut olid olnud USA liitlased. Üks neist oli külapolitseinik, teine imaam, kes enne rünnakut oli astunud jutlustes Al Qaeda vastu. Üks nende ellujäänud sugulane, insener Faisal bin Ali Jaber, esitas mulle äärmiselt lihtsa küsimuse: miks olid talle kallid inimesed sihikule võetud?
Faisali sugulased said surma, sest olid ekslikult sattunud poolautomaatsesse sihitusmaatriksisse.
Me sõitsime Faisaliga üle 11 000 kilomeetri Araabia poolsaarelt Washingtoni, et sellele vastust leida. Valge Maja ametnikud võtsid Faisali vastu, aga keegi neist ei selgitanud, miks tema perekond oli rünnakuobjektiks valitud.
Aja jooksul tuli tõde päevavalgele. Faisali sugulased said surma, sest olid ekslikult sattunud poolautomaatsesse sihitusmaatriksisse.
Me saime seda teada, sest USA möönis, et droonirünnakud tabavad inimesi, kelle identiteet ei ole teada. Siin astubki mängu tehismõistus. Ühendriikidel ei ole Jeemenis piisavalt sügavale imbunud inimluure allikaid, mistõttu toetutakse väga palju ülimahukale signaalluurele. Tehismõistus töötleb neid andmeid ja annab sihitusalgoritmile ette «punased lipukesed». Inimene tulistas küll raketid välja, aga ta tegi seda peaaegu kindlasti tarkvara soovituste järgi.
Niisugused rünnakud, mida nimetatakse signatuurrünnakuteks, moodustavad droonirünnakutest enamuse. President Donald Trumpi valitsemisajal on õhurünnakutes hukkunud tsiviilisikute arv hakanud kasvama: möödunud aastal oli neid ainuüksi Iraagis ja Süürias üle 6000.
Selles vallas tekitab tehismõistuse tegutsemine kõige enam vastakaid arvamusi. See kandus tänavu kevadel üle isegi Google’i, kui tuhanded ettevõtte töötajad protestisid – ja mõned ka lahkusid ametist – firma koostöö tõttu USA kaitseministeeriumiga drooniandmete analüüsimisel. Kuid see ei ole kaugeltki ainuke potentsiaalne tehismõistuse väärkasutus, mida me peaksime silmas pidama.
Ajakirjandus on hakanud uurima veel mitmeid tehismõistuse küsitavaid kasutusviisse. Näiteks politsei ennustavad tihedus- ehk nõndanimetatud soojuskaardid (heat maps) on süvendanud rassilisi eelarvamusi meie kriminaalõigussüsteemis. Näotuvastus, mida politsei praegu testib õige mitmes maailma linnas, näiteks Londonis, on andnud kohati lausa 98 protsendi ulatuses ekslikke tulemusi. Ostlemine internetis? Võib juhtuda, et pead diskrimineeriva hinnakujunduse tõttu maksma tunduvalt rohkem kui naaber. Ja eks ole me kõik juba kuulnud, kuidas riiklikud institutsioonid kasutasid Facebooki uudistevoogu ära propaganda viimiseks miljonite inimeste silme ette.
Teadlased sõnavad mõnikord, et tehismõistus ja masinõpe on alles teismeeas. Kui nii, siis on tegu teismelisega, kelle kätesse me oleme andnud võimu mõjutada meie uudiseid, palgata ja vallandada inimesi ja isegi neid tappa.
Inimõiguste eest võitlejatele ja kõigile murelikele kodanikele on tehismõistuse sellise kasutamise uurimine ja kontrollimine üks tänapäeva pakilisemaid mureteemasid. Iga kord, kui kuuleme andmepõhistest poliitilistest otsustest, peaksime esitama küsimusi: kes tarkvara kasutab? Kes on võetud sihikule? Kes saab kasu ja kes kahju? Ja kuidas panna vastutama nii inimesed, kes neid vahendeid kasutavad, kui ka inimesed, kes on need vahendid loonud?
Inglise keelest eesti keelde ümber pannud Marek Laane
USA jurist Cori Crider uurib riikliku julgeoleku küsimusi ja tehnoloogia luures kasutamise eetilisi probleeme. Ta on olnud rahvusvahelise inimõiguste organisatsiooni Reprieve direktor.
Copyright: Project Syndicate, 2018.
/nginx/o/2018/07/26/11038231t1h4778.png)