Razpravo o umetni inteligenci spremlja nek preprost silogizem: najinteligentnejši vladajo svetu; stroj bo postal inteligentnejši od nas; torej bo stroj zavladal svetu.
Gospodarji sveta
Prva premisa – da naj bi bila inteligenca sinonimna dominaciji – je za nas, človeška bitja, skorajda samoumevna: ne le, da smo najinteligentnejša oblika življenja, temveč smo tudi edina bitja v znanem vesolju, ki posedujemo nek določen tip inteligence (ravno takšnega, ki nam omogoča skoraj popolno kontrolo nad okoljem in kontekstom). To stanje pa prinaša s seboj dve kontrastni občutji: po eni strani eksistencialno samoto, ki nas priganja v nenehno iskanje drugih inteligentnih oblik, s katerim bi lahko vstopili v kontakt (od NLP do domačih živali), po drugi strani pa bojazen, da bi takšno srečanje lahko pomenilo konec naše prevlade in nazadnje naše civilizacije.
Ta dialektika je napajala in spodbujala desetletja znanstvene fantastike, tako da je nastala neka skoraj uniformna distopična vizija: ko govorimo o UI, nimamo v mislih Vicki, simpatičnega robotskega dekletca iz Small Wonder, ali nihilističnega sarkazma Benderja iz Futurame, temveč prej HAL 9000, Terminatorja, Matrico, zgodbe iz Black Mirror, avtomate iz Westworld … Skratka, ker smo tekom naše zgodovine druge civilizacije večkrat podredili, zasužnjili in uničili, se bojimo, da bodo stroji isto naredili nam, in sicer takoj, ko se jim bo ponudila priložnost.
Inteligenca in simulacija
Toda prihodnost je že prišla: ko iščemo na googlu, brskamo po facebooku, izbiramo film na netflixu ali prosimo pametni telefon za pomoč, zahteva sleherno od teh vsakodnevnih dejanj interakcijo z umetno inteligenco. Napredek je tako eksponenten, da je na več področjih samoumevno – in tu pridemo do druge premise v našem izhodiščnem silogizmu – da stroj z vidika intelekta prehiteva človeka; tako je v nekem smislu – in le pri nekaterih določenih nalogah – stroj že inteligentnejši od nas; išče in organizira bolje od nas, računa bolje od nas, vozi bolje od nas, premaguje nas v šahu in igri go.
Model, na katerem je osnovana umetna inteligenca, so, jasno, človeški možgani, ta najkompleksnejši stroj v poznanem vesolju, in njihove nevronske mreže: gre torej le za vprašanje časa, ko bo računalnik lahko do popolnosti simuliral človeške možgane in jih nato tudi presegel. Kaj se bo na tej točki zgodilo? Se bo pri strojih, kot verjamejo mnogi, razvilo zavedanje sebe, neke vrste zavest? Po mnenju profesorja Giulia Tononija, italijanskega nevroznanstvenika in očeta teorije integrirane informacije, prvega poskusa organske znanstvene teorije o zavesti, je to zelo malo verjetno, če ne celo nemogoče.
Informacija in integracija
Po Tononiju smo zavest iskali na napačnem mestu: namesto da se usmerjamo v možgane in poskušamo simulirati njihovo delovanje, bi morali s pomočjo znanstvene metode izhajati iz opazovanja fenomena: zavest je vse, naša celotna izkušnja; izgine tedaj, ko pademo v spanec brez sanj, ko utrpimo poškodbo glave, ko smo pod anestezijo ali – domnevno – ko umremo. Hkrati pa je ta izkušnja enotna in nedeljiva: njene dele je sicer mogoče ločeno opisati, ne pa tudi ločeno zaznati (ni mogoče, na primer – razen ob možganskih poškodbah – izkusiti zgolj desno stran ali ločiti zvok in pomen). Zavestni sistem mora torej imeti, če poenostavimo, dve značilnosti: biti mora informativen na intrinzičen način, se pravi z vidika tega sistema samega, in biti mora integriran, kar pomeni, da mora delovati kot posamezna entiteta.
Na tej podlagi lahko rečemo, da stroji (ali tudi drugi agregatni sistemi, kot so galaksije ali celice) ne porajajo nujno izkušnje in torej tudi zavesti ne: naše umetne inteligence bodo lahko opravile Turingov test, simulirale zapletena obnašanja (recimo vožnjo avtomobila, prepoznavanje obrazov, igranje šaha) ali celo funkcioniranje človeških možganov, ne bodo pa mogle zagotavljati tiste integracije, ki je nujna za porajanje zavestne izkušnje, saj niso ustvarjene za to.
Premislimo premise
Če se vrnemo k izhodiščnemu silogizmu, lahko sedaj podamo par pomislekov: kot smo videli, je prva premisa osnovana na naši zgodovini in predpostavlja nujno prevlado inteligentnejše civilizacije nad njenim okolišem, a morda je tu na delu antropomorfizacija problema; druga premisa pa na silo združi inteligenco in moč računanja, saj izenači simulacijo inteligentnega sistema s samo inteligenco.
Dalje, kot smo že omenili, umetne inteligence, ki smo jih razvili, nimajo tiste integracije, ki je nujna za vznik zavesti o sebi in ki je torej pogoj tega, da bi bila umetna inteligenca sploh lahko grožnja naši dominantni poziciji (ali da bi se, po znanstveni fantastiki, uprla človeku). Samovozeči avto, na primer, je zelo inteligenten, saj zna rešiti gromozansko število problemov v najrazličnejših kontekstih, toda na tako porazdeljen način, da ne more nastati ne integrirana izkušnja (če ne že na mikroskopski ravni, pa na mnogoter in nepovezan način) ne zato tudi zavest o sebi. Nasprotno pa mravlja ali čebela, čeprav nimata dovolj raznolikega repertoarja, da bi ju šteli za »klasično« inteligentni, nedvomno porajata neko vrsto zavesti, saj so njuni sistemi integrirani in informativni. Umetna inteligenca, po drugi strani, podobno kot skala ali gora, obstaja le za opazovalca in ne na intrinzični način, medtem ko ima tudi najmanjša in najpreprostejša žival notranjo izkušnjo sebe.
Človek za strojem
V tej luči izgubi moč tudi sklep iz naših izhodiščnih premis: če je pojem dominacije povezan s človeško sfero in če inteligenca ne more kar sama zagotavljati zavesti o sebi, potem stroji ne morejo predstavljati večjega eksistencialnega problema za nas, ljudi. Konstanta v svetu informatike je namreč vedno začetni input človeka: tradicionalno je to potekalo preko specifičnih navodil, da bi dobili želeni output, v sodobnem programiranju, torej v polju strojnega učenja, pa preko definicije specifičnih ciljev in, če poenostavimo, treninga za to, da bi jih dosegli.
Problem je torej v programiranju, a je manj banalen, kot se sprva zdi. Za primer vzemimo Universal Paperclips, eno od viralnih iger iz leta 2017, v kateri se uporabnik postavi v vlogo umetne inteligence, ki ima za svojo edino nalogo maksimalno proizvodnjo sponk za papir (s končnim ciljem, da spremeni vso materijo sveta v sponke). Ta preprosta igra, ki jo je navdihnil teoretski eksperiment švedskega filozofa Nicka Bostroma, nam kaže, da ima lahko tudi najbolj banalen cilj, pod pogojem, da ga uresničuje umetna inteligenca, nepredvidene ter globoke etične in eksistencialne implikacije.
Resnična nevarnost
Namesto da bi skoraj religiozno čakali na prihod singularnosti, ki bo stroje obdarila z inteligenco in zavestjo, se moramo torej – enkrat za vselej – naučiti lekcij iz naše zgodovine: tehnologija je le golo orodje, in sicer tisto najpomembnejše, človeške aktivnosti. Ne rešuje problemov nasploh, temveč vedno samo nekatere probleme, s tem pa ustvarja nove probleme. Umetne inteligence iz tega vidika prispevajo k revoluciji na raznih raziskovalnih področjih, odpirajo nove in nezamisljive možnosti, od organizacije podatkov do prepoznavanja vzorcev, od biologije do lingvistike, vendar hkrati prinašajo tudi nove etične probleme in tudi novo človekovo odgovornost.
Ideja o neizbežnem spopadu s strojem, ki je v ozadju silogizma iz začetka tega članka, zato ni le poenostavljajoča, temveč je tudi kontraproduktivna, saj odvrača pozornost od resničnih nevarnosti umetne inteligence, ki so veliko bolj konkretne: med njimi so, na primer, sledenje uporabnikom, ki ga izvajajo velika spletna podjetja, in s tem povezani varnostni problemi; proizvodnja umetne inteligence kot orožij za rabo v vojnih območjih in kot informacijsko orožje; ali pa, gledano širše, brezposelnost, ki bo nujno nastopila, ko nas bodo stroji lahko zamenjali pri večini fizičnega in pisarniškega dela.
S tem, ko pogled usmerjamo k spopadu med našo civilizacijo in prihodnjo civilizacijo robotov, ki bo povzročila neizbežno katastrofo, in zmanjšujemo vlogo tehnologije in znanosti, ne počnemo nič drugega kot to, da jemljemo odgovornost edini resnični ekstistencialni grožnji, ki jo je človek kadarkoli imel: njemu samemu, nam.
Prevedel: Aljoša Kravanja