Od bikameralnosti do umetne inteligence

Možgani kot središče človekovega razumskega in zavestnega življenja in kot fizična struktura, ki tvori um, so bili predmet raziskovanja že v Hipokratovih časih. Ta trdi, da iz njih prihajajo veselje, radost, smeh in razvedrilo, trpljenje, žalost, potrtost in žalovanje. Fascinacija je pospešeno potovala v različne sfere raziskovanja človekovih možganov, uma in zavesti in kmalu se je oprijela tudi književnikov. Zdi se, da razvoj od bikameralnega uma do znanstvene revolucije in nenazadnje umetne inteligence v sebi združuje literarni podžanr (in iz njega izpeljano subkulturo) kiberpanka. Odgovor na vprašanje, kako od arhaičnega človeka s t. i. bikameralnim umom pridemo do preprogramiranega človeka-stroja, ki ga pri odločanju ves čas spremlja umetna inteligenca, osnovana ravno na bikameralnosti, bom poiskala ob razvojni premici antiutopičnih in znanstvenofantastičnih del: Krasnem novem svetu (1932) Aldousa Huxleya, 1984 (1949) Georga Orwella in William Gibsonovem Nevromantu (1984).

Huxley, Orwell in Gibson preizprašujejo možnosti zunanjega vpliva na človekove možgane ali širše: na njegovo zavest. Osnujejo družbe, v katerih je splošen nadzor nad posameznikom del njegovega vsakdana, s sredstvi množične manipulacije pa želijo družbo in posameznike prepričati, da delujejo po vnaprej postavljenih načelih kolektivne zavesti in da pri svojem ravnanju prisluhnejo višjim entitetam. Zdi se, da se boj med posameznikovo zavestjo ali t. i. lastnim »moralnim kompasom« in načeli, narekovanimi »od zgoraj«, tj. od entitet, za katere se zdi, da imajo globlji uvid v pretekli, sedanji in prihodnji potek dogodkov, bije od časov arhaičnega človeka.

Bikameralni um – predispozicija za razvoj UI?

Od Descartesa naprej je prevladovala ideja, da je um, človekova sposobnost razumevanja in spoznavanja, ločen od možganov (dualizem). Na to definicijo se je oprl tudi Julian Jaynes, ki  jo v delu The Origin of Consciousness in the Breakdown of the Bicameral Mind (1976) razvije do (za marsikaterega kasnejšega raziskovalca sporne) teze o bikameralnem umu in pojavu zavesti, kot sposobnosti zavedanja lastnega obstoja in duševnih stanj. Julian Jaynes teorijo o izboru zavesti poveže z razpadom dvodomnega uma.
Argumentacijo osnuje na anatomiji možganov arhaičnega človeka, ki je živel med ok. 9000 in 1000 pred našim štetjem. Njegova shema prenosa informacij je poenostavljeno definirana preko funkcij, ki so jih posamezni centri opravljali: halucinacijski predel, sicer del desne hemisfere, imenovan bog, je informacije obdeloval intuitivno in izdajal slušne, božjim podobne ukaze delu leve hemisfere. Po Jaynesovi teoriji so ljudje na primer v stanju stresa prejeli božanski ukaz, ki jih je usmerjal pri njihovem ravnanju. Če je bil um arhaičnega človeka razcepljen, je torej potreboval vodiča, ki bi mu narekoval, kako naj ravna.
Jaynes ob analizi starogrških, perzijskih, babilonskih virov ter shizofrenih stanj razvije teorijo: arhaični ljudje niso imeli zavesti, kot jo poznamo v današnjem pomenu besede. Meni, da je arhaični človek imel t. i. dvodomni um – dva uma sta komunicirala med seboj, vendar so ta ustna navodila, ki so prihajala od ene polovice, ljudje slišali kot glasove. Imenovali so jih bogovi. V najbolj splošnem pomenu se je ta relacija mnogo kasneje ohranila pri snovanju umetne inteligence, ki temelji na obstoju dveh entitet: dominantne, ki vodi, postavlja pravila, daje ukaze in zahteva njihovo brezpogojno izvrševanje in druge, ki je sposobna ukaze sprejeti, razumeti, jih izpolniti, se iz napak tudi naučiti, pri tem pa nima razvite lastne zavesti do te mere, da bi (potencialno) lahko podvomila o legitimnosti ukazov ali se zarotila proti svojemu »stvaritelju«.

Od znanstvene revolucije do antiutopije

Jaynes meni, da je podobno (metaforično) razklan tudi um modernega človeka, ki se v času industrijske revolucije znajde na prepadu med političnim aspektom cerkvene avtoritete in med avtoriteto individualne izkušnje – med svetom, kjer odgovore še vedno ponujajo božanski glasovi, in med tistim, ki posamezniku omogoča samostojno odločanje. Na slednjem posredno temeljijo tudi ideje znanstvene revolucije, ki gre z roko v roki z naglim industrijskim razvojem in kasneje pojavom novih tehnologij.
Vendar pa pojav žanra znanstvene fantastike ni strogo vezan na znanstveno revolucijo – zametke in motive zgodnje znanstvenofantastične pripovedi: od znanstvenega ali tehnološkega napredka, družbe v prihodnosti, do potovanja v druge svetove, zunajzemeljskih oblik življenja in medplanetarno vojno, najdemo že v antični in staroorientalski književnosti. Grško govoreči asirski avtor Lucian iz 2. stoletja n. št. v delu Resnična zgodovina (angl. The True Story), na primer, opisuje potovanja na Luno, medplanetarno vojno in zunajzemeljsko življenje. V Zgodbi o čarobnem konju iz Tisoč in ene noči (ki je začela nastajati v 8. stoletju)  Šeherezada kralju pripoveduje o konju, ki je »urnejši in dragocenejši od katerega koli drugega konja na svetu«, saj ima posebne zmogljivosti: ob vrtenju ročice se sproži mehanizem, konjev trebuh napolni zrak in ta posebna letalna naprava princa odnese v neznane kraje. Ko se princ privadi na nenavaden način upravljanja, ima konja popolnoma v oblasti. Sodobna tehnologija, ki pomaga potapljaču, da diha pod vodo, se kot motiv pojavi v zgodbi o Abdullahu, Šeherezada pa Šahrijarju pripoveduje tudi o ekspediciji, ki popotnike vodi čez Saharo do mesta iz medenine, kjer Taliba ubijejo kipi, ki oživijo. To so le nekatere zgodbe, ki vsebujejo elemente zgodnjih znanstvenofantastičnih pripovedi.
Znanstvena fantastika se motivno razvija vzporedno z razvojem moderne znanosti v 17., 18. in 19. stoletju z Isaacom Asimovom, piscem »velike trojice« znanstvene fantastike (poleg njega še Robert A. Heinlein in Arthur C. Clarke), ki se navdušuje nad roboti in medplanetarnim življenjem kot tudi potovanjem v druge svetove, kot povejo že naslovi nekaterih njegovih del: Jaz, robot (1950), Fantastično potovanje (1966)in Sanje robotov, (1986). Podobne motive najdemo tudi v delih E. A. Poeja in Mary Shelley, ki je z romanom Frankenstein ali Sodobni Prometej (1818), nekakšnemu svarilu pred industrijsko revolucijo, oblikovala smernice za pisanje znanstvene fantastike. Shelley v delu spregovori o nevarnostih ustvarjanja umetnega življenja, ki vodi do stvaritve pošasti.
Znanstvenofantastični žanr je utemeljil H. G. Wells, ki v svojih delih stvarnost, prepleteno z znanstvenimi dejstvi, dopolnjuje z vizionarskimi napovedmi prihodnosti: s potovanjem skozi čas, invazijo nezemljanov, nevidnostjo in biološkim inženiringom. Smer doživi pospešen razvoj v 20. stoletju z razvojem pop-kulture, ZF časopisov in bliskovitim tehnološkim napredkom. Bogove arhaičnega človeka v delih znanstvene fantastike zamenja vera v tehnološki razvoj, ki bo »odrešil človeka«.
V tem času množične fascinacije nad tehnološkim napredkom pa se med redkimi posamezniki začne pojavljati dvom, ki v literaturi z Williamom Gibsonom vodi k obratu od slepe vere in podpore tradicionalni znanstveni fantastiki, ki časti napredek. Njegova predhodnika Huxley (v Krasnem novem svetu) in Orwell (v 1984) do tovrstnega napredka pokažeta kritičen in distanciran odnos, a brez nepotrebnega moraliziranja. To možnost jima ponudi žanr antiutopije, preko katerega  kot pionirja (poleg Zamjatina) prikažeta negativne posledice tehničnega in znanstvenega napredka ter mehanizacije dela. Temelj družbe, ki je opisana v omenjenih delih, je nenehni načrtni nadzor ljudi: kot pravi Keith M. Booker v delu Antiutopija v moderni literaturi, pa je glavna Huxleyeva in Orwellova ideja opozarjanje na škodljivost totalitarizma, katerega namen je spremeniti ljudi v stroje. Pred Krasnim novim svetom in 1984 so znanstvenofantastična dela prikazovala oddaljene kraje, eksotične lokacije ali življenje na oddaljenih planetih v drugih galaksijah, njihovo dogajanje pa je bilo postavljeno več kot sto let v prihodnosti. Orwell v svoji viziji sveta v bližnji prihodnosti, oddaljeni le nekaj več kot 30 let, predstavi futuristične izume, ki niso drastično drugačni od sicer vsem dobro poznanih tehnologij.

Huxlejevski in orwellovski človek

Antiutopična vizija bližnje prihodnosti, ki temelji na radikalni ideji o strogo znanstvenem raziskovanju, katerega posledica je vnaprej determinirana družba, ki se obnaša po predvidenih vzorcih in algoritmih, ne predstavlja več varnega zatočišča, temveč pretečo grožnjo. Zanimanje vzbudi tudi v literarnih krogih: tako Huxley kot Orwell se poigravata z idejo ustvarjanja družbe, v kateri bo vsak korak načrtovan in nadzorovan, ljudje pa karseda blizu popolnemu konstruktu, ki se ne zaveda lastne zavesti: je bikameralna tvorba, ki sprejema ukaze višjih instanc, ki ga usmerjajo pri njegovem ravnanju – vzporednica z Jaynesovim bikameralnim arhaičnim človekom, ki je sprejemal ukaze bogov, nam nikakor ne uide. To se pričakuje tudi od protagonistov v romanih Krasni novi svet in 1984.
V Krasni novi svet nas vpelje prizor iz londonskega Zavoda za razplajanje in prilagajanje, 632 let po Fordovi uvedbi tekočega traku. Huxley nam oriše novo stvarnost, v kateri boga zamenja Ford, nadzor prevzame Svetovni nadzornik, biološki inženiring pa poseže v proces ustvarjanja novega življenja: umetno vzdrževanje zarodkov, že ob rojstvu ločenih na kaste – proizvodnja ljudi, ki predstavlja ključno komponento v stabilnosti družbe in osnovo za uspešno delitev dela brez konfliktov. Pogoj za tako družbo je nadzor nad ljudmi, ki služi izpolnjevanju najvišje prioritete: vzdrževanju družbene stabilnosti. Neizpolnjevanju ukazov, posredno torej sledenje lastni zavesti in moralnim zakonom, sledi kazen. To so tudi stične točke s 1984, v katerem nam Orwell predstavi koncept vsevednega in vseprisotnega Velikega brata skozi doživljanje Winstona Smitha, ki živi v svetu teleekranov in skritih mikrofonov.
Kljub temu, da sta družbi v obeh romanih podvrženi procesu dehumanizacije – pri Huxleyu tudi s hipnopedično metodo usvajanja moralnih zakonov, ima huxleyevski in orwellovski človek nepremostljivo pomanjkljivost: kljub vsemu programiranju je še vedno »človeški«, saj ima čustva, nagone, potrebe, redki posamezniki pa imajo tudi lastno mnenje in zavest, in četudi so bili zatrti, se jih iz njegovega bistva ne da izbrisati. V Krasnem novem svetu je tak predvsem John – zaradi svojega spočetja (po naravni poti) obsojen na rezervat divjakov v Novi Mehiki, v 1984 pa Smith, oba v brezvestni družbi ostaneta »človeška«. Ko tak človek začne preizpraševati mejo med individualnostjo in konformizmom, ki mu jo je zarisala višja instanca, in ugotovi, da ne potrebuje božanskega dovoljenja, temveč zgolj motivacijo, ki prihaja iz njega samega, je skorajda nemogoče vzpostaviti ponovni nadzor nad njim. Ustvariti je torej treba »bitje« brez tovrstnih spremenljivk, bikameralen »stvor«, ki bo poslušal vse ukaze in katerega pomanjkljivosti bo mogoče odkriti, popisati in odpraviti.

Umetna inteligenca in kiberpank

Po fascinaciji nad umetno inteligenco, ki bo odrešila svet, saj bo sposobna slediti ukazom, ne da bi dvomila vanje, je kmalu prišla tudi antiutopična vizija te prihodnosti, v kateri se tovrstni bikameralni stroj povzpne nad preprosto izvrševanje vnaprej programiranih ukazov. Gibson s kiberpankom napove antiutopično prihodnost, v kateri se umetna inteligenca, ki naj bi odrešila človeka, zaroti proti njemu. Izraz kiberpank, sicer skovanko iz besed kibernetika in pank, je prvi uporabil Bruce Bethke. Ta podžanr znanstvene fantastike združuje elemente kriminalnih romanov, film noirja in postmodernizma, ki jih vpenja v pogosto nihilistično ozadje tehnološkega in znanstvenega napredka, zavestne umetne inteligence in kibernetike, ki privedejo do radikalnih sprememb v elektronski postindustrijski urbani družbe bližnje prihodnosti. Dogajanje je preneseno v virtualni svet, kar briše mejo med dejansko in virtualno realnostjo – s tem namenom je vpeljan tudi vodilni motiv, tj. direktna povezava med človeškimi možgani in računalniškim sistemom.
Antiutopični svet, v katerem se umetna inteligenca povzpne nad prostor mrežnih podatkovnih komunikacij in z nuklearno vojno, ki ubije večino človeštva, zavlada svetu, je napovedal tudi Harlan Ellison (I Have no Mouth, and I must scream, 1967). Podobne vojne za prevlado v svetu bojuje tudi človek in Ellisonu se zdi razumljivo, da jih bo bojevala tudi sicer umetno zavestna, a vendarle samostojno razmišljujoča tvorba. V tej primerjavi umetna inteligenca prehodi pot podobno razvoju bikameralnega uma arhaičnega človeka: sprejema ukaze od višje instance (tokrat boga zamenja človek), vendar se kot nekakšen »konfuzen eksperiment socialnega darwinizma« (kot jo poimenuje Samo Kuščer) povzpne nad svojega »stvaritelja«, se zave lastnega uma in pomembneje: lastne zavesti, ki ji omogoča samostojno odločanje. Podobno se zgodi tudi v Nevromantu.
Gibson v Nevromantu skozi oči kiberkavboja Casea predstavi svet, za katerega se zdi, da so tovrstno odločanje in zavest zamenjale podatkovne mreže, kiberprostor, zaporedja ukazov, potovanje med virtualnimi svetovi, breztelesnost in izvrševanje ukazov višjih entitet – računalnikov, ki razvijejo sposobnost samostojnega razmišljanja in se povzpnejo na raven umetne inteligence, ki je sposobna prevare, zavajanja, razstavljanja in ponovnega sestavljanja svetov, družb in posameznikov, ki jo sestavljajo. V romanu poleg protagonistov Caseja in Molly srečamo številne druge osebe, med katerimi so tudi Armitage, Wintermute in Nevromant predstavljeni le bežno, preko skopega opisa. A kmalu ugotovimo, da z Zimonemom tvorijo umetno inteligenco oziroma njene entitete, ki se združujejo, oddaljujejo druga od druge in razvijajo povsem svobodno zavest, ločeno od osnovnih računalniških protokolov, ki jim omogoča, da prevzamejo nadzor in izdajajo ukaze.
Bralec zaradi številnih oseb, s katerimi se sreča, nima občutka, da so realne, temveč le breztelesni konstrukti, ki so se srečali v virtualni spletni klepetalnici, ne pa v npr. resničnem baru. Prostor in čas postaneta torej relativna, virtualna in neoprijemljiva. Drobcev, ki bi spominjali na sočasni zgodovinski čas, je malo in zdi se, da se je Gibson s tem oddaljil (predvsem) od Orwella. Vest je v Nevromantu nadomeščena z umetnimi regulativi: kazen ni prisila v razmislek med dovoljenim in nedovoljenim, posameznik nima možnosti kesanja (kot jo dopuščata Orwell in Huxley) in sprevidenja, da je bilo njegovo ravnanje napačno, ampak je kazen dejanski poseg v posameznika – pri Caseu na primer s strupom. V Nevromantu tudi ni prostora za izboljšave resničnosti ali aluzije na to, da se stanje morda še lahko popravi – protagonisti živijo v edini možni resničnosti. A kljub temu jih povezuje motiv množične proizvodnje identičnih, v Nevromantu že robotiziranih posameznikov, predvidenih za opravljanje vnaprej določenih del. Vrednost posameznika se v vseh treh opisanih družbah, od Orwella in Huxleya do Gibsona, torej meri v njegovi koristnosti za družbo.
Odziv na dražljaje iz okolja po vnaprej predvidenih poteh je za razvijajočo se tehnologijo nezadosten. Zdi se, da začne »hrepeneti« po nadgradnji njenih primarnih funkcij; učenje določenih struktur naj bi nadomestil približek človekovi zavesti. Umetna inteligenca se ne zanima za človeško življenje, ki je bilo v prvi vrsti osnova za njen obstoj, ampak teži zgolj k lastnemu napredku in razvoju. Damien Walter v članku za The Guardian ta proces postavi ob bok človekovemu zanimanju za bakterije: kljub osnovi za človekov obstoj v njih vidi zgolj sredstvo za lastne izboljšave. Podatkovni sistemi virtualnega sveta se tukaj prepletajo s človeško zavestjo, briše pa se tudi meja med resničnostjo in iluzijo. Umetna inteligenca je v določenem smislu že vitalizirana, saj je dobila lastnosti umetnega življenja. Gibson briše mejo med človekom in stroji tudi z inteligentnim obnašanjem človeških tehnoloških stvaritev, ki so sposobne dojemati svoje okolje in se nanj primerno odzvati s specifičnim dražljajem. Ljudje v Gibsonovem svetu obstajajo samo še zaradi posega najnovejše tehnologije, vendar so zato tudi ves čas na meji med življenjem in smrtjo, oziroma pod grožnjo flatline – umetna inteligenca jih namreč lahko oživi ali ubije.

Vprašanja namesto odgovorov

Pogoj za razvoj umetne inteligence je poznavanje možganov, uma in zavesti – mehanizmov, ki za današnjo nevroznanost, kljub poglobljenim raziskavam, ostajajo skrivnost. Zavedanje, da se moderni, zavestni človek v stresni, nepričakovani situaciji obrne vase, vzpostavi dialog s svojo vestjo in se po njej ravna, je prehodilo dolgo pot, ki jo v članku poskušam zarisati z odgovorom na vprašanje: so Huxley, Orwell in morebiti najradikalnejši William Gibson začrtali pot od bikameralnega arhaičnega človeka, preko zavestnega in nadzora željnega človeka do preprogramiranega človeka-stroja in nenazadnje umetne inteligence? Trije avtorji odgovarjajo na vprašanje, kaj se zgodi, ko družba, taka kot je, ne more več obstajati. Orwell v odgovor ponudi Velikega brata, ki nad njo vrši nadzor, pri Huxleyu se ta nadzor potencira v popolno kontrolo nad vsakim elementom posameznikovega življenja in se pri Gibsonu zaostri v stanje, kjer je ves svet prepleten z nadzorom. A to ni nadzor, ki ga upravlja človek, saj ima ta kljub vsej svoji predanosti zavest in se lahko obrne proti vsiljenim prepričanjem. Ta nadzor vrši umetna inteligenca in kmalu se v nezmotljivosti računalniškega uma pokaže »pomanjkljivost« – je sredstvo nadzora, ki ga ne moremo nadzorovati. Iz razvojne premice lahko sklepamo, da človeška želja po napredku hkrati prinaša posledice, ki jih ni mogoče popolnoma kontrolirati kljub temu, da je želja po nadzoru razlog, zakaj se raziskav sploh lotevamo. Nenazadnje naj bi bil ravno razvoj novih tehnologij priložnost za stopnjevanje nadzora nad posameznikom in vdora v njegovo zasebnost. Kakšna bo človeška usoda v tej prihodnosti? Orwellova napoved tiranske nadvlade Velikega brata se v sodobni družbi, preplavljeni s sredstvi množičnega nadzora, deloma že uresničuje. Bo sledila Huxleyevi napovedi o visoko razviti družbi, ki obstaja le, dokler se človek ne zave lastne zavesti? Ali morebiti zaostrena do Gibsonove napovedi, v kateri nadzor prevzame umetna inteligenca, človek pa postane le še bitje, ki zaradi umetnega ohranjanja pri življenju, počasi izgublja delčke zavesti in tava po mrežah brezmejnega kiberprostora? Bo umetna inteligenca, ki si jo tako zelo želimo vzpostaviti, naš odrešenik ali krvnik?