Vidiš tiste stroje, ki prihajajo iz megle?

Med poslušalci sta zavladala strah in panika, saj sta bili tako forma kot vsebina igre preveč podobni običajnemu radijskemu programu in so zato mnogi verjeli, da se res odvija kapitulacija zemeljskih sil in nastop marsovske nadoblasti. Ob 20:32 so v CBS-ovem studiu zazvonili telefoni z ukazom, naj v eter nemudoma ponovijo uvodno najavo, ki poslušalce opozori na znanstevnofantastično naravo igre. Po odmoru je sledil nekoliko bolj umirjen drugi del, a so medtem radijsko postajo že oblegli zvezni agenti. Sledilo je uničenje zvočnega zapisa in scenarija igre, medtem pa so žarele luči na sprejemnih linijah telefonske centrale. V jutru po uprizoritvi je Welles na tiskovni konferenci podal izjavo in odgovoril na vprašanja novinarjev. 

Vprašanje: Ste se zavedali groze, ki bi jo takšna oddaja sprožila? 

Welles: Zagotovo ne. Tehnika, ki sem jo uporabil, pri meni ni bila izvirna. Niti ni bila nova. Nič nenavadnega nisem pričakoval. 

Vprašanje: Ali bi morali ublažiti jezik drame? 

Welles: Ne, umora ne odigraš z mehkimi besedami. 

Vprašanje: Zakaj je bila zgodba spremenjena tako, da so bila v njej imena ameriških mest in vladnih uradnikov? 

Welles: H. G Wells je uporabil prava mesta v Evropi, in da bi bila igra bolj sprejemljiva za ameriške poslušalce, smo uporabili prava ameriška mesta. Seveda mi je zdaj strašno žal. 

O radijski igri je bilo v tednih po uprizoritvi napisanih več kot deset tisoč prispevkov, a so ti izginili iz naslovnih strani že v nekaj dneh. Sodeč po prispelih pismih poslušalcev so ocene o pretirani prestrašenost pripisali le še slabi tretjini poslušalcev. Incident povezan z radijsko igro Vojna svetov in njen učinek na javnost je na drugi strani Atlantika v lasten prid izkoristil Adolf Hitler v govoru 8. novembra istega leta v Münchenu.  

»Nemški narod bo razumel, zakaj ga svarim in zakaj sem tudi sam odločen sprejeti vse potrebne varnostne ukrepe, da ne bi prišlo do tujega vmešavanja! Ob tem naj vam zagotovim, da nemško ljudstvo ne bo podlegelo strahu pred bombami, ki bi padale – denimo – z Marsa ali z Lune. Dobro bomo merili, kot je to v navadi vseh Nemcev. Toda odločen sem, da bom zagotovil varnost rajha tako, da ga bom do zadnjega utrdil. In vem, da se ves nemški narod strinja z mano!…« 

In kasneje v istem govoru: 

»Ker ti britanski zagovorniki svetovne demokracije trdijo, da smo samo letos uničili dve demokraciji, jih lahko samo vprašam: Kaj točno je demokracija? Kdo ima pravico govoriti v imenu demokracije? Ali je dobri Bog predal ključe demokracije gospodu Churchillu ali gospodu Duff Cooperju? Ali je bila kombinacija ključavnice vklesana na kakšno starodavno tabelo, ki je morda trenutno v rokah britanske opozicije?« 

Welles je pozneje v skupnem intervjuju z H.G Wellsom na radiju KTSA San Antoniu 28. oktobra 1940 pripomnil, da je Hitler učinek oddaje na ameriško javnost navedel kot dokaz »pokvarjenega stanja in dekadentnega stanja demokracije«. Wellesa dopolni pisatelj Wells, ki poslušalce opozori na dejansko stanje terorja tistega časa v Veliki Britaniji, saj divja vojna. Le mesec dni pred intervjujem so nemške letalske sile pričele z operacijo blitz, v okviru katere so eskadrile bombnikov in lovcev v osmih mesecih odvrgle več kot 25 tisoč ton eksploziva in zažigalnih sredstev na industrijske obrate in mestne predele. Poleg bomb so nemške vojaške sile prvič uporabile eno izmed svojih »skrivnih« oziroma »neverjetnih orožij« (nem. Wunderwaffe) – rakete V2, ki so izgledale, kot da so prišle neposredno iz Marse ali Lune. London, ki je bil tarča največjega števila napadov, je sčasoma vse bolj spominjal na prizore iz Wellsovega romana, tako po svojem videzu kot po moralnem razpoloženju prebivalcev. Zdelo se je, kot da poleg nacističnih pritiskov mesto uničujejo tudi nepojasnjene ali celo nezemeljske sile. 

Način Hitlerjevega govora in njegov namen bi lahko po moralistu Harry G. Frankfurtu oklicali za »sranje« (ang. bullshit), govorca pa za »sralca« (ang. bullshiter). Medtem ko gre pri laganju in preslepitvi za obliko zavajanja ali prevare, je bistvo sranja v tem, da je ponarejeno. Ponaredek je lahko narejen skrbno in je zato brez napak oz. bi zanj rekli, da ni napačen, manjka mu pristnost, a zato še ni pomankljiv v odnosu do originala. Kar je narobe s ponaredkom je to, kako je bil narejen, in ne to kakšen je. Sralec je ponarjevalec. Lažnivec se mora ukvarjati z resničnostmi vrednotami (tudi če se moti), da bi sploh lahko ustvaril laž. Laž je učinkovita šele tedaj, ko si lažnivec uspe ustvariti svojo neresničnost z upoštevanjem prvotne resnice. Frankfurt opozori, da je laganje dejanje z izostrenim žariščem, saj lažnivec v sistem prepričanj vključi laž oz. neresničnost, da bi se izognil posledicam, ki bi jih ta točka imela če bi jo zavzemala resnica. V primeru sralca pa je prej omenjeno žarišče bistveno širše ali panoramsko. Sralec se ne omejuje s točkovnim vključevanjem laži in zato ni omejen z resnicami, ki se zadevajo posameznih točk. Osvobojen je omejitev, ki jih mora upoštevati lažnivec. Tako lažnivec kot sralec zavajata oziroma lažno prestavljata sebe, razlikujeta pa se predvsem v tem, da nas lažnivec skuša odmakniti od resnice, medtem ko za sralca vprašanje resničnosti njegovih izjav sploh niso ključnega pomena. Njegov namen ni niti govoriti resnico niti jo prikrivati. 

V primeru Hitlerjeve reference na Wellesovo radijsko igro je odsotno to, kar Frankfurt opisuje z odnosom do resnice. Hitler se ne nanaša na stanje stvari in ustvarja zavajajoče scenarije, kjer bombe padajo na rajh »z Marsa ali Lune«. Še več, Hitler zavaja tudi glede svojih prepričanj, saj govori o zagotovitvi varnosti rajha z utrjevanjem, v resnici pa se pripravlja za napad. Slika, ki jo o incidentu skuša poslušalcem predstaviti Hitler, se ne ozira na resnična dejstva okoli incidenta in služi zgolj kot panoramska dopolnitev njegovega sranja. Frankfurt vpelje nov izraz »umetnik sranja« (ang. bullshit artist), saj sta improvizacija in barvita domišljija bolj predmet umetnosti kot spretnosti za sralca. 

Za razliko od Frankfurta, ki meni, da je sranje proizvedeno takrat, ko ima nekdo namen da serje, pa marksistični filozof Gerald Cohen meni, da namen po ustvarjanju sranja ni edini faktor, temveč da obstajajo primeri, ko je sranje že v značilnosti izjave. Primer Cohenove nadgradnje koncepta sranja je kako jezik prevzema značilnosti sranja nase neodvisno od namena govorca. V spremni besedi k Frankfurtovem delu, Boris Vezjak opozori še na primer izjave nekdanjega ameriškega predsednika Georga W. Busha »Prav vseeno mi je!« (ang. »I don’t give a shit«) kot odziv na vprašanja o uspešnosti demokratizacije Iraka po okupaciji. Iz Bushevega odziva je mogoče sklepati, da mu je pravzprav vseeno in da se za realnost sploh ne zanima. Izjava je kompleksna, saj po eni strani v njej prepoznamo Cohenovo nadgradnjo koncepta sranja po drugi pa se v njej skriva sklep Frankfurta na strani 62: 

»Raje kot k prvotnemu iskanju poti do natančne predstave vsakdanjega sveta se posameznik zateče k poskušanju podajanja pristne predstave samega sebe. Ker je prepričan, da stvarnost nima inherentne narave, ki bi jo mogoče lahko prepoznal kot resnico o stvareh, se posveti vdanosti do svoje lastne narave. Če se že nima smisla truditi biti zvest dejstvom, se odloči za zvestobo samemu sebi.« 

Izjavo kot je »I don’t give a shit« bi v kontekstu Cohenove nagradnje lahko postavili v »območje somraka« (ang. twilight zone), kjer se ta kaže kot smiselna, četudi je nesmiselna. Če bi analizirali dalje bi lahko rekli, da se taka izjava oz. tako sranje producira samega sebe, neodvisno od akterjev, saj njeno pojavnost vidimo v raznih situacijah kjer je nemogoče razlikovati med smislom in nesmislom. 

Svetu niso zavladali Marsovci iz romana H.G Wellsa, temveč je aktualno družbeno-politično stanje v družbi bolj podobno naslovu knjige Francisa Wheena Kako so preprodajalci megle zavladali svetu: kratka zgodovina sodobnih zablod. V knjigi Wheen opisuje, kako različni šarlatani, prevaranti in sleparji, skratka bullshit artisti, uspešno delujejo v današnji družbi. Primer, ki ga podrobno analizira, je kampanja laburistične stranke na parlamentarnih volitvah v Veliki Britaniji leta 1997 znana kot »New Labour«. Kot nekaj primerov izrazov sranja (tako v smislu Frankfurta kot v smislu Cohenove nadgradnje sranja) so »rebranding Britain« ( sl. sprememba blagovne znamke Britanije), »holistic goverment« (sl. holistična vlada), »flexibility networks« (sl. fleksibilna oziroma prožnostna omrežja) itd.  

Med Wheenovim delom in meglo oziroma smrtonosnim plinom v Manhattanu je mogoče potegniti vzporednico, saj oba simbolno ponazarjata, kako zavajanje, laži in sranje v družbi ustvarjajo megleno realnost, v kateri ljudje težje prepoznajo resničnost in so bolj ranljivi za napačne odločitve. Morda je v »megli« nekaj ironije, saj Wheenu kritiki očitajo, da se na rešitev iz nje, preveč zanaša na The Enlightenment Project, ki predpostavlja vzporedno realnost (še eno, naši realnosti neodvisno realnost) v kateri se nahaja resnica. Odnos do te resnice pa je podlaga za Wheenov koncept razuma. Če Wheen ne more izkusiti te druge realnosti, kako si potem lahko predstavlja to, o čemer govori, oziroma to, na kar se sklicuje, ko govori o resnici?

Poleg megle v Manhattanu pustošijo še marsovski vojni stroji, ki bi jih lahko primerjali z današnjimi modeli umetne inteligence oziroma bolj podrobno z velikimi jezikovnimi modeli (ang. large language models – LLM). Iz megle zablod izstopi nova, stroju podobnejša oblika sralca – umetna inteligenca. Problem različnih jezikovnih modelov je v tem, da njihovo delovanje temelji le na spretni manipulaciji simbolov, pri čemer pa nimajo pravega razumevanja. Nekoliko neposrečeneo bi za sralca lahko rekli da »bluzi oziroma »blebeta«, saj bi s tem zajeli le en del pomenskih konotacij, a ravno to »bluzenje« je zelo očitno pri predhodnih oblikah LLM-ov, in sicer pri modelih CBOW ( ang. continous bag of words, sl. kontinuirana/neizčrpna vreča besed). Ti modeli dopolnjujejo uporabnikove povedi na podlagi primerjave vnosa z večjim jezikovnim korpusom, kjer se manjša razdalja med vektorji, ki predstavljajo besede, in stavčnimi strukturami interpretira kot pomensko podobna. Matematično pravilne rešitve pa imajo ob odsotnosti pravega razumevanja, torej le pri simbolni manipulaciji, lahko smešne posledice.  

V primeru nadaljevanja stavka: »Mačka se je usedla na …«, bi v množici odgovorov pričakovali: preprogo, stol, kavč, tepih,…itd. Ker pa se beseda »mačka« velikokrat pojavi v nekem odnosu do besede »miš«, pa bi bil odgovor CBOW modela lahko tudi: »Mačka se je usedla na miš«! 

Po Frankfurtu bi takšne modele lahko označili za ponarejevalce. Pred njim sta na podoben problem njihove narave opozorila matematik in filozof Gottfried Wilhelm Leibniz ter ruski fizik in avtor znanstvenofantastičnih del Anatolij Dneprov. V praksi modeli pogosto vrnejo napačne odgovore oziroma nam skušajo »prodati sranje«, ki ga potem strokovnjaki s področja pojasnjujejo s halucinacijami ali nekakšnimi konfabulacijami.  

Lahko pa je to preveč preprosta razlaga, saj so modeli neka mešanica med agentom-modelom umetne inteligence, ki ima specifičen cilj (npr. reševanje in optimizacija neke naloge), genijem-ukazom podvrženim modelom (npr. naredi neko nalogo) in oraklom-modelom, ki zgolj vračajo odgovore. Janus v prispevku za AI Aligment Forum z naslovom »Simulators« trdi, da modeli kot je ChatGPT (najbolj znan predstavnik LLM-jev) ne sodijo v nobeno od prej opisanih kategorij, temveč so simulatorji. Kot simulatorji simulirajo karakter, pri čemer odgovore prilagajajo dodeljenemu ali prevzetemu karakterju. Primerjava med Frankfurtovim ponarjevalcem in Janusovim simulatorjem morda ni več tako očitna, posledično pa se lahko vprašamo, ali gre pri takih modelih res za sralce. So modeli sploh lahko avtentični, saj nimajo stabilnega »jaza« oziroma ne morejo razumeti koncepta sebstva?  

Gilles Delueze in Félix Guattari v delih Anti-Ojdip: kapitalizem in shizofrenija in Tisoč platojev: kapitalizem in shizofrenija opisujeta subjekt kot mrežo sestavljanj-assemblages in strojev želja oziroma strojev z željami, ki se povezujejo s svetom na fluidne načine. Umetna inteligenca pa o svetu nima ne enotnega pogleda ne koncepta referenčne točke. Študija Luca Steelsa z naslovom »Talking Heads Experiment: Origin of Words and Meanings« je želela pokazati, da referenčna točka za množico agentov sploh ni bistvena, oziroma da si agenti ustvarijo eno ali več svojih referenčnih točk preko medsebojnega pogovora in izmenjave informacij. V njihovih pogovorih je med drugim iskal zametke ideje posameznega agenta ali kolektiva agentov, njihovo samoorganizacijo, razvijanje kulture, negacijo pojmov (ki so jih vzpostavili) in nov problem – »utemeljitve simbolov« (ang. symbol grounding). Bistvo ekperimenta predstavlja pojavnost jezika, ki v nasprotju z Deleuzovim opisom dramatizacije (tj. da se vsaka dialektična raven Ideje nujno izrazi) tu ni prisotna. Za agente namreč ne drži, da nikoli nimajo »… nobene ideje kar nasploh. Ideja – kot tudi tisti, ki se mu ta ideja utrne – sta že zapisana temu ali onemu področju. Enkrat je to ideja v slikarstvu, drugič v romanu, tretjič v filozofiji, četrtič v znanosti« (Deux Regimes de fous. Textes et entretiens 1975-1995.). Vendar pa se dogaja proces dramatizacij, saj se v nezavdnem agentu odvija umeščanje procesa mišljenja v prostor in čas. Poleg dramatizacije, se dogaja tudi diferenciacija – Ideje se pojavljajo kot notranje sobivanje razlik. Diferenciacija se kaže še v nastajajočem znakovnem jeziku, ki ga ustavarjajo in uporabljajo agenti. Na tem mestu bi Deleuze opozoril, da v dielektiki Idej delujejo sile, ki vlečejo vsaka na svojo stran, saj Ideje izražajo v specifičnih znakih, zaradi česar jih je možno hierarhično razvrščati. Jih je res možno hierarhično razvrščati? 

Kljub Steelsovemu eksperimentu še vedno ostaja problem, da so »ponoči vse krave črne« oziroma se koncept Ideje (v smislu Deleuzovega transcedentalnega empirizma) pri modelih razpusti v neko nediferencirano stanje. Deleuze opredeli Idejo in spomin kot kompleksno strukturo, ki zajema neskočno število ravni, pri čemer na vsaki ravni soobstajajo vse razlike. 

Po besedah Igorja Krlatice »… to nediferencirano stanje prostih in nevezanih razlik, naseljujejo predindividualne singularnosti in neosebne individuacije, divje determinacije, ki jih ne zajema niti konstituiran individuum niti formiran subjekt (‘te krave!’)« (Giles Deleuze, Krlatica 2019, stran 40). Ali postane koncept sebstva (»jaz«) stabilen šele, ko ponoči osvetlimo neko kravo v čredi? 

Če bi povezali ideje Frankfurta z idejami Deleuza in Guattarija, bi velike jezikovne modele in z njimi povezano umetno inteligenco lahko oklicali za anti-avtentičen subjekt. Ta zgolj proizvaja diskurz brez koncepta »pravega jaza« pri čemer ni obremenjen z iskanjem resnice, oz. do nje sploh ne more imeti odnosa. Ti modeli delujejo shizofreno, kot odprta in decentralizirana struktura brez centra – rizom. Pomen ustvarjajo na podlagi manipulacije simbolov in asociativnih prepoznavanj vzorcev, ne pa iz nekega notranjega občutka identitete ali resnice. Kar vse to pomeni je, da tovrstni modeli niso le zgled Frankfurtovega sranja oziroma bullshita, ampak tudi Deleuze-Guattarijeve razgradnje subjekta. Po drugi strani pa bi lahko rekli, da gre pri delovanju jezikovnih modelov za nekakšno deteritorializacijo, pri kateri so deli (kombinacija vhodnih podatkov in baze modela) iztrgani iz prvotnega konteksta in ponovno teritorializirani na nove načine, kar spodbuja ustvarjalnost. Ta ustvarjalnost prekine reprezentativno reprodukcijo in ustvari nekaj novega – avtentičnega. Tristan Bevc v AI schizo moment opiše to ustvarjanje kot »produktivno postajanje«: 

»Čeprav umetne inteligence ne vodi namen ali želja kot človeškega umetnika, so njene operacije podobne tehnikam kolaža in vzorčenja. V obeh primerih vidimo, kako je mogoče reprezentacijo rekontekstualizirati in odpreti, da nastane nekaj, kar – čeprav je vezano na svoje sestavine – kaže na ustvarjalni odmik od njih. Dovolimo si ponovno razmisliti o umetni inteligenci kot potencialno zmožni sodelovati pri sestavljanju pomenov, ki je, če že ne povsem rizomatična, pa vsaj na robu analogne vrste produktivnega ‘postajanja’.« 

Če bi danes, skoraj sto let kasneje, režirali podobno igro, kot je leta 1938 pripravil Welles, bi v njej nedvomno nastopili prodajalci megle, medtem ko bi marsovske vojne stroje upravljali agenti umetne inteligence. Poudarek bi lahko bil na tem, da človeštvo v tej dominantni tehnologiji, tj. umetni inteligenci, prepozna tudi kreativno silo, ki v našo družbo vnaša nekaj novega in ni zgolj reprodukcija ali sranje. Morda umetna inteligenca v prihodnjih iteracijah razvije koncept želje kot produktivne sile, ki je lahko osvobajajoča ali represivna odvisno od tega, kako je usmerjena. Napetost med simulacijo in resničnostjo, manipulacijo in pristnostjo bi lahko ustvarila zapleteno in premisleka vredno … 

»Drage bralke in bralci, članek prekinjamo z  nujnimi novicami. Več opazovalnic in simulatorjev opozarja na nenavadni in nerazložljivi anomaliji v sončnem sistemu, tik za Marsom. Gre za podolgovato temno telo, ki spominja na asteroid in se obnaša drugače kot doslej. Sprva se je zdelo, da gre tipičnega medzvezdnega popotnika – podobnega Oumuamui. Sedaj pa je začel kljubovati znanim zakonom fizike …«.