Pogovori z odpadniškimi stroji: O Gordonu Pasku in generativni UI

Morda bi bilo smiselno, če na začetku navedemo nekaj biografskih podatkov. Gordon Pask, ključna osebnost v poglobljenem preučevanju interakcij med človekom in strojem in raziskovanju družbenega učenja, je bil britanski kibernetik, rojen leta 1928 v Derbyju. Na Univerzi v Cambridgeu je diplomiral iz naravoslovja s specializacijo iz eksperimentalne psihologije, doktoriral pa na londonski univerzi iz psihologije učenja in principov nadzora. Večino Paskovega dela bi danes lahko uvrstili v kanon tehnološke umetnosti: v petdesetih je ustvaril Musicolor, interaktivno instalacijo, ki je improvizacije glasbenikov prevajala v odzivne svetlobne vzorce, pri čemer je z lučjo vplival na človeške glasbenike in jih spodbujal k improviziranju. Verjetno najpomembnejši Paskov doprinos pa je razvoj konverzacijske ​​​​teorije v sedemdesetih letih prejšnjega stoletja, s katero je postavil ogrodje za razumevanje učenja in komunikacijskih procesov. Ni skrivnost, da je Gordon Pask izven kibernetskega kroga slabo poznan. Pisal je veliko, njegova besedila pa so po večini težko razumljiva – lakanovski diagrami, široke multidisciplinarne reference in natančno, a idiosinkratično besedišče običajnemu radovednežu otežujejo vstop. K temu morda pripomorejo tudi pripovedi o njegovih očarljivih, a dezorientirajočih interakcijah, pri katerih poslušalcu »ni bilo nikoli povsem jasno, če ima opravka s poezijo, znanostjo ali humorjem«. 

Kljub temu se nam s časom, ki ga preživimo ob Paskovem pisanju, razkrije njegova daljnovidnost – ne le zaradi načina, kako razume in izziva naše mite o velikih jezikovnih modelih in generativni UI, temveč zato, ker je Paskov model za razumevanje teh sistemov tako soroden vlogi »kreativnih tehnologov« pri opredeljevanju odnosov z novimi tehnologijami. Pask je te tehnologije ustvaril v okviru »odpadniških strojev« (ang. maverick machines), s katerimi je želel izzvati ortodoksnost komputacije svojega časa, poleg tega pa si je prizadeval za razvoj novih narativov in smeri načrtovanja skozi prototipe.         

V tem članku bom predstavil dva Paskova okvira: njegov pristop k sistemom črne škatle ter njegovo razlikovanje med komunikacijo in konverzacijo. Nato bomo na zgodovino odpadniških strojev pogledali z vidika izvorne pripovedi o ustvarjalnih tehnologih, ki oblikovalca ali umetnika definira kot provokatorja in ne kot preizkuševalca produkta. Zgodovina digitalnih oz. računalniških umetnosti pretežno izhaja iz eksperimentalnih »think tankov« Bellovih laboratorijev ali Googlove marketinške ekipe, Pask pa se odlikuje po tem, da je heker: namesto da bi ustvarjal dela, ki slavijo korporativno tehnologijo, si je poskušal zamisliti, kaj bi tehnologija lahko bila. S tem je njegovo delo služilo kot kritika normativnega pogleda. To še zlasti velja danes. 

Pask v škatli  

Če je naš cilj ocena Paskovega dela v kontekstu generativne UI, je dobra izhodiščna točka njegov prispevek z naslovom The Natural History of Networks (Naravna zgodovina omrežij) iz leta 1960. Gre za predavanje v okviru konference Samoorganizirani sistemi v organizaciji Urada za pomorske raziskave, v katerem so Paskovi argumenti osredinjeni na razumevanje sistemov črnih škatel z vidika »zgodovinarja narave«, nekoga, ki torej razume »umetnost zajčjega teka, skoraj tako, kot bi živel del zajca«. Pask prične z definicijo sistemov: »Vsak vzorec ali delovanje v omrežju, ki ga opazovalec zaznava kot konsistentnega, je sistem.« Meje takih sistemov definira specializirano strokovno znanje – fizik in biolog bosta morda med opazovanjem istega sistema zaznala popolnoma drugačne operacije. Tovrstni »referenčni okvirji« kažejo na to, da je razumevanje sistemov po večini omejeno na poznavanje podsistemov, namesto na interakcije med njimi.   

Pask predlaga alternativo: namreč, da »sisteme lahko nadzorujemo tudi z interakcijo,« kar se strokovnjaku morda zdi nekoliko zgrešeno. Pask naredi primerjavo s spodbujanjem slona s hrano. Če strokovnjaka zanima le premikanje slonov, se lahko vpraša, zakaj bi ga hranili. Raziskovalci, ki raziskujejo celotno obnašanje sistema, so od zunaj videti, kot da bi »nelogično preskakovali iz kadra v kader«. Za Paska je to način, s katerim odkrijemo »sistem slona« – če želimo razumeti slona v celoti, moramo opazovati njegove odzive od trupa do repa. Take interakcije so le redko enačba vnosa in ​​​​izhoda. Slon se bo morda hranil, morda ne, lahko bo pojedel in izpljunil gnilo hrano in tako naprej … Obnašanja sistema niso trdni zakoni, opredeljeni s strogim tokom, temveč brazde, ki so odprte za variacije in možnosti.   

Paskovo delo in sisteme slona lahko apliciramo na sodobno generacijo teksta in podobe s sistemi, kot so Diffusion, GAN-i in veliki jezikovni modeli. Gre za različne sisteme, ki pa jim je skupno določeno obnašanje: naključje in predvidevanje vstopata v interakcijo znotraj nepreglednega modela za sprejemanje odločitev. Način, na katerega velik jezikovni model določi, da je »jabolko« v stavku »pojedel je jabolko« sadje in ne tehnološko podjetje, ostaja nejasen. Je pa primerljiv z opazovanjem pasjega repa in izjavo, da ne razumemo, zakaj maha z njim, medtem pa ne upoštevamo dejstva, da je njegov lastnik zapeljal na dovoz. Gre za črne škatle, a le do določene mere. Če podrobneje pogledamo specifične mehanizme v omrežju, ki določajo ali oblikujejo njihovo obnašanje, bomo naleteli na skrivnosti – če pa naredimo korak nazaj, se bo črna škatla UI zazdela kot pretiravanje. Vemo, da fiktivno jabolko ni tehnološko podjetje, ker tehnoloških podjetij ne jemo. 

Zdi se, da smo nagnjeni k iskanju logičnosti tam, kjer gre v osnovi za naključnost. Poglejmo, na primer, kako bi velik jezikovni model dokončal stavek: »Preverila je vreme in ostala doma, da bi se izognila ________.« Lahko bi se zaključil z besedami: »snegu«, »dežju« ali »toči«. Statistično gledano je za vsako izmed opcij enaka verjetnost. Morda večkrat doživimo »dež« kot »točo«, vendar to ne pomeni, da bi nas moralo presenetiti, če bi bila izbrana »toča«. Procese izbire tovrstnih modelov lahko najbolje opišemo kot naključnost, ki jo usmerjajo ohlapne verjetnosti, torej kot stohastične. Iskanje specifične logike v naključnem dodeljevanju novih besed prejšnjim nizom je, kot bi iz meta kovanca poskušali narediti nekaj zapletenega. 

Da bi razumeli zaprt sistem, bo morda bolje, če se usmerimo na pozicijo opazovalca, namesto da bi iskali razlage specifičnih mehanizmov, ki so nedosegljivi človeškemu očesu ali logiki. Pask je črne škatle nekoliko kasneje, namesto kot tehnične težave, opisal kot problem uokvirjanja, ki se zgodi v primeru, če »preskuševalec verjame, da vse značilnosti sistema, ki so relevantne za njegovo raziskavo, v principu lahko sestavi in omeji na izraze v enem samem referenčnem okviru.« Po Paskovem zgledu bi lahko velike jezikovne modele obravnavali kot zapletena omrežja medsebojno povezanih družbenih in tehničnih komponent, mrežo odločitev in interakcij. Medtem ko je osredotočanje na določene procese odločanja lahko koristno za inženirje, ki se ukvarjajo s strojnim učenjem, se odmika od celostnega pogleda, ki ga spodbuja kibernetika. Namesto tega nas kibernetika spodbuja, da svojo pozornost s posameznih kolesc preusmerimo na to, kar izvira iz konstelacij mehaničnih delov. 

Komunikacija proti konverzaciji 

V Paskovem članku iz leta 1980, The Limits of Togetherness (Meje povezanosti), ponovno lahko najdemo povezavo z današnjimi velikimi jezikovnimi modeli – v njem razlikuje med komunikacijo in konverzacijo. Za Paska je komunikacija »prenašanje in spreminjanje signalov«. Tovrstna komunikacija, nadaljuje Pask, je ključna za konverzacijo, vendar tudi slaba komunikacija lahko omogoči dobre pogovore. Če poenostavimo njegovo definicijo konverzacije, lahko rečemo, da jo opredeli kot »deljenje konceptov«, in sicer: »v komunikaciji je prenos informacij utemeljen na izbiri, četudi statistični, med različnimi oddajniki in sprejemniki, ki so zunajteoretično opredeljeni kot neodvisni … a sinhronizirani npr. z uporabo prepoznavnega ločila«. ChatGPT vodijo vprašaji in pike: njegov cilj je besedilo prikazati kot verodostojno. Človeški pogovor se zanaša na te simbole, da bi osmislil skupne koncepte, a končni cilj je medsebojno razumevanje.  

Cilji in funkcije komunikacije in konverzacije so različni. Pomislimo na vprašanje, ki ga uporabnik postavi ChatGPT-ju. Zasnovan je kot chatbot, kar implicira večsmeren pogovor. Vendar bi po Pasku rekli, da imamo na voljo kanal za komunikacijo, prostor, v katerem se izmenjujejo signali. Ko postavimo vprašanje, je nabor besed v naši poizvedbi analiziran in ekstrapoliran v odgovor. ChatGPT nikoli ne odgovarja na vprašanje. Naše vprašanje razširi v obliki odgovora – s preučevanjem naše poizvedbe ključne besede ekstrapolira v prepričljiv odgovor. Gre za izključno statistično operacijo. 

Pask bi tu postavil razliko s človeško konverzacijo, saj ChatGPT z nami ne more deliti konceptov. Lahko le komunicira signale: določa, katere besede najverjetneje sledijo drugim, razlike med njimi označi z ločili, s tem pa se približa jeziku. Slednje lahko osmislimo, vendar pa tu ne gre za konverzacijo, kot jo razume Pask. Takole piše: »Algebraične omejitve, ki strojno opremo delajo ‘strojno’, so zasnovane tako, da onemogočajo konverzacijo s stroji. Po definiciji se, na primer, ne moremo ‘ne strinjati’ s strojem; lahko rečemo le, da je stroj pokvarjen.« Paul Pangaro, Paskov študent, to pokvarjenost razlikuje od nestrinjanja v konverzaciji tako, da Paskovo delo uokviri znotraj ideje personalizacije: »Če bi zdaj sedel pred tabo v pogovoru med človekoma in odgovarjal na tvoje vprašanje, bi ti moral podati enak odgovor kot nekomu drugemu? Bi ti moral odgovoriti enako, ne glede na to, kakšno je bilo prejšnje vprašanje? Naj preprosto ignoriram svoja pretekla opažanja o tem, kako učinkovito voditi pogovor s tabo? Čeprav so njihovi odzivi tako pomanjkljivi, današnjim strojem pravimo ‘osebni računalniki’. Seveda je to laž; računalniki v standardni komercialni ponudbi so zgolj neosebni.« 

Dve desetletji podatkovnih centrov in procesorske moči kasneje smo od »osebnih računalnikov« prešli na »umetno inteligenco«, vendar pa so omejitve – in z njimi ta občutek – ostale. Gre za sisteme, ki se odzivajo na informacije, vendar na situacije ne odgovarjajo na smiseln način, še zlasti pa se ne prilagajajo na podlagi skupne razprave o konceptih.   

Vendar ne gre le za stroje. Pask opazuje številne primere tovrstnih interakcij v sodobnem informacijskem okolju. Izziva našega časa ne vidi kot problem v komunikaciji, ki je bil pravzaprav razrešen: imamo dostopna omrežja na velike razdalje in dostop do podatkov v realnem času. Naš glavni izziv vidi v ohranjanju značilnosti konverzacije v svetu »pretirane povezanosti«, v kateri smo obkroženi »s komunikacijo, ki daje vtis pogovora, vendar nikakor ni konverzacijska«. To postavlja v nasprotje z deljenjem zavesti, pri katerem delujemo kot zavedno subjektivni opazovalci svojega sveta in delimo to subjektivnost z drugimi. Ta težava je navzoča v naših tehnologijah, četudi je naše okolje nasičeno z orodji za komunikacijo.   

Ne gre za strogo tehnološki problem. Pask opisuje delovanje velikih odborov: gre za entitete, ki se ne odločajo, temveč združujejo odločitve, ki jih sprejemajo manjše skupine znotraj njih. »Pri širšem konsenzu gre za porazdelitev krivde, ‘odločitev odbora’, za katero ne odgovarja nihče.« Pask bi lahko govoril tudi o našem spoštovanju avtoritete algoritmov. Umetna inteligenca precej učinkovito posnema vlogo »odbora«: komunicira, vendar ne razpravlja. Zbirke podatkov vplivajo na odločitve v samoti – ne v majhni, zaprti sobi voditeljev ali svetovalcev, temveč v eni sami točki analize, ki temelji na podatkih v obsegu, ki ga ne bi mogel obdelati sam človek. Algoritmi predstavljajo izzive pri odločanju zato, ker sporočajo odločitve, vendar ljudi, ki odločitvam sledijo, odvezujejo odgovornosti, poleg tega pa ne nudijo nikakršne transparentnosti glede načina, na katerega so bile odločitve sprejete. Algoritmi se ne pogovarjajo s tožečim, ki zahteva varščino, tudi prosilcev za kredit ne sprašujejo o njihovi kreditni zgodovini. Namesto tega vpisujejo podatke na vmesnike in jih primerjajo z drugimi nabori podatkov: gre za »posnetke okrepitvenih, samoreplicirajočih se in samostabilizirajočih se procesov, ki rastejo in stereotipizirajo s popolnoma sistemskimi mehanizmi«. Poteka komunikacija, a konverzacija je odsotna. Pask bi morda trdil, da so konverzacijske tehnologije možne, vendar pa ne bi bile v ničemer podobne sistemom GPT ali Diffusion. Testiranje te hipoteze je vodilo njegovo gradnjo sistemov. Paska je zanimalo »ohranjanje zavesti«, ki je ne smemo zamenjati s »čuječnostjo« ali »zavedanjem«, ki ju pogosto pripisujemo UI oz. napovedim za bližnjo ali bolj oddaljeno prihodnost. Za Paska je bila konverzacija tehnika za ohranjanje zavesti, ki se pojavi med sodelujočimi. Paskovo teorijo konverzacije Pangaro opisuje kot »naše skupno zavedanje«, ki je »vztrajno v tem, ko se prenaša v času, tudi po tem, ko je naša trenutna izmenjava zaključena. Izkušnjo pogovora ohranimo, ker je posledica sprememba mentalnih procesov, te spremembe pa nosimo v sebi. Medtem ko vsak med nami lahko prenaša nekoliko drugačne koncepte, ti temeljijo na našem razumevanju. Zavest se zato ohrani. Če povemo nekoliko drugače, in Pask je to rad govoril: enkrat, ko se začnejo, se pogovori nikoli ne končajo.« 

ChatGPT se nas ne spomni in se ne spremeni zato, da bi nas spoznal. Pogovora je konec, ko se odjavimo. Ne gre za konverzacijski sistem, saj komunicira brez zavesti. Pask bi to nemudoma sprejel. Verjetno pa bi se obenem izognil trditvi, da gre za tehnološko pogojenost. Komunikacija brez konverzacije je tudi človeško obnašanje – preprosto povedano se zgodi, ko slišimo, a ne poslušamo. 

Ustvarjalni tehnolog

Paskova ogrodja interakcij med človekom in strojem stojijo sama zase. Vendar pa me Pask zlasti zanima kot umetnik, ki je premoščal vprašanja o etiki in generativni UI. Pask je bil verjetno najbližje prototipnemu ustvarjalnemu tehnologu na področju kibernetike, saj je delal na razvoju alternativnih konceptualnih in tehničnih računalniških modelov. Označil se je za »mehanika filozofa«, zanimala pa ga je izdelava »odpadniških strojev« kot način za strukturiranje in razvoj hipotez, ki smo jih opisali. V središču njegove prakse je bilo postavljanje teorije, nato pa izgradnja stroja, ki bi mu (ali uporabniku) omogočil, da jo razišče.  

Odpadniške stroje je Pask leta 1982 definiral tako: »Računalnik, ki izda zahtevek za plačilo v višini nič dolarjev in nič centov (in poziv na sodišče, če ga ne plačate), ni odpadniški stroj. Je častivreden in slabo sprogramiran računalnik … Odpadniki so stroji, ki utelešajo teoretične principe ali tehnološke izume, ki se oddaljujejo od večinskega razvoja računalnikov, a so kljub temu dragoceni.« Čeprav je Pask po večini poznan po svojih izobraževalnih napravah, v njegovem opusu najdemo tudi umetniška dela. Cybernetic Theater (Kibernetski teater) iz leta 1964 je predlog sistema, ki omogoča interaktivne performanse, v katerih občinstvo igralcem v realnem času nudi povratne informacije. Povratna zanka je ustvarila metadialog, v katerem so nastopajoči in občinstva sodelovali v performansu s pomočjo mediiranega pogovora. Colloquy of Mobiles (Pogovor ​​mobilov) je morda Paskov najbolj znan ustvarjalno-tehnološki projekt – poglavitni razlog je najbrž ta, da so ga leta 2018 povezali v dialog s sodobno robotiko v reprizi razstave Cybernetic Serendipity Jasie ​​​​Reichardt. Colloquy skuša določene aspekte teorije konverzacije prevesti v interakcije senzorjev, ki drug drugega obkrožajo v plesu iskanja, sprejemanja in zavračanja predlogov. Ljudje so v teh prostorih mediatorji, ki se lahko v premike prosto vmešajo ali jih spodbudijo.  

Prvi Paskov stroj te vrste pa je Musicolour, ki je leta 1953 postal prototip. Gre za predhodnika današnjih light showov ali interaktivnih vizualizacij zvoka. Cilj sistema je bila izdelava modela »konverzacije« med človekom in strojem v interakciji. To je okvir, iz katerega izhaja večina Paskovega dela: »raziskovati, kaj pomeni omogočiti pogovore med ljudmi in stroji ali med ljudmi preko strojev.« Musicolour je bil sestavljen iz serije mikrofonov in filtrov, ki so lahko zaznali frekvenco in druge karakteristike zvokov, ki jih je izvajal glasbenik, povprečje teh vrednosti pa je bilo uporabljeno za nadzorovanje vrednosti svetlobe in premikanja barvnega kolesa. V svojem članku Gordon Pask and his maverick machines iz leta 2008 Bird in DiPaolo opisujeta, da so »performerji lahko poudarili lastnosti zvoka in okrepili avdiovizualne povezave, ki so jim bile bolj všeč (visoki toni so na primer sprožili določen vizualni vzorec). Po tem, ko so se performerji seznanili s strategijo izbora vrednosti filtra pri stroju, so lahko vzpostavili časovno odvisne vzorce v sistemu in okrepili povezave med skupinami zvočnih lastnosti. Omeniti moramo, da med zvokom in lučmi ni bilo fiksnih mapiranj: razvijala so se skozi interakcijo glasbenikov z Musicolourjem.«   

Performerji so se učili sistema, a tudi sistem se je učil od performerjev. Te dinamično ustvarjene situacije so nastopajoče spodbujale k diverzifikaciji njihovih performansov preko improvizacije, da bi ohranjali živahen in zanimiv sistem. Uporabljati ga je začela peščica nočnih klubov, a sistem nikoli ni dosegel komercialnega uspeha, zato je Pask leta 1957 prenehal z njegovo izdelavo. Komercialni uspeh Musicolourja me ne zanima toliko kot predlog sistema kot umetniške konverzacije in razloček, ki ga lahko postavimo med tem tehničnim ustvarjalnim sistemom in odnosom, ki ga imamo z generativnimi tehnologijami danes. Sestav vezij v Musicolourju je veliko bolj konverzacijski, kot so današnji generativni sistemi, naj bo to GPT4 ali Midjourney. Paskov Musicolour je bil nekakšen model za »pogovor«, ki pomeni raziskovanje narave črnih škatel. Performer igra glasbo, medtem ko preučuje odzive stroja. Musicolour je črna škatla, vsaj za večino performerjev, vendar je glasba mehanizem za preučevanje tega odnosa. Glasba izzove odnos, odnos sproži določene učinke, performer pa se prilagaja tem učinkom. Oba bistveno prispevata k pogovoru: »Performerjeva trenutna čustvena izkušnja (ali performans), njegovo dojemanje/misli (ki jih izzove odziv stroja) in njihova zgodovina (izkušnje z vajo glasbenega dela) odločajo o naravi izvedenega performansa. Osebni in situacijski faktorji, ki vodijo do nabiranja izkušenj, posredujejo zunanje delovanje.« (Bird in DiPaolo, prav tam) 

Primerjajmo to s človeškimi interakcijami s ChatGPT-jem ali orodjem Midjourney. Medtem ko je produkt, ki ga vsako izmed orodij izdela na podlagi naših ukazov, lahko drugačen, sam sistem ostaja nespremenjen. S tem ne želim reči, da bi se moral spremeniti, ampak le poudariti, da so nasprotne trditve preprosto napačne. GPT3 se je na primer zanašal na stabilen nabor podatkov, zbranih leta 2021. Nobena interakcija s sistemom ne bo vzgojila globljega »zavedanja« ali »zavesti« v tem chatbotu. Sistem se ne uči iz svojih interakcij: nadaljuje s proizvajanjem besedila preko podobnih stohastičnih procesov. Podobno nam Midjourney morda ponuja štiri slikovne rešitve našega ukaza, vendar pa na nobeni točki ne prične z napovedovanjem okusa in preferenc uporabnika, razen če ta spremeni sam ukaz. To je komunikacija: uporabnik pošlje ukaze in ti so interpretirani in dekodirani. Ne gre za konverzacijo, saj po tem ni navzoča nobena sprememba v njegovi nevralni mreži. 

Musicolour je torej obenem propozicija konverzacijskih tehnologij in eksperiment v interpretaciji črne škatle sistema kot objekta interakcije. Gre za idejo snovanja strojev, da bi sprožili konverzacijski odnos, ki je zlasti uporaben v današnjem informacijskem okolju. Bird in DiPaolo opozarjata, da gre pri tem Paskovem pogledu za radikalen odmik od objektivne znanosti, pri kateri se do opazovalčeve pristranskosti »večinoma pristopa kot k problemu, ki bi ga želeli zmanjšati, če ga že ne moremo odstraniti«. Paskov pristop pa pravi, da »imamo omejeno znanje o mnogih sistemih, ki jih želimo razumeti … z interakcijo s temi sistemi [pa] omejujemo te sisteme in sebe in razvijemo stabilno interakcijo, ki jo je možno analizirati«. Bird in DiPaolo trdita, da Pask na interaktivno tehnologijo ni gledal le kot na model ali reprezentacijo sveta, ki ga je možno opazovati, temveč kot model za opazovanje, »znanstveni problem sam po sebi«. Sam na to gledam kot na način, kako spremeniti ključno vprašanje o računalnikih in avtonomnih sistemih, od postavljanja tipično inženirskih vprašanj, kot je »kaj lahko računalniki naredijo z ljudmi«, do poudarjanja bolj sociološkega vprašanja o tem, »kaj lahko ljudje naredijo z računalniki«. Kot umetnik in inženir je imel Pask izjemno zavedanje o prisotnosti opazovalca in njegovega vpliva na opazovane sisteme. Snovanje sistemov za izmenjavo in preizpraševanje – »odpadniških strojev«, ki so uokvirjali alternativne možnosti komputacije – lahko vidimo v delu umetnikov, aktivistov in raziskovalcev, ki imajo kritičen odnos do dominantnih ideologij algoritmov. Paskov pristop k alternativnim načinom načrtovanja najdemo v projektih, kot je Solar Protocol (2020) umetnice Tege Brain, v samoorganiziranem omrežju, v katerem se vozlišča, ki se napajajo s sončno energijo, aktivirajo glede na moč sončne svetlobe, ali Feminist Dataset (2017) Caroline Sniders, ki si zamisli popoln podatkovni niz za učenje UI po feminističnih principih. Dela, kakršno je na primer LAUREN umetnice Lauren Lee McCarthy, pa zavestno ustvarjajo kontekste za učenje od sistema na način, da postanemo del sistema. LAUREN v središče postavi umetnico, ki postane prejemnik v sistemu chatbota, s tem pa ustvari sistem za pošiljanje sporočil, ki ustrezajo definiciji »odpadniških strojev«. Ob tem uveljavlja Paskovo teorijo »konverzacije« kot potencialno dialoške, a nazadnje prekinjene interakcije zaradi preobilja povezanosti, saj je LAUREN vedno prisotna in zreducirana na vlogo služabnika.  

Ne trdim, da je Pask neposredno zaslužen za dela teh umetnic, vendar je izoblikoval številne pozicije in okvire, ki jih ponovno odkrivamo in artikuliramo danes. Morda bomo nekatere izmed njih uporabili za sodobno analizo umetne inteligence, njeno interpretacijo in razumevanje ter način, kako se kot opazovalci postavljamo v odnos z njo. 

Paskov UI

Generativna UI je pospešitev zbiranja podatkov in avtomatizirane analize, ki ustrezajo Paskovi viziji informacijskih sistemov iz osemdesetih let prejšnjega stoletja. Zdi se, da so sistemi črnih škatel nenehno v uporabi, brez primernega testiranja ali skrbi glede njihovega vpliva. Dober primer so avtomatizirani sistemi nadzora, ki kažejo konsistenco v rasnih predsodkih, a se jih še vedno financira in postavlja v velika mesta po svetu. Na drugi strani tega nadzora se podobni vzorci v naboru podatkov, na podlagi katerih poteka strojno učenje, uporabljajo za generativne sisteme UI za ustvarjanje podob, ki so neizogibno osnovane na predsodkih in stereotipih, prisotnih na internetu. Medtem nas preplavljajo bizarne trditve, da stroji za statistično verjetnost razvijajo zavest in samozavedanje, kakršna je bila na primer izjava Googlovega inženirja Blaka Lemoina, ki je prepričan, da ima veliki jezikovni model, ki ga je testiral, zavest. 

Četudi preprostih rešitev za premagovanje teh zagat ni, menim, da nam Paskov pristop do črnih škatel v kombinaciji s teorijo konverzacije ponuja vsaj eno strategijo. Pask predlaga opazovanje nas samih v interakciji s sistemi z namenom opazovanja sprememb, medtem ko se premikamo od mikro do makro pogleda. Kot veda, ki se ukvarja z raziskovanjem medsebojno povezanih kompleksnih sistemov in njihovih interakcij, nam nekatera orodja lahko ponudi kibernetika. A Pask jasno izpostavi, da so v sistemih paradoksi in kontradikcije, če jih ne opazujemo s prave razdalje. Če se premaknemo bliže ali na razdaljo, bodo te napetosti morda dobile smisel kot interakcije med podsistemi. Ta »sistem leč« pa ni le metaforičen, saj zahteva multidisciplinaren pristop k opazovanju sistema, ki presega posamična izkustva: v najboljšem primeru ne upošteva le strokovnega pogleda, ampak raznolikost življenjske izkušnje. To, kar vidim jaz, morda ne bo vidno tebi, a morda bova to lahko videla skupaj.  

Čeprav se je Pask namenil postaviti natančno znanost konverzacije, mislim, da je prednost takega razmišljanja priznanje subjektivnosti. V Paskovem pogledu na UI ne bi bilo iluzij o sistemu brez predsodkov, saj je popolnoma pristranski, zmanjševanje ali odpravljanje pristranskosti pa je neumnost. To je veliko boljša izhodiščna točka kot razmišljanje inženirjev UI, da lahko odpravijo to družbeno pozicijo, če bodo le dovolj prilagodili sistem. Namesto tega bomo morda vstopili v pogovor s črnimi škatlami – v interakcijo s sistemi, ki bi jih radi razumeli tako, da v interakcije postavimo svojo lastno subjektivnost. Odpadniški stroji Gordona Paska so nam ponudili možnost, da smo krmarili med temi zankami subjektivnosti in konverzacije. Premislimo, kakšen je naš prispevek, opazujmo, kaj se spremeni z našo prisotnostjo, prilagodimo se temu odzivu in poskusimo znova.