V LITERATURI NIČ NOVEGA: Kaj nam Homer danes lahko sploh še pove o digitalni zasvojenosti

1492 ali Ali lahko predvojna striptizeta danes še sploh kaj pokaže? je legendarni naslov slovenske ulične predstave Gledališča Ane Monro iz leta 1982. Že takrat se mi je zdelo, da »predvojno striptizeto« zlahka zamenjamo s »književnostjo« – nam lahko književnost danes sploh še kaj pokaže? Nam lahko, na primer Homer kaj pove o preizkušnjah, pred katere nas postavlja razvoj digitalne tehnologije? Ko se sprašujemo o tem, si dejansko zastavljamo eno najstarejših vprašanj – ali je pod zvezdami sploh še kaj novega? Če ni Nič novega pod soncem, kot je pripomnil že Salomon pred skoraj tremi tisočletji, potem drži to, kar trdimo za književnost – da vsebuje vse odgovore. Če se vse ponavlja, če ne zmoremo izstopiti iz večnega kroga vprašanja, ki nas tarejo – pa naj na Luno pošljemo še toliko raket – potem književnost, stara ali nova, ponuja vse bistvene odgovore. In če to velja: kaj nam res lahko pove o sodobnih pojavih? Družabnih omrežjih? Zaslonskih tehnologijah? Aplikacijah?

Vprašanje je retorično. Če je kje kakšen trden dokaz, da se stvari ponavljajo, je to prav književnost. Kadar, recimo, obračamo strani antične literature, nas branje lahko pretrese podobno, kot nas zdaj pretresa umetna inteligenca – na vsak naš »končno sem se domislil nečesa novega« nam odgovori z bumerangom citatov iz preteklih dob. Ni stvari, na katero bi pomislili, da nas stara književnost ne bi opomnila: »O tem je že nekdo razmišljal. Precej bolje, globlje in širše!«

Tudi o sodobni tehnologiji oziroma prav o njej. Dejstvo je, da književnost največ ve prav o stvareh, o katerih ne vemo niti tega, da jih ne vemo. Človeška domišljija je bila vedno najbolj napreden algoritem: že od svojih začetkov govori o stvareh, ki smo jih šele dočakali. Tudi o sodobni tehnologiji. V 2. stoletju je sirski satirik Lukijan iz Samosate napisal (verjetno) prvo ZF-pustolovščino in jo naslovil, kakor se spodobi: Resnične zgodbe. Vsebina? Ta je šele »resnična«. Lukijan opiše polet na Luno. Privlečeno za lase? Seveda. Dokler se ne uresniči. V času, ko rimski svet še ni poznal znanstvenega koncepta gravitacije ali atmosfere, je že opisal orbitalno potovanje.

In ko primerjamo umetno inteligenco (UI) in književnost, je nujno pristaviti, da tudi UI ni nič novega pod soncem. Jonathan Swift v Gulliverjevih potovanjih (1726), žal vse preveč znanih le po Liliputancih, pošlje svojega junaka v Akademijo v Lagadu, kjer ustvarjajo nenavadne izume, tudi stroj za pisanje knjig: ogromna naprava iz lesenih okvirov, palic in koles, prekritih s tisoči besed. Uporabnik obrača ročice, besede se naključno premikajo, stroj pa proizvaja filozofske, politične, teološke in matematične razprave ter celo »izvirne« znanstvene teorije. Izumitelj je prepričan, da lahko ta stroj, pozor, celo najbolj nevednega človeka spremeni v modreca.

»Toda svet se bo kmalu zavedel, kako je to dobro; in on si laska, da se plemenitejša in bolj zvišena misel ni še rodila v kaki drugi. Vsakdo ve, kako težko si je z običajno metodo pridobiti umetnost in znanje; z njegovim izumom pa more najbolj neveden človek ob zmernih stroških in z majhnim telesnim trudom pisati knjige o modroslovju, pesništvu, politiki, pravu, matematiki in bogoslovju, brez sleherne pomoči duha in učenja.«

Swift v tem odlomku zapiše eno najostrejših satir na kvaziintelektualni napredek, ki ga tako zelo živimo danes, ko, ponovimo, se lahko celo najbolj nevedni človek s pomočjo UI spremeni v modreca. A kako je to lahko ustvaril?

»Zatrjeval mi je, da so se že od mladosti vse njegove misli pečale s to iznajdbo; da je ves slovar pretresel v svoj okvir in da je najnatančneje izračunal, kakšno je v knjigah splošno razmerje med števili členkov, samostalnikov, glagolov in drugih besednih vrst.«

(str. 211 in 213, prev. I. Cankar, Cankarjeva založba 1967)

Swift je – brez poznavanja spleta, računalnikov in umetne inteligence – izumil literarni prototip velikih jezikovnih modelov. In bil hkrati satirično kritičen do človeške predstave, da je mogoče razmišljanje preprosto avtomatizirati. A kako je mogoče, da se je spomnil takega stroja? Je imel nadnaravne sposobnosti? Če povežemo z Lukijanovim potovanjem na Luno, takoj postane očitno, da književnost za napovedovanje prihodnosti ne potrebuje kristalne krogle – le razumeti mora človeško naravo. Vse tehnologije, ki jih danes občudujemo, od vesoljskih letov do umetne inteligence, so naprej zaživele v domišljiji piscev, ki so dovolj natančno opazovali človeka in njegove sanjarije. Biti genialen, ne da bi kar koli prebral? Izvolite.

Književnost ne govori le o svetu UI; govori tudi o svetu, ki jo je že presegel. Lep primer je Herbertov Peščeni planet(1965). Na prvi pogled pustolovski roman, ki pa pod platnicami skriva daljnosežno analizo civilizacije, ki je bila nekoč prisiljena spoznati, v kakšno zablodo pelje preveliko oslanjanje na tehnologijo.

»Zakaj preizkušate ljudi?« je vprašal.

»Da vas osvobodimo.«

»Osvobodite?«

»Nekoč so ljudje razmišljanje pustili strojem v upanju, da jih bo to osvobodilo. A to je zgolj omogočilo drugim ljudem s stroji, da so jih podjarmili.«

»Ne ustvari stroja po podobi človeškega uma,« je citiral Paul.

»Tako pravita Butlerjanski džihad in Oranžna katoliška biblija,« je rekla. »A kar bi moralo pisati v O. k. bibliji, je: ‘Ne ustvari stroja, ki posnema človeški um’.«

(Peščeni planet, Sanje 2018, str. 19, prev. Igor Harb)

Herbert zariše podobo človeštva, ki je doumelo, da tehnologija ni nevtralno orodje, ampak sila, ki zlahka prestopi meje svojega namena in začne voditi človeka – namesto da bi jo človek vodil sam. A Herberta ne gre prištevati med preroke spektakularnih »vstaj strojev«; njegov pogled sega mnogo dlje, k subtilnejši in zato toliko pogubnejši obliki podjarmljenja. Ne boji se strojev samih, pač pa človeka, ki se z lahkoto odreče mišljenju in ga prepusti nečemu zunaj sebe. Največja nevarnost se zanj ne skriva v orodju – naj bo še tako napredno – marveč v človeški pripravljenosti, da outsourca svoj um. Herbertova osrednja misel je strnjena v zapovedi: »Ne ustvari stroja, ki posnema človeški um.« Prepovedano je ustvariti entiteto, ki bi posnemala, da je človek. Misel, kakopak, ni nova: že Platon je v Državi svaril pred mimesis, pred posnemanjem, ki ustvarja masko, ki jo človek hitro zamenja z izvirnikom.

Herbertov razmislek vsebuje najmanj tri trditve, o katerih bi morali razmišljati danes. Prvič: ko stroj posnema človeški um, ne dobimo ne boljšega človeka, ne izpopolnjenega stroja, temveč simulaker – zavest, ki se ne zaveda. Bitje, ki ni bitje, osebo, ki ni oseba. Meja med subjektom in objektom, med nosilcem doživetja in orodjem, se nevarno zabriše. Drugič: tak stroj je popolno orodje za oblast. Deluje na videz nevtralno, govori v imenu razuma in objektivnosti, a v resnici ponavlja interese svojih stvariteljev. Postane prefinjeno orodje vplivanja – ne zato, ker bi mislil, temveč ker posnema misel tako dobro, da človek ne opazi, kdaj je začel verjeti stroju bolj kot sebi. Tretja – in najhujša: posnemanje utegne povzročiti etično erozijo človeškosti. Ko sprejmemo, da stroj lahko posnema človeški um, tega ne moremo storiti, ne da bi hkrati verjeli, da je človeška misel nadomestljiva. Da jo je mogoče ujeti v algoritem, ne da bi pri tem kaj izgubili. A s tem naše mišljenje razvrednotimo v navadno blago in se potihoma odpovemo eni izmed tistih bistvenih značilnosti, zaradi katerih se imamo ljudje za ljudi.

Rešitev vidi v strogih omejitvah: stroji se ne smejo igrati človeka. Ob tem je treba pripomniti, da proces, v katerem človek počasi neha biti oseba in postane izdelek, ni nekaj, kar se pripravlja — to je naš vsakdan. Radi se tolažimo, da smo kos pastem, ki nam jih na spletu nastavljajo najbolj izurjeni psihologi, nevroznanstveniki, vedenjski ekonomisti in snovalci digitalnih navad. Toda skoraj sleherna elektronska aplikacija, ki jo odpremo, je naravnana tako, da sheka najranljivejši del našega živčnega ustroja: dopaminski krog, tisto staro jedro nagrajevanja, ki ga v svojih telesih nosimo še iz pradavnine. Naj navedem le en primer. Pogosto slišim, kako se uporabniki na družbenih omrežjih jezijo, ker je na njihovem zidu skoraj vse, samo objav njihovih »prijateljev«. Nanje naletijo ali pa tudi ne. Zdi se, kot da ni v tem sistemu nobene logike. A prav v tej nelogiki se skriva logika.

V petdesetih letih prejšnjega stoletja je psiholog B. F. Skinner izvedel zdaj že znamenite poskuse na podganah: primerjal je predvidljivo nagrajevanje z nepredvidljivim. Rezultat je bil pretresljiv: živali, ki so nagrado prejemale naključno, so pritiskale na vzvod skoraj brez premora. Njihova vnema je postala kompulzivna; kot da bi jih gnala potreba, ki se je ne da potešiti. Skinner je s tem eksperimentom pojasnil, zakaj so nekateri vedenjski vzorci zasvojljivi. Skrivnost se skriva v pričakovanju nepredvidljivega rezultata: ta mehanizem poganja igralne avtomate, loterije, stavniške naprave in – družabna omrežja. Vsak poteg prsta po zaslonu je kakor pritisk na Skinnerjev vzvod: morda me čaka nekaj zabavnega, morda kaj učnega, morda nič — in prav zato ne odneham.

Matt Haig (1975—), angleški pisatelj, je to stanje diagnosticiral takole:

Nekoč sem mislil, da so družbena omrežja neškodljiva. Mislil sem, da sem na njih, ker v tem uživam. Toda še vedno sem visel na njih, tudi ko nisem užival. Spomnim se tistega občutka. Enako je kot tisti, ko ob treh zjutraj ostaneš v lokalu, vsi prijatelji pa so že odšli domov.

M. Haig, Zapisi o živčnem planetu (Ljubljana: Mladinska knjiga, 2018).

V prepričanju, da držimo vajeti trdno v rokah, tiči tragična zmota. Prepričani smo, da smo modrejši od podgan in da nas splet ne bo zvabil v zanko. Prevzetnost in pristranost! Kajti premagati ni treba le aplikacij — te bi nam z nekaj volje lahko uspelo obvladati — temveč vse tisto, v kar aplikacije vdrejo: v našo najstarejšo, prvinsko kodo, v tisto davno evolucijsko dediščino, zaradi katere hlepimo po nenadni radosti, po naključnem daru, po drobni obljubi, ki se morda uresniči. Ali pa tudi ne. In tako se, ne da bi sploh zaznali točko preloma, iz svobodnih bitij počasi preoblikujemo v predmete; iz uporabnikov v uporabljane; iz subjekta v izdelek.

Ponuja književnost v tem primeru rešitev? Kako ne. Že na samem začetku. V Homerjevi Odiseji. Preden se je Odisej odpravil k milozvočnim Sirenam, ga je Kirka opozorila:

»Najprej boš dospel do Sirén, dveh sester, ki z očarljivim petjem privabljata mornarje, da jih ugonobita. Kdor se jima ponevedoma približa in sliši njuno pesem, se nikoli več ne vrne z njune zelene obale. Okrog in okrog trohnijo kosti mož, ki sta jih zmamili k sebi pojoči čarovnici. Zato vôzi kar môči hitro mimo! Prej pa zamaši tovarišem ušesa z voskom, da ju ne bodo slišali! Kajti ko bi ju, bi jih nobena sila ne zadržala, da ne bi obrnili ladje k bregu. In tedaj bi bili vsi izgubljeni!«

Kaj lahko storimo, če vseeno želimo slišati sirene, ne želimo biti pa pogubljeni? Kirka:

»Ako bi ju rad slišal, si daj zvezati roké in noge, poleg tega pa naj te čvrstó pritvêzejo ob jambor. Če jim boš dajal znamenja in prosil, naj te izpusté, ker se ne boš mogel dlje ustavljati čaru melodije, naj te še bolj omotajo.«

(Homer–Sovrè: Odiseja, Mladinska knjiga 1964, str. 112–113)

Tako kot je napuh misel, da se lahko upremo sirenam, je napuh tudi misel, da se bomo lahko uprli »dopaminski strategiji«, ki so jo skovale legije psihologov in nevroznanstvenikov. Smo natanko tako ranljivi, kot sistem potrebuje, da deluje. Reši nas lahko le zavest o tem, kako nemočni smo. Privezati se moramo na naše jambore ali ušesa zamašiti z voskom, vse drugo je utvara.

Naj se vrnem k izhodiščnemu vprašanju: lahko storimo kaj takega, da bi bilo pod soncem novo? Ponavljanje je namreč strašno: v svetu večnega vračanja ima sleherna odločitev neznosno težo. Milan Kundera to v romanu Neznosno lahkost bivanja (1984) slikovito povzame:

»Če bi se morala slednja sekunda našega življenja neskončnokrat ponoviti, potem bi bili pribiti na večnost kot Jezus Kristus na križ. Kakšna kruta misel!« (prev. J. Skrušny, Neznosna lahkost bivanja. Ljubljana: MK, 2005).

Je kakšna možnost? Je? Nehajmo verjeti, da smo kaj boljši od podgan. To bi bilo nekaj novega. In zdravilnega.