Že dobro leto, vse od prve javne pojavitve ChatGPT, se zdi, kot da tema umetne inteligence skače iz vsake prislovične medijske konzerve. V zraku je nekaj katastrofičnega. Dileme so številne, od pravnih, kot je vprašanje avtorskih pravic besedil, na katerih se UI uči (česar sicer ne razumem: kot se ljudje učimo iz javno dostopnih besedil in potem to svoje znanje unovčujemo, bi menda lahko veljalo tudi za UI), problematike falsifikatov (deepfake je nenadoma postal dostopen vsem, ne le vrhunskim goljufom) in splošnega nelagodja ob občutku prevaranosti, ko se bomo srečali s sogovornikom ali piscem, za katerega bomo mislili, da je nam podobna iskrena oseba, pa je v resnici le stroj; pa in vse do možnosti, da bi UI v končni fazi s svojo superiornostjo prevzela nadzor nad svetom. Nekje blizu te skrajne grožnje je tudi vprašanje, ki se tiče kulture v ožjem smislu oziroma ene glavnih srčik človečnosti: umetniške ustvarjalnosti. Če je UI sposobna ustvariti sliko, zložiti skladbo, napisati pesem, roman, esej oziroma sploh kakršnokoli kreativno besedilo – ali je to še zmeraj umetnina? Ali lahko, če ob tem začutimo estetski oziroma miselni presežek, to dejansko pomeni umetniški presežek? Eno je, če je »veliki kompilator« (kar UI v svojem bistvu je) s svojimi analitičnimi sposobnostmi zmožen iz razpoložljivih znanstvenih besedil izluščiti novo znanstveno odkritje; povsem nekaj drugega pa, če je sposoben ustvariti besedilo, ki naj bi nam razložilo, kaj nas najgloblje muči kot ljudi (umetnost). Zdi se, da gre za vprašanje skrajne meje Turingovega testa, se pravi, da se dotika najglobljega bistva humanosti.
Če je UI sposobna ustvariti sliko, zložiti skladbo, napisati pesem, roman, esej oziroma sploh kakršnokoli kreativno besedilo – ali je to še zmeraj umetnina?
Umetnostna besedila veljajo za nekakšno najvišjo, praktično sveto obliko človeškega izražanja, sposobno globljega vpogleda v stanje naše človečnosti od pravnih ali znanstvenih besedil. Veljajo za jezikovno čarovnijo, ki naj bi bila sposobna preseči goli analitični jezik in se dotakniti najglobljih instinktov, »izraziti neizrazljivo«, praktično »prelisičiti jezik«. Ko se vživimo v literarni lik ali pesem, čutimo svoje vzgibe in odzive, kot jih ob golem rezoniranju ne moremo. To so občutja in dileme, ki jih doživljamo kot ljudje. Kaj se zgodi, če UI to potvori? Nam mehansko na nov način sestavi dogodke, o katerih se je podučila ob prebiranju človeških besedil?
Bistvo problema se sicer dejansko začne že prej: pri »nesvetih« besedilih, tistih, ki nam na mnogo bolj preprost način razlagajo svet. Pod pritiskom profitabilnosti javnih medijev, ki morajo konkurirati masi »demokratične« javne komunikacije na družbenih omrežjih, nam številni nekdaj ugledni viri novic že leta zaradi varčnosti, naglice in želje po všečnosti ponujajo besedila, ki bi prav lahko bili tudi proizvod algoritmov. V imenu ekonomičnosti si le še redki mediji drznejo zaposliti samozavestne pisce, ki bi si za besedilo lahko vzeli čas za temeljit razmislek in zapisali drzno predstavitev stvarnosti, za katero bi stali z vso svojo osebnostjo. Zdi se, da rutinsko pisanje »novičarskih besedil« brez refleksije, s povzemanjem spletno dostopnih faktov brez osebne odgovornosti postaja standard: tudi če so jih napisali fizično živi ljudje, je to le še utvara tega, da za besedilom stoji človek z etičnim mnenjem in držo. (Seveda imamo sočasno opraviti tudi z na videz nasprotnim trendom: propagandističnimi mediji, ki se ne zmenijo za objektivna dejstva, temveč gonijo svoje skrajno pristranske agende. Toda to je le druga plat istega kovanca: ne gre za misel, ki bi razpirala dileme, temveč prav tako za izvajanje preprostega algoritma v stilu Orwellove Živalske farme, »štiri noge dobro, dve nogi slabo«, financiranje pa poteka na malo drugačen način.) V čem je razlika, če bi ta besedila še ceneje pisal stroj? »Objektivne« fakte zmore danes ubesediti tudi zares preprost program – začutiti v njih problem, to pa je povsem nekaj drugega. Toda to bi pomenilo tveganje, da izpostavljanje etičnega problema morda komu ne bi bilo všeč … Kar bi pomenilo izgubo »drugače mislečega« bralstva … Kar pomeni manjši objektivni denarni tok.
A kar se začne tu – trivializacija subjektivnosti in osebne odgovornosti – se na področju umetnosti do skrajnosti zgosti. V glavnem, umetnost naj bi bila ultimativni branik človeškega, ustvarjalnega, svetega. In že so mediji ustvarili dozdeven škandal: japonska pisateljica Rie Kudan je priznala, da okoli pet odstotkov njenega romana Tokijski stolp sočutja, nagrajenega z ugledno japonsko nagrado za književnost in v utemeljitvi označenega kot »roman praktično brez napak«, sestavljajo odlomki, ki jih je napisal ChatGPT! Napad umetne inteligence naj bi torej bil že v polnem razmahu, so pograbili mediji. Škandal je bil sicer navidezen, šlo je za provokacijo: roman namreč tematizira umetno inteligenco, zato je njeno priznanje pravzaprav le del umetniškega dela kot celote. Toda morda drastičnejši je primer, ko sem v zadnjem mesecu na svojem Facebook zidu vsakih nekaj dni (dokler ga nisem blokiral in prijavil) srečeval bizaren oglas za plačljiv tečaj s sloganom v stilu »zakaj bi se trudili z razmišljanjem, s pravimi pozivi vam bo AI ustvaril knjigo, s katero boste začeli služiti denar takoj«. Zvenelo je kot največje svetoskrunstvo – začenši z namigom, da naj bi bilo pisanje nekaj, s čimer »začneš služiti denar takoj«, kar prav zares ni moja izkušnja. Pravzaprav sem imel pisanje bolj za nekaj, s čimer se mučno ubadaš iz neke notranje potrebe, če pa uspeš koga še prepričati, da so tvoji umotvori vredni podpore in da velja vzdrževati njihovega avtorja, pa toliko bolje. Celo manjši čudež.
Japonska pisateljica Rie Kudan je priznala, da okoli pet odstotkov njenega romana Tokijski stolp sočutja, nagrajenega z ugledno japonsko nagrado za književnost in v utemeljitvi označenega kot »roman praktično brez napak«, sestavljajo odlomki, ki jih je napisal ChatGPT! Napad umetne inteligence naj bi torej bil že v polnem razmahu, so pograbili mediji.
(Sicer, naj priznam: tudi sam sem v literarnem poslu umetno inteligenco že uporabil. Ko sem moral za prijavo prevoda na JAK napisati povzetek vsebine romana, ki se mi zdi čudovit, sem Bing Copilota zaprosil, naj to naredi namesto mene. Nagnjen sem k temu, da v pripravo tudi najkrajših tekstov, kot so opravičilo za sinov izostanek iz šole, vložim čisto preveč truda, ker zmeraj hočem, da so dovršeni. Povzetek romana, s kakršnim bi bil zadovoljen, bi mi na moj osebni način vzel celo dopoldne. S pomočjo UI pa sem dobil osnutek, ki sem ga v skladu z lastnim doživljanjem izvirnika izpilil v petih minutah. V osebno opravičilo naj dodam: roman sem prebral in se nad njim navdušil, a povzetke vsebine, ki jih zahteva procedura, sovražim. UI mi je le pomagala pospešiti prošnjo za novo človeško delo, medtem ko sem bil zaposlen z drugim človeškim delom.)
A osredotočimo se na pereče vprašanje. Ali umetna inteligence res zmore pisati dobre pesmi in zgodbe? Zgodbe, ki naredijo spremembo, zgodbe, v katerih bralci iščemo tisto, kar nam manjka, uteho, izziv, tisto, kar šteje? In zakaj hudiča naj bi to sploh počela? Da bi lahko začeli z njimi »služiti denar takoj«?
*
Na začetku tega besedila sem citiral besedili, ki ju UI nikoli ne bi mogla ustvariti. Dva krika vesti. Prvi je delo sirijskega pesnika palestinskega rodu, ki je leta 2016 med sirijsko vojno iz Alepa prebežal v Slovenijo in mu je tu, očitno po nekakšnem čudežu, uspelo ostati. Drugi je delo ruskega pesnika in protivojnega aktivista, obsojenega na sedem let ječe zaradi branja pesmi, ki naj bi sramotila agresijo njegove države na drugo državo. Kdor premore človeška čustva, naj se za trenutek zaustavi ob tragediji teh ljudi in ob misli, ki jo njuni deli izražata.
Lahko bi začel tudi z drugo zgodbo: o srbsko-bosanski pisateljici Lani Bastašić, ki se ji je z nagrajenim romanom in podpisom pogodbe z ugledno nemško založbo S. Fischer uspelo dobro umestiti v literarni sistem, kjer je mogoče »služiti denar takoj«. (No, ne ravno bogastva, ampak vsaj možnost preživetja.) Toda »balkanska Elena Ferrante« se je znašla v ospredju medijev po škandalu, ko so ji nesojeni gostitelji v začetku letošnjega leta umaknili vabilo na salzburško pisateljsko rezidenco. Zakaj? Ker se je zaradi ogorčenosti nad vedenjem svoje nemške založbe spričo pokola v Gazi prestižnemu založniku protestno odrekla. Organizaciji Literaturfest Salzburg in Literaturhaus NÖ sta nato ugotovili, da bi njeno gostovanje pomenilo njuno podporo njenemu protestu, kar pa bi pomenilo »zavzemanje stališča z naše strani, česar si ne želimo«. Lana Bastašić je v svojem sijajnem odgovoru izpostavila problem kulturnih ustanov, ki se odrekajo umetnikom, »ki ne želijo ostati tiho v času, ko ves svet kriči«. Se pravi umetnikom, ki stojijo za svojimi stališči z vso svojo osebnostjo in ne ustvarjajo po dovršenih algoritmih.
Kdo pravzaprav potrebuje »naravno inteligenco«, kakršno predstavljajo hiše književnosti in književni festivali, podprti z milijoni evrov javnega denarja – ki niso pripravljeni na »zavzemanje stališča«? Tisoči otrok v Gazi z odtrganimi udi, z izruvanim črevesjem, skupaj s pomorjenimi starši kot »postranska škoda« zakopani pod ruševinami, prav gotovo ne. Res je: taka »kulturna ustanova« bi zlahka pomotoma objavila sterilno »umetnino« »avtorja« brez toplih možganov. Ne bi bila namreč pozorna na bistveno, kar loči proizvod UI od človeškega: da ima namreč človek stališče – in po možnosti pogum, da stoji za njim (kar naj bi bila zaželena lastnost). Pod definicijo avtorja spada, da ima poleg razuma tudi etos, srce. Po možnosti táko, ki zagovarja vrednote humanizma proti brezdušni zverinskosti dobrobiti izključno lastnega plemena. Če se avtor »ne postavlja na nobeno stran«, je to sumljiv znak, da je nemara le splošno všečen program. Da nima čustev ob smrti desettisočev ljudi, kot jih nimajo ustanove, ki si kljub temu drznejo organizirati festivale in nanje vabiti (in odslavljati) pisatelje z vestjo. Artjom Kamardin je bil zaradi branja zgornje pesmi med aretacijo posiljen s telovadno utežjo, z udarci prisiljen, da se pred kamero opraviči za svoje besede, nazadnje pa obsojen na sedem let ječe zaradi »podpihovanja sovraštva«. Bi bil kateri od organizatorjev Literaturhausa zaradi kakršnih koli stališč pripravljen na kaj takega? Ali sploh na kaj več kot na oštevajoče e-sporočilo sponzorja?
Kdo pravzaprav potrebuje »naravno inteligenco«, kakršno predstavljajo hiše književnosti in književni festivali, podprti z milijoni evrov javnega denarja – ki niso pripravljeni na »zavzemanje stališča«? Tisoči otrok v Gazi z odtrganimi udi, z izruvanim črevesjem, skupaj s pomorjenimi starši kot »postranska škoda« zakopani pod ruševinami, prav gotovo ne.
In v tem je razlika. Katera komercialna verzija ChatGPT bi se bila pripravljena prepustiti pričakovanim ruskim policijskim pendrekom ali malo manj pričakovanemu poniževanju neke avstrijske hiše književnosti? Za pisanje literature moraš biti strasten, čutiti. Biti malo nor, ne le načitan. Moraš se ves čas čuditi temu, kar ima UI za normalno, saj ta vse vhodne podatke preprosto pogoltne in jih ima za samoumevne. UI nima prirojenega dvoma, ker razen naučenega ne ve ničesar. Če je kaj enkratno človeškega, je to prav sposobnost dvoma o »normalnosti«. Le človek se lahko čudi normalnim stvarem in si sumničavo išče mesto med njimi: za UI so temelj, na katerem kompilira. Literatura pa je prav to: čudenje. Je normalno, da ob kavi zjutraj beremo o otrocih z odtrganimi udi kot nečem, do čemer ima neka država z nekim nedavno naseljenim ljudstvom »pravico«? (Moja stara fascinacija nad Viktorjem Šklovskim in njegovim »ostranenjem« oziroma potujitvijo – kar imam od nekdaj za izhodišče ustvarjanja.) Morda je to standard, ki se ga naučiš s premlevanjem milijard besed v spletnih korpusih: toda če nisi stroj, se ti ob tem obrne želodec. Sploh glede na potrditev, da neka določena vojaška sila za to trganje otroških udov uporablja sistem umetne inteligence (imenovane Habsora oziroma »Evangelij«), ki ji pomaga določati vojaške tarče po parametrih, da je za usmrtitev enega osumljenca sodelovanja s sovražno vojaško organizacijo s sto tisoče dolarjev vredno raketo sprejemljiva stranska škoda vnaprej določenega števila nedolžnih civilistov napačne rase.
*
Naj povzamem. Nas bo lahko besedilo v vsemi znaki umetnostnega besedila pretreslo, čeprav je le goljufija algoritma? Da, seveda. V zgodovini so nas pretresli številni plagiati in nategi. Izpostavljeni smo lažem, potvorbam, deepfakom vseh sort, in na vse moramo biti pozorni. To pa smo lahko le z znanjem in lastno vestjo. UI nam ne more brez našega osebnega angažmaja pomagati priti do spoznanj o samih sebi, nam pomagati razumeti, kaj ljubimo, česa se bojimo, kaj nas frustrira, kaj sovražimo, kaj nas peha v blaznost. Umetna inteligenca nima frustracij, nima blaznosti. Bi umetna inteligenca »kričala, ko svet kriči«, ali bi bila tiho? Kaj bi kričala? Traparije vseh na Twitterju izblebetanih izjav? Seveda, tudi to je lahko učinkovito: v romanu Lahko sem pred leti kot gradivo uporabil množico resnično zapisanih komentarjev s spletnih forumov, katerih avtor nisem bil sam: toda s premišljenim namenom. Toda kdo bi lahko premislil namesto mene? Kdo bi lahko imel namen? Vselej je v ozadju namen, ki daje vsemu skupaj sploh smisel, ne le zlaganje besed.
Umetna inteligenca nima frustracij, nima blaznosti. Bi umetna inteligenca »kričala, ko svet kriči«, ali bi bila tiho? Kaj bi kričala? Traparije vseh na Twitterju izblebetanih izjav?
Po analogiji, ali je dejstvo, da je stroj že pred leti premagal najboljšega šahista na svetu, pomenilo konec šaha? Seveda ne. Šah namreč radi igramo. (No, eni raje kot drugi.) Bi torej lahko dejstvo, da bo umetna inteligenca v nekaj letih lahko napisala roman, ki bo zaradi izvirnosti izpeljave in formalne popolnosti sposoben osvojiti nagrado, pomenila konec leposlovja? Ne, ker bi šlo kvečjemu za masturbacijo. Književnost je nekaj drugega: kraj, kjer premišljujemo, kar nagonsko čutimo. Ker imamo prvinsko človeške vzgibe. Ker trpimo. Ljudje iščemo sorodno misel, sorodno muko. »Stanu se svojega spomni, trpi brez miru.« Lahko umetna inteligenca brez miru trpi? Kurac lahko. (Tega zadnjega stavka UI nikoli ne bi napisala. Veljajo bi za glitch.)
Za pisanje literature moraš biti strasten, čutiti. Biti malo nor, ne le načitan. Moraš se ves čas čuditi temu, kar ima UI za normalno, saj ta vse vhodne podatke preprosto pogoltne in jih ima za samoumevne. UI nima prirojenega dvoma, ker razen naučenega ne ve ničesar.
Od nekdaj je v umetnosti obstajal prostor za preračunano producentstvo in za »napačne« genije. Za takojšnjo všečnost in za tisto, kar se ti zažre pod kožo in najeda. Umetnost ni stvar domiselno sestavljenih besed, barv ali tonov. Je postavljanje na stran nerazumljivega človeškega bivanja, naj bo to še tako izmuzljivo, razklano, boleče. Če se človek ne postavi na stran, njegov obstoj nima vsebine onkraj golega zadovoljevanja potrebe po hrani in kisiku. In literarni dejavnik – festival, fondacija, rezidenca – ki čuti potrebo zgolj po hrani in kisiku (oziroma denarju in »dogodkih«), ni literarni dejavnik, kvečjemu konzument javnega denarja v skladu z algoritmi.
Umetnica inteligenca lahko – tako kot »Evangelij« v Gazi – odlično sestavlja podatke namesto nas, jih celo zlaga v nova spoznanja. Lahko si izmišlja zgodbe in dogodke, lahko celo ubija namesto nas; ne more pa doživljati groze in se kesati namesto nas.
___________________________________________________________________________________
Pesem Mohamada Abdula Munema z naslovom Zadnje besede Gaze, ki je navedena na začetku te kolumne, lahko v celoti preberete na tej povezavi.