Človek, UI, upa strah

Dobrodošlica vodje projekta

Ni mi neznano in vem, da čudno in novo je duhu / obče uničenje to, ki nébes ogroža in zemljo, / vem, da bo sila težavno dokazati to mi z besedo: / pač kot zgodi se, če s čim nezaslišanim stopiš pred ljudi, / vendar ne moreš stvari očem predložiti v presojo, / tudi ne v roke jo dati […] / Vendar jo izrečem: morda potrdil bo moje besede / v kratkem dogodek resničen, morda še sam boš doživel / strašen potres, ki sesul bo na mah vse v razvaline. / Toda to daleč od nas odvrni Fortuna vodnica, / naj prepriča te raje razum kot lastna izkušnja, / vse da podreti utegne z neznanskim se hruščem in truščem.


Tit Lukrecij, De rerum natura, tj. o naravi sveta, odlomek, prevedel Anton Sovre

Ko je sredi prvega stoletja pr. Kr. epikurejec Tit Lukrecij pisal svojo monumentalno delo De rerum natura, tj. o naravi sveta, mu je šlo za to, da bi človeka odrešil strahu pred bogovi Rima in mu dal razumeti, da svet ni odvisen od volje in igre bogov, temveč od samega sebe. Štirje elementi, je pisal, sestavljajo svet, zemlja, voda, zrak in ogenj, in ti se spreminjajo, se porajajo in minevajo. In enako velja za človeka, ki je, enako kot elementi, sestavljen iz drobnih delcev, atomov. Vse ima svoj čas začetka, je pesnil véliki Rimljan, in »vse čaka enaka pogibel«. A to spoznanje o končnosti naj človeku ne jemlje veselja do življenja in ne poguma za velike stvari v življenju, nasprotno, spodbuda naj mu je k obojemu, saj je naš čas le kratek in zato zelo dragocen in zelo dragoceni smo zato mi, torej človek.

 

In ko danes, dobrih dva tisoč let kasneje, razmišljamo o umetni inteligenci (UI), se nam razmišljanja Lukrecija ponujajo kot svojevrstna navzven obrnjena vzporednica. Medtem ko je epikurejec skušal človeka osvoboditi strahu pred bogovi, ki so, kot je sicer menil njegov čas, urejali svet in bili izvor vsega, gre danes za to, da si ozavestimo dejstvo, da danes pač ni izvor vseh spoznanj več le človek in da človek ne ureja vsega več le sam. Ob njem in z njim je hočemo ali nočemo UI. Ali rečeno drugače, UI je nova koordinata našega bivanja, poleg treh drugih naših koordinat, tj. človeka samega, njegove narave in njegove oblasti.

 

V raziskave in razvoj UI se je še donedavna polagalo velike upe in spremljala so jih velika navdušenja, nato pa je navdušenja zastrla skrb in upe je kot da zadušil strah. Lanske pomladi je skupina uglednih znanstvenikov, med njimi so bili tudi tisti, ki so bili predtem najbolj zaslužni za razvoj UI in se zato imenujejo njeni botri, v svet poslala odprto pismo z naslovom Pause Giant AI Experiments, v katerem so pozvali laboratorije, ki razvijajo velike sisteme UI, naj za pol leta ustavijo svoje delo in v tem času v sodelovanju s političnimi odločevalci in civilno družbo oblikujejo smernice za nadzor UI. Pozvali so k AI Summer, UI-poletju, takole so pisali.

 

Sodobni sistemi umetne inteligence postajajo konkurenca ljudem v vseh občih stvareh, zato se moramo vprašati: Ali naj dovolimo, da stroji preplavijo naše informacijske kanale s propagando in neresnico? Ali naj avtomatiziramo vsa delovna mesta, tudi tista, ki nas izpolnjujejo? Ali naj razvijemo nečloveške ume, ki nas bodo sčasoma presegli po številu in nas prelisičili, nas naredili zastarele in nas nadomestili? Ali naj tvegamo izgubo nadzora nad našo civilizacijo?

 

Takšnih odločitev ne smemo prenesti na neizvoljene tehnokrate. Zmogljive sisteme umetne inteligence je treba razviti šele, ko bomo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva. To zaupanje mora biti dobro utemeljeno in naraščati z obsegom potencialnih učinkov sistema.

 

V nedavni izjavi organizacije OpenAI v zvezi s splošno umetno inteligenco je zapisano, da bo »na neki točki morda pomembno, da pred začetkom uvajanja prihodnjih sistemov UI pridobimo neodvisen pregled, pri najnaprednejših prizadevanjih pa se dogovorimo za omejitev hitrosti rasti računanja, ki se uporablja za ustvarjanje novih modelov.«

 

S tem se strinjamo. Ta trenutek je zdaj.

 


Uživajmo v dolgem UI-poletju torej in ne hitimo nepripravljeni v jesen, so še pisali, saj sicer, naj uporabimo besede Lukrecija, »grozi nam strašen potres, ki sesul bo na mah vse v razvaline«, »vse da podreti utegne [se] z neznanskim se hruščem in truščem.«

 

A poletje oddiha od brezglavega UI-hitenja vendarle ni prišlo, prej je prišlo poletje, ko se je UI-nébes razbelil kot žerjavica v vetru z juga. Še več je bilo hitenja, še več razvoja, in tako še več skrbi in zadržanosti in nelagodja in še več strahu. Parlament Evropske unije je sicer te pomladi sprejel akt o UI, ki ureja njeno rabo in njen razvoj, a dokument, prvi oblastni akt na to temo v svetu, ni zares zadovoljil nikogar niti ni nikogar zares pomiril.

 

Ob tem pa so nam temeljni principi, po katerih naj se UI ureja na način, da bo vse kar najbolje za dobrobit človeka in sicer sveta, znani že dlje časa. Že leta 2017 se ti principi dobili svojo obliko pod imenom Asilomar AI Principles, a ostali so do danes poznani le malokomu izven kroga specialistov za področje UI.

 

Nelagodje in zadržanost in strah ob vsem dogajanju v zvezi z razvojem in uporabo UI se tako zdijo najprej povsem upravičeni, prav posebej zato, ker sta se razvoj in uporaba UI doslej v prvi vrsti usmerila na tisti dve področji, kamor se tehnološki napredek od najzgodnejših časov človeške družbe vselej najprej usmeri. Usmerila sta se, prvič, v vzpostavljanje in ohranjanje politične oblasti in, drugič, v vojsko in vojno. Področji sta tesno povezani in enodušno je tako navdušenje nosilcev politične oblasti in njihovih generalov nad možnostmi, ki jih ponuja UI. Oblastniki vse okrog sveta, ne glede na despotski utrip srca, ki jim ga lahko izmerimo, se navdušujejo nad UI-sistemi nadzora in njihovi šefi generalštabov že govorijo o tem, da razvoj in uporaba UI-bojnih sistemov pomeni najpomembnejšo spremembo v naravi vojskovanja v vsej človeški zgodovini.

 

Takšne izjave seveda niso brez tragibizarnega patosa. Dejstvo, da tovrstne UI-novosti razvijajo zasebna tehnološka podjetja in jih preizkušajo na trenutno najbolj tragičnih svetovnih bojiščih, pa opazovalca tega dogajanja tudi ne more pustiti brez tragipatosa žalosti brez moči. Nasveti, kako odvrniti velikanska tveganja, ki so z vsem tem povezana, doslej tudi niso izostajali, spomladi 2023 jih je, denimo, v dokumentu z naslovom Policymaking in the Pause – What can policymakers do now to combat risks from advanced AI systems ponudil v razpravo Future of Life Institute, a tudi ta dokument je ostal komajda opažen.

 

In medtem, ko oblastniki in njihovi generali in najsodobnejša podjetja UI vidijo kot dobrodošlo orodje za dosego svojih bodisi oblastnih bodisi vojnih bodisi dobičkonosnih ciljev bodisi vseh teh ciljev hkrati, pa so sodobne znanosti do UI kar najbolj zadržane. Poročilo, ki ga je pred dvema letoma pripravil ugledni avstralski inštitut za analizo znanstvenega raziskovanja in znanstvenoraziskovalnih politik CSIRO (The Commonwealth Scientific and Industrial Research Organisation), je streznitveno. Sodobne znanosti, vse od naravoslovja in tehnike in znanosti o življenju do družboslovja in humanistike, pričakovana izjema so računalniške znanosti, so do UI vsaj zelo zadržane, njihov odnos je nemalokrat celo povsem odklonilen.

 

Takšno streznitveno dejstvo govori o čudni zgodovinski unikatnosti stanja sodobnih znanosti. Priča smo namreč čudnemu dejstvu, da znanosti odklanjajo najsodobnejše orodje, ki bi ga lahko uporabljale za svoje raziskave, raziskovale njegove možnosti in jih naprej razvijale. To je tako, če naj spet povlečemo nekoliko, a ne zares pretirano navzven obrnjeno vzporednico, kot če bi se nekdaj fiziki odpovedovali spoznanjem Marie Skłodowske-Curie in Alberta Einsteina, matematiki in prav posebej računalničarji spoznanjem Alana Turinga in humanistika in družboslovje spoznanjem Michela Foucaulta.

 

Zakaj je tako, obstajajo nemara prav isti razlogi, o katerih je leta 1750 v svoji razpravi, s katero je odgovarjal na nagradno vprašanje akademije iz Dijona Ali so umetnosti in znanosti odgovorne za sprijenost morale?, govoril Jean Jacques Rousseau. Pisal je, da so znanosti in umetnosti, ki ostajajo zavezane le vsakokratnemu merkantilističnemu – danes bi rekli neoliberalističnemu ali, bolje in natančneje, preprosteje, saj so stvari pač preprostejše, namreč, neofevdalnemu – vsakdanu živetega sveta, grožnja človeku v svetu, saj so brez želje po svobodi: želja po svobodi človeka je namreč nujni pogoj, da se vsakokratni vsakdanji živeti svet nesvobode preseže in se nekoč le lahko vzpostavi nov in boljši svet, boljši in lepši svet za življenje v svobodi.

 

Veliki zadržanosti znanosti ob UI in celo njihovi odpornosti do UI se moramo toliko bolj čuditi, ker je UI kot orodje za znanstvene raziskave po svoji naravi le malo novo, nov je doslej nezamisljivi obseg, ki ga to novo orodje more doseči, in nova je doslej nevidena hitrost, ki jo orodje lahko zadobi. Sicer pa se t. i. literature-based discovery (LBD), znanstveno spoznanje na podlagi študija predhodnih raziskav, ki ga lahko znanstveniki pridobijo ob pomoči UI, po svoji naravi ne razlikuje od pridobivanja spoznanj, kakršna lahko znanstveniki pridobivajo iz znanstvenih revij od 18. stoletja dalje. In ko so se sredi 19. stoletja začeli oblikovati znanstveni inštituti in laboratoriji, kakršne po njihovi naravi poznamo danes, je bil njihov namen enak namenu t. i. self-driving labs (SDL), avtonomnim laboratorijem, v katerih je mogoče ob pomoči UI izvajati poljubne poskuse, res da v njih danes malodane brez števila in v času skorajda brez mere, ki bi jo bilo mogoče še zaznati.

 

Seveda pa morata oboje, tj. LBD in SDL, enako kot sicer uredniško politiko znanstvenih revij od 18. stoletja in znanstvenoraziskovalno politiko inštitutov in laboratorijev od stoletja kasneje dalje, obvladati trdno znanstveno védenje, neomajna etika in nezadržna sla po svobodi, skratka, človek, vreden imena. Le tako, in nič drugače, je mogoče priti do spoznanja in njegovih učinkov, ne da bi se naposled prav vse ne podrlo z »neznanskim trušem in hruščem.«

 

In ko bo to nekoč le mogoče – namreč človek z UI v dobri, dobrovoljni in dobrohotni spregi dobrobiti – in se bomo mogli nad tem navduševati, tedaj se bi lahko strahovi, o katerih smo pisali zgoraj in ki niso brez osnov, mogli sami od sebe umakniti velikemu in veličastnemu upanju o boljšem, lepšem svetu. Nastopil bi nov čas, novocen, kot ga je že imenoval doajen futurističnih znanosti James Lovelock. A tako kot so se z Lukrecijevem času morali bogovi umikati kot urejevalci sveta, tako tudi v tem novem času človek ni več edini urejevalec sveta, temveč je ob njem UI in sicer zato, ker je ob človeku izvir spoznanj o naravi sveta. A tako kot tedaj, nekoč v Lukrecijevem času, tako bo tudi tedaj, nekoč v novocenu, morala biti ob nas Fortuna, boginja sreče, saj sicer bosta in UI in človek do konca svojih moči in čez ogrožala in nébes in zemljo in pahneta ju slednjič, na to lahko stavimo, v pogibel.

 

Je vse to le utopija, globoka utopija, deep utopia, o kateri, s sicer precej narejenega navdušenja, kot se že zdi, piše angleški filozof Nick Botrom? Da bi utopije imele kaj možnosti za svojo uresničitev, ni pomembno le, da si jih znamo zamisliti, enako pomembno je, da jih znamo ubesediti. In tudi to se je že zgodilo. V nemškem paviljonu na 17. Beneškem arhitekturnem bienalu leta 2021 so ahitekti, urbanisti, raziskovalci prostora in umetniki, zbrani okrog Olafa Grawerta, Arna Brandlhuberja, Nikolausa Hirscha in Christopherja Rotha, na kuratorjevo vprašanje How will we live together? odgovorili z vizijo prihodnosti urejenega, pravičnega, dobrega, spokojnega, skratka, blaženega, prešernega sveta. Svojo vizijo so naslovili 2038_The New Serenity, tj. nova prešernost.

 

Leto 2038 je namreč leto, so si zamislili, ko bo človeku uspelo premagati vse velike izzive njegovega sveta in časa. Leto 2038 je leto miru.

 

Dvajseta leta so bila težka. / Šele v začetku tridesetih let 21. stoletja / je svet spet prišel k sebi.  / Namesto da bi odpravili pokvarjeni kapitalistični sistem / smo uporabili njegovo infrastrukturo kot platformo. / Države, institucije in tehnološka podjetja so združile moči / in oblikovale univerzalni, prilagodljiv / in življenski in sicer sploh možen sistem s kolektivnimi cilji. / Medtem imajo lokalne strukture dovolj avtonomije, / da se lahko decentralizirano organizirajo in upravljajo. / Enakost je naš glavni cilj. / Davke se ceni / kot del trajne prerazporeditve. / V preteklosti je bila tehnologija zasužnjena / za povsem kapitalistične namene, / ob tem pa so ostali neizkoriščeni transformativni potenciali / mnogih dosežkov. / Obstoječi, včasih pozabljeni ideali so znova zaživeli / ob temeljnih družbenopolitičnih spremembam / v poznih dvajsetih letih. / Arhitekti so bili večkrat del rešitve. / Arhitekti, ki imajo odgovore in ne vprašanj. / Ekosistemi so zdaj pravne osebe, / večina rek, jezer, gozdov in gora / so v lasti njih samih. / Drama je že skoraj pozabljena, / živimo v radikalni demokraciji / in v radikalni birokraciji. / Ne rabimo ne herojev ne zlikovcev. / Naš čas imenujemo Nova Prešernost.

 


Je takšna nova prešernost, The New Serenity, lahko le Deep Utopia, globoka utopija? Dovolj imamo razlogov, da upamo, da ni treba, da bi bilo tako. Oktobra 2021 je Beethoven Orchester Bonn, orkester svetovne slave, pod vodstvom šefa dirigenta Dirka Kaftana v véliki dvorani nedavno zgrajene čudovite Elbphilharmonie v Hambrugu zaigral skladbo Beethoven X. Skladba je nastala na podlagi štiridesetih kompozicijskih skic, ki jih je Ludwig van Beethoven pripravil kot osnutke za svojo 10. simfonijo, a ga je smrt prehitela in simfonije ni nikoli ustvaril. Zadnje Beethovnovo simfonično delo je torej slovita 9. simfonija z veličastnim zborovskim partom v zadnjem stavku, Odo radosti: »Tvoji čari časa teku so pregnali kruto noč, / človek spet je brat človeku, koder veje tvoja moč.«

 

Beethovnova 10. simfonija je torej ostala nedokončana in nedokončana ostaja do danes. Bila pa je dopolnjena, kot so jo le malo pred 250. obletnico Beethovnovega rojstva dopolnili avstrijski skladatelj Walter Werzow, ameriški muzikolog Robert Levin in ameriška znanstvenika s področja računalniških ved Mark Gotham in Ahmed Elgammal. Dopolnili so jo s pomočjo UI, programirane in dizajnirane prav posebej za ta namen.

 

Svoje delo so poimenovali Beethoven X – The AI Project. Na podlagi onih štiridesetih Beethovnovih kompozicijskih skic so ob pomoči UI sestavili dva simfonična stavka, tj. t. i. tretji stavek, scherzo (allegro – trio) in t. i. četrti stavek, rondo (adagio maestoso – tempo di menuetto). In oktobra 2021 je delo zaigral omenjeni orkester, v drugem oziroma četrtem stavku, ki je zasnovan kot dialog med orkestrom in orglami, se je orkestru pridružil ameriški organist prav tako svetovne slave Cameron Carpenter.

 

Je delo delo Beethovna? Seveda ni. Bi delo nastalo brez njega in njegovih občudovalcev skorajda po dveh stoletjih po njegovi smrt? Seveda ne bi. Bi delo lahko nastalo brez UI? Lahko, a pač ni, in če bi, bilo bi drugačno. So lahko algoritmi ustvarjali? So. Je lahko človek z njimi še bolj ustvarjalen? Je, če je lahko tudi sicer ustvarjalen. Vse to so bila vprašanja, ki so se postavljala ob ustvarjanju tega dela in njegovi izvedbi in se postavljajo potlej. Odgovorov nanje menda ni težko dati.

 

Drugače pa je z vprašanjem, ali gre za delo, ki človeka nagovarja, tako kot to sicer počne umetnost, v njegovih čutenji in mu dviga srce in misel in človeka, tako kot to sicer počnejo umetnosti in znanosti, vodi do novih spoznanj. Vprašanje je drugačno, nanj si mora človek, vsak zase in vsak pri sebi, odgovoriti sam.

 

Ob izvedbi Beethoven X v Elbphilharmonie odgovora na to vprašanje ni bilo težko dati. Delo je namreč zazvenelo v izvedbi enega najboljših simfoničnih orkestrov našega časa in organista, ki je že prebil vsakršne zvočne zidove klasične in sodobne glasbe in nam razprl povsem nova ne le glasbena obzorja: delo je tedaj zazvenelo v izvedbi človeka, umetnika in raziskovalca, človeka, skratka, najboljšega, kot lahko le je.

 

In za to gre, za človeka, najboljšega, kot le lahko je. Najboljši je človek svoboden. Ob njem je danes UI. In tu je, da ostane.

 

… razumem, vedno je vse odvisno od tega, kako gledaš na stvari … včasih najprej ne vidiš ničesar … sploh pa ne gre za to, da bi želeli vse narediti dobro, najprej moraš sploh kaj narediti … sploh ne gre za to, da bi vse razumeli in sploh vse in vse in sploh … saj nihče zares ne ve, kam vse to pelje in od kod sploh vse to je … nikogar ni, ki bi vsaj malo razumel, kaj se dogaja … počakaj, naredila bom majhen ovinek … lepota se nam izmika, ker je ne gledamo, in kadar ničesar več ne vidimo, tedaj razmišljamo le še o tem … nimamo se kam skriti … nihče ne ve, kaj in kako, in to je prednost … nismo še rekli zadnje besede … nihče ne bo prišel, da bi nas rešil … bog se je skril v luknjo, če je sploh kdaj bil … moraš si upati …

 


Odlomek iz monologa iz predstave Qui som?, tj. kdo smo, francosko-katalonskega umetniškega kolektiva Baro d’evel na gledališkem festivalu v Avignonu julija 2024

 

»… moraš si upati …« Tako je tudi, ko gre za človeka in UI. Ne sme nas biti strah.

 

O Fortuna z nami!

 

 

*

 

 

Nick Bostrom, Deep Utopia – Life and Meaning in a Solved World (Ideapress 2024).

 

James Lovelock, Novacene – The Coming Age of Hyperintelligence (Penguin Books 2019).

 

Charles Taylor, Cosmic Connections – Poetry in the Age of Disenchantment (Harward University Press 2024).

 

Nigel Toon, How AI Thinks – How we built it, how it can help us, and how we can control it (Panguin Random House 2024).

 

 

Opomba. Odlomek iz odprtega pisma Pause Giant AI Experiments je preveden s pomočjo DeepL Translate (free version).

 

 

 

* *
*

 

 

logo