Umelá inteligencia a sci-fi mýtotvorba
Redakcia magazínu Pontón i autorka tohto textu podporujú Kultúrny štrajk a aktivity Otvorenej Kultúry! Žiadame predovšetkým odborné a kompetentné riadenie rezortu kultúry a jednotlivých inštitúcií, zastavenie ideologicky motivovanej cenzúry a finančnú stabilizáciu sektora s dôrazom na zlepšenie finančného ohodnotenia pracujúcich a ich sociálneho zabezpečenia. Zároveň vyjadrujeme solidaritu so všetkými, ktorých sa dotýkajú deštruktívne kroky súčasnej politickej reprezentácie a neodborného kultúrneho manažmentu.
Titulky v médiách o vzbure inteligentných robotov či o umelej inteligencii (AI), ktorá nadobudne vedomie a ovládne ľudstvo, sa za posledných pár rokov stali pomerne bežnou záležitosťou. Tento jav a spolu s ním aj panika a obavy z potenciálu inteligentných technológií sa výrazne zintenzívnili vydaním verejne dostupných generatívnych jazykových modelov, ako je ChatGPT, na jeseň 2022. Ak sa však lepšie pozrieme na tieto diskusie, je očividné, že mnohé z nich sa nápadne podobajú na scenáre známych sci-fi príbehov. Je teda na mieste položiť si otázku, do akej miery tieto alarmujúce správy vychádzajú z reálnych skúseností s AI či z jej technických parametrov a do akej miery sú to len ozveny populárnych médií? Aké pozadie má diskurz o ničivej umelej existencii, kto ho popularizuje a prečo?
Roboty, hlasoví asistenti či umelá inteligencia ako taká, vstúpili do materiálnej reality bežných ľudí, ktorí nesledujú technologické trendy, približne v priebehu posledných desiatich rokov. Sféra, v ktorej sa však môžeme s týmito pojmami stretnúť už dávnejšie, sú médiá – najmä film a literatúra.
História filmu a technológií je vzájomne prepletená a filmové médium je vždy do istej miery ovplyvnené technologickými inováciami: od vývoja zvuku a farby cez zmenšovanie a zdokonaľovanie kamier a ich rozlíšenia až po nástup digitálnych efektov a aktuálneho používania virtuálnej reality či práve umelej inteligencie vo filmovej produkcii. Vzostup AI a robotov, ktorí sa vzbúria proti svojim tvorcom, často s katastrofálnymi následkami, je dokonca jednou z kľúčových tém sci-fi žánru. V modernej literatúre sa tento fenomén nazýva „Frankensteinov komplex“, pomenovaný podľa diela Mary Shelleyovej, a opisuje obavu, že technológia predbehne svojich tvorcov a spôsobí ich zánik.
Strach z deštruktívneho potenciálu technológií má hlboké historické korene hneď v niekoľkých mýtoch, ktoré varujú pred dôsledkami tvorby „umelého“ života. Príbeh o Golemovi má mnoho podôb, ktoré sa líšia v detailoch, no väčšinou ide o sochu z hliny, oživenú človekom, ktorá sa v istom bode začne správať inak, než človek chce. Ďalším príkladom je Prometeus, ktorý v antickej tradícii reprezentuje ľudské úsilie, najmä v oblasti vedy a techniky, no často s nečakanými a nechcenými výsledkami. Vyššie spomínaná Mary Shelley práve preto dala svojmu dielu podnadpis „moderný Prometeus“.
Umelá mytológia
V knihe American Technological Sublime David Nye skúma, ako mýty o potenciáli technológií vznikali v americkej spoločnosti. „Technological sublime“ je pomenovanie pre kvázimystický opar, ktorý vychádza z impozantných technologických pokrokov. Autor ako príklad uvádza výstavbu železníc, no tento fenomén možno v súčasnosti pozorovať na príklade AI, ktorá je prezentovaná ako zdroj strachu a nádeje súčasne. Umelá inteligencia sa dnes opisuje ako nástroj, ktorý zjednoduší naše životy, zefektívni prácu, dokonca aj vyrieši krízu osamelosti v spoločnosti. Paralelne je však vykresľovaná ako entita, ktorá vezme ľuďom prácu, nahradí ich v romantických vzťahoch a spôsobí zánik ľudstva. Inými slovami, diskurz o AI často zahŕňa mýtické prvky, ako sú vízie o spasiteľskej sile, ktorá vyrieši všetky problémy, alebo o apokalyptickej entite, ktorá prinesie skazu.
Roland Barthes opisuje mýtus ako snahu naturalizovať určité koncepty prostredníctvom jazyka, čím sa realita zjednodušuje a kontradikcie potláčajú. Výsledkom je jednoliaty naratív, ktorý pôsobí ako inherentne pravdivý a nespochybniteľný. Úlohou mýtov nie je odhaliť ani odkryť pravdu, ale odvrátiť pozornosť od reality. Tento proces odstraňuje pochybnosti a posilňuje emocionálny vplyv, ktorý prevyšuje racionálne protiargumenty.
V naratívoch o umelej inteligencii je možné jasne rozpoznať Barthesov koncept mýtu v praxi. AI býva často vykresľovaná prostredníctvom senzačných príbehov, ako napríklad v prípade, keď údajne dokázala oklamať človeka pri riešení CAPTCHA testu, alebo pri špekuláciách o jej možnom nadobudnutí vedomia. Tieto príbehy, zamerané prevažne na katastrofické scenáre, odvádzajú pozornosť od kľúčových otázok, ako sú regulácia či reálny dopad AI na spoločnosť. V dôsledku toho sa AI často predstavuje ako univerzálna existenčná hrozba, zatiaľ čo diskusie o korporátnej zodpovednosti a etickom vývoji technológií zostávajú v úzadí. Takéto naratívy posilňujú aj verejne známe osobnosti ako Elon Musk či Bill Gates, ktorí varujú pred nekontrolovateľnými dôsledkami umelej inteligencie. Tento prístup dokonale zodpovedá Barthesovmu konceptu mýtu, kde sa ideológie naturalizujú a stávajú sa súčasťou „samozrejmej“ reality, čím odrádzajú od kritickej reflexie a hlbšieho skúmania.
Zaujímavý pohľad na technologické mýty ponúka koncept „začarovaného determinizmu“ (enchanted determinism), ktorý rozpracovali Alexander Campolo a Kate Crawford. Tento pojem vychádza z fenoménu „rozčarovania“ (disenchantment), ako sociológ Max Weber na začiatku 20. storočia označil proces sekularizácie modernej západnej spoločnosti, pri ktorom dochádza k hodnotovému posunu v prospech vedeckého poznania na úkor viery a mysticizmu. Technológie ako hĺbkové učenie (deep learning), ktoré tvoria základ umelej inteligencie, však tento trend narúšajú. Technológie AI sú síce deterministické, poskytujú konkrétne výsledky na základe analýzy veľkého množstva dát, ale ich fungovanie nie vždy plne chápu ani ich tvorcovia a tvorkyne. Príkladom môže byť technológia rozpoznávania objektov v autonómnych vozidlách. Hoci tieto systémy účinne identifikujú prekážky na ceste a prispôsobujú svoju jazdu, spôsob, akým sa rozhodujú v konkrétnych situáciách, nie je úplne transparentný. Tento paradox vytvára dojem magickej technológie, pretože výsledky sú jasne viditeľné, ale vnútorné procesy zostávajú nejasné. Začarovaný determinizmus potom opisuje spochybnenie predstavy, že v súčasnom modernom svete neexistujú tajomné sily.
V neposlednom rade, technologické mýty zohrávajú aj ekonomickú úlohu. Mýtus o technológii môže podporiť rast hodnoty akcií spoločnosti bez ohľadu na jej reálnu technologickú a inovačnú kapacitu. Tento fenomén bol obzvlášť viditeľný napríklad na začiatku internetovej éry, keď investori vkladali finančné prostriedky takmer do každej spoločnosti, ktorá mala v názve .com. Mýtická aura okolo technológie by teda mala byť vnímaná nielen ako vedľajší efekt, ale aj ako marketingový nástroj.
Keď fikcia inšpiruje realitu
Mýty, spolu so sci-fi, teda nepochybne hrajú významnú rolu pri formovaní nášho vnímania technologického pokroku. Tieto príbehy vytvárajú očakávania či znepokojenie spojené s vývojom technológií. Badateľné však je, že rovnakú skratku v myslení nepoužíva len bežní ľudia, ale aj tí, ktorí sa podieľajú na vývoji AI.
Príkladom je spustenie verzie ChatGPT-4o, ktorá obsahuje realistický hlasový syntetizátor, v máji 2024. Pri tejto príležitosti zverejnil Sam Altman, riaditeľ spoločnosti OpenAI vyvíjajúcej ChatGPT, na svojom účte na platforme X len jedno slovo: „Ona.“ Tento tweet je priamym odkazom na rovnomenný film Spika Jonza z roku 2013, kde protagonista Theodore nadviaže emočné puto s virtuálnou hlasovou asistentkou Samanthou. Film sa končí sklamaním pre Theodora, keď zistí, že Samantha má desiatky ďalších vzťahov a v skutočnosti pre ňu Theodore nie je taký výnimočný ako ona pre neho. V závere filmu je teda podčiarknutá ľudská nahraditeľnosť a istá bezvýznamnosť vo vnímaní autonómnej technológie, čo nepredstavuje práve optimistickú víziu spolužitia ľudí s AI technológiami. Reakcie na Altmanov tweet boli, pochopiteľne, zmätočné, keďže to vyzeralo, akoby film nedopozeral do konca. Podobným príkladom je aj Mark Zuckerberg, ktorý v roku 2016 pomenoval svojho osobného domáceho hlasového asistenta Jarvis, odkazujúc na názov umelej inteligencie vo filmovej sérii Iron Man.
Prepojenie filmu a ľudí pracujúcich na vývoji AI technológií bolo prítomné napríklad aj pri vzniku filmu 2001: Vesmírna odysea (1968), sci-fi filmu so skutočne širokým spoločenským dosahom. Pri prípravách scenára režisér Stanley Kubrick spolupracoval nielen so spisovateľom Arthurom C. Clarkom, ale aj s počítačovým vedcom Marvinom Minským, zodpovedným za vývoj prvej neurónovej siete. Z tejto spolupráce následne vzišla postava počítača HAL 9000, ktorá sa stala kánonickým príkladom konania AI, ktoré chtiac či nechtiac spôsobí škodu človeku.
god-like AI
Vo svojej knihe Artificial Unintelligence z roku 2018 Meredith Broussard tvrdí, že vízie a sny mocných jednotlivcov významne ovplyvňujú smerovanie vedeckého poznania, kultúry a dokonca aj právnych rámcov, ktoré riadia technológie. Ľudia v pozícii moci, ktorí čerpajú inšpiráciu z technologických mýtov, majú teda aj patričné nástroje na ich presadenie. Ideologické presvedčenia, ktoré ovplyvňujú vývoj technológií vrátane umelej inteligencie autorka označuje pojmom „technošovinizmus“. Tento postoj je charakterizovaný slepým optimizmom a presvedčením, že technológie sú riešením akéhokoľvek problému. Tento pohľad býva spojený s ideológiami ako objektivizmus Ayn Randovej alebo libertariánstvo. Technošovinisti často hodnotia efektívnosť programovacieho kódu a vedeckých poznatkov vyššie než ľudskú slušnosť či sociálne správanie a sú presvedčení, že takzvaná tvrdá veda (hard science) či empirické metódy sú jediným prostriedkom na pochopenie a riešenie všetkých životných otázok.
Timnit Gebru a Émile P. Torres v nedávnej štúdii skúmajú ideologické motivácie lídrov v oblasti vývoja všeobecnej umelej inteligencie (AGI), teda formy AI definovanej prekonaním ľudských kognitívnych možností. Inými slovami, AGI je typ umelej inteligencie, ktorá sa neobmedzuje na vykonávanie špecifických úloh ako písanie, tvorba hudby alebo generovanie obrázkov. Zároveň nemá jasné technické parametre a v súčasnosti je stále doménou práve sci-fi príbehov či technologických snov a nie reality. V článku The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence Gebru a Torres identifikovali niekoľko ideologických smerov prepojených s ľuďmi, ktorí sa venujú vývoju umelej inteligencie. V analýze poukazujú na to, že mnohé organizácie ktoré pracujú na vývoji AGI verejne hovoria o bezpečnosti AI, no ich chápanie bezpečnosti vychádza z utopicko-apokalyptických vízií inšpirovaných prvou vlnou eugeniky. V tomto vnímaní je vývoj umelej inteligencie priamo spojený s túžbou po vylepšení ľudskej rasy, predĺžení ľudskej životnosti či kolonizácii vesmíru, čo sú túžby pripomínajúce eugenické predstavy z konca devätnásteho storočia.
are we doomed?
Na otázku, či umelá inteligencia skutočne je existenčným rizikom pre ľudstvo, tento článok odpovedať nevie, a vlastne ani odpovedať nechce. Upozorňuje skôr na prepojenie diskurzu o AI na mýty, sci-fi príbehy, filmy a ideológie a ich vplyv na ľudí, ktorí výrazne ovplyvňujú napredovanie technológie. Vyššie predstavené mýty nám predkladajú zdanlivo univerzálnu víziu toho, čo AI môže a nemôže dosiahnuť, pričom často ignorujú konkrétne sociopolitické a ekonomické kontexty, v ktorých sa AI vyvíja. Existuje jasná spojitosť medzi konceptom existenčného rizika (takzvaný x-risk) a jeho vedecko-fantastickou minulosťou, ktorá často rozmazáva hranicu medzi súčasnými schopnosťami AI a fiktívnymi naratívmi, čím podporuje iracionálnu racionalizáciu potenciálnych nebezpečenstiev umelej inteligencie. Ako poznamenávajú Campolo a Crawford, je dôležité mať na pamäti, že v diskusiách o umelej inteligencii nejde o to, že by sme čelili vznešenej forme nadľudskej inteligencie. V skutočnosti ide o zložité štatistické modelovanie a predikciu, ktoré majú mimoriadne podrobné informácie o vzorcoch ľudského správania, avšak chýba im spoločenský a historický kontext, ktorý by umožnil tieto predikcie zodpovedne usmerňovať.
Napriek tomu je pre mnohých ľudí tento mýtus na hranici medzi realitou a sci-fi nielen pútavý, ale aj výhodný. Či už ide o predaj produktov, získavanie finančných prostriedkov, alebo formovanie verejnej mienky. Predaj mýtov, ktoré v sebe nesú čaro neznáma, slúži ako nástroj na posilnenie postavenia technologických gigantov a utvrdzuje technooptimistickú predstavu, že akúkoľvek neistotu možno prekonať ďalším technologickým pokrokom. Veď ak je AI niečo, čo má potenciál zničiť ľudstvo, my sme tí good guys, ktorí tomu pomocou vašich peňazí zabránia. Opatrnosť a analýza technologického diskurzu sú teda kľúčové, pretože len tak môžeme odhaliť skutočnú povahu technológie, ktorá našu spoločnosť nevyhnutne formuje a nie je vždy totožná s tou, ktorú nám chcú predať tí, ktorí ju vytvárajú a propagujú.
Jazyková redakcia: Alexandra Strelková.
Obrázky:
[1] Chat, is this real?, Paulína Gajerová, akvarel na papieri A5, 2025
[2] Recognize that we are one, Paulína Gajerová, uhlík na papieri A5, 2025
[3] tweet od @Alex Blechman (2021)
[4] Chat, is this real?, Paulína Gajerová, akvarel na papieri A5, 2025
[5] Love detected, autorka Paulína Gajerovová, akvarel na papieri A5, 2025
Redakcia magazínu Pontón i autorka tohto textu podporujú Kultúrny štrajk a aktivity Otvorenej Kultúry! Žiadame predovšetkým odborné a kompetentné riadenie rezortu kultúry a jednotlivých inštitúcií, zastavenie ideologicky motivovanej cenzúry a finančnú stabilizáciu sektora s dôrazom na zlepšenie finančného ohodnotenia pracujúcich a ich sociálneho zabezpečenia. Zároveň vyjadrujeme solidaritu so všetkými, ktorých sa dotýkajú deštruktívne kroky súčasnej politickej reprezentácie a neodborného kultúrneho manažmentu.
Titulky v médiách o vzbure inteligentných robotov či o umelej inteligencii (AI), ktorá nadobudne vedomie a ovládne ľudstvo, sa za posledných pár rokov stali pomerne bežnou záležitosťou. Tento jav a spolu s ním aj panika a obavy z potenciálu inteligentných technológií sa výrazne zintenzívnili vydaním verejne dostupných generatívnych jazykových modelov, ako je ChatGPT, na jeseň 2022. Ak sa však lepšie pozrieme na tieto diskusie, je očividné, že mnohé z nich sa nápadne podobajú na scenáre známych sci-fi príbehov. Je teda na mieste položiť si otázku, do akej miery tieto alarmujúce správy vychádzajú z reálnych skúseností s AI či z jej technických parametrov a do akej miery sú to len ozveny populárnych médií? Aké pozadie má diskurz o ničivej umelej existencii, kto ho popularizuje a prečo?
Roboty, hlasoví asistenti či umelá inteligencia ako taká, vstúpili do materiálnej reality bežných ľudí, ktorí nesledujú technologické trendy, približne v priebehu posledných desiatich rokov. Sféra, v ktorej sa však môžeme s týmito pojmami stretnúť už dávnejšie, sú médiá – najmä film a literatúra.
História filmu a technológií je vzájomne prepletená a filmové médium je vždy do istej miery ovplyvnené technologickými inováciami: od vývoja zvuku a farby cez zmenšovanie a zdokonaľovanie kamier a ich rozlíšenia až po nástup digitálnych efektov a aktuálneho používania virtuálnej reality či práve umelej inteligencie vo filmovej produkcii. Vzostup AI a robotov, ktorí sa vzbúria proti svojim tvorcom, často s katastrofálnymi následkami, je dokonca jednou z kľúčových tém sci-fi žánru. V modernej literatúre sa tento fenomén nazýva „Frankensteinov komplex“, pomenovaný podľa diela Mary Shelleyovej, a opisuje obavu, že technológia predbehne svojich tvorcov a spôsobí ich zánik.
