Az ember Isten szerepére ácsingózott, s most a virtuális térben lényegében meg is kapta. Hogy cserébe mivel fizet – csupán a pénzével, idejével, vagy éppen a lelkével, még nem világos, de az már körvonalazódni látszik, hogy az ár nem lesz csekély. Veczán Zoltán írása.
Két aprócska hír a minapról, egy hosszabb és egy rövidebb.
1. „Fegyvert tartok anyád fejéhez, és kiloccsantom az agyát, ha nem fizetsz” – mondta telefonban a bűnöző az áldozatnak, miután az meghallgatta édesanyja szívszaggató könyörgését. Természetesen elutalta a kért összegeket, csak ne bántsák a nőt – aki egyébként mit sem tudott az egészről, békésen aludt otthon, a hangját ugyanis mesterséges intelligenciával utánozták le a bűnözők. Sőt, egy programmal még azt is megoldották, hogy hívásukkor az édesanya számát jelezze ki az áldozat telefonja.
2. Százmilliárd dollárból fejleszt gigantikus méretű generatív mesterséges intelligencia technológia-központot az OpenAI és a Microsoft – a megnövekedett igények ugyanis hatalmas kapacitás kiépítését követelik meg.
Nos, közhelyszerű lenne azt mondani, hogy a 2020-as évek egyik óriási áttörése volt a mesterséges intelligencia (MI, vagy AI – Artificial Intelligence) megjelenése – valójában csak ekkor vált széles tömegek számára hozzáférhetővé a technológia. És éppen emiatt van mitől tartanunk.
Közhelyes ez is, de megemlítendő: hasonló pánik (és persze másik részről: hurráoptimizmus) övezte az internet megjelenését, sőt, az elektromosságét, mi több, a könyvnyomtatásét is: a rettegés (vagy éppen féktelen öröm), hogy az ember lényegét változtatja majd meg az új technológia.
De mélyen a zsigereiben lassan mindenki elkezdi érezni: ez most valami más lesz.
Hogy Huxley vagy Orwell disztópiája közeleg, esetleg a Skynet vagy a Mátrix – zajlanak a találgatások, mert az ember, a homo narrans, történetekbe szereti önteni vágyait és félelmeit – amelyek olykor nem is esnek olyan messze egymástól.
Sokunk elolvasta annak idején a Május 35. című, gyermekregénynek kikiáltott könyvet Erich Kästner tollából.
A kötet egyik legáthallásosabb része az, amikor a főhősök – Konrád és nagybátyja, Ringelhuth gyógyszerész – megérkeznek Eldorádóba, a tejjel-mézzel folyó Kánaánba. Amellett, hogy a könyv kiadásának idején (1932-ben) éppen totalitárius eszmék marakodtak Európáért, ígérve, hogy valamiféle ellenség legyőzése által juthatnak el hívei a végtelen bőség földjére, s így ez ilyen kiszólásként is értelmezhető, a regény jeleneteiben Kästner saját korára jellemző általános technooptimizmusból – vagyis a technológiai fejlődés, mint szükségszerűen jó dologba vetett vakhitből – is gúnyt űz.
Az Eldorádóról szóló részben éppenséggel azt mutatja be, hogy a korlátlan fejlődés és jólét, amire olyannyira ácsingózik mindenki egy világháború után, s pláne egy világválság kellős közepén, milyen káros hatásokat gyakorolna az emberekre, és milyen veszélyeket rejthet magában.
A legenyhébb ezek közül talán a végletes ellustulás: Eldorádó lakóinak az étele fákon és fákba épített automatákban teremnek, akinek ezt is megerőltető elfogyasztani, laktató pirulákon él; kerekes, lóvontatta házakban henyélnek, hogy meg se kelljen moccaniuk, s esernyők nőnek ki a földből, ha elered az eső.
De érzékelhető az a félelem is, hogy az ember nem tudja, mit képes létrehozni, ha korlátlan hatalmat kap, s elveszíti a kontrollt felette (pedig hol volt még ekkor az atombomba!).
Eldorádó „telep” nevű részén például gondolattal lehet létrehozni tárgyakat, személyeket, akármit; s ha az embernek nem tetszik, elég annyit mondania: „mars vissza!”, és a jelszóra a teremtménye eltűnik. Az eldorádói emberek élnek a lehetőséggel, így főhőseink láthatnak olyat, aki kétfejű borjút „teremt” így, más saját elhunyt nagyapját próbálja maga elé képzelni – meg is jelenik, nyolc verzióban –, de olyan is akad, aki oroszlánra gondol, amelyik aztán majdnem felfalja, mert elfelejti a visszavonó jelszót.
A gyógyszerész és unokaöccse persze annak rendje s módja szerint össze is vesznek menet közben, így Konrád lekicsinyíti nagybátyját, aki cserébe vízfejet és virsliujjakat képzel rá – némi tárgyalásba telik, mire kölcsönösen visszacsinálják a dolgot.
Egy másik helyszínen, a teljesen gépesített Elektropolisban pedig be is következik a katasztrófa: a kiáradó Niagara-vízesésből nyelt energiatöbblet elpusztítja a várost. Amiből, szintén szimbolikus módon a józan, gyakorlatias ésszel szabadulnak: Ringelhuth rásóz lovuk, Negro Kaballo farára, így sikerül megmenekülniük az összeomló Elektropolisból – ez már Kästner optimizmusa, hogy így sikerül nekik.
Természetesen Kästner nem láthatta előre azt az időszakot, amikor valóban lesz olyan technológia, az öntanuló AI, amely emberi kérésre – úgynevezett promptolásra – virtuálisan tényleg képes lesz létrehozni valami hasonlót, mint amit a felhasználó akart: szöveget, képet, zenét, sőt, videót.
„Innentől kezdve nincs akadálya annak sem, hogy halottakat feltámasszunk, már rég elporladt színészek játsszanak főszerepeket és többszáz éve élt történelmi figurák népesítsék be az osztálytermeket” – mondta egy interjúban Aczél Petra.
És látható, hogy a kérés bármire irányulhat: ameddig nincsenek szigorú szabályozás alatt a generatív AI-modulok, éppúgy mindent lehetséges – ha csak virtuálisan is – mint a Kästner-féle Eldorádóban.
Jó kérdés persze: mennyire virtuális mindez, amikor a virtuális világ indaként át- meg átszövi a valóságost, olyannyira, hogy végtére is sok embernek már az is gondot okoz, hogy megkülönböztesse a kettőt? Mi még szét tudjuk választani a valóságot egy VR-szemüvegen át látottól, de mi lesz a következő generációkkal, akik ennél jóval kevesebb tapasztalattal és jóval élethűbb technológiával kell, hogy szembenézzenek?
Ők éppolyan védtelenek lesznek, mint nagyszüleink generációi az unokázós csalókkal szemben.
Vagy, ha visszagondolunk a cikk elején említett példára, akár mi magunk, már most.
Ráadásul az elmúlt években egy olyan világra sikerült ráereszteni a mesterséges intelligencia hipergyorsan fejlődő technológiáját, ahol már a jelenlegi fejlettségi szint mellett is nagyüzemi szinten folyik a kiberbűnözés, a kiberterrorizmus és a hibrid háború.
Atombomba került a bűnözők és a terroristák – vagy ami talán még rosszabb: tábornokok és politikusok – kezébe, ami önmagában éppen elég okot ad arra, hogy rettegjünk.
De ott a sovány vigasz: talán van bennük valamiféle önkontroll, belátás, miegyéb, ha már azokban nincs, akik az egészet gond nélkül lefejlesztették, fejlesztik.
Ezért paradox módon talán mégsem „ők”, hanem mi magunk tehetjük pokollá igazán a saját mindennapi életünket.
Hiszen immár az átlagember szempillantás alatt a legsötétebb és legundorítóbb gondolatainak is virtuális formát adhat, legyen szó egy szakítás utáni fake bosszúpornóról, amivel el lehet árasztani a netet és obszcén képeket beégetni embertársunkról a környezete agyába; vagy éppen legyen szó sosemvolt kép-, hang- és videófelvételek kreálásáról mások lejáratására, átverésére, megalázására, álhírek terjesztésére, pánik keltésére.
Mindehhez pedig még csak nem áll rendelkezésre a visszavonó jelszó. Aki megbánta, amit tett, nem tudja azt mondani a kérésére az AI által létrehozott alkotásának, hogy „mars vissza!” – itt nincs feledés.
Az internet kapcsán szokás volt virtuális vadnyugatot emlegetni – ez a technológiai váltás viszont a nagyon is valóságos pokol ígéretét hordozza.
Az ember Isten szerepére ácsingózott, s most a virtuális térben lényegében meg is kapta.
Hogy cserébe mivel fizet – csupán a pénzével, idejével, vagy éppen a lelkével, még nem világos, de az már körvonalazódni látszik, hogy az ár nem lesz csekély.
Érthető hát, hogy sokakban ott a félelem: az ember abban a formában, ahogyan eddig ismertük, alighanem megszűnik létezni.
Borítókép: Az ember Isten szerepére ácsingózott, s most a virtuális térben lényegében meg is kapta
Forrás: Pixabay/Gerd Altmann
