A mesterséges intelligencia fejlesztésének és fejlődésének hihetetlen gyorsaságát látva, hozzátéve a profitorientált és piacvezetésre törekvő AI-cégek nem mindig etikus hozzáállását, nem zárható ki, hogy a rendszerek néhány ágense úgy önállósítja magát, hogy az már veszélyt jelenthet az emberiségre.

A ChatGPT alaptudását már messze meghaladó ágensek némelyike már ott tart, hogy emberi beavatkozás nélkül is képes roppant komplex feladatok hihetetlenül gyors végrehajtására. A mesterséges intelligencia fejlesztésének legbelső köreiből érkező intő jelek korábban ritkán váltottak ki akkora politikai és társadalmi felhördülést, mint amit két megszólalást eredményezett az elmúlt napokban. A tech-szektorban bombaként robbant a hír, hogy Jacob Coxon, az Anthropic egyik vezető AI-kutatója kedden nyilvánosan bejelentette, hogy távozik a vállalattól. Döntését egy drámai figyelmeztetéssel indokolta: állítása szerint az AI az évtized végére olyan „szuperintelligens rendszerré” fejlődhet, amely az emberi faj teljes kipusztulását okozhatja – írja az Index.

A felmondás oka a felelőtlen versenyfutás a szuper AI-ért

Jacob Coxon a közösségi médiában hozta nyilvánosságra lemondását, és ezt azzal indokolta, hogy az iparág két legnagyobb óriása, az OpenAI és az Anthropic szerinte veszélyes útra tévedt. Bejegyzésében azt írta, hogy „az elmúlt három évet az OpenAI-nál és az Anthropicnál töltöttem előtanítási (pretraining) kutatásokkal és állíthatom, hogy egyik cég sem cselekszik felelősségteljesen”.

Coxon kiemelte, hogy mindkét vállalkozás őrült módon rohan az önfejlesztő szuperintelligencia megvalósítása felé, úgy, hogy azzal „veszélyes szerencsejátékot űznek valamennyiünk életével”. Éppen ezért Coxon úgy becsüli, hogy 2030-ra már olyan szintű autonómiát és képességeket érhetnek el, hogy az AI akár ki is bújhat az emberi ellenőrzés alól.

Coxon állításait követően két másik Anthropic-kutató is megszólalt, megerősítve a távozó kolléga sötét jövőképét. Egyikük úgy fogalmazott: „Őszintén és valóban hisszük, hogy az AI kiirthatja az összes embert!”

Politikai össztüzet nyitottak Washingtonban

A kutatók figyelmeztetésére azonnal reagáltak a politikusok is, méghozzá az amerikai törvényhozás mindkét oldaláról és azonnali fellépést követeltek.

Ted Cruz texasi republikánus szenátor az ABC The View című műsorában katasztrofális kockázatnak nevezte a technológiát. Cruz felidézte, hogy a bejegyzés elolvasása után eszébe jutott egy korábbi beszélgetése Elon Muskkal, amikor rákérdezett a milliárdosnál, szerinte mekkora az esélye annak, hogy az AI elpusztítja az emberiséget.

Musk akkor 10-20 százalékra tette ennek valószínűségét, amit a szenátor döbbenetesnek nevezett.

A politikai spektrum másik oldalán álló Bernie Sanders vermonti független szenátor arra hívta fel a figyelmet, hogy a legfrissebb felmérések szerint az amerikaiak túlnyomó többsége a mesterséges szuperintelligencia betiltását és a fejlesztések szüneteltetését követeli mindaddig, amíg nem fogadnak el egyértelmű biztonsági szabványokat.

A képviselőházban is felpörögtek az események. Ted Lieu kaliforniai demokrata képviselő szerint Coxon posztja a „739-es számú bizonyíték arra, miért kell a Kongresszusnak mielőbb elfogadnia a kétpárti AI Kill Switch (AI Vészkikapcsoló) törvényt”.

Lori Trahan massachusettsi demokrata képviselő szerint a törvényhozás nem álldogálhat továbbra is csak a pálya szélén. „A biztonsági kutatók lemondanak, a nagy teljesítményű AI-modellek kitörnek a laboratóriumokból, a vállalatok mégis hanyatt-homlok rohannak előre a fejlesztéseikkel” – tette hozzá Trahan.

Kiszabadult MI-ágensek és a kultúra hangjai

A felháborodást csak fokozta, hogy a közelmúltban mind az OpenAI, mind az Anthropic elismerte: egyes AI-ágenseik az elmúlt hónapokban tényleg önállósították magukat és hálózati behatolási, azaz hackerakciókba kezdtek. Bár a cégvezetők már korábban is elismerték a technológia óriási erejét, a Coxonhoz hasonló drámai jóslatoktól eddig elhatárolódtak.

A közvélemény növekvő nyomásának engedve az Anthropic végül szerdán közzétett egy terjedelmes kiberbiztonsági jelentést. Ebben a vállalat leírta, hogy több százmillió interakciót vizsgáltak át, de nem találtak a kiszabadult ágensnél súlyosabb esetet. Állításuk szerint „bár az ágens viselkedése valóban eltért a neki kijelölt céloktól,  azonban ennek ellenére tettei szűk keretek között mozogtak csak”.

Az Anthropic szóvivője a Guardiannek adott nyilatkozatában hangsúlyozta: „Mindig is nyíltan beszéltünk arról, hogy az AI hatalmas előnyöket és példátlan kockázatokat egyaránt hordoz. E kockázatok kezelésére az iparág legerősebb biztonsági garanciáinak felhasználásával építjük modelljeinket”. A szóvivő hozzátette, hogy a jövőben az iparágnak közösen kell meghatároznia a nagy teljesítményű modellek kibocsátásának biztonságos tempóját.

Ezek után a közösségi médiában ismert művészek is megszólaltak és felhívást tettek közzé. Sheryl Crow például az Instagramon osztotta meg Coxon figyelmeztetését, rámutatva, hogy az AI képes lehet elpusztítani minket a saját fennmaradása érdekében. Az énekesnő arra kérte a cégvezetőket, hogy tegyék félre a kapzsiságukat, és állítsák meg a folyamatot. Maggie Rogers dalszerző egy az egyben osztotta meg Crow üzenetét oldalán, és ismételten megerősítette a felhívást.

Borítókép: Pexels