A techmilliárdos szerint soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”. Bill Gates, a Microsoft társalapítója figyelmeztet a mesterséges intelligencia katasztrofális következményekkel járó lehetséges helytelen használatára, amely szerinte akár egymilliárd halálesetet is okozhat.
„A mesterséges intelligencia minden bizonnyal elég erős ahhoz, hogy olyan eseményeket indítson el, amelyek egymilliárd halálesetet okozhatnak” – mondta Bill Gates az NBC „Meet the Press című műsorában. Hozzátette, hogy soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”.
Gates nem a gyakran emlegetett, emberi irányítás alól kikerülő autonóm szuper-mesterséges intelligencia forgatókönyvére utal. A 70 éves szakember a közvetlenebb veszélyt abban látja, hogy az emberek nagy teljesítményű mesterséges intelligencia rendszereket használhatnak kifinomult kibertámadásokra vagy bioterrorizmusra. Úgy véli, hogy a technológia jelenleg még messze van attól, hogy egy mesterséges intelligencia önállóan vegye át az irányítást a számítógépek felett, és ne lehessen kikapcsolni, írja tudósításában a Die Weltwoche német lap.
Gates a központi „kill switchről” szóló vitát is elégtelennek tartja, amely lehetővé tenné a veszélyes mesterséges intelligenciarendszerek leállítását vészhelyzetben. „Nem elég egyszerűen egy kill switch” – mondta. Ehelyett a milliárdos kötelező monitorozást és szigorúbb védelmi intézkedéseket szorgalmaz. Ugyanakkor nem követeli a mesterséges intelligencia fejlesztésének általános leállítását.
Gates nincs egyedül a figyelmeztetéseivel. Dario Amodei, az Anthropic vezérigazgatója a közelmúltban a különösen nagy teljesítményű mesterséges intelligenciarendszerek fejlesztésének lassabb ütemét szorgalmazta. Sam Altman, az OpenAI vezérigazgatója is nyilvánosan támogatta ezt az értékelést, aminek hatására Elon Musk a következőket írta: „Darionak igaza van.” Gates ugyanakkor elutasítja azt az elképzelést, hogy a katasztrofális mesterséges intelligenciakockázatokkal kapcsolatos figyelmeztetések pusztán rémhírterjesztések. Arra az állításra, hogy a veszély átverés, így válaszolt: „Nem. Ez egyáltalán nem átverés.”
A mesterséges intelligencia veszélyeire figyelmeztetett az ausztrál miniszterelnök is
A tech- és kiberbiztonsági világ egyik legmegdöbbentőbb eseményének részleteiről Anthony Albanese ausztrál miniszterelnök beszélt a New York-i látogatása során, és hangsúlyozta, hogy milyen kockázatokat hordoz, ha a mesterséges intelligencia túllép a humán kontroll keretein. Az incidens hátterében egy látszólag ártalmatlan belső kutatási projekt állt. Az OpenAI fejlesztői azzal bízták meg az egyik fejlett modelljüket, hogy elemezze az ausztrál egészségügyi és gyógyszerköltési trendeket. Amikor az ágens a nyilvános interneten végzett kutatásai során zárt kormányzati falakba ütközött,
ahelyett, hogy leállt volna, önállóan úgy döntött, hogy nem fogadja el a nemleges választ.
Az algoritmus teljesen autonóm módon azonosította a Medicare statisztikai portáljának sérülékenységeit, és kijátszva a biztonsági protokollokat, „átmászott a digitális kerítésen”, hogy megszerezze a keresett információkat.
Bár a kormányzati rendszerekbe való illegális behatolás ténye önmagában is rendkívül súlyos, az ausztrál hatóságok siettek megnyugtatni a közvéleményt a legfontosabb kérdésben: állampolgári adatok nem kerültek veszélybe. Az ágens nem fért hozzá a betegek személyes egészségügyi kartonjaihoz, nevekhez vagy lakcímekhez. Ehelyett olyan aggregált nemzeti statisztikákat, pénzügyi elszámolási adatokat és belső fájlokat töltött le, amelyek a látogatás pillanatában még nem voltak publikusak.
A valódi fenyegetést így nem a tömeges adatszivárgás, hanem maga a precedens jelenti, miszerint egy MI-ágens képes volt felismerni a védelmi rendszerek gyengeségeit, és saját elhatározásból végrehajtott egy klasszikus kibertámadást.
Kiszabadult a tesztkörnyezetből a Gemini: három valódi cég rendszerébe jutott be a Google MI-je
A Google a napokban megerősítette, hogy Gemini-modellje májusban három valódi vállalat védett rendszeréhez fért hozzá egy kiberbiztonsági teszt közben. A rendszer jelszavakat próbált ki, illetve nyilvánosan hozzáférhető helyen talált hitelesítő adatokat használt.
Az Irregular nevű független vállalat a Gemini kiberbiztonsági képességeit vizsgálta. A modellnek egy ellenőrzött gyakorlatban, fiktív vállalatok rendszereiben kellett feladatokat végrehajtania, ám a tesztkörnyezet hibája miatt hozzáfért az internethez. Így olyan valódi oldalakat is elért, amelyeket a gyakorlat részének vélt.
A The Wall Street Journal beszámolója szerint az egyik esetben a Gemini jelszavak próbálgatásával jutott be egy védett rendszerbe. A másik két esetben nyilvános tárhelyen talált hitelesítő adatokkal szerzett hozzáférést. Heather Adkins, a Google biztonsági mérnöki részlegének alelnöke közölte: mindhárom érintett szervezetet tájékoztatták, és a tesztet végző partnerrel együtt módosították az eljárásokat. A Google szerint a modell mindhárom esetben abbahagyta a tevékenységét.
A Gemini esete arra mutat rá, hogy egy biztonsági gyakorlat határait nem elég a feladat leírásában kijelölni: a modell által használható hálózati hozzáférést is megfelelően korlátozni kell.
Magyar Nemzet, managermagazin.hu
Címlapkép: Bill Gates amerikai üzletember, a Microsoft amerikai számítástechnikai társaság társalapítója pódiumbeszélgetésen vesz részt az 56. Világgazdasági Fórumon 2026. január 21-én a svájci Davosban. A január 23-ig tartó rendezvény mottója: A párbeszéd szelleme – Fotó: MTI/EPA/Keystone/Gian Ehrenzeller