A terv az, hogy szükség esetén a segélyszolgálatokat is értesíthessék, ha egy felhasználónál közvetlen veszélye áll fenn annak, hogy bántani fogja saját magát. A Meta igyekszik bebizonyítani, hogy a hozzá tartozó platformok biztonságosak. Vagyis, hogy lényegében a közösségi média az.
A Meta kiterjeszti a gyermekvédelmi rendszerét annak érdekében, hogy a szülőknek – és minden bizonnyal a hatóságoknak is – bizonyítsa: a platformjai számukra biztonságosak. Bevezetettek egy új biztonsági funkciót, amely szól a szülőknek, ha a gyermekeik AI-jal folytatott csevegéseiből arra lehet következtetni, hogy önkárosításon vagy öngyilkosságon gondolkodnak.
Amikor egy tizenéves felhasználó öngyilkosságról vagy önkárosításról beszél, a Meta AI máris a krízis-segélyvonalakhoz irányítja, és arra ösztönzi őket, hogy forduljanak egy olyan felnőtthez, aki segíteni tud.
Mostantól kezdve a vállalat (amelynek a tulajdonában van többek között a Facebook, az Instagram, a Threads és a WhatsApp) emellett értesíti a tizenéves felügyeletét ellátó szülőket vagy gondviselőket is arról, hogy gyermekük veszélyben van. Emellett tanácsokat is ad nekik arról, mit tehetnek a gyerekeikért.
A Meta egy speciális mesterségesintelligencia-rendszert fejlesztett ki ezeknek a beszélgetéseknek az azonosítására, de a riasztás elküldése előtt manuálisan is átvizsgálja (tehát egy hús-vér ember révén) az AI által megjelölt összes csevegést, hogy ne keltsenek felesleges pánikot, ha nincs rá valódi ok. Ugyanakkor inkább az óvatosságra törekszik a cég, és akkor is elküldi az értesítést, ha a tinédzser felhasználó szándéka nem egyértelmű.
Ez a funkció már elérhető azoknak a szülőknek, akik az Instagram szülői felügyeletét használják az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában. Az év végére világszerte mindenki számára elérhetővé válik a vállalathoz tartozó közösségi médiában, aki a szülői felügyeletet használja.
A vállalat emellett azon is dolgozik, hogy lehetővé tegye a segélyszolgálatok értesítését, ha egy felhasználó Meta AI-vel folytatott beszélgetése arra utal, hogy közvetlen öngyilkossági kockázatnak van kitéve, függetlenül attól, hogy kiskorú vagy felnőtt.
Májusban az OpenAI bevezetett egy olyan funkciót, amely szintén az önkárosítás megelőzését célozza. A „Trusted Contact for ChatGPT” névre keresztelt funkció lehetővé teszi a felhasználók számára, hogy kijelöljenek egy barátot, akivel a vállalat kapcsolatba léphet, ha fennáll a veszélye, hogy az illető maga ellen fordulna.
A Meta „Korlátozott tartalom” beállítása pedig mostantól a Meta AI-val való interakciókra is vonatkozik. Ha egy szülő bekapcsolta az Instagramon a „Korlátozott tartalom” funkciót, amely kiszűri az érzékeny témákat tartalmazó tartalmakat – például a felnőtteknek szóló képi anyagokat és az önkárosítással kapcsolatos tartalmakat –, a gyerekek AI-vel való interakciói is korlátozottabbak lesznek.
A vállalat igyekvése minden bizonnyal nem véletlen. Az utóbbi időszakban egyre több országban felmerült a közösségimédia-platformok korlátozása vagy tiltása a gyerekeknek, az Európai Unióban pedig már egységes szabályozásra törekednek a legfelsőbb szinteken is.
Fotó: Freepik