Az amerikai kormány nemzetbiztonsági okokra hivatkozva elrendelte, hogy az Anthropic függessze fel a Fable 5 és a Mythos 5 elérését minden külföldi (nem amerikai) állampolgár számára. A vállalat közleménye szerint az ennek való megfelelés a gyakorlatban csak úgy megvalósítható, ha minden ügyfélnél lekapcsolják a két modellt, beleértve az Egyesült Államokban dolgozó, külföldi állampolgárságú Anthropic-alkalmazottakat is.
Az Anthropic azt írta, hogy a kormányzati utasítást június 12-én, magyar idő szerint 23:21-kor kapta meg. A döntés a többi Anthropic-modellt nem érinti.
Egy feltételezett jailbreak állhat a háttérben
Az Anthropic közlése szerint a kormányzati lépés mögött az állhat, hogy az amerikai hatóságok tudomást szereztek egy lehetséges jailbreak-módszerről. A jailbreak olyan technika, amellyel a felhasználók megpróbálják megkerülni egy mesterségesintelligencia-modell biztonsági korlátozásait.
A vállalat szerint az általuk látott demonstráció nem mutatott ki széles körben veszélyes, univerzális sebezhetőséget, és a nekik bemutatott módszer csak szűk körben működött, és mindössze néhány korábban ismert, kisebb szoftveres sérülékenység azonosítására volt alkalmas.
Az Anthropic azt is állítja, hogy hasonló hibák felismerésére más, nyilvánosan elérhető modellek is képesek, külön jailbreak nélkül, ezért a kormányzati reakciót aránytalannak tartják.
Az Anthropic szerint nem találtak univerzális törést
A vállalat a közleményben azt is leírja, hogy az új modellek bevezetése előtt több ezer órányi tesztelést végeztek amerikai és brit állami szervekkel, külső szakértőkkel, valamint a belső biztonsági csapatukkal.
Ezek a tesztek azt mutatták, hogy a Fable 5 védelmi rendszerei erősebbek, mint a korábban nyilvánosan elérhető modelleké. A cég állítása szerint eddig egyetlen tesztelő sem talált olyan univerzális jailbreaket, amely széles körben feloldaná a modell kiberbiztonsági korlátait. A vállalat ugyanakkor elismeri, hogy tökéletes jailbreak-ellenállás jelenleg valószínűleg egyetlen modellnél sem garantálható.
Az közlemény szerint nem reális cél, hogy minden lehetséges megkerülést kizárjanak, ezért ők is arra törekednek, hogy az ilyen jellegű támadásokat drágává, csak szűk körben használhatóvá és gyorsan észlelhetővé tegyék.
A cég szerint ez megakaszthatja az egész AI-ipart
Az Anthropic élesen bírálta a döntés alapjául szolgáló mércét. A vállalat szerint ha egy szűk körű, nem univerzális jailbreak gyanúja elegendő egy kereskedelmi AI-modell visszahívásához, akkor hasonló alapon szinte minden új modell bevezetését le lehetne állítani.
A cég azt írja, hogy támogatja az elvet, miszerint a kormánynak legyen lehetősége veszélyes AI-rendszerek blokkolására, ennek azonban átlátható, tisztességes, világos és technikai tényeken alapuló eljárásban kellene történnie. Az Anthropic álláspontja szerint a mostani lépés nem felel meg ezeknek az elveknek.
A felhasználók járnak rosszul
A döntés gyakorlati következménye, hogy az Anthropic ügyfelei most egyik napról a másikra elveszítették a hozzáférésüket a Fable 5-höz és a Mythos 5-höz. Ez különösen azoknak a vállalatoknak lehet kellemetlen, amelyek ezekre a modellekre építettek új folyamatokat, fejlesztői eszközöket vagy ügyféloldali szolgáltatásokat.
Az Anthropic elnézést kért az ügyfelektől a fennakadás miatt, és azt írta, hogy dolgozik a hozzáférés helyreállításán. A cég szerint félreértésről lehet szó, de betartják a kormányzati utasítást.
Egy német bíróság szerint a Google felelősségre vonható a kereső AI-válaszainak pontatlansága miatt