Az Anthropic áprilisban mutatta be új, Mythos nevű mesterséges intelligenciáját, ami olyan szoftveres sérülékenységeket képes megtalálni és kihasználni, amiket eddig évtizedek óta használt rendszerekben sem vettek észre. A fejlesztés egyszerre hangzik kiberbiztonsági áttörésnek és rémálomnak, attól függően, kinek a kezébe kerül az eszköz. Az amerikai kormány szerint most elsősorban a kockázatot kellene komolyan venni.
A Wall Street Journal beszámolója szerint a Fehér Ház ellenzi az Anthropic azon tervét, ami a jelenlegi 40 mellett 70 további cégnek adna hozzáférést a Mythos modellhez. A kormányzati aggodalom lényege, hogy ha modell képességei kiszivárognak és rossz kezekbe kerülnek, soha nem látott mértékű kibertámadásokra lehetne őket felhasználni.
A Mythos körüli vita jól mutatja, hová jutott a mesterséges intelligencia: már nem csak arról van szó, hogy egy rendszer e-maileket és programokat ír, vagy képeket és videókat generál.
Az Anthropic hivatalos leírása szerint a Mythos olyan fejlett, hogy már a legjobb emberi biztonsági szakértők szintjét is megközelíti, vagy meg is haladja bizonyos szoftverbiztonsági feladatokban. A cég ezért nem is nyitotta meg azt a nagyközönség előtt, hanem Project Glasswing néven egy zárt programot indított néhány kiválasztott vállalatnak és szervezeteknek.
A jelenlegi információk szerint a Mythos-hoz csak olyan szintű nagyvállalatok férhettek hozzá, mint az Apple, a Microsoft, a Google és az Nvidia.
A cél az volt, hogy ezek a cégek saját rendszereikben gyorsabban találják meg a kritikus hibákat, mielőtt a Mythos, vagy egy hasonló tudással bíró fejlesztés szélesebb körben elterjed, és a támadók fedeznék fel őket. A probléma ezzel viszont az, hogy minél több szervezet kap hozzáférést, annál nehezebb garantálni, hogy a modell használata ellenőrzött és biztonságos marad. A Mythos tehát egyszerre pajzs és fegyver, a kérdés pedig csak az, hogy sikerül-e hamarabb korlátok közé szorítani, mielőtt valaki rossz célra használja fel.
A mesterséges intelligencia nagyobb veszélyt jelenthet a kriptovalutákra, mint a kvantumszámítógép