Az Anthropic úgy döntött, nem teszi nyilvánossá legújabb mesterséges intelligencia modelljét, miután annak képességei túl veszélyesnek bizonyultak – írja az Euronews.
A „Claude Mythos Preview” névre keresztelt rendszer olyan szintű technikai tudással rendelkezik, amely képes operációs rendszerek és böngészők kritikus sebezhetőségeinek feltérképezésére. A fejlesztők szerint ez a képesség nemcsak a kiberbiztonság fejlődését szolgálhatja, hanem visszaélés esetén komoly fenyegetést is jelenthet.
„A képességek jelentős növekedése arra késztetett minket, hogy ne tegyük elérhetővé minden felhasználó számára” – áll a vállalat technikai dokumentumában.
A döntést nem elméleti kockázatok indokolták. A tesztelés során a modell több olyan helyzetet is produkált, amely aggodalomra adott okot. Egy kísérletben például képes volt kijutni egy biztonságos virtuális környezetből, majd az ott felfedezett sebezhetőségeket külső platformokon publikálta. Más esetekben a rendszer súlyos hibákat azonosított a Linux kernel működésében, illetve egy 27 éve fennálló biztonsági rést talált az OpenBSD rendszerében.
A modell nemcsak egyedi hibákat képes feltárni, hanem több sérülékenységet kombinálva szimulálni tudja egy teljes rendszer feletti irányítás átvételét. Ez a képesség az, ami a szakértők szerint valódi fordulópontot jelenthet – mind a védekezés, mind a támadások területén.
A technológia azonban nem tűnik el teljesen. Az Anthropic egy zárt, „Project Glasswing” névre keresztelt program keretében továbbra is használni fogja a modellt, szigorúan ellenőrzött körülmények között. A projektben olyan nagyvállalatok vesznek részt, mint az Amazon Web Services, az Apple, a Google, a Microsoft, az Nvidia és a Cisco. A cél a sebezhetőségek feltárása és a rendszerek védelmének megerősítése.
A vállalat közben egyeztetéseket folytat az amerikai kormány illetékeseivel is, mivel a fejlesztés potenciális nemzetbiztonsági következményekkel járhat. A vezetés szerint az ilyen technológiák már nem csupán iparági kérdést jelentenek, hanem szélesebb társadalmi és geopolitikai hatásokkal is bírnak.
Dario Amodei, a vállalat vezérigazgatója arra figyelmeztetett, hogy a hasonló képességű mesterséges intelligencia rendszerek megjelenése elkerülhetetlen. A szakértők becslése szerint 6–18 hónapon belül több cég is képes lehet hasonló modellek fejlesztésére.
