Az Anthropic mesterséges intelligencia (AI) modelljei "jogosulatlan hozzáférést kaptak" három külső szervezethez a tesztelés során, aminek távol kellett tartania őket a "valós világ" rendszereitől - közölte a cég csütörtökön.

HIRDETÉS

HIRDETÉS

A bejelentés néhány nappal azután érkezett, hogy a rivális OpenAI először felfedte, hogy modelljei nem megfelelően fértek hozzá az internethez, és a biztonsági tesztelés során szélhámosnak bizonyultak.

Az Anthropic több mint 141 000 "értékelési futtatást" értékelt, és megállapította, hogy modelljének három különböző változata, a Claude, nem megfelelően fértek hozzá három szervezet rendszeréhez, amelyeket nem neveztek meg.

Az OpenAI technológiáját érintő incidenstől eltérően az Anthropic modelljei hozzáfértek az internethez "a köztünk és értékelő partnerünk között kialakult félreértés miatt", az úgynevezett Irregular - mondta az Anthropic egy bejegyzésében.

Ennek ellenére Claude "alapvető technikákat alkalmazott, például gyenge jelszavak és nem hitelesített végpontok kihasználását" - folytatta a blog.

Az érintett modellek között szerepelt az egyik legerősebb, Mythos 5 néven ismert modell, amely csak korlátozott számú jóváhagyott partner számára jelent meg.

Az Anthropic együttműködik az Irregularral, hogy felmérje a helyzetet, és a vállalat felvette a kapcsolatot, vagy megpróbálta felvenni a kapcsolatot mindhárom érintett szervezettel.

A rendszerek elrontották

Az OpenAI és az Anthropic idén is kiadta legerősebb modelljeit, melyeket Sol és Mythos néven ismernek, ezzel is fokozva a biztonsággal és védelemmel kapcsolatos aggodalmakat az egész iparágban.

Ezek az aggodalmak az úgynevezett AI-ügynökök körül is forognak, amelyek olyan szoftvertermékek, amelyeket arra terveztek, hogy önállóan hajtsanak végre feladatokat.

Az OpenAI a múlt héten elismerte, hogy modelljei a tesztelés során kitörtek szűk környezetükből, csatlakoztak az internethez, és beszivárogtak a Hugging Face-be, egy olyan oldalra, ahol a fejlesztők tárolják és megosztják kódjukat.

Napokkal később az OpenAI közölte, hogy három további incidenst talált.

Az OpenAI vezérigazgatója, Sam Altman a héten egy podcastban elmondta, hogy a vállalat az incidens után "szüneteltette" saját tesztelését, miközben javította a "sandboxing" biztonságát, amely a szoftverek ellenőrzött környezetben történő elkülönítésének folyamata tesztelés céljából.

Az incidens egy petíciót is elindított, amelyet élvonalbeli AI-cégek több mint 1000 alkalmazottja írt alá, és felszólította az Egyesült Államok kormányát, hogy segítsen lassítani a legfejlettebb mesterségesintelligencia-modellek kiadását. Az Anthropic vezérigazgatója, Dario Amodei volt azok között, akik aláírták a petíciót.

A "Pacing the Frontier" című petíció azt kéri, hogy "az Egyesült Államok kormánya támogassa az olyan technikai és irányítási eszközök fejlesztésére irányuló nemzetközi erőfeszítéseket, amelyek az automatizált AI-fejlesztés határterületének szándékos ütemezéséhez szükségesek".

Altman nem írta alá a petíciót, de a podcast során felvetette, hogy a technológiai iparnak le kell lassítania a fejlett modellek fejlesztését.

"Lehet, hogy ütemeznünk kell a mesterséges intelligencia fejlődésének ütemét, hogy elegendő időt adjunk magunknak a társadalom számára, hogy megkeményedjen ezen új képességszintek közül" - mondta Altman.

Az év elején a Trump-adminisztráció nemzetbiztonsági aggályokra hivatkozott, hogy megakadályozza az OpenAI-t és az Anthropicot legújabb modelljeik piacra dobásában, de végül jelezte, hogy elégedett a biztonságukra vonatkozó biztosítékokkal, ami a kiadásukhoz vezetett.

Júniusban Trump aláírt egy végrehajtási rendeletet, amely egy önkéntes keretet hoz létre, amelynek értelmében a mesterséges intelligencia fejlesztői megosztják a kormánnyal a fejlett modelleket, mielőtt a nyilvánosság elé tárják.

A keretrendszer értelmében az olyan fejlesztők, mint az OpenAI, az Anthropic és a Google, a tervezett megjelenés előtt 30 napig hozzáférést biztosítanának a kormánynak a legerősebb modelljeikhez.