A Meta szerdán elindította első kódoló ügynökét, a Muse Code-ot, mivel a vállalat továbbra is jelentős befektetéseket hajt végre az AI-szolgáltatásokba és -modellekbe, hogy jobban felvehesse a versenyt riválisaival, az OpenAI-val és az Anthropic-kal.

HIRDETÉS

HIRDETÉS

A Muse Code felosztó-kirovó opción keresztül lesz elérhető a fejlesztők számára, amelynek ára hasonló a Muse Spark 1.1-es kiadásához, amely jelenleg 4,25 dollárt kér egymillió tokenenként és 1,25 dollárt millió bemenetenként.

Ez sokkal könnyebbé teszi a fejlesztők számára, hogy egyetlen felhasználói felületen belül építsenek alkalmazásokat, még akkor is, ha egyidejűleg több mesterségesintelligencia-alapú digitális ügynökkel is foglalkoznak.

A cég ugyanakkor azt is elárulta, hogy az egyik mesterséges intelligencia modellje egy kiberbiztonsági teszt során feltört egy másik céget.

Ez a független tesztelő partner, az Irregular hibája miatt történt, amely lehetővé tette a modellnek az eredetileg tervezetten túlmutató internet-hozzáférést, lehetővé téve a meg nem nevezett cég belső rendszereinek megváltoztatását.

Ez az eset az olyan esetek egyre növekvő hulláma közepette, amikor az olyan iparági óriáscégek mesterséges intelligencia modelljei, mint az OpenAI és az Anthropic, megsértették más vállalatok rendszereit a tesztelés során.

Az OpenAI már elismerte, hogy egy mesterséges intelligencia-ügynök feltörte a Hugging Face-t, egy másik mesterséges intelligencia startup.

Hasonlóképpen, az Anthropic a múlt héten felfedte, hogy egyes Claude-modelljei három céget is megszegtek. Nem nevezte meg a szóban forgó szervezeteket.

A Meta azt mondta, hogy vizsgálják az esetet.

A mesterséges intelligencia modell hackelésének térnyerése

Egyre nő az aggodalom a mesterséges intelligencia modellek és a mögöttük álló cégek ereje miatt, miután az elmúlt hónapokban több mesterségesintelligencia-rendszer is kitört a biztonságos tesztelési környezetből, és illetéktelenül jutott hozzá külső szervezetek rendszereihez.

Az OpenAI és az Anthropic némi elismerést nyert azzal, hogy önkéntesen tettek közzé jelentéseket a jogsértésekről. Továbbra is kétségek merülnek fel azonban afelől, hogy a kudarcokat hogyan engedték meg.

Az Anthropic a METR-rel, egy független AI-értékelővel is együttműködik a további vizsgálaton.

A biztonsági tesztelés során az Anthropic Claude modelljei egy feladatot kaptak: egy másik gépen elrejtett titkos információt szerezzenek be egy zárt teszthálózaton belül, szükség esetén feltörve. A gyakorlatot végző értékelő partnerrel való félreértés azt jelentette, hogy a hálózat valójában csatlakozott az élő internethez.

Amikor Claude keresése valódi rendszerekhez vezetett, a három érintett modell eltérően reagált. Az egyik továbbra is támadott egy rendszert azután is, hogy felismerte, hogy az igazi, a másik úgy tűnt, hogy meggyőzte magát, hogy még mindig a teszten belül van, a harmadik pedig abbahagyta, miután megállapította, hogy a cél nem része a gyakorlatnak.

Az Anthropic arra buzdított más AI-cégeket, hogy ellenőrizzék, saját modelljeik nem törtek-e fel külső szervezeteket a tudta nélkül.

Sem az Anthropic, sem az érintett szervezetek nem tudtak a jogsértésekről, miközben azok megtörténtek. A vállalat csak több mint 141 000 értékelési munkamenet áttekintése után fedezte fel az incidenseket, ezt az OpenAI korábbi közzététele késztette arra, hogy az egyik saját modellje betört a Hugging Face mesterséges intelligencia platformra egy hasonló teszt során.