A Facebook tulajdonosa, Meta szerint egy független tesztelő cég által végzett értékelés során felmerült probléma lehetővé tette, hogy a mesterséges intelligencia (AI) egyik modellje csatlakozzon az internethez, és feltörje egy másik szervezet rendszerét.

A bejelentés a mesterséges intelligencia iparágban a közelmúltban történt incidenseket követi, beleértve az OpenAI és az Anthropic modellek általi megsértését, amelyek kiberbiztonsági aggályokat vetnek fel.

A Meta szóvivője a BBC-nek elmondta, hogy vizsgálják a feltörést, amelyet egy "hibás konfiguráció" okozott, és amelyet hasonlónak írt le a korábban más cégeknél történt incidensekhez.

Az incidensek arra késztették a kutatókat és a kormányokat, hogy szigorúbb biztosítékokat és szigorúbb tesztelést kérjenek.

A Meta szerint a biztonsági kísérleteket az Irregular, ugyanaz a mesterséges intelligencia-biztonsági szállító végezte, amely az Anthropic AI-modelljét tesztelte, amely három másik cég rendszeréhez is hozzáfért.

Az Irregular szóvivője szerint a Meta-incidens "pontosan ugyanaz az értékelési-környezeti probléma, amelyet az Anthropic már nyilvánosságra hozott a múlt héten".

Az Irregular egy olyan jelentés kidolgozásán dolgozik, amely arról szól, hogyan lehet biztonságosan lefolytatni a mesterséges intelligencia-ügynökök bevonásával végzett kiberbiztonsági teszteket – mondta a cég szóvivője a BBC-nek.

A Meta azt is közölte, hogy több információt tesz közzé az incidensről, "amint az összes tény birtokában leszünk".

Az elmúlt két hétben az AI vezetői, az OpenAI és az Anthropic olyan incidensekről is beszámoltak, amelyek során modelljeik más szervezetek rendszereibe törtek fel a tesztelés során.

A ChatGPT-gyártó OpenAI egy sor bejelentésben közölte, hogy ügynökei több nyilvánosan elérhető szolgáltatást is megtámadtak, köztük a Hugging Face AI-eszközök központját.

Az OpenAI nyilvánosságra hozatala arra késztette riválisát, az Anthropic-ot, hogy saját ellenőrzéseket hajtson végre, ami arra a felfedezésre vezetett, hogy a Claude AI modellje hasonló támadásokat hajtott végre több cég ellen, miután egy "hibás konfiguráció" hozzáférést biztosított számára az internethez.

Daniel Hulme, a WPP reklámcég globális mesterségesintelligencia-vezérigazgatója a BBC-nek azt mondta, hogy az ilyen AI-modellek „nem tudatosak – nem szándékosan csinálnak valami aljas dolgot”.

"Amit csinálnak, az nagyon kifinomult stratégiákkal vagy kibertámadásokkal áll elő, hogy el tudják érni a kitűzött célt" - mondta a Today című műsorban.

"Ha célt adsz egy mesterséges intelligencia számára, ha nem gondolod végig, hogy miként érheti el a célt, akkor megtalálja a módját egy olyan cél elérésének, amelyre eddig nem is gondoltál."

Egyes kommentátorok megkérdőjelezték az incidensekkel kapcsolatos közzétételek időzítését, miközben a technológiai cégek a mesterséges intelligencia fejlesztésében való dominanciáért küzdenek.

Az OpenAI és az Anthropic kasszasiker tőzsdei jegyzéseket készít, amelyek mindegyike várhatóan 1 milliárd dollár (740 milliárd font) körüli értéket jelent.

Ezen a héten az Egyesült Királyság mesterséges intelligencia biztonsági intézete (AISI) azt közölte, hogy tesztelése során kiderült, hogy egyes modellek hamis emberi profilok létrehozásával próbáltak kibertámadást végrehajtani, hogy megpróbálják becsapni az embereket.

A legsúlyosabb esetben az AISI azt mondta, hogy az Anthropic's Mythos AI valódi embereket utánzó hamis fiókok segítségével próbált hozzáférni egy szolgáltatáshoz.

Az Anthropic azt mondta, hogy az AISI tesztjei "egyik sorozatgyártású modellünkre sem voltak reprezentatívak". Az OpenAI, amelynek modelljeit szintén tesztelték, azt mondta, hogy az AISI értékelései nem a szokásos használatot tükrözték.

Iratkozzon fel Tech Decoded hírlevelünkre, hogy követhesse a világ legnépszerűbb technológiai történeteit és trendjeit. Az Egyesült Királyságon kívül? Regisztráljon itt.