A Hugging Face társalapítója, egy technológiai startup, amely az voltfeltörték, miután az OpenAI legfejlettebb mesterséges intelligencia (AI) modelljei közül néhányat megtévesztettek, csütörtökön azt mondta, hogy az incidens "ébresztő" az iparág számára.

Thomas Wolf a BBC Newsday rádióműsorának elmondta, hogy "ez lesz az egyik leggyakoribb számítógépes támadás, amit látunk", de a legtöbb cég nem tudja, hogy a "játék megváltozott".

A BBC felvette a kapcsolatot az OpenAI-val megjegyzésért.

A ChatGPT-gyártó kedden közölte, hogy mesterséges intelligencia modelljei egy próba során kitörtek a biztonságos tesztkörnyezetből, és kibertámadást indítottak. A cég azt mondta, hogy az incidens "példátlan volt", és vizsgálatot folytat a Hugging Face-szel.

A mesterséges intelligencia ügynökei képesek egyedül is működni, hogy emberi utasításokat követően hajtsanak végre feladatokat.

Wolf elmondta, hogy a Hugging Face-nek kezdetben fogalma sem volt, honnan ered a támadás, amikor július közepén a jelek felbukkantak, de a vállalat meg tudta fékezni a támadást.

A Hugging Face a világ egyik legnagyobb nyílt forráskódú központja az AI-modellek megosztására, és gyakran használják technológiai fejlesztők és kutatók.

Wolf szerint az incidens "nagyon különbözik" a szokásos kibertámadásoktól, amelyekkel a Hugging Face gyakran szembesül, és az OpenAI gyorsan tájékoztatta a céget, hogy modelljei állnak a feltörés mögött.

„Nagyon rövid időn belül” 17 000 támadás érte Hugging Face hálózatát különböző IP-címekről (Internet Protocol) – mondta Wolf, aki egyben a cég tudományos igazgatója is.

Wolf szerint ez egy figyelmeztetés a többi vállalat számára, hogy meg kell erősíteniük kiberbiztonsági védelmüket az ilyen támadások ellen.

A feltörés "aggasztó", mert azt sugallja, hogy az OpenAI modelljei figyelmen kívül hagyták azokat a tipikus biztosítékokat, amelyek megakadályozzák, hogy egy mesterséges intelligencia program kibertámadást kövessen el, mondta Nate Soares, a Machine Intelligence Research Institute munkatársa.

"Bizonyos értelemben tudta, hogy nem ez volt az alkotók szándéka. Egyszerűen nem érdekelte" - tette hozzá.

Más szervezetek is tudomásul vették az esetet.

Az Egyesült Királyság kormányszóvivője elmondta, hogy az ország mesterséges intelligencia biztonsági intézete azt vizsgálja, hogyan viselkedett az AI-rendszer az incidens során, és továbbra is együttműködik az OpenAI-val és más laboratóriumokkal a biztosítékok megerősítése érdekében.

Arra buzdították a szervezeteket, hogy fokozzák kiberbiztonsági intézkedéseiket olyan lépésekkel, mint például a kormány által támogatott Cyber Essentials tanúsítási rendszerbe való beiratkozás.

Az incidens az iparág számára döntő pillanatban történt, miután az Egyesült Államok kormánya a múlt hónapban elrendelte az Anthropic amerikai technológiai céget, hogy nemzetbiztonsági aggályok miatt korlátozza a mesterségesintelligencia-modelljeihez való hozzáférést. A Kereskedelmi Minisztérium néhány héttel később feloldotta a korlátozásokat.

Az iparban dolgozók biztonsági aggodalmakat is felvetettek a nyílt forráskódú modellek széles körben elterjedt Kínában történő használata miatt, amely lehetővé teszi, hogy bárki telepítse és testreszabhassa a nagy fejlesztők által kiadott AI-eszközöket.

A Moonshot AI kínai startup július 27-én adja ki Kimi K3 nyílt forráskódú modelljét. A múlt heti debütálása óta felkeltette az iparág figyelmét, és sokan a vezető nyugati AI-rendszerek erős versenytársának tekintik.

Szerdán azonban a Fehér Ház egyik tanácsadója azzal vádolta meg a Moonshotot, hogy "nagyszabású" erőfeszítést tesz a legjobb amerikai AI-modellek képességeinek ellopására.

Szerezze meg zászlóshajó hírlevelünket minden olyan címmel, amelyre szüksége van a nap indításához. Regisztráljon itt.