GazdaságSzerző: vg tegnap 3 percnyi olvasás
A drónirányítás mellett biológiai fegyverek fejlesztésére is használnák.
Az Anthropic szerint az elmúlt egy évben több országban is azonosítottak olyan felhasználókat, akik a vállalat fejlett modelljeit potenciálisan katonai – például harci drónok fejlesztése – vagy egyéb károkozó célokra próbálták alkalmazni. A cég ugyanakkor hangsúlyozta, hogy egyik vizsgált esetben sem használták a két legfejlettebb modelljét, a Fable-t és a Mythost. Az elmúlt hónapokban láthattuk, hány ország szenvedheti meg, ha például Irán drónokkal és rakétákkal az amerikaiaknak vág vissza közvetett módon – mi lenne, ha még a mesterséges intelligencia is segítené ebben?
„Ahogy a modellek egyre nagyobb teljesítményre képesek, a kockázataik is növekedni fognak, hacsak az MI-fejlesztők és a társadalom védelmezői nem tesznek lépéseket a biztonság javítására” – írta az Anthropic.
A jelentés szerint Oroszországhoz köthetőnek tartott, de a cég megállapítása szerint nem állami szereplők megpróbálták a Claude segítségével egy autonóm, úgynevezett FPV-kamikaze drónraj vezérléséhez szükséges szoftver fejlesztését.
A rendszert ukrán harci felvételeken akarták betanítani.
Jemen északi, húszik által ellenőrzött területein működő szereplők ezzel párhuzamosan többféle rakétához fejlesztettek szoftvert a Claude segítségével. Az Anthropic azonban kiemelte: nincs bizonyítéka arra, hogy a fejlesztésekből működőképes fegyverrendszer született volna.
A felhasználók több esetben megpróbálták kijátszani a Claude biztonsági korlátozásait, illetve elrejteni tényleges tartózkodási helyüket – derül ki a Bloomberg beszámolójából.
Az Anthropic öt olyan esetet is bemutatott, amelyekben a Claude használata hozzájárulhatott biológiai fegyverek fejlesztéséhez. Ezek között állami háttérrel rendelkező virológusok is szerepeltek, akik egy súlyos megbetegedést okozó, szúnyogok által terjesztett vírus, a chikungunya továbbfejlesztett változatán dolgozhattak.
Az ügyre egy olyan kérés hívta fel a figyelmet, amelyben a Claude segítségével egy katonai kutatóintézetben végzett kutatás finanszírozásához szükséges pályázatot akartak megírni.
Az országot az Anthropic nem nevezte meg, és ott a vállalat nem is nyújt szolgáltatást.
A cég ugyanakkor óvatosan fogalmazott: a biológiai ügyek mindegyikét „kétértelműnek” minősítette, vagyis a kutatásoknak lehetett ártalmatlan tudományos céljuk is.
Állami szereplőkhöz köthető kínai és iráni felhasználók a Claude-ot megfigyelési rendszerek fejlesztésére is megpróbálták felhasználni. Egy Kínához köthető műveletben a modellt ujgurok nyomon követésére, profilozására és beszervezésére használhatták a szíriai hadseregen belül.
Egy iráni egység pedig olyan megfigyelési szoftver fejlesztésén dolgozott, amelyet imaidők nyilvántartására szolgáló eszköznek álcáztak.
Az Anthropic egy Maliban működő tanácsadó ügyét is feltárta. Egy ottani szakember valószínűleg
A rendszer egy megadott telefonszámhoz bírósági végzés nélkül is képes volt hírszerzési dossziét készíteni. Az Anthropic letiltotta a tanácsadó fiókját, a Claude-ra épülő platform azonban addigra helyben telepítve működött, így a vállalatnak már nem volt teljes kontrollja felette.
A Claude fejlesztője várhatóan október közepén kezdi meg tőzsdei bevezetésének marketingjét, a prospektus pedig szeptember végén válhat nyilvánossá. Az Anthropic IPO-ja akár kétezermilliárd dolláros értékelést is hozhat, amivel a vállalat a világ legértékesebb technológiai cégei közé kerülhet – részleteket ebben a cikkünkben talál.
A jelentés szerint a mesterséges intelligenciát az állami hátterű hackercsoportoktól a kiberbűnözőkig egyre többen használják támadásaik felgyorsítására. Az Anthropic nem azonosított új, kritikus infrastruktúrákat fenyegető sérülékenységet, de több ismert csoport tevékenységét is vizsgálta.
A Microsoft által Midnight Blizzard néven azonosított, az orosz hírszerzéshez köthető csoport például a műveletek automatizálásával gyorsította munkáját. A Claude-ot rosszindulatú programok fejlesztésének automatizálására és katonai hírszerzési, illetve védelmi célpontok ellen irányuló adathalász e-mailek megfogalmazására is használták.
A ShinyHunters zsarolóbandával kapcsolatban pedig az Anthropic azt állapította meg, hogy a csoport MI segítségével keresett kiszivárgott hitelesítő adatokat, majd ezek felhasználásával próbált adatokat lopni az érintett szervezetektől.
Az Anthropic szerint ezek nem a Claude tipikus visszaélései, hanem az eddig azonosított „legjelentősebb és legújszerűbb” fenyegetések közé tartozó esetek.
A vállalat biztonsági álláspontja közben egyre komolyabb konfliktushoz vezet az amerikai védelmi tárcával is: a Pentagon felfüggesztette együttműködését az Anthropiccal, miután a cég nem járult hozzá ahhoz, hogy a Claude-ot tömeges megfigyelésre vagy autonóm fegyverrendszerek működtetésére használják.
Napi