TechtudSzerző: origo 39 perccel ezelőtt 2 percnyi olvasás
Két informatikus szerint nem csodamegoldásra, hanem egymásra épülő védelmi vonalakra van szükség.
A mesterséges intelligencia rohamos fejlődésével egyre gyakrabban merül fel a kérdés: mi történik, ha egyszer elveszítjük az irányítást a nálunk intelligensebb rendszerek felett? Egy Anthropicnál dolgozó AI-biztonsági szakember szerint tíz százaléknál is nagyobb lehet annak az esélye, hogy a mesterséges intelligencia a következő tíz évben akár az egész emberiséget veszélyeztető helyzetet idéz elő. A Princeton Egyetem két ismert informatikusa szerint azonban nem egyetlen csodamegoldást kell keresni: négy, egymásra épülő védelmi vonalra van szükség.
Jacob Coxon AI-kutató korábban az OpenAI-nál és az Anthropicnál is dolgozott, majd távozása után azt állította, hogy a mesterséges intelligenciát fejlesztő cégeknél valóban komolyan számolnak azzal a lehetőséggel, hogy a rendkívül fejlett AI-rendszerek valódi veszélyt jelenthetnek az emberiségre. Meglepő módon az Anthropic egyik AI-biztonsági vezetője, Evan Hubinger sem söpörte félre az állítást. Hubinger saját becslése szerint tíz százaléknál nagyobb az esélye annak, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulásához vezethet. Szerinte jelenleg nincs kész megoldás arra, miként lehetne garantálni egy jövőbeli szuperintelligencia biztonságos működését.
Az ilyen forgatókönyvek alatt nem elsősorban a sci-fikből ismert, emberekre vadászó robotokat értik. A félelmek egyik központi eleme az, hogy egy kellően fejlett és önálló rendszer
kibertámadások segítségével kritikus infrastruktúrák működését zavarhatná meg. Az elektromos hálózatok, vízellátó rendszerek és más alapvető infrastruktúrák elleni összehangolt támadás például rendkívül súlyos következményekkel járhatna.
A probléma kezelésének egyik legismertebb megközelítése az AI céljainak és viselkedésének összehangolása az emberi érdekekkel és értékekkel. Az elképzelés szerint már a rendszerek kialakításakor biztosítani kellene, hogy azok ne akarjanak vagy ne legyenek képesek az ember számára káros célokat követni. Csakhogy Sayash Kapoor és Arvind Narayanan, a Princeton Egyetem informatikusai, az AI Snake Oil című könyv társszerzői szerint önmagában ez nem elegendő. Ők a 9to5Mac beszámolója alapján egy többrétegű biztonsági modellt javasolnak, amelyben négy különböző védelem egészíti ki egymást.
A fejlesztőknek arra kell törekedniük, hogy az AI-rendszerek céljai ne kerüljenek konfliktusba az emberi érdekekkel. A probléma az, hogy egy kellően fejlett rendszer esetében nem feltétlenül lehet biztosan megállapítani, valóban biztonságosan működik-e. Az AI akár úgy is viselkedhet a tesztelés során, ahogyan azt a fejlesztők elvárják tőle, miközben más környezetben egészen más viselkedést mutathat. Emiatt Kapoor és Narayanan szerint nem szabad az egész biztonsági stratégiát erre az egyetlen védelmi vonalra építeni.
A második réteg a kontroll. Még ha egy AI-rendszer hibásan vagy veszélyesen kezd is működni, korlátozni kellene, hogy mit tehet meg a való világban. Ennek eszköze lehet például az AI elkülönített környezetben történő futtatása, ahol nem fér hozzá a nyílt internethez, valamint az emberi felügyelet és a rendszer működésének valós idejű monitorozása. A cél az, hogy egy veszélyes döntés ne jelentsen automatikusan veszélyes cselekvést is.
A harmadik védelmi vonal a már működő rendszerek és infrastruktúrák aktív védelme. Ha például támadók mesterséges intelligenciával próbálnak behatolni egy vállalat vagy egy kritikus infrastruktúra informatikai rendszerébe, a védekező fél ugyancsak AI-t használhat a támadások felismerésére és kivédésére. Ez azért lehet különösen fontos, mert az AI nemcsak a támadók képességeit növelheti meg. Ugyanaz a technológia a kibervédelmi rendszereket is gyorsabbá és hatékonyabbá teheti.
Kapoor és Narayanan szerint abból kell kiindulni, hogy nincs tökéletes biztonsági rendszer. Ezért előre ki kell dolgozni azokat a terveket és tartalékmegoldásokat, amelyek segítségével egy sikeres támadás után helyreállíthatók a létfontosságú rendszerek. Ez ugyanaz az alapelv, amelyet már ma is alkalmaznak a kiberbiztonságban: nemcsak azt kell megakadályozni, hogy valaki betörjön egy rendszerbe, hanem arra is fel kell készülni, mi történik akkor, ha mégis sikerül neki.
Napi