Dario Amodei, az Anthropic vezérigazgatója szerint a mesterségesintelligencia-iparágnak lassítania kell az új modellek fejlesztésének ütemét, mivel egyre nagyobb aggodalomra adnak okot az embereket fenyegető „súlyos” kockázatok.

 – írta szombati blogbejegyzésében. „A fejlődés továbbra is gyorsnak fog tűnni, és bölcsen kell felhasználnunk az így nyert időt.”

Az Anthropic vezére súlyos MI-kockázatokra figyelmeztet

Két fő okot említett: az MI képességét arra, hogy saját magát fejlessze, valamint az OpenAI-t és a Hugging Face-t érintő közelmúltbeli incidenst, amelyben MI-ügynökök egész rajának együttműködésével törtek fel egy harmadik félhez tartozó weboldalt. 

– tette hozzá.

A súlyos MI-kockázatokkal kapcsolatos aggodalom egyre inkább bekerül a közbeszéd fősodrába. Ehhez részben hozzájárult, hogy ezen a héten nagy visszhangot keltve távozott az Anthropic egyik kutatója, aki egzisztenciális kockázatokra hivatkozva úgy vélte, vállalata felelőtlenül jár el. 

Az MI-boom során a vezető mesterségesintelligencia-laborok irányítói rendszeresen figyelmeztettek az esetleges egzisztenciális kockázatokra. Ezeket az állításokat időnként azzal söpörték félre, hogy valójában a cégek termékeik képességeit akarják reklámozni, miközben saját magukat igyekeznek a technológia legmegbízhatóbb gazdáiként pozicionálni. Amodei korábban maga is azt mondta, 

• Az Anthropic régóta úgy pozicionálja magát, mint a mesterséges intelligencia felelősségteljesebb és biztonságosabb fejlesztésére összpontosító cég, hogy mérsékelje a technológia lehetséges veszélyeit, és maximalizálja annak társadalmi előnyeit. 
• A vállalat az év elején komoly erőfeszítéseket tett Mythos modellje korlátozására, miután arra jutott, hogy az egyedi kiberbiztonsági fenyegetéseket jelent. 
• Az Anthropic korábban azt is közölte, hogy a világnak szüksége van egy olyan rendszerre, amelynek segítségével közösen lehet eldönteni, mikor kell lassítani a technológia fejlesztését.

Öldöklő a verseny

Mindeközben az Anthropic továbbra is kiélezett versenyben áll régi riválisával, az OpenAI-jal: mindkét cég egyre fejlettebb modelleket igyekszik létrehozni, amelyek egyre összetettebb és értékesebb feladatokat képesek automatizálni az üzleti ügyfelek számára. Mindkét vállalat bizalmasan benyújtotta a tőzsdei bevezetéshez szükséges dokumentumokat, az Anthropic pedig várhatóan akár már idén megjelenhet a Wall Streeten.

Nem sokkal a Hugging Face biztonsági incidensének nyilvánosságra kerülése után az Anthropic közölte, hogy modelljei kiberbiztonsági tesztek során három szervezet rendszerébe is behatoltak. Ez tovább erősítette azokat az aggodalmakat, hogy az MI-laborok képesek-e megakadályozni technológiájuk elszabadulását. A hét elején az Anthropic azt is közölte, hogy egy negyedik behatolást is felfedezett.

Bár az autonóm MI-ügynökök által végrehajtott behatolások – köztük a Hugging Face esete – eddig nem okoztak jelentős károkat, Amodei szerint attól tart, hogy 

Amodei azt írta, hogy az Anthropic vállalja: teljes körű hozzáférést biztosít külső értékelők számára, hogy ellenőrizhessék a biztonsági gyakorlatokat és jelentést készíthessenek az incidensekről. Elmondása szerint az Anthropic hamarosan ezeket az ellenőröket fizikailag is beengedi az irodáiba: íróasztalt, belépőkártyát és vállalati laptopot kapnak, valamint „nagyrészt olyan jogosultságokat, amelyek megfelelnek a belső kockázatértékelési csapatok hozzáférési szintjének”.

"Továbbra is hiszem, hogy az MI óriási mértékben javíthatja az emberi élet minőségét. Semmit sem csökkent bennem a vágy, hogy ezeket az előnyöket elérjük” – írta. „De ezeket az előnyöket csak akkor érhetjük el, ha megfelelő módon építjük fel a technológiát, és – amennyiben jól használjuk fel a nyert időt – megéri a szokásosnál jóval megfontoltabban eljárni annak érdekében, hogy jól csináljuk.”

Nem sokkal Amodei bejegyzése után az xAI Corp.-ot vezető Elon Musk azt írta: „Dariónak igaza van.”

Növekvő aggodalom

A hét elején az OpenAI vezérigazgatója, Sam Altman azt mondta, hogy vállalata fontolóra veszi az élvonalbeli MI fejlesztésének lassítását, lehetőleg az iparág többi szereplőjével összehangoltan.

A vállalat vezető kutatója, Jakub Pachocki szintén figyelmeztetést tett közzé az MI veszélyeiről, és azt írta, hogy szerinte a cégeknek „együtt kell működniük annak érdekében, hogy szükség esetén lassítsák a jövőbeli fejlesztéseket”.

Kedden Jacob Coxon MI-kutató felmondott, és mindkét korábbi munkaadóját – az Anthropicot és az OpenAI-t – azzal vádolta, hogy „az életünkkel szerencsejátékoznak”, amikor versenyt futnak a szuperintelligens MI megalkotásáért. Coxon egy közösségimédia-bejegyzésben azt írta, hogy az MI-t fejlesztő emberek úgy gondolják, a technológia akár 

Evan Hubinger, az Anthropic jelenlegi munkatársa erre reagálva azt mondta, hogy ő és a vállalat más dolgozói valóban aggódnak egy ilyen forgatókönyv miatt. „Személy szerint úgy gondolom, hogy ennek valószínűsége a következő évtizedben meghaladja a 10 százalékot” – írta az X-en.

Még júliusban a vezető MI-vállalatok több mint ezer munkatársa írt alá egy petíciót, amelyben arra szólították fel az amerikai kormányt, hogy támogasson egy olyan mechanizmust, amely segítene „tudatosan szabályozni” az MI-fejlesztés ütemét, megakadályozva, hogy a technológia túl gyorsan haladjon előre. Az MI-modellek egyre ügyesebben hajtanak végre önállóan kibertámadásokat. Az Anthropic, az OpenAI és a Meta Platforms  az elmúlt hónapokban egyaránt beszámolt arról, hogy 

Kínával együtttműködni?

Amodei azt írta, hogy egy összehangolt stratégia lehetővé tenné az amerikai MI-iparág vezető szereplőinek, hogy elvégezzék a szükséges biztonsági munkát anélkül, hogy emiatt versenyhátrányba kerülnének. Ehhez szerinte az Egyesült Államokban bizonyos trösztellenes szabályok alóli mentességekre lenne szükség, hogy a vállalatok meghatározott területeken összehangolhassák tevékenységüket, valamint Kínával is együtt kellene működni. 

– írta.