A vállalat hangsúlyozta, hogy a jelentésben bemutatott esetek nem a szokásos visszaélések körébe tartoznak, hanem a legjelentősebb és legújszerűbb fenyegetéseket képviselik. Az Anthropic öt esettanulmányt részletezett, amelyekben kutatók a Claude modellt használták biológiai kutatásokhoz – megkerülve a biztonsági korlátokat és leplezve munkájuk valódi célját.

A cég a biológiai visszaélést a fejlett mesterséges intelligencia egyik legsúlyosabb kockázatának nevezte,

amely megfelelő védelem nélkül katasztrofális következményekkel járhat.

Az egyik különösen aggasztó esetben egy kutató a Claude segítségével dolgozott egy államilag finanszírozott pályázaton a chikungunya-vírus tanulmányozására. Az ilyen kutatás vakcinafejlesztésre és biológiai fegyverek létrehozására egyaránt felhasználható – az Anthropic szerint pedig az érintett projekt egy katonai kutatóintézethez kötődött.

A jelentés a kibertámadásoktól a megfigyelési műveleteken át a propagandakampányokig számos visszaélési típust dokumentált. Ezek között szerepelt

• orosz kémkedés és kibertámadás-sorozat,
• egy kínai hátterű program, amely a Szíriában élő ujgurokat célozta, valamint
• propagandaműveletek Oroszországban, Malajziában, Iránban és Bangladesben.
• Emellett jemeni, kínai és orosz felhasználók hagyományos fegyverek – lőfegyverek, rakéták, felfegyverzett drónok és bombák – szoftverének fejlesztésére is igénybe vették a Claude-ot.

A jelentés alig két nappal azután jelent meg, hogy Jacob Coxon, az Anthropic korábbi munkatársa felmondott, és döntését nyilvánosan azzal indokolta, hogy a cég nem jár el felelősen a technológia fejlesztésében. Coxon szerint az Anthropic és riválisa, az OpenAI "egyenesen az önfejlesztő szuperintelligencia felé rohan", ami 2030-ra az emberiség kihalásához vezethet. Az Anthropic több jelenlegi alkalmazottja is nyilvánosan egyetértését fejezte ki a kijelentéseivel.

Sok mesterségesintelligencia-szakértő szerint a jelentésben részletezett, valós fenyegetések – a kibertámadások, a fegyverkezés és a megfigyelés – a következő években sokkal komolyabb veszélyt jelentenek, mint egy mindenható mesterséges intelligencia okozta apokalipszis. Heidy Khlaaf, az AI Now Institute vezető kutatója szerint az AI-laborok által létrehozott, kibertámadásokra és fegyvergyártásra alkalmas technológia önmagában is rendkívül halálos lehet. Az Anthropic a jelentésben hangsúlyozta, hogy a teljes iparágnak együtt kell működnie a kormányokkal a visszaélések elleni védekezésben.

A címlapkép illusztráció. Címlapkép forrása: Getty Images

Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.