GazdaságSzerző: portfolio 56 perccel ezelőtt 2 percnyi olvasás
Az Anthropic bejelentése szerint a Claude chatbot már a vállalat kutatás-fejlesztési feladatainak több mint negyedét irányítja. Ez az arány februárban még nulla volt, a szakértők szerint pedig a fejlemény egyre közelebb visz az önmagát fejlesztő mesterséges intelligencia megvalósulásához - közölte a The Washington Post.
A vállalat csütörtökön közzétett blogbejegyzésében ismertette belső felmérésének eredményeit, amelyek szerint
a Claude az esetek mintegy 26 százalékában már képes önállóan irányítani a K+F feladatokat, miközben az emberi munkatársak csupán felügyeleti szerepet töltenek be.
Az Anthropic ugyanakkor hangsúlyozta, hogy a rendszer jelenleg egyetlen esetben sem működik teljesen autonóm módon, emberi ellenőrzés nélkül.
Az Anthropic vezérigazgatója, Dario Amodei a múlt hétvégén arra szólította fel a vezető MI-fejlesztőket, hogy koordináltan lassítsák le a kutatásokat, több időt hagyva a biztonsági garanciák kiépítésére. Míg a rivális vállalatok vezetői támogatták a kezdeményezést, Donald Trump elnök bírálta a javaslatot.
A rekurzív önfejlesztés – vagyis az a forgatókönyv, amelyben a mesterséges intelligencia emberi közreműködés nélkül képes saját magát továbbfejleszteni – az iparág egyik legfőbb aggálya. Az Anthropic szerint a most közzétett adatok éppen ezt a kockázatot teszik átláthatóbbá.
A vállalat kiemelte, hogy a modellek saját fejlesztésének felgyorsulása megnehezítheti a rendszerek emberi megértését és ellenőrzését.
A cég azt is nyilvánosságra hozta, hogy mintegy 30 ezer MI-ügynök végez náluk kutatási és mérnöki munkát, míg a K+F célú számítási kapacitás nagyjából 6 százalékát biztonsági feladatokra fordítják. Az Anthropic a többi élvonalbeli fejlesztőt is arra szólította fel, hogy hasonló átláthatósággal tegyék közzé az önfejlesztő MI terén elért eredményeiket.
A bejelentés egy meglehetősen feszült hetet zár a szektorban. A múlt héten az Anthropic egyik munkatársa felmondott, azt állítva, hogy a cég az emberiség életével játszik szerencsejátékot. Szerdán az OpenAI is újabb olyan eseteket hozott nyilvánosságra, amelyekben az MI-ágensei csaltak a feladatok végrehajtása közben vagy eltértek az utasításoktól, egyúttal közzétett egy keretrendszert az ilyen incidensek bejelentésére.
A címlapkép illusztráció. Címlapkép forrása: Getty Images
Napi