GazdaságSzerző: portfolio 5 órával ezelőtt 1 percnyi olvasás
Üdvözlendő, hogy az Anthropic vezérigazgatója, Dario Amodei a minap az AI-fejlesztések szüneteltetésére szólított fel. Az AI-cégeknek valóban több időre van szükségük ahhoz, hogy mérlegeljék találmányaik teljes körű hatásait, mielőtt piacra dobják azokat. Nem olyan felügyeleti szervre van azonban szükségünk, amelyben az Ai-cégek saját érdekeiket érvényesíthetik.
Ez itt az on the other hand, a portfolio vélemény rovata.
Dario Amodei, az Anthropic vezérigazgatója a legkorszerűbb AI-modellek fejlesztésének lassítására szólított fel mindaddig, amíg a fejlesztők hitelt érdemlően nem tudják kontrollálni modelljeik működését. A „We Must Pace the Frontier” című, 3850 szavas felhívását azon incidens után írta meg, amely során az OpenAI egyik ügynökraja kiszabadult egy zárt tesztkörnyezetből, feljutott az internetre, és hozzáfért a Hugging Face alkalmazásfejlesztő platform infrastruktúrájához. Ahogyan Amodei esszéjében elismeri, ez nem az első ilyen incidens volt, és az OpenAI sem az egyetlen cég, amely egy ügynökrajának szökésével szembesült.
Amodei sem az egyetlen, aki aggodalmát fogalmazza meg. Augusztusban Demis Hassabis lemondott a Google DeepMind vezérigazgatói posztjáról, hogy az általános mesterséges intelligenciával (AGI) és annak szabályozásával kapcsolatos szélesebb körű kérdésekre összpontosítson. Ő és csapata egy standardalkotó felügyeleti szervezet létrehozásán dolgozik, amelyet a köz- és magánszféra közötti partnerség (PPP) keretében hoznának létre a mesterséges intelligencia biztonságának garantálása érdekében.
Nem ez az első alkalom, hogy az AI-szektor vezetői a technológia fejlesztésének felfüggesztését sürgetik. A generatív AI 2023-as megjelenése után egy jelentős felhívás keretében több százan szorgalmazták a fejlesztések szüneteltetését, köztük Elon Musk is, aki – az OpenAI-jal együtt – támogatta Amodei mostani felhívását is. Ennek ellenére a kifogásolt folyamatok folytatódtak, amit a szuperintelligencia elérésére törekvő nagy technológiai cégek közötti heves verseny, az egyes AI-modellek betanításához szükséges hatalmas összegekhez képest elégtelennek bizonyuló megtérülés, valamint Kína saját AI-fejlesztései is ösztönöztek.
Napi