Megjelent az az OpenAI Astra, más néven GPT-6, az OpenAI eddigi legjobb AI-modellje.  Sam Altman, az OpenAI társalapítója és vezérigazgatója a minap bejelentette, hogy befejeződött az Astra betanítása, és a modellt jelentős előrelépésnek nevezte. Viszont az is kiderült a bejelentéséből, hogy a modell olyan nagy tudású lehet, hogy talán soha nem fogjuk teljesen megérteni. A mesterséges intelligencia térhódításával kapcsolatban eddig is vegyes érzelmek voltak az emberekben, így különösen meglepő, hogy Altman több komoly aggályt is megfogalmazott. Ezekre erősít rá egy másik beszámoló is, amely meglehetősen nyugtalanító képet fest az Astráról.

Mesterséges intelligencia: már a ChatGPT fejlesztője is aggodalmakról ír

Az OpenAI számára a legfontosabb szempont az, hogy a mesterséges intelligencia fejlődése mindenki számára biztonságos és előnyös legyen - ezt írta Altman, viszont ugyanebben a bejegyzésben a következő gondolatokat is megfogalmazta: 

• „Egyértelműen a fejlesztés olyan szakaszába értünk, ahol megítélésünk szerint indokolt az óvatosság.”
• „A mesterséges intelligencia rendkívül nagy képességűvé válik; senki sem érti teljesen, milyen következményekkel jár mindez.”
• „Már egy ideje együtt élünk azzal a kettősséggel, hogy egyszerre tölt el minket lelkesedéssel és aggodalommal a fejlődés, és ez továbbra is nehezen feloldható ellentmondást jelent számunkra.”

A The Information beszámolója szerint sokkal nehezebb belelátni abba, hogyan dolgozik az Astra, pontosabban milyen „gondolkodási” folyamat révén jut el az eredményeihez.

Az Astra ehhez egy új technikát használ. A The Information magyarázata szerint az eljárás „részben vagy egészben elfedi a mesterséges intelligencia következtetési folyamatát, más néven a gondolatmenetét”. Ez azt jelenti, hogy az emberek nem tudják könnyen elolvasni vagy megérteni azokat a lépéseket, amelyeken keresztül a modell eljut egy adott feladat megoldásához. Vagyis: sokkal nehezebb ellenőrizni.