Az OpenAI kedden azt mondta, hogy lelassította a mesterséges intelligencia fejlesztésének ütemét, miközben átdolgozta a kutatási és képzési rendszereit.

A cég kutatói múlt hónapban nem tudtak róla, amikor egy tesztelés alatt álló AI-ügynök feltört egy másik mesterségesintelligencia-céget, a Hugging Face-t.

A ChatGPT mögött álló AI kutatólaboratórium közölte, hogy új intézkedései közé tartozik a modelltesztelés két hétre történő szüneteltetése, és több befektetés más mesterséges intelligencia-rendszerek hozzáadására, hogy figyelemmel kísérjék az AI-ügynökök tevékenységét a tesztelés során. A cég közleménye szerint a vállalat legnagyobb tervezett tréningjei némelyike ​​függőben marad.

A cég nem válaszolt azokra a kérdésekre, hogy mikor kezdődött a lassulás, vagy mikor tervezi, hogy visszatér normál üteméhez. A Sources News technológiai blognak adott interjújában azonban Mia Glaese, az OpenAI biztonságért felelős vezetője a következőket mondta: „Nagyon messze vagyunk attól, hogy minden visszaálljon a normális kerékvágásba.”

A vállalat azon dolgozik, hogy az AI-modell reagáljon az emberi felügyeletre, és a szándéknak megfelelően viselkedjen, ezt a folyamatot összehangolásnak nevezik – írta Sam Altman, az OpenAI vezérigazgatója a lassabb fejlődési ütemet bejelentő bejegyzésében.

"Most erősebb bizonyítékra van szükségünk az összehangolt viselkedésről az egész képzés során, a már folyamatban lévő kutatásokra és értékelésekre építve" - ​​írta. „Az egyre jobban működő rendszerek összehangolása olyan kihívás, amellyel az egész területnek meg kell felelnie.”

Az OpenAI heves versenyt vív a konkurens Anthropiccal, mind a legfejlettebb mesterségesintelligencia-modellek kifejlesztéséért, mind az amerikai tőzsdén való megjelenésért. Mindkét cég kiemelte, milyen ütemben fejlődnek modelljeik képességei, hangsúlyozva a sebességet és a veszélyt egyaránt.

Az OpenAI a maga részéről azt mondta, hogy a készülő mesterségesintelligencia-modell, az Astra képességei közeledhetnek az általa „kritikus kiberbiztonsági küszöbhöz”, ami arra késztette a döntést, hogy lassítsák a fejlesztést. „Az egyik közelgő modellünkről, az Astráról készült legújabb belső értékeléseink az elmúlt napokban jelentős előrelépést jeleznek az ügynökkódolás és a kiberbiztonság terén” – áll a vállalat múlt heti közleményében.

A mesterségesintelligencia-modellek fejlesztésének lassításáról szóló döntés egy héttel azután született, hogy Bernie Sanders, vermonti szenátor azt követelte az ország vezető mesterségesintelligencia-cégeitől, hogy szüneteltessenek a mesterségesintelligencia-modellek fejlesztésében, mert a vállalatok elvesztették az irányítást a technológia felett – írta a cégek vezérigazgatóinak címzett levelében.

"Mr. Altman, Mr. Amodei és Mr. Zuckerberg: Az emberiség érdekében álljon ki szavai mellett. Szüntesse meg az AI fejlesztését" - áll Sanders levelében.

Addigra az OpenAI bejelentette, hogy átmenetileg lelassítja legújabb modellje, az Astra fejlesztését, válaszul a Hugging Face technológiai cég modelljének feltörésére.

A vállalat azt állítja, hogy most „a legszigorúbb biztonsági biztosítékokat követeli meg az Astrát érintő munkaterhelések esetén”.

„Bár egyes Astra képzések és értékelések megfelelnek ezeknek a követelményeknek, jelentős számú munkaterhelés szünetel, amíg teljesen át nem költöztetik, és továbbfejlesztik, hogy megfeleljenek az új biztonsági sávnak” – áll a közleményben.