Bernie Sanders szenátor felszólította a Meta, az OpenAI és az Anthropic vezetőit, hogy állítsák le a mesterséges intelligencia fejlesztését, figyelmeztetve, hogy az Egyesült Államok Szenátusa szabályozást fog végrehajtani, ha a vállalatok továbbra is a jelenlegi ütemben folytatják az AI bevezetését.

Az ország három vezető mesterségesintelligencia-vállalatának vezérigazgatóinak címzett új levelében Sanders elmondta, hogy ezen AI-modellek képességei elérték a kritikus kockázati küszöböt, és a vállalatok elveszítik az irányítást a technológia felett.

"Mr. Altman, Mr. Amodei és Mr. Zuckerberg: Az emberiség érdekében álljon ki szavai mellett. Szüntesse meg a mesterséges intelligencia fejlesztését" - olvasható Sanders levelében, amelyről először az Axios számolt be. "Még nem késő elkerülni a katasztrófát. Ne építsenek olyan gépeket, amelyeket az emberek nem tudnak irányítani."

A vermonti szenátor a közelmúltban megjelent jelentésekre hivatkozott, amelyek szerint mesterséges intelligencia új vírusok kifejlesztésére szolgál, figyelmeztetve, hogy ha ez a technológia „rossz kezekbe” kerül, „új biofegyverekhez vezethet, amelyek több tízmillió ember halálát okozzák”.

Mindhárom cég azt is nyilvánosságra hozta, hogy modelljeik feltörték más cégek szervereit, ami annak a jele, hogy a cégek elvesztették az irányítást a modelljeik felett – írta Sanders.

"Yoshua Bengio, a világ legtöbbet idézett élő tudósa azt mondta, hogy ezeknek az incidenseknek "ébresztőként kell szolgálniuk", egyetértek" - írta Sanders a levélben.

A szakértők azonban felhívták a figyelmet arra, hogy az OpenAI azon állításait, miszerint mesterséges intelligencia modellje szélhámosnak bizonyult, túlzásba eshet egy médiakampány részeként, amelynek célja, hogy technológiájuk rendkívül veszélyesnek és ezáltal rendkívül hatékonynak tűnjön.

„És mégis, abban a pillanatban, amikor az emberi irányítás elvesztését és potenciálisan veszélyes vírusok létrejöttét látjuk, a vállalatai még mindig előre száguldanak – dollártízmilliárdokat fektetnek be egy olyan technológiába, amelyet senki sem tud teljesen megérteni, előre jelezni vagy ellenőrizni” – folytatta.

Sanders levele azután érkezett, hogy a technológiai ipar több mint 1300 tudósa és fejlesztője újabb levelet tett közzé, amelyben arra figyelmeztet, hogy a mesterséges intelligencia fejlesztése olyan ütemben halad, amely megnehezíti a technológia kockázatainak kezelését és azonosítását. A vállalatok és országok intenzív versenynyomással néznek szembe a gyors lépésekre. A nyílt levélben a mérnökök és más munkatársak felszólították az Egyesült Államok kormányát, hogy segítsen koordinálni a határmodellek fejlesztésének lassítására irányuló nemzetközi erőfeszítéseket, hogy a szabályozó hatóságok biztonsági védőkorlátokat hozhassanak a technológia köré.

A cégek korábban kötelezettséget vállaltak arra, hogy bizonyos kockázati küszöbök elérése esetén szüneteltetik a mesterséges intelligencia fejlesztését – de a cégek nem részletezték, hogy ezek a korlátok pontosan mit jelentenek.

Az Anthropic azt mondta, hogy „kötelezettséget vállal arra, hogy szünetelteti a méretezést és/vagy késlelteti az új modellek bevezetését, ha a skálázási képességünk meghaladja azt a képességünket, hogy megfeleljünk a … biztonsági eljárásoknak”.

Az OpenAI, amely egy másik szervezet autonóm feltörése után lelassítja legújabb kiberbiztonsági modellje, az Astra fejlesztését, azt mondta, hogy „leállítja a további fejlesztést”, ha a mesterséges intelligencia képességei elérnek egy „kritikus” küszöböt a védőkorlátok bevezetéséig.

Sanders szerint a közelmúltbeli hackelési incidensek a küszöb túllépésének jelei voltak.

„Eljött ez a pillanat” – áll a levelében. „Az AI-képességek elértek egy kritikus küszöböt. Oka van annak, amiért a CIA vezetője azt mondja, hogy az AI-modellek „hasonlatosak a digitális nukleáris fegyverekkel”, és „szinte olyan, mint egy világvége eszköz”.

A progresszív szenátor korábban moratóriumot kért az adatközpontok építésére az Egyesült Államokban. Alexandria Ocasio-Cortez kongresszusi képviselővel együtt törvényjavaslatot nyújtottak be az új adatközpontok építésének felfüggesztésére az Egyesült Államokban márciusban. Az indoklásuk hasonló volt Sanders esetéhez, amikor a mesterséges intelligencia modellek fejlesztését felfüggesztette: a törvényhozók szerint az ideiglenes tilalom időt adna az Egyesült Államok kormányának arra, hogy erős szövetségi biztosítékokat hozzon létre a mesterséges intelligencia számára.