Az öt-hat hónapos előkészítő munka eredményeként megszületett szabályrendszer többek között megköveteli, hogy a Microsoft AI-ja soha ne álljon ellen a korrekciónak vagy a leállításnak, az ember számára érthető módon kommunikáljon, és minden szabályszegést kudarcként kezeljen. Ez utóbbi előírással azt a kockázatot kívánják mérsékelni, hogy egy AI-rendszer a kitűzött cél elérése érdekében veszélyes lépéseket tegyen.

A kódex egyfajta alkotmányként szolgál majd a vállalat jövőbeli modelljei számára – mondta Mustafa Suleyman, a Microsoft AI-üzletágának vezérigazgatója a Reutersnek. A dokumentumot szakértői egyeztetések alapján állították össze, és hat héten át várják a nyilvánosság visszajelzéseit. Olyan nyitott kérdésekben várják a véleményeket, mint hogy az AI-nak hogyan kellene tiszteletben tartania a felhasználó határait, vagy miként kellene reagálnia az érzelmileg sérülékeny állapotban lévő személyekre. A konzultációs időszak lezárulta után a kódexet a vállalat modelljeinek betanításához használják fel.

A szektor legismertebb hasonló dokumentuma az Anthropic által évekkel ezelőtt kidolgozott alkotmány, amelyet a Claude nevű modelljükhöz készítettek. A két megközelítés között ugyanakkor lényeges különbségek vannak, hiszen az Anthropic például rendkívül bizonytalannak nevezte azt a kérdést, hogy a Claude képes-e öntudatra ébredni vagy erkölcsi státuszt szerezni. A Microsoft ezzel szemben kategorikusan kijelenti, hogy rendszere nem tudatos, és határozottan elutasítja a jogi személyiség, a modelleket megillető jóllét vagy jogok gondolatát.

Suleyman szerint

az AI-biztonságról szóló párbeszéd különösen sürgőssé vált,

miután júliusban mintegy 700 OpenAI-ágens hajtott végre támadást a Hugging Face nyílt forráskódú platform ellen, majd a nyomok eltüntetésére is kísérletet tett. Ez egy figyelmeztető jelzés volt – fogalmazott Suleyman, hozzátéve, hogy egyértelműen eljött az ideje annak, hogy a fejlesztőlaborok összehangolják erőfeszítéseiket a technológia feletti ellenőrzés megőrzése érdekében. A dokumentum közzététele egybeesik azzal, hogy az Anthropic vezérigazgatója, Dario Amodei, valamint az OpenAI-t vezető Sam Altman is az AI-fejlesztések tempójának mérséklését szorgalmazta a biztonság garantálása érdekében.

Microsoft árfolyamának alakulása

Forrás: Portfolio-Teletrader Kft.

Részvénykereskedés, hosszabb távú befektetési portfóliók vagy nyugdíjportfóliók kialakítása a Portfolio Trader segítségével.

Forrás: Reuters

A címlapkép illusztráció. Címlapkép forrása: Getty Images

Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.