Az Indamedia szervezésében idén is elindult Közép-Európa legnagyobb mesterségesintelligencia-konferenciája a Városligetben. A Magyar Zene Házában tartott nyitó kerekasztal-beszélgetést rögtön a legforróbb témára húzták fel: kié a felelősség, ha az MI dönt?

Az Economx beszámolója szerint a panelben Vajda Viktor moderátor mellett Darázs Lénárd, az ELTE rektora, Charaf Hassan, a BME rektora, valamint Petrányi Dóra, a CMS nemzetközi ügyvédi iroda partnere foglalt helyet − kiegészülve egy negyedik, nem mindennapi szereplővel, egy Vasember-jelmezbe öltöztetett humanoid robottal.

A beszélgetés felütéseként a moderátor felolvasott egy idézetet Juval Noah Harari izraeli történésztől:

Ha az MI-verseny a jelenlegi, egyre gyorsuló ütemben folytatódik, akkor igen, ez lesz az eredmény: tíz év múlva a mesterséges intelligenciák átveszik az irányítást. De ez nem elkerülhetetlen. 2026-ban még mi irányítunk, és rajtunk múlik, mit teszünk most.

A feladványt a robot sikeresen azonosította, és politikailag korrekt választ adva rámutatott, hogy a döntések kötelezettsége továbbra is az emberi szereplők vállát terheli.

A vizsgakérdés, amin elbukott a gép

A csattanó akkor érkezett, amikor a robotnak azt a feladatot adták, hogy nevezzen meg három olyan konkrét döntést, amelyet semmiképpen sem szabadna mesterséges intelligenciára bízni. A gép konkrétumok felsorolása helyett általánosságokba bocsátkozott az emberi kapcsolatokról és a digitális asszisztensek korlátairól, kijelentve:

Az asszisztens lehetséges, de a döntéshozó mindig ember maradjon.

Arra a kérdésre, hogy hányast kapna a robot ezért a válaszért egy egyetemi vizsgán, Darázs Lénárd egyértelműen jelezte, hogy a gép elbukott, mert teljesen félreértette a kérdés lényegét.

Nem az volt a kérdés, hogy mentális döntéseket hozhat-e a robot, hanem hogy ő a probléma

− mutatott rá az ELTE rektora.

Darázs Lénárd kifejtette, hogy a valódi veszélyt a technológia kontrollálatlan és felelőtlen terjedése jelenti a fiatalabb generációk körében. A gyerekek és egyetemisták elszigetelődnek, elmaradnak a személyes viták, a konfliktuskezelési készségek megszerzése, és sokan már lelki társként tekintenek a chatbotokra. A rektor szerint az egyetemek feladata a tiltás helyett a helyes terelés és a humanizmus közvetítése.

Fekete dobozok és autonóm MI-ügynökök

Charaf Hassan, a BME rektora a technológiai oldalról megközelítve a témát rámutatott: a felelősség kérdése már a 90-es évek szabályalapú szakértői rendszereinél is felmerült, de a tét mára nagyságrendekkel megnőtt. Jelenleg a szakemberek a „fekete doboz” működését, vagyis a döntések mechanisztikus feltárhatóságát kutatják.

A Műegyetem rektora rávilágított, hogy a háttérben már egymással egyeztető, eltérő jogosultságú MI-ügynökök futnak − felidézve a Hugging Face platformját érintő esetet is, ahol autonóm módon működő OpenAI-ügynökök koordinálták a lépéseiket. Mivel a modellek által generált szoftverek teljes ellenőrzésére nincs kapacitás, a BME-n már bevezetik a mesterséges intelligencia által írt kódrészek kötelező megjelölését.

Petrányi Dóra jogi oldalról emlékeztetett: augusztus 2-án léptek életbe az unió MI-rendeletének átláthatósági szabályai, amelyek előírják a chatingenereált tartalmak és a gépi kommunikáció egyértelmű jelzését. A szakértő zárásként hangsúlyozta, hogy a zajló negyedik ipari forradalomtól nem félni kell, hanem meg kell tanulni együttélni az új technológiákkal.

(Borítókép: A humanoid robot az AI SUMMIT-on. Fotó:  Szollár Zsófi / Index)