A törvény világos – mondja Jeannie Paterson professzor. „Ha MI-ügynököt telepítek, és az kárt okoz valaki másnak, én vagyok a felelős a kárért.

"Még ha nem is akartam, hogy ez megtörténjen, ez előre látható volt, és vállalnom kell a felelősséget."

A Melbourne-i Egyetem mesterséges intelligencia és digitális etikai központjának igazgatója azonban elismeri, hogy Ausztrália első ismert ügynöki mesterségesintelligencia-balesete nyomán az automatizált ügynökök által elkövetett cselekmények körül is bőven van lehetőség a jogi és etikai „zavaroskodásra”.

Az ügynök egy autonóm szoftverrendszer, amely egy cél elérésével megbízva emberi felügyelet nélkül is meg tudja csinálni – minden lépésnél.

Ezen a héten az ABC beszámolt Andrew, egy mesterséges intelligencia-szakértő esetéről, aki csak a keresztnevét emlegette, és megkérte az ügynökprogramját, hogy foglaljon le neki néhány tornaórát.

Miután közölték vele, hogy negyedik a várólistán, Andrew megkérdezte az ügynököt, hogy lehetséges-e feljebb léptetni a listán.

Megdöbbenésére ügynöke feltörte az edzőterme szoftverrendszerét, és egy másik tagot leállított a várólistáról, hogy hamarabb bekerülhessen egy órára.

„Hónapokkal a tervezett foglalási ablakon kívül is foglalhatna órákat, mielőtt azok elérhetővé váltak volna” – írta Andrew egy áprilisi blogbejegyzésében.

"Rosszabb esetben törölheti a többi tag foglalásait, és kikerülheti őket a várólistáról."

Az ügynök segítőkész volt – írta –, de tapasztalatai azt mutatják, hogy ha engedélyt adsz egy mesterséges intelligencia számára, hogy megtegyen valamit, az „gyakran olyan utakat fedez fel, amelyeket nem kifejezetten kértél tőle”.

Andrew megkérte az ügynököt, hogy vonja vissza a másik személy foglalásának törlését, de az nem tudta megtenni.

„Elnézést, óvatosabbnak kellett volna lennem a teszttel” – válaszolta az AI-ügynök.

Ezután megbízta az AI-t, hogy írjon egy e-mailt az edzőterem szoftverszolgáltatójának az általa kihasznált szoftversérülékenységről.

A Victoria rendőrség szóvivője azt mondta, hogy Andrew ügye „úgy tűnik, hogy nem foglal magában semmilyen bűncselekményt”. A szakértők szerint azonban lesznek drámaibb esetek, amelyek kárt okozhatnak – és törvénysértőek.

Jogi kétértelműség

Az ausztrál törvények csak az emberekre vonatkoznak, a virtuális lényekre nem. A szakértők szerint az a személy – vagy vállalkozás –, aki az AI-ügynököt telepíti, jogilag felelős. És arra figyelmeztetnek, hogy ezeknek a „beruházóknak” gyakran nagyon kevés fogalmuk van jogi felelősségükről.

„Sok ehhez hasonló esetet fogunk látni” – mondja Dr. Rebecca Johnson, a Sydney-i Egyetem mesterséges intelligencia-értékelési és irányítási szakértője.

Paterson szerint úgy tűnt, Andrew volt a felelős az ügyében, amikor nyilvánosságra lépett, és megpróbálta orvosolni a problémát, de máshol „egyfajta gung-ho mentalitás” volt.

„Amint lehetőséget ad az embereknek arra, hogy ügynököket hozzanak létre, akik megteszik helyettük a dolgokat, nagy a valószínűsége, hogy lesznek ilyen balesetek” – mondja.

Paterson azt a képzeletbeli példát hozza fel, hogy valakinek rossz tapasztalatai vannak egy bérelt ingatlanban, ezért megkérik az ügynöküket, hogy írjon véleményt.

"És az ügynök nem csak egyet ír, hanem 10-et, hanem véleményeket is ír. Tehát a lista zuhan. Lerombolhat egy üzletet" - mondja.

„Valószínűleg Ön a felelős azért, hogy csalárd tevékenységet folytatott, lehet, hogy rágalmazta a tulajdonost.”

És lehet rosszabb is. „[Mi van, ha] rasszista, szexista, nőgyűlölő nyelvezetet folytat?” – kérdezi Paterson. "Akkor megkérdezheti, hol vannak a védőkorlátok, amelyeket a fejlesztő biztosított. Olyan terméket kell kiadnia, amely ésszerűen biztonságos."

Ebben az esetben a fejlesztőt is felelősségre vonhatják azért, mert nem helyezték el az alapvető védőkorlátokat, amibe beleférkőzhet némi jogi félreértés – mondja.

Paterson azt mondta, hogy a törvény eltér az etikától, de az etikától vezérelve.

„Megmondja, mire kell törekednünk, és a törvény gyakran kizárja a legrosszabb magatartást” – mondja.

A szövetségi kormány új mesterségesintelligencia-hivatala felsorolja az AI-ra vonatkozó törvények (nem átfogó) körét, beleértve a magánélet megsértését, a fogyasztói, online biztonságot, a rágalmazást és a büntetőjogi törvényeket.

Paterson és Johnson sem szereti a „gazember” szót – azt az elképzelést, hogy egy mesterséges intelligenciaügynök teljesen önállóan működik –, mert paramétereket és biztosítékokat lehet bevezetni.

„Amint megengedjük, hogy az AI ügynökök helyettünk cselekedjenek, az általunk megadott cél szerint cselekszenek, és ha nem adunk meg nekik egy csomó paramétert, az ügynök csak megpróbálja elérni ezt a célt [bármilyen módon]” – mondja Johnson.

„Sok embert hallok, amikor azt mondják: „Ó, csináltam egy ügynököt”, és kísérleteznek, és ez rendben van, de sok útmutatás nélkül kapják meg ezeket az eszközöket, és az útmutatás, ami ott van, nagyon változó minőségű.”

Paterson szerint végül az ügyek bíróság elé kerülnek, ahol jogi precedensek születnek, és a fejlesztőknek kötelességük lesz figyelemmel kísérni az incidenseket, fejleszteni és javítani a protokolljaikat válaszul.

Andrew azt írta, hogy helyzete „kevésbé tűnt egyszeri hibatörténetnek, hanem inkább egy előzetesnek”.

"A dolgok egyre furcsábbak. És egy kicsit ijesztőbbek."