Ha egy ChatGPT vagy AI riválisának ingyenes verzióját használta, akkor nyilvánvalóan jó üzletet kap.

Az olyan cégek, mint a Microsoft, a Google és az Anthropic, dollár százmilliárdokat fektettek be a szolgáltatások mögött meghúzódó technológia fejlesztésébe a Large Language Models (LLM) fejlesztésébe.

Így hát, ha ChatGPT-t, Claude-ot vagy Geminit kapsz, hogy segítsenek a beszédben vagy az ünnepi terveidben, egy alku.

De természetesen ezek a cégek meg akarják téríteni befektetéseiket, ezért MI-jük fizetős verzióit kínálják, amelyek extra funkciókkal rendelkeznek olyan feladatokhoz, mint a kódolás vagy a számlázás.

Eközben a harmadik fél cégek mesterséges intelligencia-ügynökökön alapuló szolgáltatásokat építenek és értékesítenek, általában LLM-en alapulnak, amelyeket speciális feladatok elvégzésére képeztek ki.

Ám ezeknek a szolgáltatásoknak az ár meghatározása meglepően nehéz.

"Őszintén szólva nincs értelme valakit egy költségmodellhez kötni a következő 12 hónapra, két évre, három évre, mert nem tudjuk" - mondja Simon Gooch, a Saviynt személyazonosság-kezelő cégtől, amely az ügynöki mesterséges intelligenciát építi be szolgáltatásaiba.

Ennek oka a tokenek, az LLM-ek és az ügynöki mesterséges intelligencia építőkövei körüli gyorsan változó gazdaságosság.

Amikor a felhasználó megkér egy LLM-et, például a ChatGPT-t vagy az Anthropic's Claude-ot, hogy válaszoljon egy kérdésre, generáljon szoftverkódot vagy automatizáljon egy folyamatot, ez a prompt matematikai darabokra, úgynevezett tokenekre bomlik, amelyeket a modell feldolgozhat.

Az LLM válasza tokenek formájában is érkezik, amelyeket a folyamat automatizálása érdekében szöveggé, szoftverkódká vagy parancskészletté alakítanak vissza.

A probléma az, hogy ez a folyamat nem teljesen kiszámítható.

A prompt finom variációi különböző válaszokat eredményezhetnek. Ugyanaz a kérdés nem mindig adja meg ugyanazt a választ. A különböző modellek különböző válaszokat adnak.

Eközben az ügynöki rendszerekben a vállalkozások több mesterségesintelligencia-ügynököt használnak együtt a döntések meghozatalához és a cselekvések meghozatalához, tovább növelve a tokenhasználatot és a kiszámíthatatlanságot.

Míg a Goldman Sachs elemzése szerint az egyes tokenek – vagy a fizetésükre használt kreditek – ára ugrásszerűen csökkent az elmúlt években, a vállalkozások és a fogyasztók által elfogyasztott tokenek száma az egekbe szökött.

A bank ezt jósolja,külsőA tokenek fogyasztása 2026 és 2030 között 24-szeresére nő, havi 120 kvadrillió tokenre, ahogy a vállalatok áttérnek az AI-ügynökök használatára.

Az AI-rendszereket használó vállalatok és magánszemélyek azonban gyakran nem tudják, hogy hány tokent égetnek el – egészen addig, amíg ki nem fogynak, vagy meg nem kapják a havi számlát.

Állítólag még a Microsoft is visszafogott,külsőmérnökei harmadik féltől származó kódolóeszközöket használtak, míg az Uber láthatóan áttörte,külsőAI kódolási token költségvetését egy évre néhány hónapon belül idén.

Will Venters, a London School of Economics digitális innovációs és információs rendszerekkel foglalkozó docense elmondta, hogy a vállalatok kiakadhatnak, amikor kísérleteznek vagy belsőleg alkalmazzák az AI-t, mivel a személyzet átégeti a tokeneket.

"Az emberek nagyon nehezen tudják kezelni ezt a költséget... ez nem determinisztikus kimenet, tehát nem determinisztikus érték" - mondta.

A cégek keresik a módját ennek megkerülésére.

Oliver King-Smith, a smartR AI mérnöki szoftvercég alapítója szerint a kisebb szervezetek "repülhetnek a radar alatt, és használhatnak [átalánydíjas] személyes fiókokat, amelyek biztos vagyok benne, hogy a nagy gyártók nem szeretnek".

De azt mondja: "Ennek valamikor véget kell vetni, mert a nagy srácok megfürdik ezeket a számlákat."

Amint a nagy mesterségesintelligencia-platformok kezdenek szembenézni a részvényesek nyomásával, hogy nyereséget mutassanak fel, azt jósolja: "Elkezdik a visszaszorítást."

King-Smith szerint a cégeknek alaposabban meg kellene gondolniuk, hogy milyen AI-modelleket használjanak.

A vállalatoknak is sokkal pontosabbnak kellett lenniük az utasításaikban – mondja Rob Steele, az iplicit brit számviteli szoftvercég pénzügyi igazgatója.

– Nem küldenél el valakit a családodból, hogy beszerezze a heti boltot anélkül, hogy bármiféle részletes útmutatást kapna arról, hogy mit vársz abban a bevásárlókosárban, igaz?

A helyzet nehezen ellenőrizhetővé válhat, ha a vállalatok mesterséges intelligenciát olyan termékké építenek, amelyet több ezer felhasználó számára is el lehet juttatni, mutat rá Venters.

Az AI-költségek emelkedésnek indulhatnak. Például a menedzserek ráébredhetnek, hogy nem csak az alapszoftver-fejlesztéshez, hanem más feladatokhoz is szükségük van tokenekre, mint például a tesztelésre, a biztonságra vagy a védőkorlátok megvalósítására.

"Különösen nehéz, ha ügynöki folyamatokat nézünk" - mondja Ventners.

Több mesterségesintelligencia-ügynök alkalmazása egyetlen gombnyomással elvégezhető, míg a humán munkaerő bővítése gondos megbeszélést igényelne a létszámról és a felvételről – mondja.

Venters rámutat, hogy bár a token költségek előre nem láthatók, előfordulhat, hogy a vállalat végül több értéket kap az AI-val való token használatából.

"Ez nem egészen ugyanaz, mint egy számológép" - mondja. "Minél többet adsz belőle, annál drágább, de annál jobb lehet az eredmény."

A vállalatoknak azonban továbbra is át kell hárítaniuk ezeket a költségeket saját ügyfeleikre.

„Senki sem jött rá igazán” – mondja Bill Peterson, a Sumo Logic termékmarketingért felelős vezető igazgatója.

A szoftvercég az ügynöki mesterséges intelligencia alapú új biztonsági szolgáltatásokat vizsgálja meg, magyarázza, de tárgyalásokat folytat a vállalati ügyfelekkel arról, hogyan számítsanak fel díjat.

"Még mindig folytatunk néhány szórakoztató beszélgetést erről belsőleg" - mondja szárazon.

A lehetőségek között szerepelhet egyszerűen az árak általános emelése, mondja, az eredmények alapján történő fizetés, vagy az incidensek "kötegéért" felszámítás.

De bármilyen árstruktúrát is választ, az felborulhat, ha és amikor a nagy nyelvi modellszolgáltatók megváltoztatják saját árazási stratégiájukat.

„Változó árazásba kerül, és ez néhány havonta változik” – mondja. "Az ügyfelek nem szeretik ezt. Nem így alakítja ki senki a költségvetést."