Egy New York-i befektető arra kérte AI-asszisztensét, hogy folaljon neki asztalt egy nehezen foglalható étterembe. Az asszisztens olyan sűrűn ellenőrizte a szabad helyeket, hogy a foglalási rendszer felfüggesztette a felhasználó fiókját. Az eset egy példa lehet arra, hogy milyen könnyen ütközhetnek az emberek helyett dolgozó AI-ügynökök a weboldalak szabályaiba.
JC Bahr-de Stefano, a Better Tomorrow Ventures befektetője az Instinct nevű személyes asszisztenst bízta meg azzal, hogy próbáljon asztalt foglalni a New York-i 4 Charles Prime Rib étterembe. Az Instinct a befektető által közzétett tevékenységi napló szerint óránként nagyjából 200 kérést küldött a foglalási rendszernek,, a reggeli foglalásnyitás körül pedig két és fél percen át 0,4 másodpercenként próbálkozott.
A rendszer később deaktiválta a befektető fiókját, és törölte a hozzá tartozó jövőbeli foglalásokat is. Bahr-de Stefano utóbb maga is azt mondta, megérti a szolgáltató reakcióját.
A felhasználó megbízása nem ad korlátlan hozzáférést
Az AI-ügynök csak egy felhasználó kérését próbálta teljesíteni, de a végrehajtás módját már a szoftver választotta meg. Egy ember napközben néhányszor ellenőrizheti, felszabadult-e asztal. Egy ügynök ugyanezt folyamatosan is megteheti. A foglalórendszer számára viszont a két helyzet eltérő terhelést jelent.
A hivatalos tájékoztató szerint kifejezetten figyelik a botok és a foglalásokkal üzletelő közvetítők tevékenységét. Ebben az esetben nem volt szó arról, hogy Bahr-de Stefano tovább akarta volna adni az asztalt, vagy támadást akart volna indítani az oldal ellen, de az automatikus lekérdezések gyakorisága erre utalt, így mégis letiltották.
Az Amazon is határt szabott egy AI-ügynöknek
Hasonló eset történt a Meta (Facebook) szeptemberben bemutatott Muse nevű ügynökével. A Meta leírása szerint a Muse AI képes arra, hogy böngészőt használjon, űrlapokat töltsön ki és vásárlásokat készítsen elő a felhasználó megbízásából, ahol már csak a fizetés végrehajtásához van szükség az emberi jóváhagyásra.
Az Amazon ugyanakkor blokkolta a Muse ügynökök hozzáférését, és azt kérte a Metától, hogy vegye ki a webáruházat a Muse által elérhető vásárlási lehetőségek közül. A tiltás oka egyebek mellett az, hogy az ügynök az Amazon szerint rálát a felhasználók személyes adataira, vásárlási előzményeire és fizetési információira, ami biztonsági és adatvédelmi kérdéseket vethet fel.
Ha mindenki ügynökkel fog vásárolni, ki fog sorban állni?
Az asztalfoglalásnál, a koncertjegyeknél vagy egy korlátozott készletű terméknél számít, ki talál rá előbb a lehetőségre. Ha sok felhasználó megbízásából programok figyelik éjjel-nappal ugyanazt a kínálatot, a vásárlási lehetőség egyre inkább a szoftverek működésén múlhat, és hátrányba kerülhet az, aki saját maga, kézzel keres, vagy kevésbé hatékony eszközt használ.
Bár a szolgáltatók korlátozhatják az egy ügynöktől érkező kérések számát, kérdés, hogy érdekükben áll-e visszautasítani a digitális pénztárak előtt tolongó AI-vásárlókat, hogy a lassabb ügyfelek számára is esélyt adjanak.