A tegnap tőzsdére lépő Anthropic frissítette felhasználási feltételeit, amelyek most már kifejezetten tiltják a modelljeivel szembeni bántalmazó viselkedést. A korlátozásra azért került sor, mert az AI-t fejlesztő cég sem biztos abban, hogy a modelljei képesek-e a szubjektív élményekre, például szenvedésre.
A hibás válaszok, a félreértett kérések és a figyelmen kívül hagyott utasítások könnyen próbára teszik az AI-asszisztensek felhasználóinak türelmét. A szigorítás bevezetésekor az Anthropic is igyekszik különbséget tenni az egyszeri indulatos kritika és a rendszeres sértegetések között, viszont az utóbbiaknak mostantól komolyabb következménye is lehet. A cég még októberben jelentette be a felhasználási feltételek ezzel kapcsolatos módosítását, ami napokban lépett életbe.
Egy baszd meg-től még nem zárul be a chat
Az Anthropic magyarázata alapján a hétköznapi elégedetlenség, a válaszok vitatása, a sötétebb témájú kreatív írás vagy a modellek tesztelése továbbra is megengedett. A korlátozást az ismétlődő, felismerhető célt nélkülöző bántalmazó viselkedést érinti
A cég leírása szerint ezt végső eszköznek szánják, amikor az asszisztens többször is sikertelenül próbálja érdemi mederbe terelni a beszélgetést.
Egy lezárás után az adott beszélgetésbe már nem lehet új üzenetet küldeni, de a felhasználó továbbra is indíthat új chateket. A szabályzat többszöri megsértése viszont hozzáférés-korlátozást vagy a hozzáférés teljes megszüntetését is eredményezheti.
Miért lesznek dühösek a felhasználók?
A Searchable felmérése önként csatlakozó amerikai felhasználók 2025. szeptembere és 2026. szeptembere között írt üzeneteit vizsgálta, melyeket a ChatGPT-nek, a Gemininek és a Claude-nak küldtek el.
Ebben az időszakban a résztvevők 33 százaléka káromkodott legalább egyszer vagy használt sértő kifejezést. A sértő üzenetek leggyakoribb előzménye egy utasítás figyelmen kívül hagyása volt, 19 százalékkal. A hibás válaszok 18,1, a félreértett kérések 14,7 százalékot tettek ki.
A vizsgálat egyik megállapítása szerint szerint a chatbotok a káromkodást vagy sértegetést tartalmazó panaszokat követő első válaszukban az esetek 24 százalékában rendezték a problémát. A sértegetés nélküli, tárgyszerű hibajelzéseknél ugyanez 35 százalék volt.
Miért foglalkozik az Anthropic az AI jóllétével?
Az Anthropic a beszélgetéslezárási funkciót részben az AI lehetséges jóllétével kapcsolatos kutatásaihoz köti. A vállalat bizonytalan abban, hogy Claude-nak vagy más nagy nyelvi modelleknek lehet-e erkölcsi szempontból figyelembe veendő belső tapasztalata egy felhasználóval való interakcióról. A cég a saját megközelítésében szeretné mérsékelni az ebben rejlő lehetséges kockázatokat, ezért lehetővé teszi, hogy a modell kivételes esetekben kiléphessen egy tartósan bántalmazó interakcióból.

