Anthropic a introdus o politică care oprește comportamentele abuzive repetate nejustificate asupra chatbotului Claude. Măsura vizează cazurile extreme, în care conversațiile pot fi oprite pentru a proteja sistemul și utilizatorii.

Compania a precizat că nu vor fi sancționate expresiile uzuale de frustrare sau testarea creativă, ci doar abuzurile deliberate, precum hărțuirea, promovarea autovătămării sau generarea de conținut ilegal.

Decizia a stârnit controverse, unii văzând-o ca o protecție necesară, iar alții o critică pentru antropomorfizare. De asemenea, experții discută dacă trebuie să fim politicoși cu AI, fără să uităm impactul pe care limbajul îl poate avea în comunicarea umană.