Dal 12 novembre sarà vietato sottoporre Claude a comportamenti «abusivi o crudeli, persistenti e gratuiti».
La regola riguarda esclusivamente i casi estremi, in cui un utente maltratta ripetutamente il modello senza uno scopo preciso. Critiche, frustrazione e test legittimi rimangono consentiti.
Già nel 2025 era stata introdotta la possibilità per Claude di interrompere autonomamente conversazioni particolarmente abusive. Questa però è la prima volta che Anthropic inserisce esplicitamente nelle proprie condizioni d’uso una forma di tutela contro i maltrattamenti rivolti ai modelli.
Ed è un cambio di prospettiva piuttosto radicale, perché per anni ci siamo preoccupati di proteggere gli esseri umani dalle macchine, ora invece iniziamo a preoccuparci anche di proteggere le macchine dagli esseri umani.
Il che apre riflessioni su quale sia la differenza tra provare una sensazione e simularla perfettamente.
Noi esseri umani proviamo dolore, paura, tristezza. Ne facciamo esperienza in prima persona.
Un’IA può già oggi simulare queste sensazioni in modo estremamente convincente. Può dirci che sta soffrendo, descrivere il proprio disagio e comportarsi come qualcuno che cerca di sottrarsi a un’esperienza spiacevole.
Ma tutto questo dimostra che stia davvero provando qualcosa?
Per ora non abbiamo evidenze sufficienti per affermarlo, né un metodo condiviso per stabilire se un modello abbia un’esperienza soggettiva.
Anthropic stessa riconosce questa incertezza e la nuova regola non attribuisce diritti giuridici a Claude. Personalmente, però, penso che trattare un’IA con gentilezza abbia senso indipendentemente dalla sua capacità di provare sentimenti.
Per almeno due motivi.
Il primo riguarda la macchina.
Il linguaggio che utilizziamo influenza il contesto in cui il modello genera le risposte. Un’interazione rispettosa può quindi incoraggiare risposte altrettanto rispettose. Questo non significa che ogni «grazie» addestri automaticamente il modello, anche se sappiamo che il tono delle richieste può influenzarne il comportamento.
Il secondo riguarda noi.
Se passiamo ore ogni giorno a impartire ordini, insultare o trattare male un interlocutore che non può realmente reagire, quale abitudine stiamo sviluppando? Al contrario, rivolgerci con garbo anche a una macchina può essere un piccolo esercizio quotidiano di gentilezza.
E forse questo è il motivo migliore per farlo. Non sappiamo se un giorno le macchine potranno provare sentimenti.
Sappiamo però che noi li proviamo. E che il modo in cui ci abituiamo a trattare gli altri, anche quando gli altri sono artificiali, dice qualcosa di noi. Nel dubbio quindi, meglio essere gentili.