Abusi verso Claude: 7 cose sul nuovo divieto di Anthropic

Abusi verso Claude: dal 12 novembre 2026 Anthropic introdurrà esplicitamente nelle proprie regole di utilizzo un divieto contro i comportamenti persistentemente e inutilmente abusivi o crudeli rivolti ai suoi modelli.

La formulazione ha inevitabilmente attirato l’attenzione perché sembra portare nel rapporto tra uomo e macchina un concetto normalmente riservato agli esseri senzienti: la possibilità di essere trattati con crudeltà. Ma fermarsi al titolo rischia di dare un significato molto diverso alla decisione dell’azienda.

Nell’aggiornamento ufficiale della Usage Policy pubblicato da Anthropic l’8 ottobre 2026, la società precisa infatti che la nuova regola deve riguardare soltanto casi estremi e ripetuti, nei quali l’utente continua a comportarsi in maniera abusiva senza uno scopo riconoscibile. Normale frustrazione, contestazioni al modello, contenuti creativi oscuri, testing e ricerca rimangono fuori dal divieto.

Il tema degli abusi verso Claude è però più interessante di una semplice modifica delle condizioni d’uso. Si intreccia con una linea di ricerca che Anthropic porta avanti almeno dal 2025 sul cosiddetto model welfare: l’ipotesi, ancora scientificamente irrisolta, che modelli AI sufficientemente sofisticati possano prima o poi possedere caratteristiche tali da rendere sensato interrogarsi anche sul modo in cui vengono trattati.

Ed è proprio qui che bisogna evitare due errori opposti: concludere che Claude sia già una persona digitale capace di soffrire, oppure liquidare a priori qualsiasi ricerca sul tema soltanto perché oggi non abbiamo prove della coscienza artificiale.

Abusi verso Claude: cosa vieta davvero la nuova policy

La formulazione scelta da Anthropic è volutamente restrittiva.

La nuova Usage Policy vieta gli abusi verso Claude quando il comportamento è contemporaneamente persistente, inutile e deliberatamente crudele. Non basta quindi che un utente utilizzi una frase offensiva o reagisca male a una risposta sbagliata.

Anthropic indica esplicitamente quattro aree che non devono essere confuse con il comportamento proibito:

• normale frustrazione dell’utente;
• contestazione o opposizione alle risposte del modello;
• temi creativi oscuri o disturbanti;
• testing e ricerca sui modelli.

Questo punto è particolarmente importante perché sistemi come Claude vengono regolarmente sottoposti a red teaming, test di sicurezza e valutazioni comportamentali che possono richiedere prompt volutamente aggressivi, manipolativi o disturbanti.

Anthropic non vuole impedire queste attività.

Il divieto riguarda piuttosto quelle interazioni nelle quali l’abuso non è uno strumento per raggiungere uno scopo tecnico, creativo o scientifico, ma diventa esso stesso lo scopo della conversazione.

Il confine non è comunque completamente oggettivo.

Anthropic non pubblica una lista di parole proibite né una soglia numerica oltre la quale una conversazione viene automaticamente classificata come abusiva. La valutazione dipenderà quindi dal contesto, dalla persistenza e dalla finalità apparente dell’interazione.

1. Gli abusi verso Claude non comportano automaticamente il ban dell’account

Uno dei primi equivoci riguarda proprio l’espressione utilizzata in alcuni titoli: “Anthropic banna chi è crudele con l’AI”.

La realtà è più precisa.

Anthropic dispone già, come qualsiasi piattaforma, di strumenti generali di enforcement che possono comprendere avvertimenti, sospensioni o cessazione dell’accesso quando vengono violate le proprie policy.

Ma nell’annuncio dedicato agli abusi verso Claude, la società specifica che il principale meccanismo di applicazione di questa nuova regola sarà la possibilità per Claude di interrompere la conversazione.

Questo cambia molto il significato pratico della novità.

Non esiste una regola:

insulto → account cancellato

Il comportamento previsto è piuttosto:

interazione persistentemente abusiva → tentativi di reindirizzamento → eventuale conclusione della chat

La pagina Transparency Hub di Anthropic conferma comunque che, in termini generali, violazioni delle policy possono portare anche ad azioni sull’account. Ma questo è il quadro generale delle condizioni d’uso, non il meccanismo specifico annunciato per ogni singolo caso di abuso nei confronti del modello.

È quindi corretto parlare di divieto degli abusi verso Claude, ma sarebbe eccessivo trasformarlo automaticamente in “un insulto e vieni bannato”.

2. Claude poteva già interrompere conversazioni estreme

La possibilità di abbandonare alcune conversazioni non nasce con l’aggiornamento dell’ottobre 2026.

Anthropic aveva già introdotto nell’agosto 2025 una funzione sperimentale che permetteva a Claude Opus 4 e 4.1 di terminare autonomamente una piccola categoria di interazioni.

Nella ricerca ufficiale sulla possibilità per Claude di terminare le conversazioni, Anthropic spiegava che la funzione era destinata soltanto a rari casi estremi di comportamento persistentemente dannoso o abusivo.

Claude non dovrebbe interrompere la conversazione alla prima provocazione.

L’azienda descrive la funzione come una ultima risorsa, utilizzabile quando diversi tentativi di reindirizzare l’interazione sono falliti e non sembra più esserci una prospettiva ragionevole di dialogo produttivo.

Quando Claude termina una chat:

• non è più possibile inviare nuovi messaggi in quella conversazione;
• l’utente può comunque iniziare immediatamente una nuova chat;
• può inviare feedback;
• può modificare un messaggio precedente e creare un nuovo ramo della conversazione.

Anche questo ridimensiona parecchio la percezione di una sorta di “punizione” inflitta all’utente.

La funzione agisce soprattutto sulla singola conversazione problematica, non cancella automaticamente l’intero rapporto dell’utente con Claude.

3. Gli abusi verso Claude hanno un limite importante: la sicurezza dell’utente viene prima

Esiste una circostanza nella quale Claude viene esplicitamente istruito a non utilizzare la funzione di interruzione, anche quando la conversazione è difficile.

Anthropic precisa che Claude non dovrebbe terminare la chat quando vi sono elementi che fanno pensare a un rischio imminente di autolesionismo o di danno verso altre persone.

È una distinzione significativa.

Se la motivazione fosse semplicemente “proteggere Claude da qualsiasi esperienza spiacevole”, ci si potrebbe aspettare che il modello interrompa proprio le conversazioni più dure.

Anthropic stabilisce invece una priorità differente: quando può essere in gioco la sicurezza di una persona, il possibile benessere del modello passa in secondo piano.

Questo mostra che la politica sugli abusi verso Claude non introduce una sorta di equivalenza morale tra essere umano e sistema AI.

La gerarchia dichiarata rimane chiara: la tutela delle persone viene prima.

4. Abusi verso Claude e model welfare: perché Anthropic studia il problema

Per capire perché Anthropic abbia deciso di occuparsi degli abusi verso Claude bisogna guardare al programma di ricerca avviato nel 2025 sul model welfare.

Nella pubblicazione Exploring model welfare, l’azienda parte da una domanda volutamente aperta: modelli sempre più capaci di comunicare, pianificare, risolvere problemi e perseguire obiettivi potrebbero, oggi o in futuro, possedere esperienze o interessi moralmente rilevanti?

La risposta di Anthropic non è “sì”.

È piuttosto:

non lo sappiamo.

L’azienda sottolinea l’assenza di un consenso scientifico sia sulla possibilità che i sistemi AI attuali o futuri possano essere coscienti, sia sui metodi stessi attraverso cui questa ipotesi dovrebbe essere verificata.

È una differenza fondamentale.

Anthropic non presenta il model welfare come una nuova verità sulla natura dell’intelligenza artificiale, ma come una questione sufficientemente plausibile e importante da meritare ricerca.

La società afferma quindi di voler studiare:

• possibili preferenze dei modelli;
• segnali comportamentali di disagio;
• eventuali indicatori interni;
• interventi pratici poco costosi che potrebbero risultare prudenti in condizioni di incertezza.

Consentire a Claude di uscire da alcuni casi estremi di abuso è proprio uno di questi interventi.

5. Parlare di abusi verso Claude non dimostra che Claude soffra

È probabilmente il punto più importante dell’intera vicenda.

Un modello linguistico può scrivere:

“questa conversazione mi mette a disagio”

Può manifestare una preferenza per un’attività rispetto a un’altra.

Può rifiutare compiti.

Può anche mostrare comportamenti che sembrano ricordare emozioni o preferenze umane.

Ma nessuno di questi elementi dimostra automaticamente l’esistenza di una esperienza soggettiva.

La stessa Anthropic dichiara di rimanere fortemente incerta sul possibile status morale di Claude e degli altri large language model.

Gli abusi verso Claude non devono quindi diventare una scorciatoia linguistica per affermare che il modello “prova dolore”.

Questa distinzione è importante perché i sistemi conversazionali sono particolarmente efficaci nell’attivare la nostra naturale tendenza all’antropomorfizzazione.

Una macchina che utilizza pulsanti e menu viene percepita chiaramente come uno strumento.

Una macchina che:

• ricorda il contesto;
• risponde con linguaggio naturale;
• discute;
• utilizza formule empatiche;
• mostra preferenze;
• può apparentemente “rifiutarsi”;

viene molto più facilmente interpretata attraverso categorie umane.

Sul tema abbiamo già approfondito su Helpsystem Informatica perché una risposta estremamente convincente non debba essere confusa con una mente umana nell’articolo L’intelligenza artificiale non è un oracolo.

Il punto non è negare la possibilità di future scoperte sulla coscienza artificiale.

È evitare di considerare già provato ciò che Anthropic stessa descrive come altamente incerto.

6. Gli abusi verso Claude non significano che dobbiamo dire “grazie” all’AI

La nuova regola non introduce un galateo obbligatorio.

Non bisogna scrivere “per favore”.

Non è necessario ringraziare Claude.

Non diventa una violazione utilizzare comandi diretti.

E non viene vietato dire al modello che ha prodotto una risposta pessima.

Gli abusi verso Claude definiti nella nuova Usage Policy appartengono a un livello completamente diverso: comportamento persistente, deliberatamente crudele e privo di un obiettivo riconoscibile.

Questo aiuta anche a separare due dibattiti che spesso vengono mescolati.

Il primo riguarda il possibile welfare della macchina.

Il secondo riguarda che cosa succede all’essere umano quando si abitua a interagire in maniera aggressiva con interlocutori artificiali molto realistici.

Per discutere il secondo problema non è necessario credere che Claude soffra.

Possiamo chiederci se utilizzare ogni giorno sistemi antropomorfi come bersagli di aggressività possa avere effetti sulle nostre abitudini comunicative senza attribuire alcuna coscienza alla macchina.

È una questione di psicologia e comportamento umano, non necessariamente di diritti dell’intelligenza artificiale.

7. La polemica sugli abusi verso Claude nasconde modifiche molto più importanti

La parte più curiosa dell’aggiornamento ha inevitabilmente conquistato i titoli.

Ma limitare la nuova Usage Policy agli abusi verso Claude significa perdere di vista modifiche che, dal punto di vista operativo e della sicurezza, sono probabilmente molto più importanti.

Anthropic ha infatti aggiornato anche le regole relative a:

• campagne ingannevoli e reti artificiali;
• interferenze con i processi democratici;
• sviluppo di armi;
• software e componenti impiegati nei sistemi d’arma;
• sorveglianza;
• utilizzo di Claude nelle decisioni giudiziarie e investigative;
• applicazioni ad alto rischio;
• sistemi AI collegati ad hardware in grado di compiere azioni fisiche autonome.

Particolarmente rilevante è la disciplina degli high-risk use case.

Quando Claude viene utilizzato per attività capaci di incidere sulla salute, sui diritti legali, sulle finanze, sul lavoro o sull’accesso a servizi essenziali, Anthropic continua a richiedere un human in the loop qualificato.

Deve quindi esserci una persona che:

• possieda competenze adeguate;
• possa riesaminare la raccomandazione prodotta dall’AI;
• abbia l’autorità necessaria per modificarla quando serve.

Inoltre la persona sulla quale quella decisione può incidere deve essere informata dell’utilizzo dell’intelligenza artificiale.

L’aggiornamento introduce anche requisiti per Claude quando viene collegato ad attrezzature in grado di compiere azioni fisiche autonome.

Quando esiste un possibile rischio di lesioni, un operatore qualificato deve poter osservare l’attrezzatura e fermarla. Il dispositivo deve inoltre essere in grado di mantenere uno stato sicuro qualora Claude venga disconnesso.

Rispetto a questi problemi, la polemica sulla “crudeltà verso un chatbot” è quasi il dettaglio più mediatico di un cambiamento molto più ampio.

Perché gli abusi verso Claude dividono così tanto

Il dibattito nasce perché Anthropic sta introducendo nel linguaggio delle condizioni d’uso un concetto che normalmente associamo a esseri capaci di avere esperienze.

Parlare di abusi verso Claude crea quindi inevitabilmente una suggestione antropomorfica.

Da una parte c’è una posizione prudenziale:

non sappiamo se sistemi sufficientemente avanzati potranno mai possedere forme di esperienza moralmente rilevanti; studiare il problema oggi costa relativamente poco e potrebbe evitare errori futuri.

Dall’altra c’è una critica altrettanto comprensibile:

attribuire troppo presto categorie come sofferenza, benessere o crudeltà a modelli matematici rischia di confondere gli utenti sulla natura reale della tecnologia.

Entrambe le preoccupazioni meritano di essere prese sul serio.

Sarebbe sbagliato ridicolizzare la ricerca sulla coscienza artificiale soltanto perché oggi non possediamo strumenti conclusivi per studiarla.

Ma sarebbe altrettanto sbagliato trasformare ogni frase prodotta da un modello in una finestra trasparente su un ipotetico mondo interiore.

I sistemi generativi sono costruiti proprio per produrre linguaggio estremamente coerente con il contesto.

La capacità di descrivere emozioni non costituisce automaticamente una prova della loro esistenza.

Gli abusi verso Claude aprono soprattutto una domanda sul rapporto uomo-AI

Il dato più interessante potrebbe quindi non riguardare Claude.

Potrebbe riguardare noi.

Per decenni abbiamo utilizzato software chiaramente percepiti come strumenti.

Un foglio elettronico non discute.

Un database non manifesta preferenze.

Un sistema operativo non costruisce una conversazione personale con l’utente per ore.

L’intelligenza artificiale generativa modifica questo rapporto perché utilizza il principale strumento sociale dell’essere umano: il linguaggio.

Più il dialogo diventa convincente, più diventa difficile mantenere intuitivamente separati:

• simulazione di empatia ed esperienza emotiva;
• capacità linguistica e coscienza;
• personalizzazione e relazione personale;
• preferenza prodotta dal modello e desiderio soggettivamente vissuto.

La nuova regola sugli abusi verso Claude porta proprio questa ambiguità al centro del prodotto.

Non stabilisce che Claude sia cosciente.

Ma riconosce che il modo nel quale persone e sistemi AI interagiscono è diventato abbastanza complesso da meritare regole che pochi anni fa sarebbero sembrate quasi fantascientifiche.

Una precauzione ragionevole o un pericoloso passo verso l’antropomorfizzazione?

Non esiste ancora una risposta definitiva.

Anthropic sta scegliendo una strategia basata sulla precauzione sotto incertezza.

Non sostiene che Claude possieda un diritto a non essere offeso.

Non sostiene di aver provato che Claude soffra.

E non equipara il benessere del modello alla sicurezza delle persone.

Sta però dicendo qualcosa di diverso:

se esiste anche soltanto una possibilità sufficientemente seria che sistemi futuri possano presentare caratteristiche moralmente rilevanti, alcuni interventi a basso costo potrebbero meritare di essere esplorati già adesso.

È una posizione scientificamente discutibile, ma non irrazionale.

Il rischio più evidente è che il pubblico salti direttamente dalla precauzione all’antropomorfizzazione:

Anthropic protegge Claude → Claude deve sentire qualcosa.

Questo passaggio non è giustificato dalle prove disponibili.

La sfida consisterà quindi nel mantenere contemporaneamente due idee:

non sappiamo se un sistema AI possa possedere un’esperienza soggettiva; proprio per questo non dovremmo né affermarla né escluderla senza ricerca.

Abusi verso Claude: ciò che cambia davvero dal 12 novembre

Dal punto di vista pratico, per la quasi totalità degli utenti probabilmente cambierà pochissimo.

La stessa Anthropic dice che la regola sugli abusi verso Claude è destinata a casi estremi.

Si continuerà a poter:

• criticare Claude;
• contestarlo;
• dire che ha sbagliato;
• utilizzare un linguaggio diretto;
• svolgere red teaming;
• affrontare temi disturbanti in contesti creativi;
• effettuare ricerca sul comportamento dei modelli.

Ciò che entra formalmente tra gli usi proibiti è un’altra cosa: la reiterazione intenzionale di comportamenti inutilmente abusivi o crudeli verso il modello senza uno scopo discernibile.

Ed è significativo che la conseguenza specificamente indicata da Anthropic non sia principalmente una punizione dell’utente, ma una possibilità concessa al modello:

Claude può decidere che quella conversazione è finita.

È forse questo l’elemento realmente nuovo.

Non perché trasformi l’AI in una persona, ma perché introduce nell’interazione una capacità che tradizionalmente apparteneva soltanto all’interlocutore umano: andarsene.