La filigrana invisibile di Claude: come l’AI Act sta cambiando il modo in cui riconosciamo i contenuti generati dall’intelligenza artificiale
Introduzione
L’estate del 2026 segna una svolta epocale per il settore dell’intelligenza artificiale. Con l’entrata in vigore degli obblighi di trasparenza previsti dall’AI Act europeo, i principali fornitori di modelli di IA generativa hanno iniziato a implementare sistemi di marcatura dei contenuti prodotti dalle loro tecnologie. Tra questi, Anthropic ha fatto da apripista, svelando in dettaglio il funzionamento del suo sistema di filigrana per i testi generati da Claude. Una scelta che non riguarda solo l’Europa, ma che avrà ripercussioni globali su come percepiamo, valutiamo e utilizziamo i contenuti testuali nell’era dell’AI.
Il quadro normativo: l’AI Act e l’obbligo di trasparenza
L’AI Act europeo, il regolamento pionieristico che disciplina l’uso dell’intelligenza artificiale nell’Unione, ha introdotto all’articolo 50 una serie di obblighi di trasparenza per i fornitori di sistemi di IA. Dal 2 agosto 2026, i modelli di IA generativa lanciati sul mercato europeo devono garantire che i contenuti che generano o manipolano – siano essi testo, audio, immagini o video – siano identificabili come artificiali attraverso un formato leggibile da una macchina. Per i sistemi già presenti sul mercato prima di tale data, il periodo transitorio è stato fissato al 2 dicembre 2026.
La Commissione Europea ha inoltre pubblicato linee guida specifiche per aiutare fornitori e distributori a rispettare questi obblighi, chiarendo quali sono i sistemi AI interattivi (come i chatbot), i contenuti sintetici e fornendo esempi di eccezioni, come l’editing standard (ad esempio, la correzione ortografica e grammaticale). L’obiettivo dichiarato è garantire che le persone sappiano quando interagiscono con l’AI o sono esposte a contenuti generati artificialmente, per poter prendere decisioni informate e mantenere la fiducia nell’ecosistema informativo.
La soluzione di Anthropic: SynthID-Text e l’approccio "nuke it from orbit"
Anthropic è una delle prime aziende ad aver sottoscritto il codice di condotta sulla trasparenza dei contenuti generati dall’AI previsto dall’AI Act. L’azienda californiana ha scelto di applicare il watermark a livello globale, non solo in Europa, perché non è ancora disponibile un metodo affidabile per limitarne l’applicazione a una singola giurisdizione.
La tecnologia scelta è una versione del sistema SynthID-Text sviluppato da Google DeepMind. Il funzionamento è basato su un principio statistico: i modelli linguistici generano testo una parola alla volta, scegliendo tra una serie di candidate la più probabile. Il sistema di watermarking non modifica questa casualità, ma ne cambia la fonte: invece di un generatore di numeri casuali arbitrario, utilizza una chiave di riferimento e alcune parole precedenti per stabilire quale parola selezionare. In questo modo, la sequenza di parole scelte può essere analizzata per verificare se è coerente con le scelte che Claude avrebbe effettuato utilizzando la chiave.
Il risultato è un’etichetta invisibile che non altera il significato, la qualità o la leggibilità del testo, non richiede token aggiuntivi e non ha alcun impatto sulle prestazioni del modello. Non contiene informazioni identificative sull’utente, sull’organizzazione o sulla chat specifica. Il watermark persiste attraverso il copia e incolla e può resistere a modifiche leggere, ma può essere rimosso da una riscrittura completa, una parafrasi profonda o una traduzione.
La scelta radicale: marcare tutto il contenuto processato
La decisione più rilevante di Anthropic riguarda l’ambito di applicazione del watermark. L’azienda ha adottato un approccio definito "nuke it from orbit": la filigrana viene applicata a tutto il contenuto processato da Claude, non solo a quello interamente generato. Questo significa che anche una semplice correzione grammaticale, una traduzione o un riassunto di un testo scritto da un essere umano porterà il marchio di Claude. Tale scelta va oltre i requisiti minimi dell’AI Act, che esplicitamente esclude dall’obbligo di marcatura i casi in cui il sistema svolge una "funzione assistiva per l’editing standard" o non altera sostanzialmente il testo. Anthropic riconosce apertamente questa discrepanza, ammettendo che "le persone usano spesso Claude per correggere bozze, tradurre, riassumere o convertire file" e che "l’output può portare un marchio Claude anche se le idee, il testo o i dati sottostanti provengono da un’altra fonte".
Limiti tecnici e aggirabilità
Il sistema di filigrana adottato da Anthropic presenta vulnerabilità intrinseche. La sua efficacia è fortemente dipendente dalla lunghezza e dalla natura del testo: su campioni brevi o su frasi fattuali (es. "La capitale dell’Italia è Roma"), il numero di scelte linguistiche analizzabili è insufficiente per una rilevazione affidabile. Allo stesso modo, interventi minimi come correzioni grammaticali o di punteggiatura potrebbero non produrre un segnale statisticamente rilevabile.
La rimozione del watermark è inoltre possibile in diversi modi: una riscrittura completa, una parafrasi profonda, una traduzione in un’altra lingua o l’integrazione in un contesto più ampio che ne alteri la struttura statistica. Per immagini, video e audio, la rimozione è ancora più semplice: screenshot, strumenti di editing dei metadati, conversione di formato o nuovo salvataggio. Su GitHub esistono già vari tool dedicati a questo scopo.
Ambiguità e rischio di misinterpretazione
Un’ambiguità di fondo riguarda la natura del segnale. Anthropic ha dichiarato che il rilevamento di un marchio "fornisce un segnale che il contenuto è stato processato da Claude, ma non è completamente conclusivo". Il messaggio reale che il watermark trasmette è che "il contenuto potrebbe essere stato processato da Claude", e il marchio può apparire anche su contenuti che non sono stati generati da Claude. Viceversa, l’assenza di un marchio rilevato non significa che il contenuto non sia stato generato o processato dall’AI.
Questo crea un rischio concreto di misinterpretazione, soprattutto tra il pubblico generale. Se un testo umano corretto grammaticalmente da Claude porta lo stesso watermark di un testo interamente generato, un insegnante o un professore potrebbe erroneamente interpretare un lavoro umano leggermente modificato come interamente prodotto dall’AI. La confusione è amplificata dal fatto che il watermark non differenzia tra editing leggero e generazione completa.
Il contesto: le risposte degli altri fornitori
Anthropic non è l’unica azienda a muoversi in questa direzione. OpenAI ha firmato la sezione 1 del Codice di condotta sulla trasparenza, impegnandosi a contrassegnare in formato leggibile dalle macchine anche i testi generati o manipolati dai propri sistemi, ma non ha ancora rivelato quale tecnologia utilizzerà. Google, dal canto suo, ha aggiunto un’opzione a Gemini che consente di rimuovere il watermark visibile sulle immagini generate con il modello Nano Banana, sottolineando che l’informazione sulla generazione AI viene sempre fornita attraverso il watermark SynthID invisibile e i metadati C2PA. Anche Suno, piattaforma di generazione musicale, ha annunciato l’introduzione di watermark per i brani creati con i suoi modelli, in risposta alle "emerging industry standards".
Conclusioni
L’introduzione del watermarking nei testi generati da Claude rappresenta un passo concreto verso l’attuazione dell’AI Act, ma solleva una serie di criticità tecniche e pratiche che ne limitano l’efficacia. L’approccio "nuke it from it" di Anthropic, sebbene dimostri un impegno per la trasparenza, rischia di creare confusione, etichettando come AI contenuti umani solo leggermente modificati. La facilità di rimozione del watermark e la sua ambiguità semantica ne limitano l’affidabilità come strumento probatorio, pur mantenendone l’utilità come segnale informativo. Il dibattito su come bilanciare trasparenza, privacy e innovazione nell’era dell’AI è destinato a rimanere centrale nei prossimi anni, e le scelte dei fornitori come Anthropic saranno cruciali per definire le regole del gioco.