Pubblicato il di Enzo

L’uso dei watermark nei contenuti AI: trasparenza, provenienza e diritti d’autore

Introduzione e obiettivi

La proliferazione di contenuti generati o assistiti da intelligenza artificiale ha raggiunto una scala tale che la distinzione tra ciò che è prodotto da un essere umano e ciò che è creato da una macchina è diventata una questione pratica, etica e legale di primo ordine. Da testi giornalistici e accademici fino a immagini, video e composizioni musicali, il flusso di materiale sintetico inonda piattaforme digitali, social network e servizi di streaming, sollevando interrogativi su autenticità, fiducia e attribuzione. In questo contesto, i sistemi di watermark emergono come una delle tecnologie centrali per affrontare la sfida della trasparenza: consentono di incorporare un segnale, visibile o invisibile, nel contenuto generato dall’IA, in modo da poterne verificare l’origine e informare il pubblico sulla sua natura artificiale.

L’impulso normativo per l’adozione generalizzata di questi meccanismi proviene principalmente dall’Unione Europea con il Regolamento (UE) 2024/1689, noto come AI Act. Questa legislazione, pionieristica a livello mondiale, stabilisce un quadro normativo completo per l’intelligenza artificiale e, all’articolo 50, impone obblighi specifici di trasparenza ai fornitori di sistemi di IA. A partire dal 2 agosto 2026, i modelli di IA generativa lanciati sul mercato europeo devono garantire che i contenuti che generano o manipolano – siano essi testo, audio, immagini o video – siano identificabili come artificiali attraverso un formato leggibile da macchina. Per i sistemi già presenti sul mercato prima di tale data è previsto un periodo transitorio fino al 2 dicembre 2026. Questo obbligo legale ha spinto aziende leader come Anthropic, OpenAI e Google a sviluppare e implementare soluzioni di marcatura, alcune delle quali già operative o in fase di implementazione globale.

Il presente rapporto ha l’obiettivo di offrire una visione tecnica e normativa sull’uso dei watermark nei contenuti generati dall’IA. Si analizzerà lo stato dell’arte delle tecnologie di marcatura, con particolare attenzione al sistema SynthID-Text di Google DeepMind adottato da Anthropic per il suo modello Claude, nonché ai meccanismi di metadati C2PA utilizzati per altri tipi di contenuti. Si esaminerà il contesto normativo europeo, incluse le linee guida pubblicate dalla Commissione Europea e il Codice di Condotta su marcatura ed etichettatura. Verranno inoltre affrontate le implicazioni pratiche di questi sistemi, i loro limiti tecnici – come la possibilità di elusione o rimozione – e le sfide che pongono per l’attribuzione della paternità e i diritti di proprietà intellettuale. Lo scopo è fornire un quadro chiaro e dettagliato che consenta all’organizzazione di comprendere la portata di queste tecnologie, i relativi obblighi legali e i rischi e le considerazioni da tenere presenti in un ambiente mediatico e produttivo in cui l’IA gioca un ruolo sempre più preponderante.

Quadro normativo

Il quadro normativo di riferimento è il Regolamento (UE) 2024/1689, noto come AI Act, che all’articolo 50 impone obblighi specifici di trasparenza ai fornitori di sistemi di intelligenza artificiale. La disposizione richiede che i contenuti generati o manipolati da sistemi AI – siano essi testi, immagini, audio o video – siano contrassegnati in un formato leggibile dalle macchine e rilevabili come artificiali. L’obiettivo dichiarato dal legislatore europeo è preservare l’integrità e la fiducia nell’ecosistema informativo, contrastando i rischi di disinformazione, manipolazione su larga scala, frode, impersonificazione e inganno dei consumatori.

Decorrenze e campo di applicazione

Gli obblighi di trasparenza si applicano a partire dal 2 agosto 2026 per tutti i modelli di IA generativa immessi sul mercato successivamente a tale data. Per i sistemi già commercializzati prima del 2 agosto 2026 è previsto un periodo transitorio che si conclude il 2 dicembre 2026, data dalla quale anche i modelli preesistenti devono rispettare le medesime prescrizioni. La normativa non impone di etichettare i contenuti generati prima del 2 agosto 2026.

Le linee guida pubblicate dalla Commissione Europea chiariscono la portata delle disposizioni, specificando quali sistemi rientrano nella categoria dei sistemi AI interattivi (come i chatbot) e cosa debba intendersi per contenuti sintetici. Le stesse linee guida forniscono esempi di eccezioni, tra cui l’editing standard – come la correzione ortografica e grammaticale – che non richiede marcatura quando il sistema svolge una funzione assistiva senza alterare sostanzialmente il testo o il suo significato. La normativa distingue inoltre tra obblighi dei fornitori e obblighi dei distributori: questi ultimi devono informare gli utenti quando sono esposti a deepfake, a contenuti generati dall’AI su questioni di interesse pubblico senza revisione editoriale umana, o a sistemi di riconoscimento delle emozioni e categorizzazione biometrica.

Codice di condotta e strumenti di conformità

Per supportare i fornitori nell’adempimento degli obblighi, la Commissione Europea ha pubblicato nel luglio 2025 una serie di strumenti, tra cui il Codice di condotta su marcatura e etichettatura dei contenuti generati dall’AI. Si tratta di uno strumento volontario che offre un percorso già approvato per dimostrare la conformità all’articolo 50. La sottoscrizione della sezione 1 del Codice impegna i firmatari – tra cui Anthropic e OpenAI – a contrassegnare in formato leggibile dalle macchine anche i testi generati o manipolati dai propri sistemi. L’adesione al Codice non è l’unica via per dimostrare la conformità, ma fornisce certezza giuridica riducendo gli oneri amministrativi.

Le linee guida della Commissione precisano anche come può essere dimostrata la conformità, includendo indicazioni su tecniche e metodi che devono essere "sufficientemente affidabili, interoperabili, efficaci e robusti" per quanto tecnicamente possibile. La Commissione riconosce che lo sviluppo di soluzioni di watermarking è demandato in larga misura alle aziende AI, data la rapidità dell’evoluzione tecnologica e la necessità di metodi sempre nuovi per tracciare l’origine delle informazioni.

Sanzioni e governance

Il regime sanzionatorio previsto dall’AI Act è severo: in caso di violazione degli obblighi di trasparenza, le sanzioni possono arrivare fino a 15 milioni di euro o al 3% del fatturato mondiale annuo dell’azienda, a seconda di quale importo sia maggiore. Dal 2 agosto 2026, l’AI Office e le autorità nazionali degli Stati membri sono responsabili dell’implementazione, della supervisione e dell’applicazione del regolamento. L’AI Office detiene poteri di enforcement specifici sui modelli di IA generica (GPAI), inclusa la possibilità di richiedere documentazione tecnica, valutare i modelli, imporre misure correttive e comminare sanzioni in caso di non conformità.

Adeguamento italiano

L’Italia ha avviato il processo di adeguamento al Regolamento UE 2024/1689 attraverso decreti legislativi che definiscono la governance nazionale: l’Agenzia per l’Italia digitale è designata come autorità di notifica, mentre l’Agenzia per la cybersicurezza nazionale (ACN) svolge le funzioni di vigilanza del mercato. Questo quadro nazionale si inserisce nel più ampio sistema di governance europeo, che comprende anche l’AI Board, il Panel Scientifico e il Forum Consultivo, chiamati a orientare e consigliare l’applicazione dell’AI Act.

Tecnologie di watermarking

Il panorama delle tecnologie di watermarking per contenuti generati dall’intelligenza artificiale si articola su due approcci fondamentali e complementari: da un lato le filigrane statistiche incorporate direttamente nel contenuto, come SynthID-Text di Google DeepMind; dall’altro i metadati di provenienza firmati digitalmente, come quelli definiti dallo standard C2PA. A questi si aggiunge la distinzione tra watermark visibili, destinati all’utente finale, e watermark invisibili, leggibili solo da strumenti dedicati. Ciascuna soluzione presenta caratteristiche tecniche, punti di forza e limiti specifici che è essenziale comprendere per valutarne l’efficacia e l’affidabilità.

SynthID-Text di Google DeepMind

SynthID-Text è il sistema di watermarking testuale sviluppato da Google DeepMind e pubblicato in un paper tecnico nel 2024. Anthropic ha dichiarato di utilizzare una versione di questo sistema per contrassegnare i testi generati da Claude, senza però rivelare le specifiche esatte della propria implementazione né la chiave crittografica utilizzata.

Il funzionamento di SynthID-Text si basa sul meccanismo stesso di generazione dei modelli linguistici. Un LLM produce testo una parola alla volta: per ogni posizione, il modello calcola una distribuzione di probabilità su un insieme di possibili token candidati e seleziona quello più appropriato in base al contesto precedente. Il watermark interviene modificando la fonte di casualità di questa selezione. Invece di utilizzare un generatore di numeri casuali arbitrario, il sistema usa una chiave di riferimento combinata con alcune delle parole già generate per determinare la scelta del token successivo. La sequenza risultante mantiene la qualità e la coerenza linguistica del testo originale, ma incorpora un pattern statistico rilevabile: chi possiede la chiave può analizzare la sequenza di token e verificare se è coerente con le scelte che il modello avrebbe effettuato applicando quel particolare meccanismo di selezione.

Le caratteristiche principali di SynthID-Text sono:

  • Invisibilità: non vengono aggiunti caratteri nascosti, spazi speciali o elementi visibili al lettore. Il testo appare identico a un testo generato senza watermark.
  • Assenza di costi aggiuntivi: il sistema non richiede token extra, quindi non comporta aumenti dei costi di generazione né impatti misurabili sulle prestazioni. Secondo i test interni di Anthropic e le valutazioni riportate da Google nel paper, non emergono differenze statisticamente significative nella qualità del testo rispetto a un modello senza watermark, con ritardi nell’ordine di poche decine di microsecondi per token.
  • Nessun dato identificativo: il watermark non contiene informazioni sull’utente, sull’organizzazione o sulla specifica chat. La chiave utilizzata da Anthropic consente solo di rispondere alla domanda "quanto è probabile che Claude abbia contribuito alla scrittura di questo testo?".
  • Persistenza: la filigrana rimane associata al testo anche dopo copia e incolla e può resistere a modifiche leggere. Tuttavia, una riscrittura completa che sostituisca tutte le parole, una parafrasi profonda o una traduzione possono comprometterne il rilevamento.

Un limite intrinseco del sistema riguarda la lunghezza del testo: su campioni molto brevi, come una frase fattuale del tipo "La capitale dell’Italia è Roma", non ci sono abbastanza scelte linguistiche da analizzare per determinare l’origine del testo. Lo stesso vale per interventi minimi come correzioni grammaticali o di punteggiatura, che potrebbero non produrre un segnale statisticamente sufficiente per la rilevazione.

Standard C2PA

La Coalition for Content Provenance and Authenticity (C2PA) definisce uno standard aperto per i metadati di provenienza dei contenuti digitali. A differenza del watermark statistico incorporato nel testo, C2PA funziona come una firma digitale associata al file: i metadati registrano informazioni sulla storia del contenuto, inclusa la sua origine, le modifiche apportate e gli strumenti utilizzati.

Nel contesto del watermarking AI, C2PA viene utilizzato principalmente per contenuti non testuali – immagini, audio, video – dove i metadati possono essere incorporati nel file stesso. Anthropic ha annunciato che per i file generati da Claude utilizzerà "metadati di provenienza firmati digitalmente dove supportato". Google, per i contenuti generati da Gemini, combina il watermark visibile con i metadati C2PA e il watermark invisibile SynthID. La libreria open source Credencio, rilasciata da Google, permette agli sviluppatori di aggiungere la verifica C2PA alle loro applicazioni.

I limiti di C2PA sono significativi: i metadati possono essere rimossi con una conversione di formato, un nuovo salvataggio, uno screenshot o qualsiasi strumento di editing dei metadati. La robustezza del sistema dipende quindi dalla cooperazione delle piattaforme che dovrebbero preservare e verificare i metadati lungo la catena di distribuzione del contenuto.

Watermark visibili e invisibili

La distinzione tra watermark visibili e invisibili corrisponde a due diverse finalità: informare direttamente l’utente finale o fornire un segnale leggibile dalle macchine per la verifica automatizzata.

Watermark visibili: sono elementi percepibili dall’occhio umano. Google, ad esempio, applica il logo di Gemini nell’angolo inferiore destro delle immagini generate tramite la funzione "Crea immagine". Questo tipo di marcatura ha però un’utilità pratica limitata: può essere facilmente eliminata ritagliando l’immagine o scaricandola e modificandola. Google ha recentemente aggiunto un’opzione nelle impostazioni di Gemini che consente di disattivare la visualizzazione del watermark, disponibile anche per i video generati con Omni e per le tracce musicali generate con Lyria. In alcuni paesi, inclusi quelli europei, questa opzione non dovrebbe essere disponibile per rispettare gli obblighi di legge dell’AI Act, sebbene la funzione risulti presente anche nella versione italiana dell’applicazione.

Watermark invisibili: sono incorporati nel contenuto in modo impercettibile e rilevabili solo tramite strumenti dedicati. Per i testi, come descritto per SynthID-Text, il watermark è statistico e distribuito sull’intero documento. Per immagini, audio e video, i watermark invisibili (come SynthID di Google) alterano il contenuto in modo impercettibile ma rilevabile da algoritmi specifici. Anthropic ha dichiarato che l’API di rilevamento per i testi di Claude sarà resa disponibile prossimamente, mentre per i file non testuali la verifica passa attraverso i metadati C2PA.

Limiti e rimovibilità

Tutti i sistemi di watermarking attuali presentano vulnerabilità note e documentate. La rimozione delle filigrane è possibile attraverso diverse tecniche, e su GitHub esistono numerosi strumenti dedicati a questo scopo.

Per i testi, il watermark può essere distrutto:

  • Incollando il testo in un altro chatbot che lo modifichi o lo riscriva
  • Attraverso una parafrasi profonda o una riscrittura completa
  • Con una traduzione in un’altra lingua
  • Integrando il testo in un contesto più ampio che ne alteri la struttura statistica

Per immagini, video e audio, la rimozione è ancora più semplice:

  • Screenshot o registrazione dello schermo per immagini e video
  • Strumenti di editing dei metadati
  • Conversione del formato del file
  • Nuovo salvataggio che non preservi i metadati originali

Un ulteriore limite strutturale riguarda la natura stessa del segnale di rilevamento. Il watermark di Claude indica solo che il contenuto "potrebbe essere stato processato da Claude", non che sia stato interamente generato dal modello. Un testo umano corretto grammaticalmente da Claude può portare il watermark, così come un testo generato da un altro modello AI non marcato può non essere rilevato. La mancanza di un watermark rilevato non implica che il contenuto non sia stato generato o processato dall’AI, e viceversa la presenza di un watermark non è una prova conclusiva di generazione automatica. Questa ambiguità, unita alla facilità di rimozione, limita l’affidabilità dei sistemi di watermarking come strumento probatorio in contesti legali o accademici, pur mantenendone l’utilità come segnale informativo per la trasparenza.

Approccio dei fornitori

La risposta di mercato agli obblighi dell’AI Act ha prodotto un panorama differenziato, in cui ogni fornitore ha adottato strategie e tecnologie specifiche. Le scelte compiute da Anthropic, OpenAI, Google e Suno rivelano non solo diversi livelli di adesione normativa, ma anche approcci distinti alla gestione della trasparenza, con implicazioni significative per l’affidabilità delle soluzioni e per l’esperienza degli utenti.

Anthropic/Claude

Anthropic è, tra i grandi fornitori, quello che ha fornito la documentazione tecnica più dettagliata sul proprio sistema di marcatura. L’azienda ha dichiarato di utilizzare una versione del sistema SynthID-Text sviluppato da Google DeepMind, applicandolo a livello globale a tutti i nuovi modelli Claude a partire dal 2 agosto 2026, e progressivamente anche ai modelli precedenti entro il periodo transitorio del 2 dicembre 2026. La scelta di applicare il watermark a livello globale, e non solo in Europa, è motivata dall’assenza di un metodo affidabile per limitarne l’applicazione a una singola giurisdizione.

La decisione più rilevante di Anthropic riguarda l’ambito di applicazione del watermark. L’azienda ha adottato un approccio definito "nuke it from orbit": la filigrana viene applicata a tutto il contenuto processato da Claude, non solo a quello interamente generato. Questo significa che anche una semplice correzione grammaticale, una traduzione o un riassunto di un testo scritto da un essere umano porterà il marchio di Claude. Tale scelta va oltre i requisiti minimi dell’AI Act, che esplicitamente esclude dall’obbligo di marcatura i casi in cui il sistema svolge una "funzione assistiva per l’editing standard" (come la correzione grammaticale) o non altera sostanzialmente il testo. Anthropic riconosce apertamente questa discrepanza, ammettendo che "le persone usano spesso Claude per correggere bozze, tradurre, riassumere o convertire file" e che "l’output può portare un marchio Claude anche se le idee, il testo o i dati sottostanti provengono da un’altra fonte".

La motivazione di questa scelta è tecnica: un watermark applicato a livello del modello non può distinguere tra generazione completa e modifica minima, perché il meccanismo di marcatura interviene nel processo stesso di selezione dei token, che avviene sia quando il modello scrive da zero sia quando riscrive o corregge un testo esistente. Il risultato è che Claude può marcare contenuti che la legge intendeva lasciare esenti, creando potenziali falsi positivi che potrebbero indurre in errore, ad esempio, un insegnante che interpreta il watermark come prova di generazione integrale quando il testo è solo stato leggermente modificato.

Sul piano tecnico, Anthropic ha precisato che il watermark:

  • Non è visibile all’utente e non altera il significato, la qualità o la leggibilità delle risposte.
  • Non richiede token aggiuntivi, quindi non comporta aumenti dei costi di generazione né impatti misurabili sulle prestazioni, con ritardi nell’ordine di poche decine di microsecondi per token.
  • Non contiene dati identificativi: non è possibile risalire all’utente, alla sua organizzazione o alla specifica chat. La chiave di rilevamento consente solo di rispondere alla domanda "quanto è probabile che Claude abbia contribuito alla scrittura di questo testo?".
  • Persiste attraverso copia e incolla e può resistere a modifiche leggere, ma può essere rimosso da una riscrittura completa, una parafrasi profonda o una traduzione.

Per quanto riguarda i file non testuali, Anthropic utilizzerà i metadati C2PA (Coalition for Content Provenance and Authenticity) firmati digitalmente, dove il formato lo supporta. L’azienda ha inoltre annunciato che rilascerà prossimamente un’API per il rilevamento del watermark, che consentirà a terzi di verificare se un testo è stato processato da Claude. La società non ha però fornito una tempistica precisa per il rilascio di questa API né dettagli sui tassi di falsi positivi e falsi negativi attesi, elementi che saranno cruciali per valutare l’affidabilità pratica del sistema.

Un’ambiguità di fondo riguarda la natura del segnale: Anthropic ha dichiarato che il rilevamento di un marchio "fornisce un segnale che il contenuto è stato processato da Claude, ma non è completamente conclusivo". Il messaggio reale che il watermark trasmette è che "il contenuto potrebbe essere stato processato da Claude", e il marchio può apparire anche su contenuti che non sono stati generati da Claude. Viceversa, l’assenza di un marchio rilevato non significa che il contenuto non sia stato generato o processato dall’AI.

OpenAI

OpenAI ha firmato la sezione 1 del Codice di condotta sulla trasparenza previsto dall’AI Act, impegnandosi a contrassegnare in formato leggibile dalle macchine anche i testi generati o manipolati dai propri sistemi. Tuttavia, a differenza di Anthropic, l’azienda non ha ancora rivelato quale tecnologia utilizzerà per il watermarking testuale.

La documentazione ufficiale di OpenAI descrive attualmente sistemi di verifica per immagini e audio basati su metadati C2PA e filigrane SynthID, ma non contiene indicazioni equivalenti per i testi. L’unico impegno concreto deriva dalla firma del Codice europeo, che obbliga l’azienda a sviluppare una soluzione di marcatura testuale, ma le modalità tecniche restano da chiarire. Questa mancanza di trasparenza sulla propria strategia di conformità rappresenta un elemento di incertezza, soprattutto considerando che ChatGPT è uno degli strumenti di generazione testuale più diffusi al mondo e che la sua mancata marcatura potrebbe creare un’asimmetria informativa significativa rispetto a Claude.

Google/Gemini

Google ha adottato un approccio multilivello che combina watermark visibili, watermark invisibili e metadati di provenienza. Per le immagini generate tramite la funzione "Crea immagine" di Gemini, l’azienda applica il logo di Gemini nell’angolo inferiore destro, un watermark visibile che indica immediatamente all’utente la natura artificiale del contenuto. Questo sistema, pur essendo il più diretto, ha un’utilità pratica limitata: può essere facilmente eliminato ritagliando l’immagine o scaricandola e modificandola.

A livello invisibile, Google utilizza il sistema SynthID per immagini, audio e video, che incorpora un segnale impercettibile all’occhio umano ma rilevabile da algoritmi dedicati. Per la verifica della provenienza, l’azienda integra i metadati C2PA nei file generati, e ha rilasciato la libreria open source Credencio per permettere agli sviluppatori di aggiungere la verifica C2PA alle loro applicazioni.

La decisione più controversa di Google è l’aggiunta di un’opzione nelle impostazioni di Gemini che consente di disattivare la visualizzazione del watermark visibile. L’opzione è disponibile per le immagini, per i video generati con il modello Omni e per le tracce musicali generate con il modello Lyria, e nei prossimi giorni arriverà anche per l’editor video Flow e per i contenuti generati tramite Google Search. L’azienda sottolinea che, anche quando il watermark visibile viene rimosso, l’informazione sulla generazione AI rimane sempre disponibile attraverso il watermark SynthID invisibile e i metadati C2PA. Tuttavia, questa scelta appare in tensione con lo spirito dell’AI Act, che in Europa prevede l’obbligo di trasparenza e che i provider informino sempre gli utenti che i contenuti sono generati o modificati con tool AI. Google ha dichiarato che in alcuni paesi, inclusi quelli europei, l’opzione di rimozione non dovrebbe essere disponibile per rispettare gli obblighi di legge, ma la funzione risulta attualmente presente anche nella versione italiana dell’applicazione, sollevando dubbi sulla conformità effettiva.

Suno e la musica generata

Nel settore musicale, la piattaforma Suno – uno dei principali generatori di musica AI, che contribuisce in modo significativo all’afflusso di brani sintetici su servizi di streaming come Spotify – ha annunciato l’introduzione di watermark su tutti gli output audio dei propri modelli. L’amministratore delegato Mikey Shulman ha motivato la decisione come un adeguamento agli "standard industriali emergenti" per l’etichettatura dei contenuti AI.

La scelta di Suno risponde a una duplice esigenza: da un lato, la conformità normativa, dall’altro, la necessità di dare alle piattaforme di streaming la possibilità di marcare i contenuti come AI o di bloccarli interamente. Shulman non ha specificato se Suno adotterà una soluzione interna o un sistema già pronto come SynthID di Google, che recentemente ha iniziato a essere concesso in licenza ad altre aziende. Google ha dichiarato che SynthID è stato utilizzato per etichettare 60.000 anni di audio generato dai modelli Gemini e più di 100 miliardi di immagini e video.

L’iniziativa di Suno si inserisce in un contesto più ampio di pressioni sul settore musicale: piattaforme come Tidal hanno già annunciato che non pagheranno royalties sulla musica generata al 100% da AI e la etichetteranno come tale, mentre crescono le controversie legali sull’uso di contenuti musicali per l’addestramento dei modelli. La decisione di Suno di introdurre watermark e limiti ai download di massa verso i servizi di streaming rappresenta un tentativo di legittimazione del proprio modello di business in un panorama regolatorio sempre più stringente.

Watermark e diritti d’autore

Impatto e criticità del watermarking di Claude

L’introduzione del watermarking nei testi generati da Claude, sebbene rappresenti un passo concreto verso l’attuazione dell’AI Act, solleva una serie di criticità tecniche e pratiche che ne limitano l’efficacia e potrebbero generare conseguenze inattese, sia per gli utenti che per il più ampio ecosistema informativo.

Limiti tecnici e aggirabilità

Il sistema di filigrana adottato da Anthropic, basato su una versione di SynthID-Text di Google, presenta vulnerabilità intrinseche. La sua efficacia è fortemente dipendente dalla lunghezza e dalla natura del testo: su campioni brevi o su frasi fattuali (es. "La capitale dell’Italia è Roma"), il numero di scelte linguistiche analizzabili è insufficiente per una rilevazione affidabile. Allo stesso modo, interventi minimi come correzioni grammaticali o di punteggiatura potrebbero non produrre un segnale statisticamente rilevabile.

La persistenza del watermark è un altro punto debole. Se da un lato sopravvive a un semplice copia e incolla, può essere facilmente rimosso da una riscrittura completa, una parafrasi profonda o una traduzione. Per i contenuti non testuali, la vulnerabilità è ancora più marcata: screenshot, registrazioni, conversioni di formato o semplici strumenti di editing dei metadati sono sufficienti per eliminare le informazioni di provenienza, sia per i metadati C2PA che per i watermark visibili. La stessa Anthropic riconosce che una volta resi noti i metodi di rilevamento, la creazione di sistemi per rimuovere le filigrane diventerebbe un’operazione banale.

Rischio di falsi positivi e ambiguità interpretativa

La scelta di Anthropic di applicare il watermark a tutto il contenuto processato da Claude, e non solo a quello interamente generato, è una delle decisioni più controverse. Questo approccio "nuke it from orbit" implica che anche una semplice correzione di bozze o una traduzione di un testo scritto da un umano porterà il marchio di Claude. Questa strategia va ben oltre i requisiti minimi dell’AI Act, che esenta esplicitamente l’editing standard.

Il risultato è un elevato rischio di falsi positivi: un documento scritto da una persona e solo leggermente modificato da Claude verrebbe etichettato come "processato dall’AI", creando una pericolosa ambiguità. Il watermark, infatti, non è informativo: segnala solo che il contenuto "potrebbe essere stato processato da Claude", senza distinguere tra una correzione minore e una generazione integrale. Questa mancanza di granularità potrebbe indurre in errore, ad esempio, un insegnante che potrebbe interpretare il marchio come prova di generazione automatica di un intero elaborato, quando in realtà è stato solo revisionato. La stessa Anthropic ammette che la mancanza di un marchio non è una prova dell’assenza di intervento dell’AI, minando ulteriormente l’affidabilità del sistema come strumento probatorio.

Disallineamento con la normativa e impatto sull’utente

L’approccio di Anthropic crea una tensione con la struttura dell’AI Act. Mentre sul piano tecnico si applica una marcatura "a tappeto", sul piano della divulgazione pubblica la legge (art. 50, par. 4) richiede etichette esplicite solo per i testi destinati a informare il pubblico su questioni di interesse pubblico e privi di revisione umana. Questo genera una situazione paradossale: un testo generato da Claude su un argomento di interesse pubblico, se revisionato da un editor, non richiede un’etichetta visibile, ma porterebbe comunque il watermark invisibile. Al contrario, un romanzo generato interamente dall’AI, che non richiede alcuna etichetta, verrebbe comunque marcato.

Questa discrepanza tra marcatura tecnica e obblighi di disclosure potrebbe frustrare gli utenti che usano Claude per attività legittime come la correzione di bozze, vedendo i propri testi etichettati come "AI" senza una reale necessità. La scelta di Anthropic, pur essendo tecnicamente giustificata dall’impossibilità di distinguere a livello di modello tra generazione e modifica, rischia di penalizzare proprio coloro che la legge intendeva proteggere, creando confusione e potenzialmente danneggiando la fiducia nel sistema.

Implicazioni operative per l’organizzazione

La sezione dedicata alle implicazioni operative deve tradurre il quadro normativo e tecnologico fin qui delineato in azioni concrete, responsabilità e processi di controllo per l’organizzazione. L’obiettivo è evitare che l’adeguamento all’AI Act e l’adozione di pratiche di trasparenza restino un esercizio puramente formale, e che invece diventino parte integrante della gestione del rischio, della produzione di contenuti e della reputazione dell’ente.

Conformità normativa

Il primo fronte operativo riguarda la verifica puntuale della conformità dei contenuti generati o manipolati con strumenti di intelligenza artificiale rispetto all’articolo 50 dell’AI Act. L’organizzazione deve determinare se opera come fornitore (provider) o come utilizzatore (deployer) di sistemi AI, poiché gli obblighi differiscono sostanzialmente. In qualità di utilizzatore, l’obbligo principale è informare gli utenti quando sono esposti a contenuti generati o modificati dall’AI, in particolare per i deepfake e per i testi destinati a informare il pubblico su questioni di interesse pubblico senza revisione editoriale umana. In qualità di fornitore, l’obbligo è garantire che i contenuti siano marcati in formato leggibile dalle macchine, come stanno facendo Anthropic, OpenAI e Google.

Per adempiere a questi obblighi, l’organizzazione dovrebbe:

  • Mappare i flussi di produzione dei contenuti: identificare tutti i punti in cui l’AI viene utilizzata per generare, modificare, tradurre o riassumere testi, immagini, audio o video. Questa mappatura deve includere sia gli strumenti interni (es. Claude, ChatGPT, Gemini) sia quelli integrati in piattaforme di terze parti.
  • Valutare l’esenzione per l’editing standard: l’AI Act non richiede la marcatura quando il sistema svolge una funzione assistiva per l’editing standard (es. correzione grammaticale) senza alterare sostanzialmente il testo. Tuttavia, come documentato, Anthropic applica il watermark a tutto il contenuto processato da Claude, rendendo di fatto impossibile distinguere un intervento minimo da una generazione integrale. L’organizzazione deve quindi essere consapevole che i testi corretti con Claude potrebbero portare il watermark, con il rischio di falsi positivi in contesti interni o esterni.
  • Definire una policy interna per la marcatura: in attesa di chiarimenti normativi e del rilascio dell’API di rilevamento da parte di Anthropic, l’organizzazione dovrebbe adottare una policy prudenziale che preveda la marcatura esplicita (dichiarazione di utilizzo dell’AI) per i contenuti destinati alla pubblicazione, in particolare quelli che riguardano questioni di interesse pubblico. Questa policy deve essere più restrittiva del minimo legale, per ridurre il rischio di sanzioni e di danni reputazionali.
  • Monitorare le decorrenze: gli obblighi si applicano dal 2 agosto 2026 per i modelli lanciati dopo tale data, e dal 2 dicembre 2026 per i modelli preesistenti. L’organizzazione deve verificare quali versioni dei modelli AI utilizza e se rientrano nel periodo transitorio, pianificando l’adeguamento delle proprie procedure entro le scadenze previste.

Responsabilità e governance

La gestione dei watermark e della trasparenza dei contenuti AI richiede una chiara attribuzione di responsabilità all’interno dell’organizzazione. Non si tratta di una mera questione tecnica, ma di una funzione trasversale che coinvolge la direzione, l’ufficio legale, la comunicazione e l’IT.

Le azioni raccomandate includono:

  • Designazione di un responsabile per la conformità AI: una figura o un comitato dedicato, con il compito di monitorare l’evoluzione normativa (inclusi i decreti legislativi italiani di adeguamento), aggiornare le policy interne e verificare l’implementazione delle misure di trasparenza. Questa funzione dovrebbe avere accesso diretto alla direzione e poter attivare procedure di escalation in caso di violazioni o dubbi interpretativi.
  • Integrazione dei watermark nei processi di verifica dei contenuti: l’organizzazione deve definire procedure per verificare la presenza di watermark nei testi e nei file ricevuti da terzi o generati internamente. In attesa dell’API di Anthropic, è possibile utilizzare strumenti di verifica dei metadati C2PA per immagini, audio e video, e sviluppare competenze interne per riconoscere i limiti dei sistemi attuali (es. impossibilità di rilevare watermark su testi brevi o dopo parafrasi).
  • Gestione del rischio di falsi positivi e negativi: il watermark di Claude non è una prova conclusiva di generazione AI, né la sua assenza esclude l’intervento dell’AI. L’organizzazione deve evitare di utilizzare il watermark come strumento probatorio in contesti disciplinari, legali o accademici, e deve formare il personale (in particolare docenti, redattori, revisori) a interpretare correttamente il segnale, distinguendo tra "processato da Claude" e "generato da Claude".
  • Separazione tra watermark e diritti d’autore: è essenziale che l’organizzazione non confonda la provenienza (watermark) con la proprietà intellettuale. Il watermark indica solo che il contenuto potrebbe essere stato processato da un modello AI, ma non dice nulla sulla paternità dell’opera o sulla titolarità dei diritti. Le policy interne devono riflettere questa distinzione, evitando di utilizzare la presenza o l’assenza di watermark per determinare la titolarità o la liceità dell’uso di un contenuto.

Monitoraggio e controllo

Il terzo pilastro operativo è il monitoraggio continuo dell’efficacia delle misure di trasparenza e l’adeguamento alle evoluzioni tecnologiche e normative. Il panorama del watermarking è in rapida evoluzione, e le soluzioni oggi disponibili potrebbero essere superate o integrate da nuovi standard.

Le attività di monitoraggio dovrebbero includere:

  • Tracciamento delle tecnologie di rilevamento: monitorare il rilascio dell’API di rilevamento di Anthropic e le eventuali soluzioni di OpenAI per il testo. Valutare periodicamente l’affidabilità dei sistemi (tassi di falsi positivi e negativi) e aggiornare le procedure interne di verifica di conseguenza.
  • Verifica della persistenza dei watermark: testare periodicamente la robustezza dei watermark sui contenuti prodotti internamente, simulando operazioni comuni come copia e incolla, modifica leggera, parafrasi e conversione di formato. Questo permette di comprendere i limiti operativi e di informare gli utenti interni sui rischi di rimozione accidentale o intenzionale.
  • Aggiornamento normativo: seguire le linee guida della Commissione Europea, le eventuali modifiche all’AI Act (come il regolamento AI Omnibus) e i decreti attuativi italiani, adeguando le policy interne alle nuove disposizioni. Particolare attenzione va dedicata alle eccezioni previste dalla legge e al loro rapporto con le scelte tecniche dei fornitori (es. l’approccio "nuke it from orbit" di Anthropic).
  • Audit periodici: condurre verifiche interne per accertare che i contenuti pubblicati rispettino le policy di marcatura e che le dichiarazioni di utilizzo dell’AI siano accurate. Gli audit dovrebbero includere un campione di contenuti testuali, immagini e video, verificando sia la presenza dei watermark sia la correttezza delle etichette visibili.
  • Formazione e sensibilizzazione: aggiornare periodicamente il personale sui rischi e le opportunità del watermarking, sulle differenze tra watermark visibili e invisibili, e sulle implicazioni legali dell’uso dell’AI nella produzione di contenuti. La formazione dovrebbe includere casi pratici, come la correzione di bozze con Claude che produce un watermark, per evitare interpretazioni errate.

In sintesi, l’organizzazione deve considerare il watermarking non come un adempimento tecnico isolato, ma come parte di un sistema più ampio di governance della trasparenza, che richiede responsabilità chiare, processi verificabili e un monitoraggio continuo. Solo così sarà possibile coniugare l’innovazione nell’uso dell’AI con la tutela della fiducia e della reputazione, riducendo i rischi legali e operativi.

Raccomandazioni e prossimi passi

Azioni da intraprendere

Il primo passo concreto consiste nell’istituire un gruppo di lavoro interfunzionale dedicato alla trasparenza dei contenuti AI, con il mandato di tradurre gli obblighi normativi e le considerazioni tecniche emerse in procedure operative. Questo gruppo dovrebbe riunire competenze legali, IT, comunicazione e produzione dei contenuti, e avere accesso diretto alla direzione per le decisioni strategiche. Il suo primo compito è la mappatura completa dei flussi di produzione dei contenuti dell’organizzazione: occorre identificare tutti i punti in cui l’AI viene utilizzata, sia internamente (es. Claude, ChatGPT, Gemini) sia tramite piattaforme di terze parti, distinguendo tra generazione integrale, modifica, traduzione e riassunto. Questa mappatura è il prerequisito per qualsiasi valutazione di conformità e per l’allocazione delle responsabilità.

Sulla base di questa mappatura, è necessario adottare una policy interna per la marcatura dei contenuti AI, che sia prudenziale e più restrittiva del minimo legale. In particolare, per i contenuti destinati alla pubblicazione su questioni di interesse pubblico, l’organizzazione dovrebbe prevedere una dichiarazione esplicita di utilizzo dell’AI, indipendentemente dal fatto che il watermark tecnico sia presente o meno. La policy deve anche stabilire criteri chiari per l’uso di Claude e di altri strumenti in modalità "editing standard" (correzione grammaticale, riassunto), riconoscendo che, per la scelta tecnica di Anthropic, anche questi interventi produrranno un watermark e che quindi i testi così trattati non possono essere presentati come "solo umani".

È necessario implementare procedure di verifica della provenienza dei contenuti ricevuti da terzi e di quelli prodotti internamente. In attesa del rilascio dell’API di rilevamento di Anthropic, l’organizzazione deve sviluppare competenze per l’uso degli strumenti di verifica dei metadati C2PA per immagini, audio e video, e per la corretta interpretazione dei limiti dei sistemi attuali (impossibilità di rilevare watermark su testi brevi o dopo parafrasi). Questa capacità di verifica deve essere documentata e resa disponibile al personale che gestisce contenuti pubblici.

Un’azione prioritaria è la formazione del personale sui limiti e le implicazioni del watermarking. La formazione deve coprire: la differenza tra "generato da Claude" e "processato da Claude"; il rischio di falsi positivi (testi umani corretti che portano il watermark); la facilità di rimozione delle filigrane e quindi la non affidabilità del sistema come strumento probatorio; la distinzione tra watermark (provenienza) e diritti d’autore (proprietà). Casi pratici, come la correzione di bozze con Claude, devono essere discussi per evitare interpretazioni errate, soprattutto in contesti didattici o editoriali.

Definire un processo di gestione del rischio di falsi positivi e negativi è essenziale. L’organizzazione deve evitare di utilizzare il watermark come prova in contesti disciplinari, legali o accademici, e deve invece trattarlo come un segnale informativo da interpretare con cautela. Le procedure di verifica devono essere progettate per ridurre il rischio di danni reputazionali o di accuse infondate, prevedendo la raccolta di prove aggiuntive quando il watermark è l’unico elemento disponibile.

Tempistiche

La pianificazione temporale deve essere allineata alle scadenze normative e al rilascio degli strumenti di rilevamento. Le azioni si articolano in tre fasi:

  • Fase 1 – Immediata (entro 30 giorni): costituzione del gruppo di lavoro, avvio della mappatura dei flussi di contenuti e definizione della bozza di policy. In questa fase, l’organizzazione deve anche verificare quali versioni dei modelli AI utilizza (nuovi modelli post-2 agosto 2026 o modelli preesistenti) per determinare le scadenze applicabili. La mappatura e la policy preliminare devono essere completate entro il 2 dicembre 2026, data in cui gli obblighi si estendono a tutti i modelli, inclusi quelli preesistenti.
  • Fase 2 – Implementazione (60-90 giorni): adozione della policy, implementazione delle procedure di verifica C2PA e avvio della formazione del personale. In questa fase, l’organizzazione deve monitorare il rilascio dell’API di rilevamento di Anthropic e le eventuali soluzioni di OpenAI, preparando l’integrazione di questi strumenti nelle proprie procedure. La formazione deve essere completata prima della scadenza del periodo transitorio del 2 dicembre 2026.
  • Fase 3 – Consolidamento e monitoraggio (continuativo): avvio degli audit periodici, aggiornamento delle policy in base alle evoluzioni normative (es. decreti attuativi italiani, linee guida della Commissione, modifiche all’AI Act come il regolamento AI Omnibus) e alle nuove tecnologie di watermarking. Questa fase non ha una data di fine, ma deve essere formalizzata come un processo continuo con revisioni semestrali.

Priorità

La priorità massima è la conformità normativa, che si articola in tre azioni: completare la mappatura dei processi, adottare la policy di marcatura e garantire che i contenuti pubblicati rispettino gli obblighi di trasparenza. Questa priorità è vincolata alle scadenze del 2 agosto e 2 dicembre 2026, e il rischio di sanzioni (fino a 15 milioni di euro o 3% del fatturato) rende il suo adempimento non derogabile.

La seconda priorità è la gestione del rischio operativo, che include la formazione del personale e l’implementazione delle procedure di verifica. Questa priorità è legata alla prima, perché la formazione è necessaria per evitare che il personale interpreti erroneamente i watermark e per garantire che le policy siano applicate in modo coerente. La gestione del rischio operativo deve essere completata entro il periodo transitorio del 2 dicembre 2026.

La terza priorità è il monitoraggio tecnologico e normativo, che è un’attività continua e non vincolata a scadenze immediate, ma che deve essere avviata già nelle fasi precedenti. Il monitoraggio è essenziale per adeguare le procedure quando Anthropic rilascerà l’API di rilevamento, quando OpenAI chiarirà la sua tecnologia per i testi e quando la Commissione Europea o le autorità nazionali forniranno nuove linee guida. Questa priorità ha un orizzonte di lungo periodo e richiede risorse dedicate, ma non deve ritardare le azioni delle fasi precedenti.

In sintesi, l’ordine di priorità è: 1) conformità normativa (entro le scadenze), 2) gestione del rischio operativo (parallela, ma completata entro il periodo transitorio), 3) monitoraggio e aggiornamento (attività continuativa che alimenta le prime due).

Fonti

La sezione "Fonti" documenta l’insieme delle fonti consultate per l’elaborazione del presente rapporto. La selezione risponde a un criterio di pertinenza tematica, privilegiando fonti primarie (documentazione tecnica e normativa) e fonti secondarie (analisi e reportage di stampa specializzata) che offrono una visione completa e aggiornata dello stato dell’arte del watermarking nei contenuti AI, del quadro normativo europeo e delle implicazioni per i diritti d’autore.

Fonti principali

Fonti complementari

Knowledge base e riferimenti aggiuntivi

Il presente rapporto è stato elaborato anche sulla base della sintesi interna "Sintesi: watermark nei contenuti AI e diritti d’autore", che raccoglie i punti chiave del quadro normativo, delle tecnologie di watermarking, dell’approccio dei principali fornitori e delle implicazioni per i diritti d’autore. Questa sintesi ha servito da guida per strutturare l’analisi e garantire la copertura di tutti gli aspetti rilevanti.

Inoltre, sono state consultate le seguenti risorse per completare l’analisi:

La selezione delle fonti è stata effettuata con l’obiettivo di garantire la precisione tecnica, l’attualità normativa e la diversità di prospettive su un tema in rapida evoluzione. Si raccomanda al lettore di consultare le fonti primarie per un’analisi più dettagliata degli aspetti tecnici e normativi specifici.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *