Il 7 ottobre il controllo è diventato pubblico
Il 7 ottobre Google ha aperto a tutti SynthID Detector, il portale che fino a quel momento era riservato a giornalisti e ricercatori.1 Su synthid.com si carica un'immagine, un video o un file audio e il sistema risponde se dentro c'è la filigrana invisibile che Google mette in quello che producono i suoi modelli. Da quest'anno la riconosce anche nei contenuti di OpenAI, NVIDIA e Kakao, e Google annuncia che presto si aggiungerà Apple.
I numeri danno l'idea della scala. Google dice di aver marcato oltre 180 miliardi di immagini e video e l'equivalente di 240.000 anni di audio. Le verifiche fatte attraverso la Ricerca, l'app Gemini e Chrome superano il milione al giorno.1 A maggio la stessa funzione nell'app Gemini era stata usata 50 milioni di volte.2
Mi interessa per una ragione pratica. A occhio non ce la facciamo più: in uno studio pubblicato su PNAS, 315 persone hanno distinto volti veri da volti generati nel 48,2% dei casi, meno che tirando a sorte, e hanno giudicato i volti sintetici più affidabili di quelli reali.3 Gli strumenti diventano necessari, ma vanno capiti, perché non fanno tutti la stessa cosa e nessuno risponde alla domanda che ci facciamo di solito: questo contenuto è vero?
Tre modi diversi di cercare l'AI
Chi parla di «rilevatori di AI» mette insieme strumenti che funzionano in modi molto diversi.
Il primo è la filigrana. Il modello, mentre genera, nasconde nel contenuto un segnale che l'occhio non vede e che un programma con la chiave giusta sa leggere. È il caso di SynthID. Funziona bene, ma solo sui contenuti dei modelli che la inseriscono.
Il secondo è la provenienza. Lo standard C2PA, chiamato anche Content Credentials, allega al file una specie di carta d'identità firmata con la crittografia: chi l'ha creato, con quale strumento, quali modifiche ha subito.4 Dice da dove viene un file e che cosa gli è successo, senza giudicarne il contenuto. Il problema è che quella carta d'identità vive nei metadati, e uno screenshot o un caricamento su un social la fanno sparire.
Il terzo è il rilevatore vero e proprio, un classificatore addestrato a riconoscere lo stile dell'AI senza alcun segnale da leggere. Sono GPTZero, Turnitin, Hive e decine di altri. Funzionano su qualsiasi contenuto, ma tirano a indovinare, e su questo torno più avanti.
Tre famiglie di strumenti per riconoscere un contenuto generato
| Famiglia | Come funziona | Esempi | Limite principale |
|---|---|---|---|
| Filigrana | Un segnale invisibile inserito dal modello mentre genera | SynthID di Google, textGrain di OpenAI, filigrana di Claude, Video Seal di Meta | Vale solo per i modelli che la inseriscono e si indebolisce con le riscritture |
| Provenienza | Metadati firmati che raccontano origine e modifiche del file | C2PA e Content Credentials, fotocamere Leica, Sony, Pixel 10 | Spariscono con uno screenshot o un nuovo caricamento |
| Rilevatore | Un classificatore che stima la probabilità dallo stile | GPTZero, Turnitin, Pangram, Hive, Reality Defender | Falsi allarmi e risultati che cambiano con modelli nuovi |
Come funziona SynthID
Per il testo, SynthID agisce nel momento in cui il modello sceglie la parola successiva. Una chiave segreta organizza una specie di torneo tra le parole candidate e sposta di poco le probabilità, abbastanza perché su un testo lungo resti un'impronta statistica, troppo poco perché il lettore se ne accorga. Google l'ha descritto su Nature nell'ottobre 2024 e l'ha provato su circa 20 milioni di risposte di Gemini, senza differenze nel giudizio degli utenti.5 Lo ha anche reso open source, così altri sviluppatori possono usarlo sui propri modelli.
Per immagini, video e audio il segnale è intrecciato ai pixel o al suono ed è progettato per resistere a ritagli, filtri, compressione e cambi di velocità. Il portale risponde «filigrana rilevata» o «non rilevata» e, per video e audio, indica in quali punti.
Google stessa mette in chiaro i limiti. Il testo molto breve, le risposte fattuali con poche alternative possibili, le traduzioni e le riscritture profonde abbassano molto la fiducia del controllo.6 E soprattutto un «non rilevato» non significa che il contenuto sia umano: può venire da Midjourney, da un modello open source o da qualunque sistema che non usa SynthID.
Che cosa fanno gli altri
Il 2026 è l'anno in cui le filigrane sono diventate la norma, soprattutto per effetto della legge europea.
OpenAI da maggio aggiunge SynthID e C2PA alle immagini create con ChatGPT e con le sue API.2 Il 5 ottobre ha annunciato textGrain, una filigrana per il testo attiva per impostazione predefinita su ChatGPT e Codex solo nell'Unione europea, e su richiesta per gli sviluppatori nel resto del mondo. Il rilevatore per ora è riservato a ricercatori approvati. OpenAI stessa riporta che sostituire con sinonimi il 10% delle parole fa scendere il riconoscimento da circa il 92% al 66%.7
Anthropic inserisce una filigrana nel testo dei modelli Claude e allega Content Credentials ai file PNG e JPEG che genera. I file si controllano gratis su claude.com/check-content, mentre la verifica del testo è aperta solo a regolatori, ricercatori, media e scuole. Anche Anthropic avverte che un segno trovato non è una prova definitiva, perché Claude potrebbe aver solo corretto o tradotto un testo scritto da altri.8
Meta ha reso open source Video Seal e AudioSeal, ElevenLabs sta adottando SynthID per le voci sintetiche, e sul fronte della provenienza il Pixel 10 è stato il primo telefono a firmare con Content Credentials le foto della fotocamera.2 Chiunque può leggere quelle credenziali su contentcredentials.org/verify.
Come siamo arrivati qui
- Gen 2023OpenAI lancia un classificatore per i testi generati
- Lug 2023Lo ritira: riconosceva solo il 26% dei testi scritti dall'AI
- Ago 2023Google introduce SynthID per le immagini
- Ott 2024SynthID per il testo esce su Nature e diventa open source
- Mag 2025Il portale SynthID Detector apre a giornalisti e ricercatori
- Ago 2026In Europa diventa obbligatorio marcare i contenuti generati
- Ott 2026SynthID Detector si apre a tutti
Quanto funzionano
Le filigrane reggono le piccole modifiche, ma una riscrittura le cancella quasi sempre. A luglio due ricercatori hanno sottoposto testi marcati a una parafrasi che conserva il significato: la filigrana più diffusa nella ricerca, chiamata KGW, è sparita nel 100% dei casi, quella di SynthID nel 98,3%.9 Per le immagini il problema è anche il contrario: già nel 2023 uno studio ha mostrato che si può aggiungere un segnale falso a una foto vera e farla risultare generata.10
Filigrane del testo rimosse con una parafrasi
Con i rilevatori che indovinano dallo stile va peggio. OpenAI aveva lanciato il suo classificatore nel gennaio 2023 e lo ha ritirato sei mesi dopo: riconosceva il 26% dei testi scritti dall'AI e segnalava come artificiale il 9% di quelli umani.11 Uno studio su sei rilevatori ha misurato una precisione del 39,5%, scesa al 17,4% dopo piccoli ritocchi pensati per ingannarli.12
Il risultato più preoccupante, per me, arriva da un lavoro dell'Università di Notre Dame pubblicato ad agosto. Gli abstract scientifici scritti da persone venivano segnalati come AI fino al 15% delle volte. Quelli ritoccati appena con l'AI, come permettono molte linee guida, fino all'80%. Quelli generati e poi passati in un programma che li «umanizza» quasi mai, meno del 4%.13 In pratica rischia di più chi usa l'AI in modo dichiarato e corretto di chi la usa per imbrogliare.
Quanto spesso un rilevatore di testo dice «AI»
Per immagini, video e audio la situazione è simile. Il benchmark Deepfake-Eval-2024, costruito con deepfake che circolavano davvero online nel 2024 in 52 lingue, ha mostrato che i rilevatori open source perdono circa metà della loro capacità di distinguere rispetto ai test accademici: il 50% per i video, il 48% per l'audio, il 45% per le immagini. I prodotti commerciali vanno meglio, ma non raggiungono ancora gli analisti forensi umani.14
Le regole: dal 2 agosto marcare è un obbligo
Dal 2 agosto 2026 l'articolo 50 dell'AI Act chiede a chi fornisce sistemi di AI generativa di marcare immagini, video, audio e testo in un formato leggibile dalle macchine, e a chi pubblica deepfake di dichiararlo. Con l'accordo sul Digital Omnibus, i sistemi già sul mercato prima di quella data hanno tempo fino al 2 dicembre per la marcatura.15 Il codice di condotta europeo, pubblicato a giugno, a fine luglio contava circa 190 firmatari, tra cui Google, OpenAI, Anthropic, Meta, Microsoft e Mistral.16 La Cina ha regole simili dal settembre 2025, la California dal 2 agosto di quest'anno.
In Italia la legge 132 del 2025 ha introdotto il reato di diffusione illecita di contenuti generati o alterati con l'AI, con pene da uno a cinque anni quando il contenuto inganna e causa un danno.17 È uno strumento per punire dopo. Le filigrane servono a prevenire, e a dare a chi indaga una traccia da seguire.
Che cosa ne penso
Le filigrane sono un passo avanti vero, e il fatto che Google abbia aperto il suo controllo anche ai contenuti di OpenAI e NVIDIA conta più di qualunque annuncio tecnico. Ma vanno lette per quello che sono: un segnale positivo. Se la filigrana c'è, il contenuto è passato da un certo modello. Se non c'è, non sappiamo niente, perché chi vuole ingannare userà un modello che non marca o riscriverà il testo finché il segno sparisce.
Per questo credo che il valore più grande non stia nel riconoscere il falso ma nel dimostrare il vero. Una foto firmata dalla fotocamera nel momento dello scatto, con una storia delle modifiche che si può verificare, vale più di qualunque punteggio di probabilità. Un giornale, un'azienda o un'istituzione che pubblica materiale autentico dovrebbe cominciare da lì.
Sui rilevatori di testo sono più netto: non li userei mai per giudicare una persona, che sia uno studente, un candidato o un collaboratore. Con quei tassi di errore il rischio di accusare chi ha scritto onestamente è troppo alto. Se in un'organizzazione serve sapere come è stato prodotto un testo, la strada è chiederlo e rendere normale dichiararlo.
Come controllare un contenuto, oggi
- Immagini, video, audioCercare la filigranaCaricare il file su synthid.com o chiedere all'app Gemini se è stato creato con l'AI. Vale per Google e per i suoi partner, non per tutti.
- Foto e fileLeggere la provenienzaSu contentcredentials.org/verify si vedono origine e modifiche, se i metadati ci sono ancora. I file di Claude si controllano su claude.com/check-content.
- ContestoCercare l'originaleRicerca inversa delle immagini e il plugin gratuito InVID-WeVerify per i video. I fact-checker partono da qui, non dai rilevatori.
- Voce al telefonoRichiamareChiudere e richiamare su un numero già noto. Nel febbraio 2025 la falsa voce del ministro Crosetto ha convinto Massimo Moratti a versare quasi un milione di euro, poi in gran parte bloccato dalla procura.
Full Fact, uno dei principali fact-checker britannici, considera i rilevatori online poco affidabili e non li usa di routine: incrocia fonte, contesto e dettagli, e quando scrive preferisce «probabilmente generato» a «generato».18 Mi sembra il metodo giusto anche per chi non fa questo di mestiere. Un controllo automatico può aiutare a decidere dove guardare, ma la conclusione resta nostra, e per arrivarci servono più indizi messi insieme.
Il caso Crosetto lo dimostra meglio di qualunque studio. La voce era credibile e la richiesta urgente, e avrebbe fermato la truffa solo una telefonata di verifica fatta su un altro canale.19