Dal 29 gennaio 2024 la legge elettorale sudcoreana vieta i deepfake a scopo di campagna nei 90 giorni prima del voto. Due tornate dopo, i numeri dicono che il sistema rimuove molto e sanziona quasi nulla: la prima denuncia è arrivata solo il 29 maggio 2025. Il costo di questo assetto non si misura in multe, ma in infrastruttura di monitoraggio permanente.
Il 29 maggio 2025, a pochi giorni dalle presidenziali sudcoreane, la Commissione elettorale nazionale (NEC) ha presentato denuncia contro tre persone, tra cui gestori di canali YouTube. L’accusa riguardava 35 post che mostravano l’immagine di un candidato in divisa carceraria e 10 video confezionati in formato telegiornale, con un’anchor interamente generata da intelligenza artificiale. Era la prima denuncia in assoluto da quando esiste la norma che vieta i deepfake elettorali. La norma era in vigore da sedici mesi.
Quei sedici mesi sono l’oggetto di questo articolo, perché raccontano qualcosa di preciso su cosa costa davvero regolare i contenuti sintetici in campagna elettorale. La tecnologia in gioco è nota: modelli generativi addestrati su grandi quantità di immagini, video e registrazioni vocali, capaci di produrre un volto o una voce riconoscibili in un contesto mai avvenuto. Dall’altra parte, a provare a intercettarli, c’è un apparato ibrido — strumenti di rilevamento automatico, tra cui uno sviluppato internamente dalla polizia nazionale coreana e messo in campo nel 2024, più revisione umana, più canali diretti con le piattaforme. È questa seconda infrastruttura, non il divieto in sé, la voce di spesa interessante.
Cosa dice davvero la legge
L’articolo 82-8 del Public Official Election Act è stato approvato dall’Assemblea Nazionale a dicembre 2023, promulgato il 28 dicembre e reso operativo il 29 gennaio 2024. Vieta di produrre, montare, diffondere, proiettare o pubblicare deepfake — audio, immagini e video artificiali «difficilmente distinguibili dalla realtà» — a scopo di campagna elettorale, nei novanta giorni che precedono il voto.
Conviene essere precisi su cosa resta fuori, perché la descrizione corrente della norma all’estero tende a gonfiarla. Non è un divieto generalizzato dei contenuti elettorali prodotti con l’AI. L’immagine palesemente stilizzata, la satira riconoscibile come tale, il materiale non riconducibile alla propaganda non rientrano nel perimetro. E fuori dalla finestra dei novanta giorni l’uso dell’intelligenza artificiale in campagna resta lecito: va però etichettato in modo chiaro come contenuto virtuale o generato artificialmente. Il legislatore coreano, in altre parole, non ha spento l’AI nelle campagne. Ha deciso che negli ultimi tre mesi il realismo indistinguibile è di per sé illecito, a prescindere dal fatto che il contenuto dica il vero o il falso.
Questa scelta è stata criticata in patria come sovra-legislazione. Il divieto si applica anche quando la persona ritratta ha dato il consenso, e anche quando a produrre il contenuto è il candidato stesso su di sé. Alcuni commentatori hanno segnalato il rischio di chilling effect su usi perfettamente innocui. In letteratura, la Corea viene accostata a Singapore come caso di criminalizzazione del deepfake per sé nei periodi elettorali, distinta dai modelli che puniscono l’inganno.
I numeri delle due tornate
Alle legislative del 10 aprile 2024, tra il 29 gennaio e metà febbraio, la NEC aveva già rilevato 129 contenuti AI in violazione. Sull’intero periodo elettorale — 29 gennaio-10 aprile — la Commissione ha citato 388 contenuti deepfake oggetto di segnalazione o richiesta di rimozione.
Alle presidenziali del 3 giugno 2025 il quadro cambia scala. Tra il 4 aprile e l’11 maggio 2025 la NEC ha inoltrato 769 richieste di rimozione a KISO e ad altri interlocutori. Il dettaglio più istruttivo è il ritmo: all’8 maggio erano 598, tre giorni dopo 769. Centosettantuno in settantadue ore.
Due avvertenze serie prima di usare questi numeri. Primo: 388 e 769 non sono grandezze omogenee — finestre temporali diverse, perimetri di monitoraggio diversi, elezioni diverse. Secondo, e più importante: sono richieste di rimozione, non violazioni accertate. Una richiesta di rimozione è un atto amministrativo rapido; un illecito contestato è un’altra cosa.
Ed è qui che l’impianto mostra la propria frattura. Dopo le legislative del 2024, i casi deferiti dalla NEC agli inquirenti in base all’articolo 82-8 sono stati zero. Zero anche i fascicoli trasmessi dalla polizia alla procura. La ragione, riportata dalla stampa coreana, è la difficoltà dei requisiti probatori: bisogna dimostrare contemporaneamente che il contenuto è difficilmente distinguibile dal reale e che è stato prodotto con finalità di campagna elettorale. Due accertamenti distinti, entrambi contestabili, su materiale che spesso circola anonimo. Al 12 maggio 2025 la polizia indagava su 8 video che coinvolgevano 18 persone. Poi, il 29 maggio, la prima denuncia.
Dove finiscono i soldi
L’angolazione economica di questa vicenda non sta dove la si cercherebbe. Non esistono dati pubblici affidabili sui costi di compliance sostenuti dalle piattaforme, né sulla spesa delle campagne in strumenti di AI, né su un presunto impatto sull’industria coreana del settore: chi li cita, li sta stimando. Quello che invece si vede a occhio nudo è la struttura che lo Stato ha dovuto costruire per far funzionare un divieto di novanta giorni.
- Un panel consultivo della NEC dedicato ai deepfake.
- Linee dirette con le piattaforme, tra cui Naver e Google.
- Centri investigativi attivati in 278 commissariati di polizia.
- Uno strumento proprietario di rilevamento sviluppato e schierato dalla polizia nazionale nel 2024.
Nessuna di queste voci si accende e si spegne con il calendario elettorale. Un panel di esperti, un canale operativo con una piattaforma, un classificatore di rilevamento sono asset permanenti: vanno mantenuti, aggiornati, riaddestrati man mano che i modelli generativi migliorano. Il divieto dura novanta giorni; l’infrastruttura che lo rende applicabile dura tutto l’anno. È una spesa strutturale a fronte di una finestra intermittente — e con un tasso di conversione in procedimenti, finora, prossimo allo zero.
C’è poi un problema tecnico che nessun budget risolve. Il rilevamento automatico dei deepfake è un classificatore statistico: produce punteggi di probabilità, non verdetti, e la sua accuratezza degrada quando compaiono modelli generativi nuovi, non rappresentati nei dati di addestramento. Un sistema che segnala bene i falsi di oggi può diventare opaco davanti a quelli di tra sei mesi. Per una rimozione rapida, un punteggio può bastare. Per un processo penale, dove l’imputato ha diritto a contestare il metodo, assai meno. La forbice tra 769 rimozioni e una denuncia non è pigrizia degli inquirenti: è la distanza tra due standard di prova.
Il banco di prova del 2026
Dal gennaio 2026 è in vigore l’AI Basic Act coreana, una legge generale sull’intelligenza artificiale, non un provvedimento anti-deepfake. Un suo articolo, il 31(3), impone però di notificare ed etichettare i contenuti AI difficilmente distinguibili dal reale, con sanzione amministrativa fino a 30 milioni di won, circa 20.000 dollari, in caso di mancata trasparenza.
Le amministrative del 3 giugno 2026 sono la prima tornata in cui i due impianti si applicano insieme: divieto penale nei novanta giorni, obbligo di etichettatura sempre. Due logiche diverse — punire la produzione, oppure imporre la dichiarazione — che per la prima volta convivono sullo stesso contenuto. Intanto, a marzo 2026, in Corea si discute un emendamento per estendere il divieto alle elezioni dei sovrintendenti scolastici, oggi scoperte.
Il dettaglio che vale la pena portarsi via è proprio quest’ultimo. Una legge pensata per difendere il voto nazionale ha lasciato fuori una competizione elettorale minore, e due anni dopo il legislatore sta correndo a tapparla. Non perché qualcuno si fosse distratto, ma perché un divieto costruito per perimetro — queste elezioni sì, quelle no, entro questa finestra — invecchia alla velocità con cui si allarga l’accesso ai modelli generativi. Le sanzioni, intanto, restano un deterrente teorico: sul libro ci sono fino a sette anni di reclusione e multe da 10 a 50 milioni di won, ma in due tornate nessuno li ha ancora visti applicati.