intelligenza artificiale

Questo è il testo della puntata del 13 aprile 2026 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: audio di Michael Geoffrey Asia da https://www.youtube.com/watch?v=QH654YPxvEE]

È la voce di Michael Geoffrey Asia, un uomo che vive in Kenya e per cinque anni ha fatto data labeling per lavoro: ha annotato, etichettato e descritto immagini e video da dare in pasto alle intelligenze artificiali per addestrarle.

Ne è uscito distrutto psicologicamente, come tanti uomini e tante donne del suo Paese, perché per questo lavoro ha dovuto descrivere minuziosamente immagini e video raccapriccianti, che mostravano incidenti mortali, uccisioni, abusi, violenze e altri orrori, per ore di fila, in una sorta di moderna Arancia meccanica. Perché un’intelligenza artificiale commerciale come ChatGPT o Gemini, per funzionare, ha bisogno di saper riconoscere anche queste cose, e quindi qualcuno gliele deve mostrare e spiegare in dettaglio.

Questa è la storia del lato oscuro delle IA che tutti usiamo con leggerezza: dietro la luccicante, asettica facciata dei miliardari della Silicon Valley ci sono lavoratori sottopagati e privi di qualunque sostegno psicologico, costretti a vedere cose che nessun essere umano dovrebbe subire. Michael Geoffrey Asia è una delle persone che stanno cercando, con fatica, di contrastare questo sfruttamento.

Benvenuti alla puntata del 13 aprile 2026 del Disinformatico, il podcast mensile della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Il data labeling, o etichettatura dei dati, sembra un argomento tedioso, un dettaglio trascurabile delle tecnologie che stanno alla base delle intelligenze artificiali, ma non è così.

In sintesi, le IA “imparano” (per così dire) a riconoscere gli oggetti del mondo reale perché qualcuno fornisce loro un numero enorme di immagini accuratamente etichettate: questo è un gattino accucciato su un ramo di un albero, questo è un semaforo stradale che segna rosso per i pedoni, queste sono persone in costume da bagno che mangiano un gelato, e così via.

A differenza degli esseri umani, le intelligenze artificiali hanno bisogno di moltissimi esempi prima di riuscire a generalizzare un concetto di oggetto. Un bambino vede un gatto per la prima volta ed è subito in grado di riconoscere qualunque altro gatto in qualunque situazione. Invece per insegnare a un’intelligenza artificiale come riconoscere una persona, per esempio, bisogna mostrarle immagini di bambini e di adulti, in tante posizioni e situazioni differenti, con lineamenti e colori della pelle diversi, con abbigliamenti di ogni sorta, di giorno e di notte, al coperto e all’aperto, eccetera eccetera.

I casi possibili sono molto più numerosi di quello che immaginiamo normalmente: per esempio, una IA potrebbe non riconoscere come persona un uomo che porta un bambino in braccio o sulle spalle, una donna che ha un braccio solo, un tifoso che si è dipinto la faccia con i colori della squadra del cuore, un soccorritore accucciato, un vigile che dirige il traffico, un ragazzo su una sedia a rotelle oppure una donna con il volto insanguinato dopo un incidente notturno.

Un’etichettatura imprecisa o incompleta può avere delle conseguenze reali terribili. Pensiamo per esempio alle auto a guida assistita o autonoma, nelle quali l’intelligenza artificiale deve riconoscere gli oggetti inquadrati dalle telecamere del veicolo per consentire al sistema di guida di decidere correttamente come comportarsi. Davanti all’auto c’è un pedone, o si tratta di un’immagine pubblicitaria sul retro di un furgone? Quella sagoma sull’asfalto è un telo caduto da un camion o è una persona ferita o incosciente? Un errore di riconoscimento potrebbe costare la vita a qualcuno.

Tutto questo lavoro meticoloso di etichettatura deve essere svolto da esseri umani. Non può essere delegato a un’intelligenza artificiale se non in piccolissima parte. E deve continuare nel tempo, perché oltre all’etichettatura delle immagini per l’addestramento delle IA c’è anche quella per la moderazione dei contenuti dei social network. Ogni giorno milioni di utenti irresponsabili tentano di postare immagini inaccettabili sui social, dalle decapitazioni agli abusi su minori alle torture; i filtri automatici e gli utenti possono segnalarle, ma poi qualcuno in carne e ossa deve valutarle professionalmente.

Nel 2024 il Guardian ha segnalato il caso di Mercy, moderatrice di contenuti di Meta (quindi Facebook, Instagram e Threads) presso un’azienda esterna che ha sede a Nairobi. Faceva turni di dieci ore ed era tenuta a risolvere un caso ogni 55 secondi. Un giorno le è capitato un video di un incidente stradale, segnalato come inaccettabile da un utente su Facebook per la sua natura violenta e macabra. Mercy doveva valutare se il video violasse o meno le regole sui contenuti di questo social network. A un certo punto si è accorta che la vittima era suo nonno. I suoi datori di lavoro le hanno concesso una pausa per contattare i membri della sua famiglia, ma poi le hanno detto di proseguire il turno se voleva raggiungere la propria quota giornaliera. Sul suo schermo sono apparsi altri video da moderare: mostravano ancora suo nonno, con altre immagini dell’auto e delle quattro persone morte nell’incidente.

Come Mercy, ci sono ogni giorno migliaia di lavoratori e lavoratrici, in molti Paesi africani, che sono sottoposti a un flusso continuo di immagini orrende di ogni genere: suicidi, torture, stupri. Non possono semplicemente dare un’occhiata a queste immagini: devono descriverle dettagliatamente, in modo che le intelligenze artificiali possano poi riconoscerle e integrarle. E devono guardare ogni video fino in fondo, perché nel finale potrebbe mostrare cose ancora peggiori di quelle che hanno già visto nella sua parte iniziale.

Dietro la magia dell’intelligenza artificiale c’è insomma la sofferenza di chi deve ripulire la fogna della morbosità umana.

So direttamente cosa significa essere esposti a contenuti di questo genere. Negli anni in cui mi sono occupato delle teorie cospirazioniste intorno agli attentati dell’11 settembre 2001 ho dovuto visionare le immagini dei corpi dilaniati di quel giorno: quelli degli occupanti degli aerei dirottati e quelli delle vittime negli edifici colpiti. Tutte persone che, secondo certi complottisti, non esistevano o erano attori e attrici pagati per simulare. Nelle mie perizie informatiche ho visto e analizzato immagini di abusi irriferibili. Come chiunque lavori nel pronto soccorso o nelle forze di polizia, ho assistito a cose che non riesco a dimenticare. L’idea di passare ore ogni giorno ad annotare minuziosamente contenuti di questo tipo per lavoro, al ritmo minimo di cinquecento casi al giorno, è assolutamente inimmaginabile.

Le conseguenze psicologiche su chi lavora nel data labeling e nella moderazione dei contenuti dei social network sono pesantissime. I casi di disturbi post-traumatici da stress non si contano. E il loro ambiente di lavoro è a dir poco orwelliano: uno speciale software sorveglia ogni loro clic, ogni loro gesto. Chi corre via dalla propria scrivania perché non ce la fa più a vedere l’ennesimo video di violenza estrema viene rimproverato perché non ha immesso nel proprio computer il codice che indica che si sta prendendo una pausa.

Chi ha lavorato nel campo della moderazione dei siti pornografici e della classificazione dei loro video per addestrare le intelligenze artificiali specializzate in questi contenuti e per creare partner intimi virtuali o sexbot pilotati dalla IA, ha segnalato una desensibilizzazione che ha avuto ricadute pesanti sulla sua vita intima.

Michael Geoffrey Asia ha inoltre rivelato che dietro molti di questi sexbot ufficialmente controllati da intelligenze artificiali si nascondono persone reali che fingono di essere sofisticate intelligenze artificiali.

Le aziende che si buttano nel mercato dell’IA facendo finta di avere un prodotto maturo e affidabile che in realtà non hanno sono tante. Per esempio, nel 2014 furono presentati numerosi assistenti personali ufficialmente basati su intelligenze artificiali, come X.ai o Clara, ma che in realtà usavano persone che fingevano di essere delle IA che fingevano di essere persone [Bloomberg].

In tempi più recenti, a marzo 2026 Tesla ha ammesso [Wired] che i suoi robotaxi, ufficialmente guidati dall’intelligenza artificiale, dispongono in realtà di operatori remoti che possono (cito) “assumere temporaneamente il controllo diretto del veicolo” (a bassa velocità) se il software di bordo non riesce a risolvere una situazione. Altre aziende che gestiscono flotte analoghe di taxi, come Waymo e Zoox di Amazon, hanno assistenti remoti che non prendono direttamente il volante ma si limitano, si fa per dire, a indicare al veicolo cosa fare. Però questi assistenti remoti umani, nel caso di Waymo, stanno nelle Filippine. E tutte queste aziende sono molto reticenti a fornire dati precisi sul numero di questo interventi manuali, perché questo toglierebbe l’aura di fascino magico intorno ai loro prodotti e rivelerebbe quanto sono in realtà limitate le loro intelligenze artificiali tanto magnificate.

Un’altra conseguenza di questo modo di commercializzare i prodotti inghirlandandoli con la sigla magica “IA” è che molti utenti credono che le loro interazioni con questi software siano private, perché gestite interamente da computer, e i computer non giudicano, non criticano. Ma in realtà l’intervento umano c’è quasi sempre e quindi i video, per esempio, non sono affatto privati: come ho raccontato nella puntata precedente di questo podcast, anche dietro gli attuali occhiali “smart” di Meta ci sono degli operatori umani, che in molti casi vedono le immagini riprese da questi dispositivi e le etichettano. Questi operatori lavorano per aziende come Sama, in Kenya, su incarico di Meta. Sama è una delle aziende di data labeling per le quali ha lavorato Michael Geoffrey Asia.

Asia adesso ha smesso di lavorare per queste società. È segretario generale di un’organizzazione chiamata Data Labelers Association, che cerca di coordinare i lavoratori del settore per ottenere paghe meno da fame, supporto psicologico decente e l’eliminazione degli NDA o non-disclosure agreement, ossia le clausole capestro dei contratti di lavoro del settore che vietano ai dipendenti di rivelare qualunque informazione riguardante le attività aziendali e creano una cultura della paura che genera omertà intorno a questo sfruttamento.

Come nota un’inchiesta giornalistica di 404media uscita poche settimane fa, i data labeler addestrano, affinano e moderano i prodotti generati dagli strumenti di intelligenza artificiale venduti dalle più grandi aziende del mondo, eppure sono paurosamente sottopagati e non hanno beneficiato in alcun modo delle valutazioni sempre più stratosferiche di queste aziende. Ora hanno avviato azioni legali per chiedere parità di diritti invece di trattamenti che sanno di neocolonialismo digitalizzato.

È indubbio che questo lavoro debba essere fatto da qualcuno, ma come dice Asia, cosa c’è di così difficile nel fornire almeno supporto psicologico alle persone che trattano contenuti traumatizzanti? Ad Apple, Meta, Amazon, Microsoft e Google non mancano certo le risorse economiche per farlo.

L’intelligenza artificiale, insomma, non è “uno strumento magico costruito da persone a San Francisco che guadagnano milioni di dollari l’anno e portano le proprie aziende ad avere valutazioni di mercato pazzesche. È una tecnologia estrattiva, come una miniera, che si appoggia sulla fatica brutale di lavoratori sottopagati in tutto il mondo”, dice 404media, e di cui si cerca di non parlare perché le loro sofferenze guasterebbero l’immagine patinata del mondo hi-tech.

Per dirla con Michael Geoffrey Asia: “L’IA non può essere senza gli esseri umani. Non è intelligenza artificiale: è intelligenza africana.”

Ricordiamocene, la prossima volta che Elon Musk o Mark Zuckerberg o Sam Altman annunciano la “loro” nuova innovazione.

Questo è il testo della puntata del 24 novembre 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: citazione di Jeremy Carrasco da questo video: “You will be fooled by an AI photo this week and you probably already have been and you didn’t know it”]

Questa è la voce di Jeremy Carrasco, un professionista audiovisivo che insegna, sui suoi popolari canali social [YouTube; TikTok; Instagram; sito Showtools.ai], le tecniche per riconoscere immagini e video che sembrano veri ma sono in realtà generati tramite app di intelligenza artificiale. Sta dicendo che probabilmente siete già stati ingannati da un’immagine sintetica di recente e che con l’arrivo del nuovo software generativo di Google, chiamato bizzarramente Nano Banana Pro, queste immagini sono diventate praticamente indistinguibili a occhio nudo da quelle vere, con tutti i problemi che questo comporta.

Ma ci sono ancora dei metodi che ci possono aiutare a evitare questa continua demolizione della barriera che fino a poco tempo fa separava quasi sempre il reale dal falso. Ve li presento in questa puntata, datata 24 novembre 2025, del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io, come consueto, sono Paolo Attivissimo.

[SIGLA di apertura]

Quando vado nelle scuole per parlare con gli studenti e i docenti di temi legati all’informatica, fa sempre capolino la questione delle immagini generate dall’intelligenza artificiale e di come riconoscerle. Molte persone, giovani e adulte, sono convinte di essere perfettamente in grado di distinguere le foto reali dalle immagini sintetiche. Ma quando mostro loro una serie appositamente scelta di immagini create con i più recenti software di sintesi grafica, mescolate insieme a fotografie reali, non riescono a separare il contenuto sintetico da quello fotografico.

È ormai passato il tempo in cui le immagini generate si riconoscevano grazie a elementi abbastanza vistosi come il numero delle dita delle mani o la forma stessa delle mani. I vecchi software fallivano molto spesso nel creare immagini realistiche di queste parti anatomiche complesse e articolate. Ma non è più così, e quindi bisogna evitare l’errore di dichiarare che un’immagine è sicuramente reale solo perché le persone raffigurate hanno mani realistiche con cinque dita e non quattro o sei.

Un altro indizio utile è la posizione dei nei e delle lentiggini sul viso o sul corpo delle persone raffigurate. Se cambia da un’immagine all’altra, almeno una delle immagini in questione deve essere sintetica. Anche la forma dei denti e delle orecchie è un buon indicatore: se non è coerente, è il caso di sospettare che si tratti di immagini generate.

Ma attenzione: non è vero il contrario. Se vedete che nei, lentiggini, orecchie e denti sono coerenti in una serie di immagini, non vuol dire affatto che siano per forza vere. Possono essere semplicemente fotogrammi tratti da un video sintetico. Questa è una tecnica molto usata proprio per generare gruppi di immagini con dettagli persistenti.

Molte persone credono di essere capaci di riconoscere a occhio le immagini sintetiche guardando la pelle dei soggetti raffigurati, che in effetti è spesso troppo uniforme, lucida e plasticosa oltre che priva dei dettagli di una pelle reale. Ma esistono app che generano immagini e video sintetici con soggetti che hanno una pelle perfettamente realistica, con i pori, la peluria e le piccole variazioni di colore tipiche di una pelle umana effettiva. E in questo caso non si può neanche sentenziare che un’immagine è sicuramente sintetica se il soggetto raffigurato ha la pelle uniforme e priva di dettagli, perché da decenni il mondo della fotografia commerciale usa programmi di fotoritocco per eliminare sistematicamente rughe, nei e qualunque altra caratteristica considerata “imperfezione”. Specialmente nel settore delle immagini di moda, le carnagioni impossibilmente perfette grazie a Photoshop sono ovunque da tempo.

Ci sono però ancora oggi alcuni indizi visivi che possono rivelare con ragionevole certezza la natura sintetica di un’immagine o di un video. Jeremy Carrasco suggerisce di ingrandire i video e di guardare l’erba, le piante, il pelo animale o i capelli eventualmente inquadrati: nei video sintetici risulteranno sgranati e i loro dettagli sembreranno ribollire e rimescolarsi in modo molto caratteristico.

Un’altra tecnica abbastanza efficace è guardare le eventuali scritte presenti nell’immagine. Molti generatori di queste immagini sintetiche, infatti, sbagliano clamorosamente a generare caratteri e parole. Ma Nano Banana Pro, per esempio, genera testi perfetti, per cui non si può dichiarare che una foto è reale solo perché le sue scritte sono perfettamente realistiche.

Hany Farid, docente universitario alla University of California ed esperto di informatica forense oltre che autore di libri sulla falsificazione delle immagini e sulle tecniche per riconoscerle, suggerisce inoltre di controllare la coerenza delle ombre e delle cosiddette linee di fuga. Nelle immagini reali, le linee parallele degli oggetti raffigurati, per esempio i binari di un treno o gli spigoli di un oggetto o di una stanza, sembrano convergere tutte in un punto. Nelle immagini sintetiche, invece, queste linee non lo fanno. Lo stesso vale per le ombre: se si tracciano delle righe che uniscono un punto di un’ombra con la zona del soggetto che ha creato quell’ombra, quelle righe devono convergere tutte in uno stesso punto, che deve essere specificamente il punto dal quale proviene la luce che illumina la scena. Se non lo è, la foto è perlomeno manipolata.

Ma ci sono anche degli strumenti software che ci possono aiutare in quest’analisi.

L’esperto Jeremy Carrasco consiglia di usare l’intelligenza artificiale come analista automatizzato. Ma attenzione: dare un’immagine in pasto a ChatGPT e chiedere se è reale o meno non è assolutamente sufficiente. Invece Gemini, una delle intelligenze artificiali di Google, può controllare se un’immagine contiene un watermark, una sorta di “filigrana” invisibile ai nostri occhi, che indica con certezza che l’immagine è sintetica. Questa filigrana si chiama tecnicamente SynthID ed è presente in quasi tutte le immagini generate dai prodotti di Google, compreso l’iperrealistico Nano Banana Pro.

Per rivelarla occorre prima di tutto scaricare la foto sospetta o farne uno screenshot della massima dimensione possibile. Poi bisogna andare a Gemini.google.com, fare login con un account Google, caricare l’immagine nella chat di Gemini (o Gem) e si immette la richiesta o prompt “Questa immagine è stata generata usando l’IA di Google?”. Si sceglie la modalità rapida e si preme Invio.

Quando arriva la risposta, bisogna espanderla per verificare che la ricerca di SynthID abbia avuto successo: ma attenzione, perché questo vuol dire solo che il rivelatore sta funzionando correttamente. Quello che conta in realtà è il testo della risposta di Gemini. Se dice che l’indicatore SynthID è stato trovato, l’immagine è sicuramente artificiale. Ma se dice che non l’ha trovato, non vuol dire che l’immagine sia autentica: potrebbe essere stata generata da un altro software di intelligenza artificiale che non inserisce questo watermark oppure potrebbe essere stata semplicemente ritoccata con Photoshop.

Il professor Farid consiglia un’altra tecnica, più generale: guardare il cosiddetto “rumore residuo” dell’immagine, che è un avanzo inevitabile del processo di generazione di un’immagine tramite intelligenza artificiale. Anche le immagini reali, scattate per esempio con una fotocamera o con un telefono, contengono questo rumore, ma ha delle caratteristiche molto differenti. Questo rumore residuo normalmente non è visibile a occhio nudo, ma può diventarlo se si usano app apposite. Se il rumore residuo di un’immagine assume l’aspetto di una stella con una griglia regolare di puntini usando queste app, l’immagine è quasi sicuramente sintetica o è stata perlomeno manipolata con app che usano l’intelligenza artificiale.

Dunque esistono ancora dei modi per distinguere un’immagine generata da una reale. Per il momento, la distinzione fra reale e sintetico è ancora salva. Ma si tratta di modi tutti complicati e macchinosi, che richiedono un impegno mentale e manuale che non possiamo applicare a ognuna delle migliaia di immagini che vediamo ogni giorno. Ci vorrebbe qualcosa di simile a un antivirus, un’app che controlla automaticamente ciascuna immagine visualizzata e la etichetta come sintetica oppure no, o almeno ci dà dei gradi di probabilità.

È un tipo di verifica che i social network potrebbero fare, viste le loro risorse tecnologiche immense, ma sembra che non ci sia alcun desiderio di farlo da parte di queste grandi organizzazioni commerciali. Instagram, TikTok e YouTube, per esempio, chiedono di etichettare volontariamente le immagini generate e sono in grado di etichettare automaticamente le immagini generate dai loro software e quelle prodotte dai software altrui se includono appositi indicatori, ma si tratta di foglie di fico che non risolvono nulla di concreto. E poi c’è OpenAI, che ha addirittura creato un intero social, Sora, basato sulla creazione e sullo scambio di video generati dall’intelligenza artificiale, e pensa che basti mettere un bollino in semitrasparenza per garantire che nessuno verrà ingannato. In realtà questo bollino si può tranquillamente rimuovere con software appositi.

Ci sono molti siti che dichiarano di poter distinguere le immagini sintetiche da quelle reali se gliele mandate, ma hanno un difetto fondamentale: ogni volta che viene rilasciata una nuova versione di un generatore di immagini, questi siti ci mettono parecchio tempo a “imparare” a riconoscere le immagini generate con questo nuovo software. Di conseguenza, i loro verdetti non sono attendibili: possono dichiarare solennemente che una foto è sintetica quando non lo è o che è reale quando invece è generata da un software molto recente.

[Ho fatto una prova con il popolare rilevatore di Undetectable.ai, e non è stato difficile ingannarlo: un deepfake con sostituzione del volto è stato dichiarato “reale al 98%”. Questo è il verdetto della versione gratuita, quella che presumibilmente viene usata dalla maggior parte degli utenti; non so se le cose migliorano usando la versione a pagamento.]

A noi utenti non resta che appoggiarsi solo a fonti affidabili e dubitare di tutto il resto, specialmente quando l’immagine o il video proviene da chissà chi e ha un forte impatto emotivo, che distrae e impedisce di notare gli errori tipici delle immagini sintetiche. Come consiglia il professor Farid, “prendiamo fiato prima di condividere”.

[CLIP: citazione di Farid tratta da questo video: “Take a breath before you share information…”]

Fonti aggiuntive

3 ways to spot fake photos at work, Aiadopters.club

Photo forensics – Hany Farid, Fotomuseum.ch

Strumenti di analisi presso 29a.ch

How to Detect Deepfakes: The Science of Recognizing AI Generated Content (video)

Questo è il testo della puntata del 20 ottobre 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

Normalmente comincio questo podcast con uno spezzone sonoro che anticipa il tema della puntata, ma stavolta no. Perché Martin Luther King che fa versi e gesti da scimmia mentre tiene uno dei suoi storici discorsi pubblici, in un video generato dall’app di intelligenza artificiale Sora di OpenAI, è troppo ripugnante per farlo sentire, fosse anche solo per documentare il fatto che esiste.*

*  Ho verificato che esiste e ne conservo documentazione.

Ed è solo uno degli esempi del fiume di video che ritraggono persone celebri del passato mentre fanno cose ridicole o altamente offensive che sta inondando Internet grazie alle scelte intenzionali dell’azienda capitanata da Sam Altman. Torno a parlare di Sora, dopo averlo presentato nella puntata precedente di questo podcast, perché ci sono degli aggiornamenti importanti.

Benvenuti alla puntata del 20 ottobre 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Sora, l’app di OpenAI che consente a chiunque di generare video sintetici iperrealistici lunghi una decina di secondi dando una semplice descrizione di quello che si vuole ottenere, ha già suscitato le ire assolutamente prevedibili delle case cinematografiche e televisive, perché era utilizzabile per generare video falsi che raffiguravano i personaggi più disparati, da Spongebob ai Simpson a Pikachu a tutto il cast animato di South Park, violando disinvoltamente il copyright dei loro creatori, e ha fatto dietrofront solo dopo gli ammonimenti delle major titolari dei diritti su quei personaggi, come ho raccontato nella puntata precedente di questo podcast [The Hollywood Reporter].

Sulla questione è poi intervenuto ufficialmente anche il governo giapponese, secondo quanto riferisce il sito locale ITMedia, inviando a OpenAI una richiesta formale di “non impegnarsi in azioni che possano costituire una violazione del diritto d’autore” e aggiungendo che “anime e manga sono tesori insostituibili di cui possiamo essere fieri in tutto il mondo” [The Register].

OpenAI ha risposto annunciando nuove restrizioni sui contenuti dei video generabili con Sora, ma sembra che voglia mantenere il proprio modello commerciale opt-out, nel quale in altre parole spetta ai singoli titolari dei diritti avvisare che non vogliono che i loro personaggi vengano utilizzati dall’app, come ha già fatto per esempio Disney [Reuters].

La filosofia commerciale di OpenAI è “faccio quello che mi pare con le cose che hanno creato gli altri fino a che non mi dicono uno per uno che non lo devo fare”. Ma gli addetti ai lavori notano che questo è l’esatto contrario di come funziona realmente il diritto d’autore [The Hollywood Reporter].

Sora, però, ha aperto anche un altro fronte di scontro, applicando questa sua filosofia anche ai personaggi celebri del passato. Come era ancora una volta assolutamente prevedibile, gli utenti di Sora hanno cominciato a generare video sempre più impresentabili e offensivi che mostrano grandi nomi della storia recente dire e fare cose irriferibili.

Forse la goccia che ha finalmente fatto traboccare il vaso e ha spinto OpenAI ad agire è stata la creazione di video sintetici raffiguranti Martin Luther King in situazioni che l’azienda, con un eufemismo davvero estremo, ha definito “irrispettose” ma che bisognerebbe avere la dignità di descrivere per quello che sono: abusi profondamente razzisti.

Gli eredi dello storico leader e premio Nobel hanno chiesto a OpenAI di intervenire, e l’azienda ha annunciato che ha “messo in pausa le generazioni che raffigurano il dottor King intanto che rinforza le restrizioni sulle figure storiche”, insistendo però che continua a spettare ai singoli eredi o rappresentanti chiedere di essere esclusi dai video prodotti da Sora. Notate che OpenAI non ammette di aver capito che quello che sta facendo è profondamente, intuitivamente sbagliato dal punto di vista etico e morale, ma si limita a dire che mette il tutto “in pausa”.

Chiamarle “figure storiche” le fa sembrare distanti e astratte, ma si tratta di persone reali, i cui familiari oggi vengono sommersi da questo fiume di video sintetici che li toccano molto da vicino.

La figlia del compianto attore Robin Williams, Zelda, ha implorato pubblicamente su Instagram [The Independent] di non mandarle più video di suo padre generati con l’intelligenza artificiale. Le sue parole meritano di essere lette e ascoltate.

“Smettete di pensare che io li voglia vedere o che li capisca […]” scrive. “Se state cercando di provocarmi, ho visto ben di peggio, e vi bloccherò e passerò oltre. Ma per favore, se avete un minimo di decenza, smettete di fare queste cose a lui e a me, e a chiunque, punto. È stupido, è uno spreco di tempo e di energia, e credetemi, non è quello che lui avrebbe voluto […] Vedere che il lascito di persone reali viene condensato fino a diventare un ‘questo somiglia vagamente e parla vagamente come loro ed è sufficiente così’, in modo che altre persone possano spandere orribile sbobba per TikTok che li muove come marionette, mi fa infuriare.” ha aggiunto Zelda Williams, che è regista cinematografica, proseguendo con un monito: “Non state facendo arte, state fabbricando hotdog disgustosi e ultraprocessati usando le vite di esseri umani, la storia dell’arte e della musica, e poi li cacciate in gola a qualcun altro sperando che vi diano un pollice alzato e a loro piacciano. Che schifo. […] Smettete di chiarmarlo ‘il futuro’: l’intelligenza artificiale non fa che riciclare e rigurgitare il passato per consumarlo di nuovo. State ingerendo lo Human Centipede dei contenuti, e lo fate dal fondo della fila, mentre quelli in testa ridono, consumano e consumano”.

Se non cogliete il riferimento a Human Centipede e non sapete cos’è, invidio il vostro candore, ma temo che lo scoprirete presto e capirete il senso profondo dello sfogo amarissimo della figlia di Robin Williams.

Un’altra figlia, quella di Martin Luther King, Bernice, si è associata all’appello di Zelda Williams con poche parole su Threads: “Concordo a proposito di mio padre. Per favore smettetela”.

E anche Ilyasah Shabazz, la figlia di Malcolm X, altro leader storico per i diritti degli afroamericani che ha pagato con la vita i propri ideali, di fronte all’ennesimo video generato che raffigura suo padre, si è unita pubblicamente a queste proteste, chiedendo come mai chi sviluppa l’intelligenza artificiale non agisca “con la stessa moralità, coscienza e attenzione […] che vorrebbe per le proprie famiglie” [Engadget].

L’app Sora, intanto, è in cima alle classifiche dell’App Store di Apple, e i video sintetici offensivi continuano a essere sfornati, perché le fantomatiche “restrizioni” citate continuamente come rimedio da OpenAI semplicemente non funzionano: sono facili da eludere con un minimo di inventiva e non è pensabile di poter escludere tutti i casi possibili di abuso.

Per esempio, il Washington Post ha segnalato che alcuni utenti sono riusciti a creare video che mostrano Malcolm X che fa battute volgari e parla di incontinenza intestinale, Kobe Bryant che pilota un elicottero come quello che è precipitato e ha portato alla sua morte, o l’ex presidente statunitense John Kennedy, morto assassinato, che fa battute sull’assassinio dell’attivista di destra Charlie Kirk [Forbes; Washington Post].

OpenAI sembra del tutto indifferente alle conseguenze sociali delle proprie azioni e anzi le difende, sostenendo che quello che fa serve per proteggere la competitività statunitense e, cito, “è questione di sicurezza nazionale”, secondo Sam Altman, perché altrimenti il primato tecnologico nell’intelligenza artificiale passerebbe alla Cina [Reuters].

Altman sostiene inoltre che una delle ragioni per cui OpenAi rilascia tecnologie come Sora è che vuole aiutare l’umanità nella transizione, inoculandola contro il fatto che in futuro “tutti saranno in grado di creare un video di te che fai qualunque cosa che loro desiderano usando i video pubblicamente disponibili su Internet che ti raffigurano.”

[CLIP – Sam Altman che parla]

Dice che “La società si adatterà a questo, ovviamente, ma uno dei modi che abbiamo trovato per aiutare la società con queste transizioni è rilasciare il software presto, con delle restrizioni, in modo che la società e la tecnologia abbiano il tempo di evolvere insieme.”

Secondo lui “ha funzionato con il testo, ma con il video sarà più difficile, perché i video hanno un forte impatto, ma credo che impareremo ad adattarci e impareremo molto in fretta che ci saranno tanti video falsi di te su Internet… succederà e basta. Inoculare la società ha probabilmente un valore” [Rowan Cheung/Deepcurates su Instagram].

Non è vero che “succederà e basta”, perché OpenAI sta facendo in modo che succeda e sta premendo a fondo l’acceleratore del cambiamento, senza darci il tempo di prendere fiato e prendere contromisure. Come farà la società ad adattarsi a un mondo nel quale non si può più credere a nulla di quello che si vede su uno schermo, e perché si debba correre a capofitto verso questo traguardo proprio sotto la sua guida, Sam Altman non ce lo dice.

Forse si aspetta che lo chiediamo a ChatGPT.

Fonti

OpenAI launches new AI video app spun from copyrighted content. Reuters, 2025.

OpenAI’s New Video Tool Features User-Generated ‘South Park,’ ‘Dune’ Scenes. Will Studios Sue?. Hollywood Reporter, 2025

WME to OpenAI: All Our Clients Are Opting Out of Sora 2. Hollywood Reporter, 2025

Japan tells OpenAI to stop spiriting away its copyrighted anime. The Register, 2025

Japan Warns OpenAI Over Sora 2 Copyright Infringement of “Irreplaceable” Anime and Manga, Securityonline.info, 2025

日本政府、OpenAIに「著作権侵害行為」を行わないよう要請　Sora 2での“アニメ風動画”問題を受け. ITmediaNews, 2025

OpenAI IP promises ring hollow to Sora losers. The Register, 2025

AI videos of dead celebrities are horrifying many of their families. Washington Post, 2025

Robin Williams’ daughter begs fans to stop sending her AI videos of late father: ‘Just stop doing this to him’. The Independent, 2025

OpenAI Blocks Sora Deepfakes Of Martin Luther King After ‘Disrespectful Depictions’. Forbes, 2025

OpenAI pauses Sora video generations of Martin Luther King Jr.. TechCrunch, 2025

OpenAI suspends MLK deepfakes on Sora after ‘disrespectful’ videos. The Verge, 2025

OpenAI suspends Sora depictions of Martin Luther King Jr. following a request from his family. Engadget, 2025

Statement from OpenAI and King Estate, Inc.. X.com, 2025

Sora update #1, Samaltman.com, 2025

Questo è il testo della puntata del 13 ottobre 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: Martin Luther King (sintetico) fa un discorso in cui si lamenta delle restrizioni di Sora]

Avete appena sentito la voce inconfondibile di Martin Luther King, storico leader del movimento per i diritti civili degli afroamericani e premio Nobel per la pace, lamentarsi delle limitazioni eccessive di Sora, la nuova app di OpenAI che permette di generare video estremamente realistici, con audio integrato e sincronizzato. Martin Luther King è morto, assassinato, nel 1968, ma c’è un video in cui lo si vede pronunciare questa frase impossibile durante un comizio. Un video, ovviamente, generato usando Sora.

In un altro video prodotto dall’app, una ripresa di una telecamera di sicurezza mostra Sam Altman, il CEO di OpenAI, che viene fermato mentre cerca di trafugare delle schede grafiche da un grande magazzino.

Poi c’è Michael Jackson che fa uno sketch pseudocomico con una banana.

C’è Kurt Cobain che ruba del cibo in un fast food. E poi c’è Spongebob nazista.

Questa è la storia di un’app che promette di essere ChatGPT per i video e che regala a tutti il potere di creare realtà alternative e falsi storici scrivendo semplicemente poche parole su uno smartphone. Che cosa mai potrebbe andare storto?

Benvenuti alla puntata del 13 ottobre 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Il 30 settembre scorso OpenAI ha rilasciato Sora, una nuova app social che come impostazione somiglia molto a TikTok, con la differenza che il flusso di brevissimi video da guardare e far scorrere uno dopo l’altro è composto interamente da immagini sintetiche estremamente realistiche, con movimenti fluidi e naturali e con un audio sincronizzato perfettamente calzante.

Usare Sora è semplicissimo: l’utente descrive a parole il video che desidera ottenere, e poco dopo lo ottiene. La durata massima è di dieci secondi, e c’è una particolarità: Sora permette agli utenti di dare il proprio volto ai personaggi dei video generati.

Il suo successo è stato travolgente, con oltre un milione di scaricamenti dell’app in meno di cinque giorni. Nemmeno ChatGPT era stato così popolare al suo debutto.

Un’altra peculiarità di Sora è che ogni utente può dare il permesso ai propri amici, o a chiunque, di usare il suo volto per creare altri video. L’utente diventa comproprietario dei video generati da terzi che lo raffigurano, e può revocarli o cancellarli.*

* Solo finché i video restano sulla piattaforma di OpenAI. Se vengono scaricati e ripubblicati altrove, qualunque tentativo di revoca o cancellazione verrà ignorato.

Uno dei primi utenti a scegliere quest’opzione è stato proprio Sam Altman. E a questo punto bisogna chiedersi se questi miliardari dell’intelligenza artificiale hanno perso completamente il contatto con la realtà, perché ovviamente gli utenti hanno cominciato a fargli dire e fare le cose più strane, imbarazzanti e offensive nei video generati dalla sua app. Una conseguenza assolutamente ovvia e prevedibile. Non ci ha pensato, o non gliene importa nulla?

Certo, Sora ha delle restrizioni, per cui è piuttosto difficile, ma non impossibile, generare contenuti impressionanti, fortemente allusivi o espliciti. OpenAI, però, ammette che l’app consente di generare video di nudo o a contenuto sessuale usando le fattezze di una persona reale nell’1,6% dei casi.

Va notato, inoltre, che i video generati da Sora hanno un watermark, un piccolo logo esagonale che appare in sovraimpressione e che dovrebbe rendere chiaro allo spettatore che sta guardando un video sintetico. Ma ci sono tanti modi di offendere e di umiliare senza dover arrivare alla pornografia, come hanno dimostrato alcuni giornalisti creando video di Sam Altman in divisa tedesca della Seconda Guerra Mondiale e altri video che istigano al razzismo e alla discriminazione, e sono già nati numerosi servizi che consentono di rimuovere questo indicatore e permettono quindi di creare contenuti audiovisivi facilmente confondibili con quelli reali. Gli utenti stanno imparando rapidamente a eludere le limitazioni imposte da OpenAI, e gli stalker stanno già usando Sora per tormentare le loro vittime. Tutti scenari anche questi assolutamente prevedibili.

Un altro motivo per cui viene spontaneo domandarsi se Altman e soci siano completamente dissociati dalla realtà o incapaci di anticipare le conseguenze delle proprie scelte, o se si sentano esentati dalle regole che valgono per il resto dell’umanità, è che al suo debutto Sora consentiva esplicitamente di generare video di personaggi coperti dal copyright. Secondo OpenAI, spettava ai titolari di copyright indicare espressamente che non consentivano l’uso dei loro personaggi.

Ma dopo qualche giorno di Spongebob nazista o intento a fabbricare droga, di Pikachu lanciato in furti a ripetizione e di spezzoni inesistenti dei Simpson e di altri personaggi, la potente Motion Picture Association, che riunisce e rappresenta i più grandi marchi della produzione televisiva e cinematografica, come Netflix, Paramount, Sony, Disney e Warner, ha pubblicato una presa di posizione su quella che ritiene essere una massiccia violazione del diritto d’autore, dicendo che spetta a OpenAI, non ai titolari dei diritti, vigilare affinché non vengano commesse violazioni.

OpenAI ha fatto dietrofront, dicendo che introdurrà restrizioni simili a quelle sull’uso del volto degli utenti, ma resta un altro problema di copyright. Per essere in grado di generare questi personaggi celebri, anche con il consenso dei titolari dei rispettivi diritti, OpenAI deve aver addestrato Sora usando milioni di immagini di quei personaggi, senza però pagare alcun compenso [Washington Post]. In altre parole, OpenAI vuole arricchirsi sfruttando gratis la creatività altrui. L’azienda, però, sostiene che questo suo uso delle immagini sotto copyright sia legale.

C’è anche un altro campo minato nel quale OpenAI sembra aver deciso di lanciarsi a fare capriole sperando di farla franca, ed è l’uso delle sembianze di personaggi storici. L’azienda ha dichiarato che intendeva “bloccare le raffigurazioni di personaggi pubblici” salvo consenso esplicito dei personaggi in questione, ma questa restrizione non vale per i personaggi pubblici deceduti.

Gli utenti di Sora sono infatti riusciti a creare video sintetici del presidente John Kennedy, del già citato Martin Luther King, di Tupac Shakur che chatta con Malcolm X, di Bruce Lee e di molte altre figure importanti della cronaca e della storia recente [Ars Technica], e OpenAI ha ammesso che la generazione di video raffiguranti personaggi storici è consentita. In altre parole, non è un difetto: Sora è fatto apposta così.

Questo significa che OpenAI ha messo in mano a milioni di utenti uno strumento in grado di generare innumerevoli falsi storici, cinegiornali d’epoca inesistenti, documentari che non documentano nulla di reale. Il livello di incoscienza e di irresponsabilità di una scelta di questo genere, proprio in un momento storico nel quale la verità e la realtà condivisa sono sotto attacco costante, è difficile da descrivere a parole.

Il risultato è che d’ora in poi qualunque filmato storico, qualunque video d’epoca, qualunque ripresa di telecamere di sorveglianza, qualunque testimonianza in video, qualunque spezzone di film o programma televisivo che vedremo in giro potrebbe essere falso o alterato, e chiunque potrà insinuare il dubbio che una ripresa che lo incrimina o che documenta una sua efferatezza è falsa e generata dall’intelligenza artificiale.

La realtà verrà sommersa, annacquata, diluita e dispersa da miliardi di videoclip generati da un esercito di aspiranti maestri della satira e di disinformatori intenti a minare intenzionalmente le fondamenta della vita sociale. E per questa sua scelta, OpenAI viene premiata con una valutazione record di 500 miliardi di dollari [Bloomberg].

La pericolosità di applicazioni di questo genere dovrebbe essere evidente a chiunque. Offrire pubblicamente un generatore di video ultrarealistici che permette di raffigurare personaggi storici e persone reali attuali è l’equivalente informatico di regalare laboratori per la guerra batteriologica agli angoli delle strade. A questo punto quali contromisure possiamo adottare?

Prima di tutto è opportuno evitare di iscriversi a servizi come Sora e soprattutto di dare loro il permesso di usare il nostro volto. Il piacere e il divertimento che possono derivare dal creare un video di fantasia nel quale siamo protagonisti non giustificano il rischio di abuso della nostra immagine e di quella dei nostri figli. Un rischio che molte persone sottovalutano, fino al momento in cui vengono prese di mira, e a quel punto è troppo tardi.

In secondo luogo, è essenziale informarsi e informare sulle conseguenze economiche e ambientali di queste app. I consumi di energia dei generatori di video sono immensi: chi si angosciava qualche anno fa chiedendosi dove avremmo trovato l’energia per caricare milioni di automobili elettriche dovrebbe semmai chiedersi dove troveremo, e come genereremo, l’energia di gran lunga maggiore che servirà per generare miliardi di video usa e getta, che verranno visti per una decina di secondi e poi relegati per sempre nel dimenticatoio, rimpiazzati immediatamente da nuovi video da sfogliare e dimenticare subito dopo.

L’MIT Technology Review ha fatto i conti, e la realtà è ineludibile: Meta e Microsoft stanno lavorando per accendere nuove centrali nucleari. OpenAI e il presidente degli Stati Uniti Donald Trump hanno annunciato un piano di spesa di 500 miliardi di dollari per costruire dieci data center, ciascuno dei quali richiederà cinque gigawatt di energia, e Apple prevede di spendere altrettanto.

Questa fame non è normale per il settore informatico: anzi, fino al 2017 i consumi energetici del settore erano rimasti stabili nonostante l’avvento di grandi distributori di dati come Facebook e Netflix. È specificamente l’intelligenza artificiale a trainare questo appetito energetico insaziabile: dal 2017 al 2023 i consumi delle aziende di questo settore sono raddoppiati. I dati più recenti indicano che negli Stati Uniti oltre il 4% di tutta l’energia viene consumata dai data center e si prevede che arriverà al 12% entro il 2028. Praticamente dopodomani.

Le stime indicano che l’uso medio quotidiano delle intelligenze artificiali per porre domande e generare video e immagini equivale a tenere acceso un forno a microonde per tre ore e mezza ogni giorno. E questi consumi, sottolineano gli esperti, sono destinati ad aumentare vertiginosamente, man mano che delegheremo un numero crescente di attività alle IA e ne useremo versioni sempre più complesse. In più i data center richiedono anche enormi quantità di acqua di raffreddamento, che viene quindi sottratta alle comunità.

Un cervello umano consuma, per tutte le attività quotidiane, circa un terzo di un kilowattora, ossia meno di un forno a microonde acceso al minimo per un’ora, e si accontenta di qualche litro d’acqua al giorno. Per usarlo, inoltre, non dobbiamo pagare licenze o consegnare dati personali a nessuno.

Pensateci, la prossima volta che vi rivolgete a ChatGPT invece di usare la testa.

Fonti aggiuntive

• OpenAI’s Sora 2 Copyright Infringement Machine Features Nazi SpongeBobs and Criminal Pikachus, 404media (2025)
• OpenAI’s new social video app will let you deepfake your friends, The Verge (2025)
• OpenAI’s Sora 2 lets users insert themselves into AI videos with sound, Ars Technica (2025)
• I’ve fallen into Sora’s slippery slop, The Verge (2025)
• OpenAI’s Sora AI Video App Hits 1 Million Downloads in Under Five Days, Outpacing ChatGPT, Securityonline.info (2025)
• Sora 2 Is Creating Ads for “Epstein Island” Children’s Toys, Futurism.com (2025)
• Watch: Viral AI Video Shows Sam Altman ‘Stealing’ From Hayao Miyazaki At Studio Ghibli, Ndtv.com (2025)
• AI-generated security camera feed shows Sam Altman getting busted stealing GPUs from Target — ironic video shows OpenAI CEO saying he needs it for Sora inferencing, Tomshardware.com (2025)
• OpenAI’s Sora 2 Is Generating Video of SpongeBob Cooking Meth, Highlighting Copyright Concerns, Futurism. com (2025)
• OpenAI’s Sora 2 must stop allowing copyright infringement, Motion Picture Association says, CNBC (2025)
• MPA Issues Statement on OpenAI’s Recent Release of Sora 2, Motionpictures.org (2025)
• Sora update #1, Samaltman.com (2025)
• People Are Crashing Out Over Sora 2’s New Guardrails, 404media (2025)
• OpenAI wasn’t expecting Sora’s copyright drama, The Verge (2025) [copia su Archive.is]
• You Can’t Use Copyrighted Characters in OpenAI’s Sora Anymore and People Are Freaking Out, Gizmodo (2025)
• Stalker Already Using OpenAI’s Sora 2 to Harass Victim, Futurism.com (2025)
• Dead celebrities are apparently fair game for Sora 2 video manipulation, Ars Technica (2025)
• How much energy do we expend using our brains?, Bond University (2023)
• We did the math on AI’s energy footprint. Here’s the story you haven’t heard, Technology Review (2025) [paywall; copia su Archive.is].

Ultimo aggiornamento: 2025/10/08 17:00.

Questo è il testo della puntata del 6 ottobre 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP AUDIO: spezzone dal video AI Commissioner]

Tilly Norwood è in questo momento probabilmente il nome più odiato a Hollywood e ovunque si faccia cinema o televisione. Dal momento del suo recente debutto in pubblico a Zurigo, ha collezionato citazioni nei media di tutto il mondo e critiche da parte dei più importanti sindacati attori, secondo i quali Tilly Norwood non è nemmeno un’attrice e non dovrebbe rubare il mestiere a chi invece lo è davvero.

Che Tilly Norwood non sia un’attrice è indubbio: si tratta infatti di un personaggio fotorealistico generato tramite intelligenza artificiale. Non è certo il primo del suo genere. Ma quello che ha scosso il mondo del cinema e della televisione, e ha causato la sua levata di scudi collettiva, è stato l’annuncio che questo personaggio verrà rappresentato da una talent agency, un’agenzia di rappresentanza artistica per attori. I commenti indignati degli attori in carne e ossa e gli editoriali di critica livorosi non si contano.

Ma scavando nei dettagli di questa vicenda emerge che ci sono parecchie cose che non quadrano e la storia di Tilly Norwood andrebbe raccontata con un taglio meno indignato e più tecnico. Ci provo con questa puntata del 6 ottobre 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Cominciamo dai fatti di base: allo Zurich Summit, una serie di conferenze e dibattiti sul mondo del cinema che si è svolta pochi giorni fa in occasione del festival del cinema di Zurigo, una delle relatrici è stata Eline Van Der Welden, CEO di Particle6, uno studio di produzione britannico specializzato nella generazione di immagini digitali tramite intelligenza artificiale. Durante un dibattito, Van Der Welden ha parlato di Tilly Norwood, uno dei personaggi sintetici creati dalla sua azienda, e ha dichiarato testualmente che avrebbe annunciato “nei prossimi mesi quale agenzia la rappresenterà”.

[CLIP AUDIO: dichiarazione di Van der Welden, tratta da Deadline.com a 2:00 dall’inizio]

Il sito specializzato Deadline Hollywood ha riportato questa dichiarazione, presentandola come un fatto assodato, titolando che “le agenzie di rappresentanza artisti ronzano intorno all’attrice basata su IA Tilly Norwood” [“Talent Agents Circle AI Actress Tilly Norwood As Studios Quietly Embrace AI Technology – Zurich Summit”] e la notizia è diventata virale, finendo sui media non solo specialistici, come Variety, ma anche generalisti in tutto il mondo [BBC; RSI] e provocando le reazioni di personalità come Whoopi Goldberg e Emily Blunt.

Un comunicato diffuso dal sindacato degli attori di Hollywood, il SAG-AFTRA, ha dichiarato senza mezzi termini che “è contrario alla sostituzione degli attori in carne e ossa da parte di entità sintetiche” e ha ribadito che Tilly Norwood “non è un’attrice: è un personaggio generato da un programma per computer addestrato attingendo al lavoro di innumerevoli artisti reali senza permesso e senza compenso. Non ha esperienze di vita alle quali attingere, non ha emozioni e, per quello che abbiamo visto, al pubblico non interessa guardare contenuti generati da computer e slegati dall’esperienza umana. Non risolve alcun ‘problema’, ma crea quello dell’uso di recitazioni rubate per lasciare senza lavoro gli attori, compromettendo la loro sussistenza e sminuendo il valore del talento umano”.

Parole di fuoco, che si concludono con un monito, ricordando ai produttori che non possono usare attori sintetici senza rispettare gli obblighi contrattuali del sindacato. A questa protesta si sono associate quelle del sindacato attori canadese ACTRA e quella del sindacato britannico Equity [The Wrap].

La narrazione che prevale, nei tanti articoli che parlano di Tilly Norwood, è che si sia di fronte a una svolta epocale nel cinema e nella televisione, e che ben presto attori e attrici umani verranno sostituiti da personaggi sintetici che non sbagliano le battute, non hanno comportamenti discutibili, non hanno rivendicazioni salariali, non invecchiano e non si stancano mai: delle marionette perfette per l’industria dell’intrattenimento. La sostituzione sarebbe insomma ineluttabile e imminente.

Ma dal punto di vista tecnico le cose non stanno affatto come sono state raccontate comunemente.

Prima di tutto, c’è un forte dubbio di tipo legale. Tilly Norwood non è una persona fisica: è un costrutto digitale, una serie di pixel su uno schermo, un fantoccio animato da una serie di comandi, o prompt, impartiti da un animatore. Pertanto non può essere rappresentata da un’agenzia per artisti, come ha dichiarato invece Eline Van Der Welden, così come non può esserlo per esempio Biancaneve, intesa come personaggio d’animazione.

Le eventuali case di produzione che fossero interessate a usare Tilly Norwood nelle loro realizzazioni dovrebbero semmai ingaggiare lo studio di produzione che gestisce il software che genera le immagini di questo personaggio digitale, esattamente come si assolda una società di effetti speciali come Weta o Industrial Light and Magic. Non ha senso parlare di agenzie di rappresentanza artisti: Tilly Norwood non è un’artista.

Van Der Welden non ha fatto i nomi di queste ipotetiche agenzie che sarebbero interessate a “scritturare” Tilly Norwood, trincerandosi dietro la riservatezza professionale. Questo significa che non ci sono conferme indipendenti di quello che ha dichiarato. Van der Welden, oltre a essere CEO di Particle6, si qualifica come attrice e comica. Non è che per caso siamo di fronte a una sua prestazione attoriale per promuovere la propria azienda?

C’è infatti un altro aspetto: la casa di produzione di Van Der Welden, la Particle6 o più formalmente Particle Productions Ltd, ha in totale…. quattro dipendenti, stando alle fonti e ai registri ufficiali pubblicamente consultabili [Endole; Endole; LinkedIn; Companies House], e uno di questi dipendenti è lei. È credibile che una microscopica società di quattro persone abbia battuto sul tempo i colossi dell’intelligenza artificiale e dell’animazione digitale, creando la prima “attrice” sintetica di qualità?

La risposta, come avrete intuito, è un inequivocabile “no”, confermato dall’esame tecnico del cortometraggio comico che vede Tilly Norwood come protagonista, intitolato AI Commissioner e disponibile per l’esame su YouTube.

Il video, che è dichiaratamente generato interamente con software di intelligenza artificiale, può sembrare convincente e qualitativamente sufficiente a una prima visione. Ma chi ha l’occhio allenato a riconoscere le immagini sintetiche nota fin dalla prima inquadratura i difetti tipici di questi prodotti:

• le insegne sugli edifici formano parole senza senso,
• pochi secondi più tardi le mani dei personaggi si deformano in maniera innaturale ogni volta che interagiscono con qualunque oggetto,
• i loro denti diventano una scomposta striscia bianca quando aprono la bocca,
• gli oggetti che tengono in mano fluttuano magicamente quando li lasciano andare [a 0:54, sullo sfondo a destra],
• le locandine dei “film” interpretati da Tilly Norwood hanno sgorbi al posto delle lettere,
• e in almeno un punto il nome del personaggio, scritto correttamente, è vistosamente aggiunto a mano in post-produzione [a 1:19; è storto e disallineato rispetto alla prospettiva della locandina sulla quale dovrebbe essere scritto].

Anche i video pubblicati sull’account Instagram di Tilly Norwood hanno esattamente gli stessi difetti. Le fattezze del personaggio cambiano da una scena all’altra, e in uno dei video il braccio di Tilly Norwood trapassa il volante dell’auto nella quale è seduta, mentre in un altro i suoi capelli scompaiono nel nulla e l’addome diventa ondulato come se fosse di gomma. E come capita spesso nel vestiario generato dalla IA, le asole e i bottoni sono distribuiti totalmente a casaccio.

Persino nel suo sito, Tillynorwood.com, le immagini che dovrebbero promuoverla e dimostrare la sua qualità sono zeppe di errori classici, come le mani deformi e i bottoni del vestito disposti senza alcun ordine o senso logico. E viene addirittura presentata con vanto l’immagine in cui il suo braccio è letteralmente inglobato nel volante dell’auto.

Queste immagini e questi video possono sicuramente stupire chi non è del mestiere e li guarda distrattamente sullo schermo troppo piccolo di un telefonino, ma se li si guarda con occhio anche minimamente clinico e su uno schermo di dimensioni sensate ci si rende conto che siamo ben lontani dal realismo, dalla coerenza e dalla qualità che servirebbero per sostituire un attore o un’attrice in carne e ossa al cinema o in TV.

In altre parole: tutto quello che è stato mostrato da Eline Van Der Welden è assolutamente alla portata di qualunque generatore di immagini commerciale, come Kling, Midjourney, Krea.ai, Sora o Google Veo, ed è realizzabile con una spesa minima da chiunque abbia un pizzico di esperienza nel generare video sintetici e motivazione per investirci del tempo.

Anzi, prodotti come Krea.ai consentono di fare anche il cosiddetto training, ossia di usare una serie di foto di una persona (reale o sintetica), ripresa da varie angolazioni, per ottenere un personaggio pilotato dalla IA il cui volto resta sempre uguale, meglio di quanto faccia quello di Tilly Norwood.

Se quella di Eline Van Der Welden era un’operazione autopromozionale, è riuscita perfettamente: il nome della sua pasticciata creatura sintetica è oggi sulla bocca di tutti. Ma chi teme che Tilly Norwood rappresenti la fine degli attori umani può abbassare l’ascia dell’indignazione e prendere in mano la lente d’ingrandimento dell’osservazione spassionata per dormire sonni tranquilli.

Le cose, però, potrebbero cambiare in futuro: gli attuali generatori di video basati su intelligenza artificiale producono immagini imperfette, inadeguate per primi piani e protagonisti, ma accettabili per scene che si svolgono sullo sfondo, come del resto faceva già James Cameron in Titanic quasi vent’anni fa [1997] con le comparse virtuali che popolavano il ponte della nave nelle inquadrature più ampie, e rispetto a qualche anno fa la qualità ha fatto passi da gigante e continua a farne. Ma c’è anche il rischio che l’intelligenza artificiale generativa sia arrivata al limite delle proprie prestazioni e che aggiungendo potenza di calcolo si ottenga solo un affinamento minimo e insufficiente a sostituire in tutto e per tutto un attore o un’attrice in primo piano.

Sia come sia, la questione sollevata da Tilly Norwood e dalle proteste dei sindacati è seria: è il momento di regolamentare un settore che rischia di compromettere la sussistenza di moltissime persone e che si basa sullo sfruttamento non retribuito degli attori del passato. Queste intelligenze artificiali, infatti, vengono addestrate dalle grandi aziende che le controllano dando loro un enorme numero di immagini e video di scene con attori veri. Scene per le quali non si sa se siano stati pagati diritti di utilizzo.

Se lo facciamo noi, è pirateria. Se lo fa OpenAI, per esempio, è un modello di business necessario, come ha dichiarato l’azienda durante un’audizione a una commissione del Parlamento britannico nel 2024, spiegando che ChatGPT non sarebbe possibile se OpenAI non utilizzasse gratuitamente qualunque cosa mai scritta da noi esseri umani e tuttora vincolata dal copyright. OpenAI, fra l’altro, è valutata 80 miliardi di dollari.

Ed è forse qui la vera lezione di questa vicenda di Tilly Norwood: la conferma della tesi generale secondo la quale lo scopo fondamentale del boom dell’intelligenza artificiale è consentire ai ricchi di accedere alle competenze togliendo a chi è competente la possibilità di accedere alla ricchezza [“The underlying purpose of AI is to allow wealth to access skill while removing from the skilled the ability to access wealth.”].

Fonti aggiuntive

• La prima attrice generata dalla IA Tilly Norwood suscita polemiche reali, Zeus News
• Zurich presenta la prima attrice AI – Hollywood reagisce con orrore, Digitech.ch
• Emily Blunt among Hollywood stars outraged over ‘AI actor’ Tilly Norwood, BBC
• ‘AI actor’ Tilly Norwood is dividing Hollywood – but real acting requires humanity, The Conversation
• Tilly Norwood Slammed by U.K. Actors’ Union Equity as an ‘AI Tool’ That’s ‘Made Up of Performers’ Work’: ‘We Are Concerned About Where’ It Came From, Variety
• AI Actress Tilly Norwood Debuts at Zurich Summit as Industry Grapples With Emerging Tech: We Want Her ‘to Be the Next Scarlett Johansson’, Variety
• How a UK prodco is building the first AI star, Broadcast International (notate che risale a luglio 2025)
• Tilly Norwood su Wikipedia
• Who Is Tilly Norwood? Hollywood’s Controversial AI-Generated Actress Explained, Slashfilm
• AI Actress Tilly Norwood Rejected by More Acting Unions as ‘Nothing but Lines of Code’, The Wrap
• Tilly Norwood already has a Wikipedia page, and not even the editors are sure what to call it, Fast Company (copia su Archive.is)
• Is an AI Actress Really Coming for Hollywood?, Vulture.com
• Tilly Norwood is a gen AI psyop, The Verge
• Account Instagram di Tilly Norwood
• AI-generated “actress” Tilly Norwood sparks Hollywood backlash, Global News
• Critica di Imani Vaughn Jones, Instagram
• Particle6 su LinkedIn
• “Impossible”: OpenAI admits ChatGPT can’t exist without pinching copyrighted work, Salon.com
• Tilly Norwood: how scared should we be of the viral AI ‘actor’?, The Guardian
• Emily Blunt and Sag-Aftra join film industry condemnation of ‘AI actor’ Tilly Norwood, The Guardian