Sul canale Youtube derpfakes è uscita questa demo nella quale il giovane Harrison Ford prende il posto di Alden Ehrenreich. Considerato che è fatto senza il dispiego di mezzi di Hollywood ma da un semplice appassionato, il risultato è davvero notevole.
 |
| Sì, è Nicolas Cage nei Predatori dell’Arca Perduta (deepfake). |
La tecnologia di manipolazione deepfake, che consente di sostituire i volti nei video in maniera quasi completamente automatica, crea una certa inquietudine perché quando è usata bene consente di ottenere risultati estremamente credibili con un impegno di risorse tecniche molto modesto (basta un computer domestico).
L’idea che ci si possa trovare circondati da video falsi indistinguibili dagli originali ha ovviamente delle forti implicazioni in molti campi, dalla politica al giornalismo alla documentazione storica alle indagini giudiziarie. Ma la ricerca scientifica corre veloce anche nel settore dello smascheramento di questi falsi, proponendo tecniche di analisi e identificazione sempre più ingegnose.
Tre ricercatori della State University of New York hanno pubblicato una di queste tecniche nel paper In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking, che suggerisce di esaminare matematicamente il movimento delle palpebre nei video per capire se è naturale o no e quindi rivelare eventuali falsificazioni.
Le persone sbattono le palpebre in media circa 17 volte al minuto: questa cadenza aumenta durante una conversazione e diminuisce durante la lettura. Ma gli attuali software di generazione dei deepfake non tengono conto di questo fenomeno, per cui una cadenza errata, misurata da un apposito software, rivela la manipolazione.
Secondo i ricercatori, fra l’altro, migliorare i deepfake per includere la cadenza corretta non è facile, perché i dataset usati per “addestrare” questi programmi di solito non contengono immagini dei volti-bersaglio con gli occhi chiusi. I falsificatori dovranno quindi inventarsi un modo per aggiungere il movimento corretto delle palpebre. La gara fra falsificatori e smascheratori non conosce soste.
Sta circolando su Internet un video nel quale l’ex presidente degli Stati Uniti Barack Obama, dalla Casa Bianca, fa un discorso formale per avvisare che “stiamo entrando in un’era nella quale i nostri nemici possono far sembrare che chiunque abbia detto qualunque cosa in un qualunque momento” e poi usa un termine volgare per definire l’attuale presidente Trump.
Una caduta di stile decisamente insolita per Obama, che è il primo sintomo che il video è falso: è un cosiddetto deepfake, ossia un video realizzato usando tecniche di intelligenza artificiale per applicare automaticamente il viso di una persona sopra una ripresa del volto di un’altra.
In questo caso il soggetto originale è il creatore del video, il regista, attore e comico premio Oscar Jordan Peele, che ha realizzato il video per mettere in guardia contro questo nuovo traguardo della falsificazione digitale, grazie al quale, o forse per colpa del quale, non possiamo più credere a quello che vediamo online se non proviene da una fonte attendibile.
You won’t believe what Obama says in this video 😉 pic.twitter.com/n2KloCdF2G— BuzzFeed (@BuzzFeed) April 17, 2018
L’inganno non è ancora perfetto: i movimenti del falso Obama sono ancora leggermente incerti e innaturali, ma il video è comunque sufficiente a ingannare la maggior parte degli spettatori distratti, specialmente se visto sul piccolo schermo di uno smartphone, e la qualità non potrà che migliorare rapidamente man mano che verrà perfezionata la tecnologia. I deepfake sono la nuova frontiera delle fake news.
Sapere che esistono questi falsi video quasi perfetti e riconoscerne le imperfezioni rivelatrici, come per esempio i movimenti imprecisi della bocca, è il primo passo per evitare di esserne ingannati, ma non basta: servono degli strumenti informatici che consentano di rilevare le tracce matematiche della manipolazione. Una sorta di antivirus contro le fake news video.
Per fortuna esiste già: lo hanno presentato di recente alcuni ricercatori dell’Università Tecnica di Monaco, in Germania, e si chiama XceptionNet. Per riconoscere i video falsi usa le stesse tecniche di intelligenza artificiale usate per crearli: i ricercatori gli hanno mostrato oltre un migliaio di video e mezzo milione di immagini, indicandogli quali avevano subìto manipolazioni e quali no, e così XceptionNet ha imparato a identificare i falsi meglio di un essere umano.
Durante i test condotti dai ricercatori, guidati dal professor Matthias Niessner, le persone alle quali veniva mostrato un assortimento di video veri e falsi li classificavano correttamente nel 50% dei casi, mentre il software azzeccava la risposta giusta dall’87% al 98% dei casi, specialmente quando doveva classificare video fortemente compressi, che sono particolarmente difficili da diagnosticare per gli esseri umani.
Il software, descritto nell’articolo scientifico dei ricercatori intitolato FaceForensics: A Large-scale Video Data Set for Forgery Detection in Human Faces, non è ancora disponibile al pubblico, ma i suoi creatori si aspettano che venga integrato direttamente nelle app usate per navigare in Rete o guardare video, in modo da analizzare i video guardati e consentire all’utente di ricevere automaticamente un avviso se un’immagine o un video che sta guardando ha subìto interventi di modifica.
In attesa che arrivi sul mercato questo rivelatore di fake news video è comunque opportuno imparare ad essere scettici su quel che si vede in Rete e anche sui mezzi di comunicazione di massa tradizionali, e aguzzare la propria intelligenza naturale.
Questo articolo è basato sul testo preparato per il mio servizio La Rete in 3 minuti per Radio Inblu del 19 aprile 2018. Fonte aggiuntiva: Digital Trends, Technology Review, Svencharleer.com.