È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

NOTA: questa puntata al momento è disponibile solo sul sito della RSI ma non sulle altre piattaforme podcast.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: audio dal trailer di Ocean’s Thirteen (2007)]

Il film Ocean’s Thirteen di Steven Soderbergh racconta la vicenda immaginaria di un attacco a un casinò di Las Vegas, basato in gran parte sull’elusione dei suoi controlli di sicurezza computerizzati. Nella fantasia hollywoodiana, questo richiede una gigantesca scavatrice sotterranea e varie altre diavolerie, acrobazie e seduzioni.

Nella realtà, invece, le cose vanno molto diversamente. Sì, perché in questo momento la MGM Resorts, proprietaria di alcuni dei più celebri casinò di Las Vegas, è sotto attacco da parte di un gruppo di informatici che da due settimane ha reso inservibili i sistemi di prenotazione online e di pagamento elettronico, le chiavi elettroniche delle camere e i bancomat, creando il caos, ed è riuscito a forzare la disattivazione di molte slot machine gestite dalla MGM Resorts, non solo a Las Vegas ma anche in gran parte degli alberghi della catena in altre località. Le perdite economiche, i disagi per gli ospiti e il danno d’immagine sono incalcolabili.

[Jason Koebler è andato a Las Vegas e ha documentato anche fotograficamente la situazione dei casinò colpiti]

A differenza della versione cinematografica, questo attacco non ha richiesto trivelle, acrobati o George Clooney: è bastata una telefonata. E non è la prima volta che succede.

Questa è la storia assurda e spettacolare di questo attacco informatico, ricca di lezioni di sicurezza che si applicano a qualunque azienda, grande o piccola, e preziosa per conoscere lo stato dell’arte del crimine online e imparare a difendersene.

Benvenuti alla puntata del 22 settembre 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Pochi giorni fa una cliente dell’MGM Grand, un albergo di lusso a Las Vegas di proprietà della catena MGM Resorts, è entrata nella camera sbagliata perché le chiavi elettroniche dell’hotel non funzionavano correttamente. Il personale è stato costretto a distribuire migliaia di chiavi fisiche sostitutive. La cliente ha postato su TikTok un video che mostra che molte slot machine dell’albergo sono state spente.

Altri clienti dell’MGM Grand hanno scoperto di avere le prenotazioni annullate, non sono riusciti a fare check-in o pagare con le carte di credito, e sono stati costretti ad andare in cerca di bancomat al di fuori dell’albergo per procurarsi contanti per pagarsi da mangiare. I telefoni interni e il servizio TV nelle camere sono diventati inservibili.

Il sito principale della catena, Mgmresorts.com, è stato bloccato e ha iniziato a mostrare solo un invito a contattare telefonicamente il servizio clienti. Lo stesso caos ha colpito altri alberghi e casinò della MGM Resorts nella stessa città e in tutti gli Stati Uniti (BBC), costringendo il personale a lavorare con carta e penna. A distanza di due settimane, le prenotazioni online sono ancora inaccessibili e i disagi per i clienti continuano (Kevin Beaumont su Mastodon).

Il 12 settembre la MGM Resorts ha pubblicato sul sito della SEC, la Securities and Exchange Commission, l’ente federale statunitense che vigila sulle borse, un avviso che parla molto diplomaticamente di una “questione di sicurezza informatica che riguarda alcuni sistemi dell’Azienda”. Ma la realtà è assai meno diplomatica.

La MGM Resorts è stata vittima di un attacco informatico, messo a segno usando una tecnica classica, descritta brutalmente su X (il social network un tempo noto come Twitter) da alcuni alleati degli aggressori con queste parole: “Per compromettere MGM Resorts, il gruppo ransomware ALPHV è semplicemente andato su LinkedIn, ha trovato un dipendente, e poi ha chiamato l’helpdesk. Un’azienda valutata 33 miliardi e 900 milioni di dollari è stata sconfitta da una telefonata di dieci minuti.”

La telefonata in questione è stata preparata con molta cura dagli attaccanti. Secondo le informazioni rese pubbliche fin qui, l’helpdesk aziendale di MGM Resorts sarebbe stato vulnerabile perché “per ottenere un reset della password, i dipendenti dovevano fornire solo informazioni personali di base, come il nome e cognome, il loro numero identificativo in azienda e la data di nascita” (Bloomberg, paywall). Tutte informazioni facili da ottenere andando semplicemente su un sito come LinkedIn, dove le persone pubblicano curriculum, dati anagrafici e situazione di lavoro, senza rendersi conto che in questo modo forniscono ai criminali il primo appiglio necessario per scavalcare il muro della sicurezza informatica.

Armati di queste informazioni, gli aggressori avrebbero appunto contattato l’helpdesk per i dipendenti di MGM Resorts, spacciandosi per uno di quei dipendenti e convincendo l’addetto all’helpdesk a fare un reset della password del dipendente impersonato. Sarebbero poi entrati nella rete informatica dell’azienda usando questa password. Si sa per certo che hanno usato dei normali software di accesso remoto e la consueta VPN aziendale per fingere di essere quel dipendente, e che hanno lanciato un malware remoto, riuscendo a entrare nel sistema nel giro di cinque ore e sfuggendo ai controlli per otto giorni, fino al 10 settembre scorso. La loro incursione ha costretto gli addetti di MGM Resorts a spegnere gran parte della propria rete informatica interna per tentare di contenere l’attacco, scatenando appunto grande confusione (Financial Times).

Attacchi come questi sono l’incubo di ogni addetto alla sicurezza informatica, perché fanno leva su due fattori incontrollabili: le dimensioni dell’azienda, che portano ad avere una rete informatica vasta e molte persone autorizzate ad accedervi che non si conoscono fra loro, e la psicologia umana, le cui fragilità sono ben note in questo campo e sono universali.

Questo caso, però, è diverso dal solito, non solo per la scala dell’attacco e per il bersaglio così vistoso, ma anche perché i criminali hanno sfruttato una risorsa non informatica molto particolare.

Parli come me, mi fido di te

Sulla scena virtuale del crimine sono arrivati l’FBI, il governatore dello stato del Nevada Joe Lombardo, e numerosi consulenti di sicurezza informatica in aggiunta a quelli già impiegati dalla MGM Resorts. Questi esperti hanno indicato i probabili colpevoli dell’attacco: un gruppo noto come “Scattered Spider” (letteralmente “ragno diffuso”), che ha già effettuato intrusioni informatiche di questo tipo a scopo di estorsione, con la tecnica classica del ransomware, che consiste nel rubare o bloccare dati sensibili della vittima e poi chiedere denaro per non pubblicarli o per sbloccarli. Il gruppo ha poi rivendicato pubblicamente l’attacco in un’intervista al Financial Times.

Scattered Spider ha avuto successo perché le procedure di sicurezza del bersaglio erano troppo deboli e verificavano le identità usando soltanto dati personali facilmente reperibili, ma soprattutto perché molti dei membri del gruppo parlano inglese come madrelingua. Secondo gli esperti, infatti, il gruppo è composto da persone molto giovani che risiedono negli Stati Uniti e in Europa, e la loro competenza linguistica e culturale rende molto credibili le loro telefonate in cui simulano di essere dipendenti di aziende statunitensi. Questo li distingue nettamente dagli altri gruppi criminali operanti nello stesso settore, che sono prevalentemente russofoni e quindi farebbero molta fatica a spacciarsi plausibilmente al telefono per un dipendente americano.

MGM Resorts non è l’unico gestore di casinò preso di mira da attacchi di questo tipo. Poche settimane fa la Caesars Entertainment Inc., quella del celebre Caesar’s Palace, è stata oggetto di un’intrusione analoga, per la quale è stato chiesto un riscatto per non pubblicare i dati trafugati. L’azienda dichiara di “aver preso misure per garantire che i dati rubati vengano cancellati dall’attore non autorizzato, anche se non possiamo garantire questo risultato”. Traduzione: è stato pagato un riscatto di alcune decine di milioni di dollari, secondo gli addetti che hanno seguito la vicenda (Wall Street Journal).

Se vi state chiedendo come mai sono stati scelti come bersaglio i casinò, la ragione non è certo legata a scelte etiche dei criminali, che hanno chiarito molto cinicamente che se un’azienda ha soldi, la attaccheranno, in qualunque settore sia. Le uniche eccezioni, dicono, sono ospedali e aeroporti, perché si rischia troppo il carcere e l’accusa di terrorismo. Siamo insomma ben lontani dai ladri gentiluomini di Ocean’s Thirteen e di tanta tradizione cinematografica.

Ci sono almeno tre lezioni fondamentali che si possono trarre dalla spietatezza di questi attacchi: la prima è che pubblicare su LinkedIn, Crunchbase e simili il nome dell’azienda nella quale si lavora, e in quale ruolo ci si lavora, è una pessima abitudine che andrebbe abbandonata, magari sostituendola con un’indicazione generica del tipo di azienda o del suo settore.

La seconda è che gli aggressori attaccheranno qualunque punto debole: per esempio prenderanno di mira le procedure di verifica di identità, che non devono basarsi quindi su dati personali facilmente reperibili, oppure colpiranno i sistemi informatici ausiliari ma indispensabili, come quello degli impianti antincendio o quello delle prenotazioni, oppure quello di un fornitore esterno, che sono meno difesi.

La terza lezione è che i vari sistemi informatici di un’azienda non devono fidarsi l’uno dell’altro, perché se lo fanno è sufficiente violarne uno per avere accesso agli altri e si produce un effetto domino che paralizza l’intera azienda. Nel caso della MGM Resorts, appunto, il caos è stato causato dal fatto che sono stati gli addetti alla sicurezza a spegnere molti sistemi, per evitare che gli aggressori li raggiungessero. Ovviamente creare un sistema aziendale nel quale non ci sono barriere interne è molto più facile e offre anche una grande efficienza, ma in caso di attacco quell’efficienza diventa una costosa debolezza. Ed è così che può bastare una telefonata ben studiata per far crollare un’azienda miliardaria.

Ma c’è anche una quarta lezione, che arriva da un caso diametralmente opposto a questo.

Quando la MFA non è MFA

Retool è una società californiana che sviluppa software, con un paio di centinaia di dipendenti in tutto: l’esatto contrario del colosso MGM Resorts. Ma anche Retool è stata attaccata pochi giorni fa: l’aggressore ha iniziato l’attacco inviando degli SMS ai dipendenti, spacciandosi per un collega in difficoltà e chiedendo ai destinatari di cliccare su un link dall’apparenza innocua per risolvere un presunto problema di stipendi.

Un solo dipendente è caduto nella trappola, ma è bastato. Il link, infatti, portava a una pagina di login fasulla, nella quale il dipendente ha immesso le proprie credenziali, dandole così all’aggressore.

Fin qui nulla di speciale, ma a questo punto, come racconta Retool sul proprio sito, il criminale ha telefonato al dipendente, fingendo di essere quel collega in difficoltà e ne ha simulato la voce con un software apposito, dimostrando anche di conoscere la planimetria della sede, i nomi di molti colleghi e le procedure interne dell’azienda. La voce è stata riconosciuta dalla vittima e l’ha convinta ad abbassare le proprie difese e a dare un singolo codice temporaneo di autenticazione a due fattori a quel falso collega al telefono.

Quel codice ha permesso all’aggressore di aggiungere un proprio dispositivo al sistema di autenticazione aziendale e da lì acquisire il controllo di ben ventisette account di clienti di Retool nel settore delle criptovalute. Uno di questi clienti è stato così derubato di circa 15 milioni di dollari.

Di solito l’autenticazione a due fattori viene presentata come una soluzione di sicurezza estremamente efficace, e normalmente lo è, ma in questo caso ha fallito, e secondo Retool la colpa è di Google, perché la sua app di autenticazione, Google Authenticator, da qualche tempo spinge gli utenti a sincronizzare nel cloud una copia dei codici di autenticazione. Questo è considerato pericolosissimo dagli esperti, perché vuol dire che se qualcuno prende il controllo di un account Google, ottiene accesso anche ai codici di autenticazione di tutti i siti gestiti tramite Authenticator. Il dipendente di Retool che è stato ingannato aveva attivato questa sincronizzazione, e questo è un problema che tocca tutti gli utenti di Authenticator, grandi e piccoli.

Se usate Google Authenticator e avete attivato, come tanti, la sincronizzazione dei codici nel cloud e adesso vorreste disattivarla, aprite l’app, cliccate sull’icona del profilo e scegliete Utilizza senza un account. Ma tenete presente che se il dispositivo sul quale avete Authenticator si guasta o viene perso, non avrete più modo di riottenere i codici di autenticazione. Anche in informatica, comodità e sicurezza sono spesso in contrasto tra loro.

Questi casi di attacchi informatici molto sofisticati, con voci clonate, ricognizione del bersaglio, sfruttamento di una vulnerabilità poco considerata e un bottino ingentissimo, dimostrano che il crimine informatico non va assolutamente sottovalutato. Un recentissimo rapporto di swissVR, Deloitte e dell’Università di Lucerna rileva che il 45% delle grandi aziende svizzere è stata vittima di un attacco informatico e che di queste vittime il 42% ha subìto un danneggiamento delle proprie attività; il 18% delle aziende con meno di 50 dipendenti è stata oggetto di attacchi importanti. Il Centro Nazionale per la Cibersicurezza ha documentato oltre 34.000 attacchi solo nel 2022: il triplo rispetto al 2020. Eppure il 30% delle imprese svizzere non ha nemmeno nominato un gruppo interno per la gestione degli incidenti informatici (Swissinfo; Swissinfo). Viene da chiedersi se per caso quel 30% stia aspettando che la lezione di sicurezza informatica arrivi direttamente da George Clooney in persona.

[CLIP: audio dal trailer di Ocean’s Thirteen (2007)]

Fonti aggiuntive: Engadget, Dark Reading, BitDefender, TechCrunch, The Hustle, The Hacker News, Ars Technica.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Dialogo fra Ann e il suo partner]

Quella che avete sentito non è la classica conversazione fra un utente e il suo assistente vocale. La voce femminile che risponde non è quella standard di Alexa, Siri o Google: è quella, sintetica, di Ann, una donna che ha perso la capacità di parlare in seguito a un ictus ma che ora può di nuovo comunicare a voce semplicemente pensando di parlare, grazie a una rete di sensori applicati al suo cervello e grazie all’intelligenza artificiale, che è l’unica tecnologia capace di interpretare la complessa attività dei neuroni e tradurla in suoni usando oltretutto la voce originale della persona.

È una delle tre storie di intelligenza artificiale che dà voce a chi non ce l’ha della puntata del primo settembre 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Le altre due riguardano l’idea di usare l’intelligenza artificiale per decodificare il linguaggio degli animali e uno strano esperimento di collage acustico in cui la voce di Elvis Presley, morto nel 1977, canta le parole diBaby Got Back di Sir Mix-A-Lot, classe 1992, sulle note di Don’t Be Cruel, classe 1956. Lasciamo stare un momento il perché di una creazione del genere, perché è molto più importante il come, che potrebbe decidere le sorti di tutto il mondo musicale nei prossimi anni.

Benvenuti. Io sono Paolo Attivissimo.

[SIGLA di apertura]

L’IA che ridà la voce captando le parole pensate

Restituire la voce a chi l’ha persa per malattia è ora possibile, perlomeno in alcuni casi specifici. Lo annunciano, con molta dovuta cautela, due articoli scientifici (A high-performance speech neuroprosthesis; A high-performance neuroprosthesis for speech decoding and avatar control) pubblicati sulla prestigiosa rivista Nature, che raccontano le storie di Ann e Pat, due donne che avevano perso la capacità di parlare a causa della scleròsi laterale amiotrofica e di un ictus. Entrambe hanno una caratteristica particolare: non possono più articolare parole, ma ricordano perfettamente come si fa.

Ann e Pat si sono offerte volontarie per farsi impiantare dei sensori che rilevano l’attività dei neuroni delle aree del cervello associate ai movimenti facciali. Quando pensano di parlare, questi sensori captano i segnali di questa attività immaginata e li passano, attraverso un connettore, a un computer sul quale gira un software di intelligenza artificiale che li interpreta, riconoscendo i movimenti pensati, e poi riconosce anche quali suoni verrebbero prodotti da quei movimenti. Questi suoni, o fonemi, vengono infine convertiti in parole, che nel caso di Pat vengono mostrate su uno schermo, mentre nel caso di Ann vengono pronunciate da un sistema di sintesi vocale che usa campioni della sua voce tratti dal video del suo matrimonio e pilota un avatar digitale su uno schermo.

I risultati sono notevolissimi. Pat è in grado di comunicare alla velocità media di 62 parole al minuto e Ann arriva a 78, stracciando i record precedenti dei vecchi sistemi, che si fermavano a circa 15 parole al minuto. Per fare un paragone, una conversazione vocale normale procede a circa 160 parole al minuto, come il podcast che state ascoltando. Fra l’altro, i loro pensieri privati sono al sicuro: il software funziona solo quando Pat e Ann immaginano specificamente di parlare.

[Video: https://www.youtube.com/watch?v=iTZ2N-HJbwA]

Le apparecchiature presentate dai ricercatori in questi articoli sono ingombranti e richiedono alcuni mesi di addestramento, oltre a un delicato intervento chirurgico per impiantare i sensori, che poi tendono a spostarsi e richiedono frequenti ricalibrazioni, e il tasso di errore è ancora significativo. Ma l’idea stessa che basti ascoltare i segnali elettrici di meno di trecento neuroni per riconoscere una funzione complessa come parlare, e che sia possibile usare il software di intelligenza artificiale per decodificare questi segnali e captare parole pensate, è assolutamente affascinante e promettente. Il principio, impensabile dieci anni fa, è stato ormai dimostrato in pratica; ora si tratta di perfezionare e miniaturizzare questa tecnologia.

[Fonti aggiuntive: UCSF.edu; Ars Technica]

Si può usare l’IA per capire i linguaggi degli animali?

Ormai da qualche tempo i vari software di intelligenza artificiale sono in grado di fornire traduzioni automatiche passabili da una lingua all’altra, almeno per i concetti elementari, espressi senza ambiguità, e da sempre chi ha un rapporto stretto con un animale ne riconosce i suoni caratteristici e viceversa molti animali hanno dimostrato di riconoscere una vasta gamma di suoni emessi da noi umani e di avere un sistema di comunicazione sofisticato.

Sarebbe possibile usare l’intelligenza artificiale per creare un traduttore che capisca per esempio il gattese, il delfinese o il cincese? Sì, perché le cince, a quanto risulta dalle ricerche, hanno una comunicazione sonora incredibilmente complessa e flessibile, e ce l’hanno anche i cani delle praterie, con vocalizzi specifici per comunicare concetti complessi come “la donna con la maglietta blu è tornata”.

A prima vista insegnare a un’intelligenza artificiale un linguaggio animale non sembra un problema insormontabile. Esistono software di traduzione fra lingue umane straordinariamente differenti per suoni o struttura, come il cinese e l’islandese, e il metodo tipico di addestramento di un’intelligenza artificiale consiste in sostanza nel prendere tantissimi dati di una lingua e dell’altra, quello che si chiama in gergo un corpus, e poi lasciare che il software trovi gli schemi e le correlazioni. Il successo esplosivo dei traduttori automatici, dopo decenni di fallimenti dei software di traduzione basati su vocabolari e regole di sintassi e grammatica, è dovuto in gran parte a questo approccio: dai a un’intelligenza artificiale un corpus di qualche petabyte di dati e ti tirerà fuori qualcosa di interessante. E procurarsi qualche milione di ore di registrazioni di “conversazioni” di gatti, delfini o cince non sembra particolarmente difficile.

Ma in realtà non è così semplice. Per addestrare un modello linguistico servono anche altri due elementi. Il primo è una comprensione almeno elementare delle correlazioni fra le due lingue: un cosiddetto corpus parallelo, una sorta di Stele di Rosetta che faccia da ponte e indichi come si dice per esempio “cibo”, “sole”, “pericolo” nelle due lingue. Senza questo corpus parallelo l’intelligenza artificiale può riuscire lo stesso a fornire traduzioni accettabili, ma con molta più fatica.

Il secondo elemento è la cosiddetta struttura concettuale latente. Come spiega Noah Goodman, professore di psicologia, informatica e linguistica alla Stanford University in una recente intervista a Engadget, nel tradurre da una lingua umana a un’altra diamo per scontato che certi concetti, come per esempio “uomo” o “donna”, esistano in entrambe. Non possiamo darlo per scontato nelle lingue degli animali, per i quali magari la distinzione fra uomini e donne è irrilevante come lo è per noi la differenza fra alligatori e coccodrilli, e senza questa struttura concettuale il problema si complica.

Tuttavia c’è una speranza: se i suoni degli animali vengono registrati in modo multimodale, ossia includendo anche il contesto, con informazioni come le condizioni ambientali, l’ora e il periodo dell’anno, la presenza di prede o predatori, allora è possibile usare l’intelligenza artificiale come ponte linguistico fra umani e animali. Lo si sta già tentando per esempio con i delfini, raccogliendo le posizioni relative dei singoli esemplari insieme ai loro suoni, e un esperimento del 2017 è riuscito a decodificare tramite l’intelligenza artificiale il lessico abbastanza limitato delle conversazioni delle scimmie note come callìtrice o marmosetta con un’accuratezza del 90 per cento.

Ma per il momento in generale i dati a disposizione sono troppo pochi e le risorse di calcolo scarseggiano. Nel prossimo futuro aumenteranno inevitabilmente, per cui la sfida è solo rinviata e chi sperava di portarsi a
casa un collarino o un’app che traducesse esattamente cosa sta cercando di dirci Fido o Felicette dovrà aspettare ancora un bel po’.

Il vero problema, non tecnico, è che forse non abbiamo molta voglia di sentirci dire dagli animali cosa pensano di noi e di quello che facciamo a loro.

I cantanti clonati con l’IA non sono sotto il vincolo del copyright?

[CLIP: “Elvis” canta Baby Got Back, https://www.youtube.com/watch?v=IXcITn507Jk]

La voce è quella di Elvis Presley, la musica è quella del suo brano classico Don’t Be Cruel del 1956, ma le parole sono quelle di Baby Got Back, un brano di Sir Mix-A-Lot che risale al 1992, quindici anni dopo la morte di Elvis.

Ovviamente il Re del Rock’n’Roll non può aver previsto i testi di Sir Mix-A-Lot e quindi la sua voce deve essere stata sintetizzata. Ma di preciso come si fa a ottenere un risultato del genere? Avrete già intuito che c’è di mezzo l’intelligenza artificiale, ma c’è anche moltissimo lavoro umano, e questo è molto importante per il futuro della musica in generale.

Il brano interpretato dal finto Elvis Presley è stato realizzato da Dustin Ballard, titolare del canale YouTube
There I Ruined It e non nuovo a ibridazioni musicali di questo genere. Per prima cosa ha dovuto registrare il brano cantando lui stesso, con la sua voce, imitando lo stile ma non le tonalità di Elvis, e poi ha dato questa registrazione in pasto a un particolare modello di intelligenza artificiale dedicato alla conversione delle voci cantate, che è diversa dalla conversione del parlato. La parte strumentale, invece, è stata realizzata in una comune applicazione per la composizione di basi musicali.

Il convertitore, però, ha bisogno di campioni accuratamente selezionati della voce che deve produrre, e quindi è necessario prima di tutto procurarsi una serie molto ampia di registrazioni di alta qualità di quella voce, isolate dagli strumenti musicali di accompagnamento, cosa non proprio facile da ottenere. Su Discord ci sono comunità dedicate specificamente alla creazione di modelli vocali di persone famose, e Dustin Ballard ha usato uno di questi modelli, realizzato da Michael van Voorst, per la sua canzone dimostrativa.

Il risultato può piacere o non piacere, ma dimostra molto chiaramente che oggi è possibile creare a basso costo versioni di canzoni interpretate da voci sintetiche ispirate a quelle di cantanti celebri del passato o del presente, con tutte le implicazioni legali che ne conseguono. È abbastanza intuitivo che sia illecito o almeno discutibile usare la voce di qualcun altro senza il suo permesso, ma è meno intuitivo il paradosso del fatto che questa versione sintetica è libera di circolare, mentre quella originale, quella Don’t Be Cruel del 1956, è vincolata dal copyright e se tentate di condividerla su YouTube verrà bloccata dai filtri antipirateria su ordine della Universal Music Group. Rischiamo di essere sommersi dai cloni canori gratuiti, usabili senza problemi su YouTube o TikTok, mentre gli originali a pagamento sono sotto chiave e finiscono in disuso perché i video che li usano anche solo in sottofondo a una festa vengono bannati.

L’esperimento di Dustin Ballard rivela anche un’altra questione sulla quale ci sarà molto da discutere: il ruolo dell’intervento umano nelle creazioni sintetiche di questo genere. Il mese scorso una giudice federale statunitense ha stabilito che le illustrazioni generate dall’intelligenza artificiale, come per esempio quelle di Midjourney, non possono essere protette dalle leggi sul diritto d’autore, perché in queste produzioni manca completamente la mano umana. “La creatività umana è il sine qua non al centro della tutelabilità tramite copyright”, ha scritto nella sentenza.

Ma nel caso dell’Elvis sintetico la mano umana c’è eccome, e c’è anche la voce umana usata come punto di partenza, oltre alla scelta creativa di abbinare quella voce a quel brano e a quel testo. E nelle immagini sintetiche c’è l’intervento umano, che consiste nel comporre il testo del prompt, ossia della serie di istruzioni date all’intelligenza artificiale per guidarla nella generazione dell’immagine.

Per esempio, è un atto creativo sufficiente chiedere a un software di generare un’illustrazione dicendogli
“Fai un dipinto di Tom Cruise vestito da marinaretto, a figura intera, mentre cavalca un unicorno pezzato muscoloso e rampante, sotto la pioggia, nello stile di Caravaggio”? In fin dei conti, contiene una serie di scelte umane forse discutibili ma sicuramente ben precise, un po’ come un collage prende pezzi di opere
altrui ma li rimonta secondo le scelte del suo ideatore.

Dove stia il limite non è ancora chiaro, ma i tribunali verranno chiamati sempre più spesso a deciderlo, man mano che le possibilità offerte dall’intelligenza artificiale si estenderanno. In attesa di queste decisioni,
non ci resta che ascoltare un’altra delle creazioni, se così è lecito chiamarle, di Dustin Ballard e del suo software: la voce sintetizzata e inconfondibile di Johnny Cash che canta Barbie Girl a modo suo.

[CLIP di “Johnny Cash” https://www.youtube.com/watch?v=HyfQVZHmArA]

[Qualche altro esempio extra podcast, se questo non vi è bastato]

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

Nota tecnica: Le dichiarazioni degli intervistati sono state rimontate solo per chiarezza e brevità. Le interviste sono state effettuate via Zoom e il loro testo è stato trascritto inizialmente usando Whisper per poi rivederlo manualmente.

---

[CLIP: “Congratulations to team Mhackeroni”]

Siamo a Las Vegas, ed è il 13 agosto 2023. L’annuncio che avete appena sentito non riguarda la premiazione di qualche artista musicale emergente. I vincitori sono degli informatici, e sono stati appena premiati per aver preso il controllo di un satellite militare. Questi informatici fanno parte di un gruppo di hacker etici italiani che si fa chiamare “Mhackeroni”.

Questa è la storia di come è possibile hackerare legalmente un satellite in orbita, senza finire in carcere ma anzi ricevendo un premio, ed è anche la storia di come e perché si fa un hackeraggio del genere, raccontata con l’aiuto di due dei protagonisti diretti.

Benvenuti alla puntata del 25 agosto 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Ogni anno a Las Vegas si tiene la DEF CON, una delle più famose conferenze di sicurezza informatica internazionali. Dal 2020 la DEF CON include Hack-A-Sat, una sfida che consiste nel violare i sistemi di sicurezza informatica di un satellite e prenderne il controllo. Negli anni passati questa sfida si è svolta in un ambiente simulato, oppure usando un esemplare fisico di satellite ben fermo sulla Terra, sul tavolo degli organizzatori.

Ma quest’anno l’obiettivo è comandare un satellite reale e operativo, che sta orbitando intorno alla Terra.

Prima che a qualcuno venga il panico perché immagina una sfida fra hacker sconsiderati che si mettono a pasticciare con i tanti satelliti che volteggiano sopra le nostre teste, rischiando magari di farli precipitare o di scatenare una guerra mondiale, vale la pena di chiarire che non c’è nessun pericolo di questo genere. Ce lo spiega Mario Polino, ricercatore al Politecnico di Milano, dove si occupa di sicurezza informatica. Polino è il capitano di Mhackeroni, il gruppo che ha vinto pochi giorni fa il primo premio di questa sfida.

POLINO: Il controllo principale del satellite è rimasto sempre comunque agli organizzatori. Ed è stato progettato in modo che comunque loro fossero in grado di recuperarne il controllo e quindi in ogni caso la quantità di danni che potevano essere fatti erano estremamente limitati, mi verrebbe da dire praticamente zero. Ci sono una serie di precauzioni che sono state prese, per esempio non ha modo di spostarsi di orbita attivamente, quindi anche qualora tu avessi il controllo di quel satellite non puoi spostarlo, mandarlo a schiantarsi da qualche parte, non è fisicamente possibile. Quello di cui avevamo controllo era per esempio l’assetto, quindi provare a ruotarlo per puntarlo in una direzione o l’altra, poi a bordo aveva una fotocamera, dove potevamo scattare delle fotografie, che sono relativamente innocue, e non c’era niente che poteva in qualche modo rendere il satellite un pericolo.

Notate che Mario Polino parla di “satellite”, al singolare. Il bersaglio spaziale della sfida Hack-a-Sat, infatti, è molto specifico. Si chiama Moonlighter ed è stato costruito e lanciato nello spazio appositamente per questa competizione informatica, che è gestita congiuntamente dall’Aeronautica militare e dalla Space Force degli Stati Uniti. Ed è per questo che il tentativo di violare i sistemi informatici di questo specifico satellite è non solo legale ma è addirittura incoraggiato e premiato dai militari che hanno lanciato Moonlighter.

La sfida Hack-A-Sat è insomma completamente diversa dagli attacchi informatici non autorizzati ai satelliti, come quello che ha colpito le stazioni a terra del sistema di trasmissione dati satellitare Viasat a fine marzo 2022, all’inizio dell’invasione russa dell’Ucraina, e ha usato i satelliti di Viasat per iniettare malware nei modem degli utenti. Hack-A-Sat serve a studiare come prevenire questi attacchi: è una sorta di esercitazione militare che coinvolge anche i civili. A patto di essere fra i civili capaci di fare queste cose, s’intende.

Come si diventa hacker satellitari

Ma come si fa a partecipare a una competizione internazionale del genere, e come si viene invitati? È più semplice di quanto verrebbe spontaneo pensare: nessuna visita a casa da parte dei Men in Black, nessuna indagine di polizia sui candidati, e pochissima burocrazia. Viene semplicemente pubblicato su Internet un annuncio, insieme a un regolamento, e se si vuole si partecipa liberamente alle selezioni preliminari.

POLINO: Nella community esistono delle liste di competizioni, e quindi fra le competizioni c’era questa, che aveva un nome interessante. Poi esplorando la competizione sembrava molto divertente, perché era diversa, aveva un tema diverso.

Superare le selezioni, però, non è facile, come racconta Dario Petrillo, studente magistrale all’università La Sapienza a Roma e membro di Mhackeroni dal 2018.

PETRILLO: È molto diretta la cosa, iscrivi il team sulla piattaforma, quando ci sono le qualifiche, fai le qualifiche. Nel nostro caso ci siamo organizzati, ci siamo visti tutti quanti in presenza al laboratorio NECST, al Politecnico di Milano. I primi tre anni non passi, perché è quello che è successo a noi. Però poi, quando effettivamente vai abbastanza bene in classifica, passi alla fase successiva e ti organizzi per le finali. Non è molto complesso partecipare, è più complesso risolvere le challenge.

Se si superano le challenge, ossia le prove di qualifica, le regole sono sorprendentemente semplici anche quando si arriva a manipolare il satellite.

POLINO: Esiste un regolamento che è implicitamente accettato quando si partecipa alla competizione e la cui violazione implica la squalifica. Per le qualifiche non c’è nessun danno che può essere fatto, non c’è accesso al satellite, sono delle challenge messe a disposizione su dei server a disposizione per la competizione, quindi non c’è rischio in quel caso. Per la finale, invece, in cui abbiamo avuto accesso al satellite, comunque non ci sono stati grandi passaggi formali, praticamente la lista dei nomi dei partecipanti, che abbiamo fornito a loro. In realtà è molto semplice partecipare.

Mario Polino e Dario Petrillo parlano di challenge, di prove informatiche da superare. Ma in cosa consistono esattamente queste prove? È come nei film, dove c’è immancabilmente da scoprire all’ultimo secondo la password del satellite per salvare il mondo dai cattivi? Beh, una volta tanto, in un certo senso sì.

POLINO: C’era una challenge sulla password del satellite [ride], quella con cui abbiamo vinto tra l’altro, però è un pochino più complesso. Prima di accedere a un satellite ci sono n layer di comunicazione, con n livelli di cifratura, e quindi la password del satellite di per sé come nel film non esiste, ok? Esistono delle password che proteggono alcuni tipi di accesso e una delle challenge era trovare la password.

Il programma che fa la verifica si trova sul satellite; quello che abbiamo fatto, che bisognava fare, sostanzialmente era sfruttare le tempistiche di computazione per il calcolo della password. Sostanzialmente, quando hai due password e devi verificare che sono uguali, un modo sbagliato per scrivere il confronto è quello di verificare, carattere per carattere, se le due password sono uguali. Questa verifica cambia il tempo di esecuzione in base al numero di caratteri corretti che hai trovato finora. Si può provare il primo carattere e contare il tempo di computazione. Appena il tempo di computazione diventa un po’ più lungo, vuol dire che il primo carattere è stato indovinato e puoi passare a cercare il secondo.

Questa cosa sui laptop normali si fa e non è neanche troppo difficile e lì la challenge è stata farla sul satellite, con un processore di cui avevamo pochissime informazioni, quindi non potevamo testarlo, praticamente con pochissimi tentativi, perché il numero di finestre, il numero di comandi che riuscivamo a mandare erano estremamente limitati.

C’è anche un altro esempio di queste challenge che sembra preso di peso dalla finzione cinematografica: prendere il controllo della telecamera a bordo del satellite, puntarla in modo da inquadrare una zona precisa della Terra, far scattare un’immagine e scaricarla.

Cose da James Bond, con la differenza che Bond non saprebbe neanche da che parte cominciare, perché per queste cose non servono muscoli esuberanti e battutine seducenti, ma matrici di orientamento e quaternioni, come spiega Dario Petrillo:

PETRILLO: Sembra una stupidaggine, in realtà puntare un satellite non è per niente banale, perché siamo dovuti impazzire dietro a quaternioni, matrici di orientamento e così via. Avevamo un ragazzo nella squadra che fa questo, studia, credo, aerospaziale; questa cosa ci ha salvato. Infatti abbiamo ottenuto una foto che non ha preso i punti, purtroppo, perché era di poco fuori. L’obiettivo era quello di avere uno di questi punti importanti al centro della foto. Bisognava essere entro 100 chilometri di distanza, noi eravamo a 150. Siamo la squadra che ci è andata più vicina, però, quindi di questo comunque sono contento.

A queste difficoltà matematiche si sono aggiunte quelle fisiche: ben diversamente da quello che accade di solito nella finzione narrativa, attaccare un satellite reale, non più simulato ma in volo nello spazio a circa 28.000 chilometri l’ora, comporta tutta una serie di restrizioni.

Il banco di prova a 28.000 km/h

PETRILLO: Avevamo quattro ground station, quindi quattro antenne sparse sulla superficie della Terra, che potevamo utilizzare. Quando il satellite era sopra una di queste antenne ci si poteva parlare, quando il satellite era da qualche altra parte, buio completo. È capitato di avere una finestra di 12 ore in cui il satellite non era
raggiungibile.

Dodici ore non sono poche, considerato che il tempo complessivo a disposizione per l’attacco era circa due giorni, e gli imprevisti non sono mancati.

PETRILLO: Nel primo giorno abbiamo avuto varie finestre di comunicazione. La prima purtroppo l’abbiamo persa, perché non ci siamo organizzati bene, non avevamo i comandi pronti in tempo, il satellite è passato e non gli abbiamo mandato nulla. E poi abbiamo avuto altre quattro o cinque finestre nella prima giornata, in cui abbiamo effettivamente mandato comandi, ricevuto risposte e ottenuto i primi punti. Il secondo giorno ha avuto due finestre in cui insomma eravamo più organizzati, abbiamo mandato tutto quello che avevamo.

Passare dalla simulazione teorica di laboratorio alla realtà è stato insomma un bel banco di prova, che ha permesso di ricreare realisticamente e comprendere meglio i limiti, i tempi e le pressioni psicologiche di un attacco effettivo di una forza ostile.

Lanciare un satellite appositamente per una competizione tra informatici di tutto il mondo può sembrare un metodo molto complicato e costoso per fare ricerca e una forma di apertura molto insolita per un’organizzazione militare. Non sarebbe sufficiente far tentare un attacco a un gruppo di propri militari esperti mentre un altro gruppo fa difesa, come si fa nelle esercitazioni militari tradizionali? No, e Mario Polino spiega perché è necessario coinvolgere persone esperte esterne:

POLINO: Allora, l’obiettivo in generale è quello di avvicinare la community hacking alla community space; sono due mondi abbastanza diversi, con dei mindset abbastanza diversi e abbiamo tanto da imparare l’un l’altro. Ci sono delle vulnerabilità che sono o state osservate in passato o sono l’idea di qualcuno che pensa che possa succedere, quindi viene implementata la challenge con questo task, con questa idea, e poi si osserva come un gruppo di hacker, di persone molto motivate, riescono a sfruttare quella vulnerabilità e che cosa riescono ad ottenere. La parte interessante è che può succedere che il modo con cui si risolve la challenge non è quello atteso da chi l’ha sviluppata.

E infatti la validità di questo approccio è stata dimostrata quando il gruppo Mhackeroni ha fatto qualcosa che gli organizzatori non si aspettavano. Ce lo spiega Dario Petrillo:

PETRILLO: È successo per una challenge; l’obiettivo era quello di far pensare al satellite di essere in una posizione diversa da quella in cui era, corrompendo i dati che gli arrivavano dal GPS. La nostra soluzione è stata quella di mandare dei comandi particolari al ricevitore GPS in modo da fargli trasmettere una posizione completamente sbagliata. La soluzione degli organizzatori era più complessa.

Mario Polino aggiunge dei dettagli che chiariscono perfettamente cosa voglia dire “mindset diversi”, culture informatiche differenti, e spiegano perché questo tipo di competizione sia così utile: un aggressore vede sempre le cose in modo differente da un difensore e spesso trova soluzioni che il difensore non avrebbe nemmeno immaginato.

POLINO: L’idea degli organizzatori era modificare la calibrazione e poi fare un sacco di conti complessi per arrivare al risultato [ride]. Il GPS in realtà ti permetteva di entrare in modalità demo e impostare i numeri che volevi tu e tutti quanti hanno fatto la seconda, ovviamente.

E così un gruppo di hacker etici italiani si è portato a casa il primo premio della competizione; al secondo posto si è piazzata una squadra polacca e al terzo è arrivato un gruppo statunitense. Qual è la lezione generale che ci si porta a casa dopo una sfida del genere, e che implicazioni ha per noi comuni mortali questo duello digitale?

POLINO: La competizione di per sé ha messo in risalto il fatto che se sei un’azienda, una nazione, che sviluppa un satellite, devi tener conto di quali sono le potenziali vulnerabilità e come gestirle. Non che non lo facessero già prima, ma è difficile avere una visione d’insieme di sistemi molto complessi. Quindi quando si mette una persona esterna a guardare sistemi complessi troverà il modo più semplice per ottenere il risultato. La mia speranza è che questo tipo di approccio, di avere una persona esterna che guarda le cose per ottenere risultati, sia sempre più utilizzato anche in questo contesto, anche perché il satellite va su, gli aggiornamenti sono molto limitati, quando hai un sistema che sta in piedi per vent’anni bisogna fare un po’ più di attenzione.

Gioia e curriculum

Lasciando da parte un momento il risultato tecnico, c’è anche un risvolto emotivo non trascurabile nel partecipare a un vero hackeraggio satellitare in competizione con altre squadre. Che effetto ha fatto ottenere risultati in un ambiente reale sui membri del gruppo Mhackeroni?

POLINO: Sono tutti entusiasti del risultato, ovviamente. Io, onestamente [ride], faccio ancora fatica, nonostante sia passata almeno una settimana, a realizzare [ride] quello che abbiamo fatto. Durante la competizione, in realtà, noi abbiamo giocato due competizioni in parallelo, quindi abbiamo saputo della vittoria mentre eravamo completamente presi dall’altra competizione, ed eravamo increduli. Abbiamo chiesto conferma più volte [ride] per essere sicuri del risultato, perché eravamo comunque presi dall’altra competizione. Vedi passare una foto in cui siamo primi e dici “Ma è vera questa roba? Qualcuno ha fatto un fotomontaggio”. Poi, quando abbiamo confermato che era reale, siamo esplosi e [abbiamo] cominciato a saltare di gioia.

E oltre alle emozioni ci sono anche i benefici professionali. Poter mettere nel proprio curriculum di aver superato le difese di un satellite militare statunitense non è da tutti, e queste competizioni servono proprio per stimolare nuovi talenti. Mario Polino e Dario Petrillo andranno in giro a dire “Ciao sono Mario, ciao sono Dario, nella vita facciamo gli hacker di satelliti”?

POLINO: Il diritto di fare branding di questa cosa ce lo siamo guadagnati, quindi [ride] io lo dirò. D’altra parte, almeno io personalmente, continuo con il mio lavoro. Già un po’ mi… avevo iniziato a interessarmi alla security dei satelliti di per sé, quindi è un altro tassello rispetto alle cose che già facevo prima.

PETRILLO: Beh, diciamo, anche per me, alla fine adesso riprende un po’ il lavoro alla tesi oppure altre competizioni e così via, però ogni tanto c’è la cosa di “ho hackerato un satellite” che fa scena.

E quindi via, verso nuove avventure informatiche. L’anno prossimo ci sarà quasi sicuramente un’altra gara Hack-A-Sat. Se qualcuno che ascolta questo podcast vuole provarci, adesso forse ha le idee più chiare su come funziona una competizione di questo genere, come ci si accede e cosa ci si fa concretamente. In bocca al lupo!

Fonti aggiuntive: The Register, Wired.it, Cybersecurity News, Politico.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: Yoda: “Cominciata la guerra dei cloni è” da “Star Wars – L’Attacco dei Cloni”]

Non è la prima volta che questo podcast si occupa di voci clonate. Ad aprile scorso avevo raccontato la vicenda del brano Heart on My Sleeve, creato con le voci sintetiche di Drake e The Weeknd, e gli esempi di clonazione di voci di personaggi famosi, usati per le truffe, ormai non si contano, come nel caso recente del falso video di Elon Musk che sembra promuovere una truffa basata sulle criptovalute. Ma sono quasi sempre voci in inglese, e soprattutto sono le voci degli altri.

Che cosa succede, e come ci si sente, quando la voce clonata è invece in italiano, e non è quella di qualcun altro ma è la propria, e la si ascolta mentre pronuncia perfettamente parole mai dette? E quali sono le implicazioni sociali e di sicurezza di questa tecnologia, che oggi produce risultati praticamente indistiguibili dall’originale?

Questa è la storia di come ho clonato la mia voce, usando un servizio commerciale aperto a chiunque, e di come oggi dobbiamo imparare a non fidarci più non solo dei nostri occhi con i deepfake, ma anche delle nostre orecchie.

Benvenuti alla puntata del 4 agosto 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo. O forse sono il suo clone. Ascoltate attentamente, e provate a vedere se riuscite a capire quando sto parlando realmente io e quando invece affido questo podcast al mio clone.

[SIGLA di apertura]

Parto subito con una premessa importante: clonare bene la voce di qualcuno non è facile, come molti pensano. Certo, ci sono numerosi software e servizi online facilmente accessibili, ai quali si può affidare una breve registrazione della voce di qualcuno, senza alcun controllo di identità, e ottenerne in pochi minuti un clone abbastanza somigliante al quale far dire qualunque cosa, come ha fatto recentemente il programma Falò della Radiotelevisione Svizzera, clonando voce e immagine del conduttore Michele Galfetti.

[CLIP: Audio di Galfetti clonato]

Ma c’è comunque qualcosa di robotico e piatto nei cloni fatti in questo modo. Sono sufficienti a ingannare un ascoltatore distratto, permettono di fare qualche burla su TikTok e consentono anche di creare truffe come quella che sfrutta la voce di Elon Musk, citata prima, o quella, molto in voga in questo periodo, della falsa telefonata di un familiare che chiede urgentemente soldi per tirarsi fuori da un guaio. Ma ascoltando con attenzione queste voci ci si accorge che sono in qualche modo artificiali.

Per ottenere un clone vocale credibile, come quello che state ascoltando qua e là in questo podcast in alternanza con la mia voce reale, serve molto di più: servono soldi, tempo, e tanti campioni di voce puliti, che non sono facili da ottenere. E poi ci sono controlli di sicurezza difficili da superare.

I soldi servono per acquistare un account professionale su una delle tante piattaforme di clonazione vocale, come Resemble o Speechify o Elevenlabs, che è quella che ho usato per questo esperimento. Per poter clonare bene una singola voce bisogna spendere una ventina di dollari al mese; per clonarne di più i prezzi salgono molto in fretta.

Poi servono i campioni della voce da clonare, e ne servono tanti e di ottima qualità. Non basta piazzare un microfono vicino a qualcuno per qualche minuto per rubargli la voce. Servono almeno trenta minuti di audio molto pulito, senza rumori di fondo, per ottenere risultati accettabili, e le voci migliori richiedono tre ore di campioni. Procurarsi così tante registrazioni pulite non è facile, a meno che si tratti della voce di qualcuno che parla spesso in pubblico, davanti a un buon microfono, come appunto un conduttore radiofonico o un podcaster.

E anche così, ci sono delle limitazioni: la voce clonata avrà infatti lo stesso tono che hanno le registrazioni usate per crearla. Se i campioni provengono da discorsi in pubblico, avranno il tono di chi parla ad alta voce a degli ascoltatori; se provengono da una conversazione privata, avranno un tono più sommesso e intimo, e non ci sarà modo di cambiarlo. Io ho usato le registrazioni della mia voce fatte per le puntate precedenti di questo podcast, per cui il tono risultante è quello ottimale per produrre un clone da podcast, ma non potrei usare questa voce sintetica per, che so, recitare una poesia.

Gli ostacoli non sono finiti. Bisogna anche armarsi di pazienza, perché una volta inviati i campioni al servizio di clonazione, bisogna aspettare che vengano elaborati, e questo può richiedere anche giorni o settimane. Nel mio caso è passato quasi un mese. E nell’attesa si continua a pagare.

Resta un ultimo ostacolo: dopo aver inviato al servizio i campioni della voce, bisogna anche che quella stessa voce legga in tempo reale una frase generata a caso dal servizio nella lingua scelta. Questa è una misura di sicurezza molto importante, per evitare gli abusi facilmente immaginabili: in pratica questo controllo impedisce di clonare la voce di qualcun altro senza il suo permesso e impersonarlo, perché la persona da clonare deve essere presente in carne e ossa per pronunciare la frase di sicurezza.

E a proposito di abusi, bisogna tenere presente che quando si usa un servizio di clonazione vocale online si affida ai gestori di quel servizio tutto il necessario per clonare la propria voce all’infinito. È un potere che non va dato alla leggera, soprattutto se il servizio appartiene a un social network il cui modello commerciale è proprio acquisire tutti i dati possibili sui propri utenti.

Una volta fatto tutto questo, non resta che aspettare.

Il clone apprendista e l’attore disoccupato

Quando finalmente arriva la voce clonata, bisogna imparare a impostarla e a farla parlare in modo naturale. E qui emerge un aspetto leggermente inquietante di questi servizi: alcuni, come appunto Elevenlabs, spiegano che hanno notato che la voce sintetica diventa più emotiva se invece di darle semplicemente il testo da leggere, così com’è, le si prepara una premessa che descriva il tono da usare, come se si trattasse dei dialoghi di un libro.

Se la premessa dice cose come “Paolo parla con voce emozionata e confusa”, l’intelligenza artificiale del software di sintesi vocale usa questi suggerimenti per plasmare il tono della voce generata. Ma neanche i gestori di questi servizi sanno di preciso come funzioni tutto questo e lo ammettono abbastanza candidamente, precisando che ci sono trucchi che sembrano funzionare, ma non sempre, a discrezione dell’intelligenza artificiale. E se si genera ripetutamente lo stesso testo, si ottengono risultati differenti ogni volta. Altri servizi usano un approccio più manuale, nel quale si possono muovere dei cursori e inserire dei comandi nel testo per dare istruzioni sull’enfasi da dare alle varie parole.

[L’intonazione e le pause di tutte le parti pronunciate dalla mia voce clonata sono state scelte automaticamente dal software; io mi sono limitato a dare a Elevenlabs il testo che state leggendo, precedendolo con una breve premessa di descrizione emotiva]

Poi c’è il problema della pronuncia delle sigle e dei nomi propri: cose che una speaker professionista leggerebbe correttamente senza batter ciglio, come per esempio “www” in un indirizzo Web, vanno scritte foneticamente, altrimenti si otterranno risultati imbarazzanti. A volte bisogna addirittura ricorrere all’alfabeto fonetico internazionale, quello con i simboli strani che vedete spesso nei vocabolari, e comporre le parole lettera dopo lettera, provando e riprovando fino a ottenere la pronuncia corretta. Con uno di questi software di sintesi vocale ho speso qualche ora solo per insegnargli a pronunciare correttamente la singola parola webinar, che si ostinava a pronunciare webìnar o webinàr.

Insomma, ottenere un buon risultato non è una passeggiata, e chiunque pensi che questi servizi possano sostituire in fretta e con poca spesa uno speaker professionista, o peggio ancora un doppiatore, rischia di rendersi conto ben presto che senza una persona esperta che le addomestichi, queste voci sintetiche danno risultati mediocri, e quindi si finisce per pagare comunque qualcuno, ossia il tecnico che sa come comandare la voce. Se la voce in questione non appartiene a qualche strapagata e irreperibile celebrità, il risparmio di tempo e di denaro rischia di essere modesto.

C’è da dire, però, che se si riesce a superare tutta questa serie di limitazioni l’effetto di sentire la propria voce che dice cose mai dette è per molti sconcertante, perché la voce sintetica professionale ha davvero la stessa timbrica, le stesse cadenze, le stesse pause e intonazioni di quella originale. Clonando la mia voce ho provato la sensazione inaspettatamente viscerale e profonda di aver perso il controllo di qualcosa di profondamente mio, una sorta di violazione digitale, un distacco dalla realtà. Una realtà sempre più fragile, perché ora non possiamo più accettare come prova una registrazione della voce di qualcuno, se quella registrazione non ha una fonte attendibile, preferibilmente multipla, e indipendente. Le persone accusate di aver detto cose incriminanti potranno negare di averle dette e affermare che le registrazioni che le inchiodano sono false. O almeno insinuare facilmente il dubbio che lo siano.

Queste sensazioni hanno reso molto chiaro anche il problema attualissimo alla base dello sciopero degli attori a Hollywood: le grandi case di produzione spingono affinché attori e attrici firmino contratti in base ai quali le loro voci possano essere digitalizzate una sola volta, pagate una sola volta e poi riutilizzate all’infinito, con ovvie conseguenze per la sussistenza dei proprietari di quelle voci.

Alcuni hanno già accettato, come James Earl Jones, la straordinaria voce originale di Darth Vader nella saga di Star Wars. Per sopraggiunti limiti di età, l’attore novantaduenne ha già ceduto da tempo alla Disney i diritti sulla propria voce, che viene ora clonata da Respeecher per le più recenti serie della saga. Anche Hollywood viene rivoluzionata dall’arrivo dell’intelligenza artificiale.

Nuove libertà di tempo e di lingua

Una volta superato lo sconcerto iniziale, comunque, ci si rende conto in fretta che questi servizi di clonazione vocale, se ben regolamentati, offrono opportunità positive straordinarie.

Per esempio, una persona che per malattia perdesse la propria voce potrebbe riprendere a parlare con quella voce attraverso un apparato di sintesi vocale, invece di avere una voce robotica e impersonale. Oppure si potrebbe recuperare la voce di chi non c’è più: immaginate, giusto per dire, le poesie di Ungaretti lette dalla voce di Ungaretti stesso, o le avventure di Maigret lette da Simenon. Un attore che deve dare una voce molto particolare a un personaggio rischia di rovinarsi le corde vocali [pensate a Andy Serkis con Gollum] se lo fa a lungo; la cosiddetta clonazione speech-to-speech gli permette invece di registrare solo un campione della voce speciale e poi recitare con la sua voce normale. Lo stesso vale per un’attrice che deve adottare un accento particolare: può recitare normalmente, senza che lo sforzo di mantenere l’accento interferisca con la sua capacità recitativa e senza rischiare il ridicolo; ci penserà il software a darle l’accento perfetto.

[Un altro esempio di applicazione è sottinteso nello spezzone di audio iniziale del podcast: la voce doppiata di Yoda ne L’attacco dei Cloni è diversissima da quella che ha nella trilogia originale, perché è cambiato il doppiatore, come capita spesso nel doppiaggio, per cui gli attori e i personaggi non hanno sempre la stessa voce, con un effetto molto fastidioso. La clonazione speech-to-speech risolverebbe il problema]

Ci sono ovviamente complicate questioni legali da risolvere e regole da ripensare e riscrivere in tutto questo, ma le prospettive di superare le barriere del tempo e della malattia sono affascinanti.

Un’altra sorpresa del mio piccolo esperimento di clonazione vocale è che il software è in grado di usare i campioni della mia voce in una lingua, nel mio caso l’italiano, per generare del parlato in altre lingue. Per esempio, questo sono io che do il benvenuto a questo podcast in francese, tedesco, spagnolo, polacco, portoghese e hindi, tutte lingue nelle quali è meglio che io non mi cimenti dal vero.

[CLIP: campioni di voce multilingue generata di Paolo]

Tutte queste novità e possibilità possono disorientare e preoccupare, ma se vengono affrontate con prontezza e senza pregiudizi, regolamentandole per tempo, possono essere l’inizio di nuove forme di lavoro e di creatività. E come noi consideriamo assolutamente normale sentire la voce incorporea di una persona lontana attraverso il telefonino, probabilmente chi nasce oggi troverà altrettanto normale parlare con un clone vocale dei propri amici e colleghi, e forse non gli sembrerà neppure importante la differenza fra clone e originale. Almeno fino al momento in cui vorrà passare dallo speech-to-speech al cheek to cheek.

Come riconoscere il mio clone

Se vi state chiedendo quali parti di questo podcast sono state pronunciate realmente da me e quali dalla mia voce clonata, provate a riascoltarlo in cuffia: le parti reali sono spostate leggermente a sinistra, mentre quelle sintetiche sono traslate altrettanto leggermente a destra. Oppure provate a notare la differenza di accento fra la mia voce vera e quella generata.

Vi ringrazio di aver seguito questa puntata un po’ particolare del podcast Il Disinformatico, una produzione della RSI Radiotelevisione svizzera, che si prende una breve pausa estiva e tornerà venerdì 25 agosto con una nuova puntata al solito indirizzo web, www.rsi.ch/ildisinformatico, e su tutte le principali piattaforme podcast, dove sono a vostra disposizione anche le puntate precedenti.

Come consueto, i link e le fonti di riferimento sono pubblicati presso Disinformatico.info. E se avete commenti, correzioni o segnalazioni, potete scrivermi una mail all’indirizzo paolo.attivissimo@rsi.ch. A presto.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Suoni radio]

Da quasi trent’anni uno dei sistemi di radiocomunicazione più usati al mondo, adottato dalle forze di polizia, dalle grandi aziende, dai gestori di infrastrutture critiche e dai servizi di sicurezza e protezione civile, ha una falla informatica che consente ascolti e intercettazioni delle comunicazioni, teoricamente criptate, e interferenze nei comandi di gestione degli impianti.

La falla non è il risultato di un errore: è stata inserita intenzionalmente, e i venditori di questa tecnologia lo sapevano ma hanno taciuto. 

Questa è la storia di come un gruppo di ricercatori è riuscito a scoprire l’esistenza di questa falla, superando la barriera di segretezza che la circondava, e a convincere i centri nazionali di cibersicurezza ad agire in segreto per correggerla. Ed è anche la storia del perché chi sapeva è stato zitto.

Benvenuti alla puntata del 28 luglio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

È il primo gennaio del 2021. Un gruppo olandese di analisti di sicurezza informatica che va sotto il nome di Midnight Blue [immagine qui sopra] inizia a studiare la crittografia del sistema TETRA, quello usato per proteggere le comunicazioni radio delle forze di polizia [per esempio in Italia, in Belgio e nei paesi della Scandinavia], dei servizi di emergenza, dei militari e delle agenzie di intelligence di molti paesi, oltre che di molti operatori commerciali per il settore industriale e delle infrastrutture, per esempio negli oleodotti e nelle reti ferroviarie ed elettriche.

Si tratta di uno standard sviluppato negli anni Novanta del secolo scorso dall’ente di normazione europeo ETSI [European Telecommunications Standards Institute], che include quattro diversi algoritmi di crittografia. Il primo, denominato TEA1, è destinato alle applicazioni commerciali, per esempio per gli impianti radio usati nelle infrastrutture critiche europee, ma viene usato anche da alcune forze di polizia.

Il secondo algoritmo, TEA2, è riservato per l’uso in Europa da parte della polizia, dei servizi di emergenza, dei militari e delle agenzie di intelligence (la Svizzera usa uno standard differente, che però ha un nome molto simile: TETRAPOL).

Il terzo, che come avrete probabilmente intuito si chiama TEA3, è riservato invece per le forze di polizia e i servizi di emergenza al di fuori dell’Europa, nei paesi considerati “amici” dell’Unione Europea. Il quarto algoritmo, TEA4, è praticamente inutilizzato.

Lo standard TETRA è pubblico, ma gli algoritmi no: vengono forniti solo sotto accordo di riservatezza, e chi vende apparati di questo tipo è tenuto a usare misure di protezione che rendano difficile estrarre e analizzare questi algoritmi. 

Nella crittografia, però, la presenza di questo tipo di protezione è considerata spesso un sintomo di debolezza. Una delle regole di base della crittografia, infatti, è il cosiddetto Principio di Kerckhoffs, enunciato dall’omonimo crittografo olandese addirittura alla fine del 1880, che dice in sostanza che la sicurezza di un sistema di crittografia non deve dipendere dal tenere segreto il modo in cui funziona, ossia il suo algoritmo. Il sistema in sé deve poter cadere in mano nemica senza causare problemi; solo le sue chiavi crittografiche devono restare segrete.

Ma molto spesso, nella sicurezza non solo informatica, si pensa che tenere segreto il funzionamento delle misure di protezione sia un ingrediente fondamentale della sicurezza, e che a volte basti solo questo. Questo modo di pensare oggi viene chiamato comunemente security through obscurity, o “sicurezza tramite segretezza”, e purtroppo si è visto che in molte occasioni la segretezza e il divieto di analizzare un sistema sono in realtà delle scuse per non rivelare le malefatte o i difetti del prodotto. È successo, per esempio, per il GSM e per il GPRS.

È quindi comprensibile che i ricercatori di Midnight Blue siano stati attratti da un sistema crittografico così diffusamente utilizzato, oltretutto in contesti molto delicati, e tenuto segreto per quasi tre decenni. E così i ricercatori si sono procurati una radio della Motorola che usa lo standard TETRA ed è commercialmente disponibile. Trascorrono quattro mesi nel tentativo di localizzare ed estrarre gli algoritmi dall’area protetta del dispositivo, la sua cosiddetta secure enclave, nel firmware dell’apparato. E alla fine ci riescono.

La rivincita di Kerckhoffs

I ricercatori comunicano a Motorola le tecniche che hanno usato per scavalcare le protezioni messe dall’azienda, affinché Motorola possa rimediare, e poi iniziano ad analizzare gli algoritmi che erano rimasti segreti per così tanto tempo.

E qui arriva la prima, grossa sorpresa: nell’algoritmo TEA1, quello per uso commerciale, c’è un difetto intenzionale, una cosiddetta backdoor, che riduce la lunghezza della sua chiave dagli 80 bit ufficiali a soli 32 bit. Una chiave così corta è l’equivalente di usare una password di tre cifre, e infatti gli esperti di Midnight Blue riescono a scavalcarla in meno di un minuto usando un normale laptop. Questo consentirebbe di decifrare le trasmissioni di dati e di ascoltare le conversazioni fatte dalle forze di polizia o dagli altri utenti di questa versione del sistema TETRA.

La seconda sorpresa è che questo difetto intenzionale è in realtà noto alle industrie del settore e ad alcuni governi. Lo testimonia una comunicazione confidenziale del governo statunitense, risalente al 2006 e resa pubblica da Wikileaks, nella quale si nota che l’azienda italiana Finmeccanica voleva vendere dei sistemi TETRA a due forze di polizia municipali iraniane e che il governo degli Stati Uniti aveva espresso la propria opposizione al trasferimento di tecnologie così sofisticate, ricevendo però rassicurazioni sul fatto che gli apparati avrebbero avuto una chiave crittografica lunga “meno di 40 bit”. Non è chiaro se il cliente della commessa, che valeva sei milioni e mezzo di euro, fosse al corrente del fatto che gli veniva venduta una tecnologia menomata e soprattutto facilmente intercettabile. Anche le informazioni segrete rivelate da Edward Snowden indicano che i servizi segreti britannici intercettavano le comunicazioni TETRA in Argentina nel 2010. 

 

La terza sorpresa è che esiste un difetto tecnico che tocca tutti e quattro gli algoritmi nella fase di sincronizzazione e che consente di intercettare le comunicazioni e i messaggi e anche di trasmettere messaggi falsi, usando una trasmittente appositamente modificata che costa poche migliaia di euro o franchi.

Tutti questi difetti sono rimasti nello standard per più di due decenni perché gli esperti indipendenti non potevano ispezionarne liberamente gli algoritmi. Questo conferma il principio che la sicurezza basata sulla segretezza non è affidabile, rende difficile le verifiche indipendenti e rende invece facile tenere nascosti eventuali difetti o sabotaggi intenzionali. Kerckhoffs aveva ragione.

Verso la fine del 2021 i ricercatori di Midnight Blue si trovano così in una posizione molto delicata. Sono riusciti a scoprire falle molto importanti in un sistema di radiocomunicazione usato in moltissimi paesi, nelle situazioni più critiche, da imprese, polizie e soccorritori. A questo punto hanno un problema: come riuscire ad avvisare tutti senza far trapelare queste falle e senza farle cadere nelle mani di chi potrebbe sfruttarle per sabotare infrastrutture, intercettare comunicazioni sensibili o seminare il caos?

Rivelazioni d’agosto

Il 14 dicembre 2021 gli esperti di Midnight Blue contattano per la prima volta il centro nazionale per la cybersicurezza del loro paese e lo informano delle loro scoperte. A gennaio 2022 iniziano gli incontri con i rappresentanti delle forze di polizia, dei servizi di sicurezza, dell’ETSI e dei fabbricanti degli apparati TETRA, e a febbraio il centro nazionale per la cybersicurezza olandese distribuisce un avviso tecnico solo agli addetti ai lavori. L’ETSI, intanto, corregge il difetto di sincronizzazione pubblicando uno standard aggiornato a ottobre 2022 e crea tre nuovi algoritmi sostitutivi, anche questi segreti.

I fabbricanti creano degli aggiornamenti del firmware, ma la falla nell’algoritmo TEA1 non è rimediabile con uno di questi aggiornamenti: bisogna proprio cambiare algoritmo in ogni singolo dispositivo e bisogna sospendere l’erogazione del servizio durante questo cambiamento, cosa spesso impraticabile nel caso di infrastrutture essenziali.

Il 24 luglio scorso, infine, il problema viene reso pubblico, sperando che nel frattempo gli utenti di questi sistemi li abbiano aggiornati. Il 9 agosto prossimo i dettagli tecnici delle ricerche svolte da Midnight Blue verranno pubblicati presso Tetraburst.com, dove per ora c’è solo una sintesi della situazione insieme ad alcuni video dimostrativi e ai link delle numerose conferenze di sicurezza internazionali nelle quali i ricercatori presenteranno i risultati delle loro indagini e renderanno pubblici gli algoritmi finora segreti.

Chiunque usi sistemi TETRA, insomma, dovrà verificare che siano stati applicati tutti gli aggiornamenti di sicurezza, altrimenti le comunicazioni che crede siano protette saranno in realtà facilmente intercettabili. E intanto, ancora una volta, la mancanza di trasparenza ha ostacolato la sicurezza invece di rinforzarla e ha creato un’illusione di sicurezza che è stata sfruttata da alcuni governi per spiare gli altri per decenni (come nel caso dello scandalo della Crypto AG, risalente al 2020). 

Conviene ricordarsi tutto questo la prossima volta che qualcuno ci propone un prodotto di sicurezza, anche al di fuori del campo informatico, e ci racconta che non può discutere i dettagli di come funziona perché quei dettagli sono e devono restare segreti, altrimenti addio sicurezza: è una foglia di fico che il buon Auguste Kerckhoffs aveva già tolto più di un secolo fa. 

 

Fonte (con molti dettagli tecnici in più): Wired.com.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Video di Re;memory]

Il signor Lee sapeva che gli restava poco da vivere ed era preoccupato per sua moglie, che sarebbe rimasta sola, e così le ha lasciato il suo gemello digitale. Pochi mesi dopo la sua morte, la moglie è andata a trovarlo. “Tesoro, sono io. È passato molto tempo” le ha detto. 

Sembra l’inizio di una puntata di Black Mirror, ma è invece l’inizio di un video commerciale che promuove i servizi molto concreti di un’azienda coreana che offre griefbot: repliche digitali interattive, audio e video, delle persone decedute.

Benvenuti alla puntata del 21 luglio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo, e in questo podcast vi racconterò i dettagli di questi griefbot e dei loro usi inattesi, insieme alle ultime novità riguardanti lo scontro fra Threads e Twitter e la storia di uno degli hacker più famosi di sempre, Kevin Mitnick.

[SIGLA di apertura]

Griefbot e intelligenze artificiali

La visionaria serie televisiva distopica Black Mirror ha ormai una lunga tradizione di previsioni tecnologiche che qualche anno dopo si avverano. Dieci anni fa, nella puntata Be Right Back (Torna da me nella versione italiana), aveva immaginato un servizio online che raccoglieva tutte le informazioni pubblicate sui social network da una persona defunta e tutti i suoi messaggi vocali e video e li usava per creare un avatar che, sullo schermo dello smartphone, parlava esattamente come quella persona e aveva il suo stesso aspetto.

Con l’arrivo di ChatGPT e delle altre tecnologie di intelligenza artificiale, quest’idea è diventata fattibile, e ha un nome tecnico, griefbot, che combina il termine inglese “grief” (cioè “lutto”), con “bot”, vale a dire “programma o agente automatico”.

Già alcuni anni fa erano stati realizzati in Russia, Canada, Stati Uniti e Cina dei griefbot elementari, capaci di scrivere messaggi e di chattare online imitando più o meno lo stile e, in alcuni casi, anche la voce di una persona defunta, e proprio un anno fa in questi giorni Amazon proponeva di dare al suo assistente vocale Alexa la voce di un familiare deceduto. Ma questi griefbot erano abbastanza limitati come fedeltà delle loro conversazioni e non erano in grado di mostrare interazioni video.

Ora, però, l’azienda coreana Deepbrain AI, che produce assistenti virtuali e conduttori sintetici per telegiornali, offre anche queste interazioni su schermo, tramite Re;memory, un servizio che permette alle persone di dialogare anche in video con chi non c’è più.

A differenza dei griefbot realizzati fin qui, che si basano sui dati lasciati dalla persona deceduta, Re;memory si appoggia a suoni, immagini e dati forniti appositamente e preventivamente. Chi vuole lasciare ai posteri un proprio avatar interattivo deve farsi videoregistrare per circa sette ore, durante le quali avviene un colloquio dettagliato, il cui contenuto viene poi usato per fornire a un’intelligenza artificiale una serie di campioni audio e video e di informazioni personali sulle quali basare l’avatar che replicherà l’aspetto fisico e la voce della persona.

I familiari potranno incontrare l’avatar, e interagirvi in vere e proprie conversazioni, recandosi in apposite sedi, dove vedranno l’immagine della persona su un grande schermo, a grandezza naturale, seduta comodamente in poltrona, che parla e si muove in risposta alle loro parole.

Nel video promozionale del servizio, che costa circa 10.000 dollari e si paga anche ogni volta che lo si usa, si vede che l’avatar dialoga per esempio con la figlia di un defunto, rispondendo a senso alle sue parole e creando in lei una forte commozione anche se il tono dell’avatar è poco dinamico e molto pacato, perché il software si basa solo sui campioni registrati in queste sedute apposite, che comprensibilmente non sono ricolme di entusiasmo.

Re;memory non è l’unico griefbot sul mercato: aziende come Hereafter AI offrono avatar più vivaci, ma solo in versione audio, che dialogano con i familiari e sono anche in grado di citare storie e aneddoti del passato della persona scomparsa.

L’avvento di questi fantasmi digitali era facilmente prevedibile, ma come capita spesso queste nuove possibilità, concepite con uno scopo di conforto ben preciso, hanno anche delle applicazioni meno facili da anticipare.

Per esempio, nulla vieta, almeno dal punto di vista tecnico, di creare un avatar di una persona e di usarlo mentre quella persona è ancora in vita, al posto di quella persona. Immaginate un adolescente che passa moltissimo tempo al telefonino a dialogare con i propri amici e si rende conto che preferisce interagire con gli avatar di quegli amici, che sono meno impulsivi e più socievoli e non sono mai stanchi o scocciati, e comincia a preferirli agli amici in carne e ossa. Per citare il futurologo Ian Beacraft in un suo recente intervento pubblico, una sfida dei genitori di domani non sarà decidere quanto tempo è giusto lasciare che i propri figli stiano online, ma decidere quanti dei loro amici possano essere sintetici.

[CLIP: Beacraft che dice “as many of you with kids, the challenges aren’t going to be about how much time they spend on their digital devices but deciding how many of their friends should be synthetic versus organic”]

Oppure immaginate uno stalker che si crea un avatar della persona dalla quale è ossessionata, attingendo ai testi, ai video e ai messaggi vocali pubblicati sui social network da quella persona. Tutti quei dati che abbiamo così disinvoltamente condiviso in questi anni verranno custoditi tecnicamente, e verranno protetti legalmente, contro questo tipo di abuso? Non si sa.

Ma ci sono anche delle applicazioni potenzialmente positive: una persona molto timida o che ha difficoltà di relazione o si trova a dover affrontare una conversazione molto difficile potrebbe per esempio esercitarsi e acquisire fiducia in se stessa usando un avatar interattivo. In ogni caso, è ormai chiaro che la frontiera delle persone virtuali è stata aperta e non si chiude.

Fonte aggiuntiva: Engadget.

Threads vs Twitter

Non capita spesso di sentire che un social network impedisce intenzionalmente ai propri utenti di frequentarlo più di tanto, ma è quello che succede da qualche tempo su Twitter. Proprio mentre sto preparando questo podcast mi è comparso l’avviso che ho “raggiunto il limite giornaliero di visualizzazione di post” e mi è stato proposto di abbonarmi “per vedere più post giornalmente”. 

La limitazione è stata decisa ai primi di luglio ufficialmente per contenere il cosiddetto data scraping, ossia la copiatura su vasta scala dei contenuti pubblicati dagli utenti, però è anche un modo per incoraggiare gli utenti a pagare per abbonarsi.

Queste limitazioni sono insolite e non piacciono né agli utenti né agli inserzionisti, perché ovviamente impediscono agli utenti di vedere le loro pubblicità, eppure anche Threads, il rivale di Twitter creato da Meta e rilasciato in fretta e furia pochi giorni fa in versione incompleta, ha dovuto prendere una misura analoga per difendersi dagli attacchi degli spammer. Anche in questo caso, ci stanno andando di mezzo anche gli utenti onesti che sfogliano tanto il servizio.

Threads ha ovviamente anche una limitazione ben più forte per noi utenti dell’Europa continentale. Ufficialmente, infatti, l’app non è disponibile per chi risiede in Europa, salvo nel Regno Unito, perché acquisisce dati personali in modi incompatibili con le principali norme europee. Questo blocco fino a pochi giorni fa era aggirabile in vari modi, ma ora è stato reso più robusto: molti di coloro che riuscivano a usare Threads dall’Europa passando attraverso una VPN si sono visti comparire un messaggio di errore e non possono più postare messaggi ma solo leggere quelli degli altri.

Nel frattempo, anche senza gli utenti europei, Threads ha battuto ogni record di velocità di adozione di un servizio online, raggiungendo i primi 100 milioni di iscritti complessivi nel giro di una settimana dal suo debutto e superando anche il primatista precedente, ChatGPT, che ci aveva impiegato due mesi. Ma dopo l’entusiasmo iniziale, il numero di utenti attivi giornalmente su Threads si è dimezzato rispetto all’inizio, scendendo da 49 milioni [nel podcast per errore dico 40] a circa 24, ossia poco meno di un quinto di quelli di Twitter. La strada per rimpiazzare Twitter come fonte di notizie in tempo reale è insomma ancora lunga.

Nonostante il calo molto significativo, Threads rimane comunque enorme rispetto a Mastodon, altra piattaforma simile a Twitter, caratterizzata dalla sua indipendenza federata e dal fatto che non raccoglie dati personali, come fanno invece Threads e Twitter. Il confronto è particolarmente significativo perché Meta, proprietaria di Threads, ha avviato formalmente presso il World Wide Web Consortium, uno dei principali enti di standardizzazione di Internet, la procedura di adozione dello standard ActivityPub, lo stesso usato da Mastodon e da tanti altri servizi analoghi, e questo in teoria permetterebbe agli utenti di Mastodon di interagire con quelli di
Threads e viceversa. Ma molti degli amministratori delle varie istanze di Mastodon, le “isole” che compongono questa piattaforma federata, non vedono di buon occhio l’arrivo di un colosso commerciale come Threads, che li potrebbe travolgere sommergendole di traffico, e stanno già pensando di bloccare o defederare Threads. Altri, invece, sperano che la popolarità di Threads possa dare maggiore visibilità a questo ideale di libera migrazione e interoperabilità proposto da ActivityPub e da Mastodon.

Twitter, da parte sua, non se la passa bene economicamente. Il suo proprietario, Elon Musk, aveva detto in un’intervista recente che Twitter era a un passo dal generare profitti e che gli inserzionisti che erano scappati dopo la sua acquisizione della piattaforma stavano tornando, ma pochi giorni fa ha invece dichiarato che i ricavi pubblicitari sono scesi del 50%. E su Twitter grava anche il debito di 13 miliardi di dollari che Musk ha usato per acquistare questa piattaforma a ottobre 2022. Quel debito sta costando circa un miliardo e mezzo di dollari l’anno, e il bilancio rimane in rosso nonostante i licenziamenti massicci e, a quanto risulta perlomeno dalla ventina di cause avviate contro Twitter, nonostante le bollette non pagate e i compensi di liquidazione ai dipendenti licenziati che non sono stati corrisposti. Non è chiaro quanto possa ancora durare Twitter in queste condizioni. Se non avete ancora fatto una copia dei vostri dati pubblicati su Twitter, forse è il caso di cominciare a pensarci.

Storia di un hacker

È il 1979. Un ragazzino di sedici anni riesce a farsi dare il numero telefonico di accesso ad Ark, il sistema informatico sul quale la Digital Equipment Corporation, uno dei grandi nomi dell’informatica dell’epoca, sta sviluppando il suo nuovo sistema operativo. Il ragazzino entra nel sistema e si copia il software. Per questo reato trascorre un mese in carcere e resta per tre anni in libertà vigilata. Verso la fine del periodo di sorveglianza, riesce a entrare nei computer della società telefonica Pacific Bell che gestiscono le segreterie telefoniche e per i successivi due anni e mezzo si rende irreperibile, usando telefoni cellulari clonati per nascondere la sua localizzazione e violando numerosi sistemi informatici.

Il ragazzo viene inseguito a lungo dall’FBI, che lo arresta nel 1995 per una lunga serie di reati informatici, e trascorre cinque anni in carcere. 

Ma questa non è la storia di un criminale informatico qualunque, perché l’allora nascente Internet insorge in sua difesa. Il sito Yahoo, popolarissimo in quel periodo, viene violato e ospita un messaggio che chiede la scarcerazione del giovane hacker. Lo stesso succede al sito del New York Times [13 settembre 1998]. La rivista informatica 2600 Magazine, lettura fondamentale degli hacker di allora, distribuisce un adesivo con due semplici parole che faranno la storia dell’informatica: FREE KEVIN.

Quel ragazzo, infatti, è Kevin Mitnick, uno degli hacker più famosi e temuti della storia dell’informatica, e la punizione inflittagli dalle autorità viene vista da molti informatici come eccessiva e gonfiata dalle pressioni dei media, anche perché le tecniche di penetrazione usate da Mitnick sono spesso elementari e basate più sulla persuasione delle persone (il cosiddetto social engineering) e sull’inettitudine delle aziende in fatto di protezione dei dati e di sicurezza dei sistemi che su chissà quali acrobazie informatiche, e Mitnick ha avuto accesso a tantissimi sistemi ma non ne ha tratto grande profitto economico.

Kevin Mitnick viene rilasciato nel 2000, con il divieto di usare qualunque sistema di comunicazione diverso dal telefono fisso, e diventa un affermatissimo consulente informatico, che insegna le proprie tecniche di social engineering agli addetti alla sicurezza di moltissime aziende in tutto il mondo. Scrive alcuni dei libri fondamentali della sicurezza informatica, come The Art of Deception, in italiano L’arte dell’inganno, e The Art of Intrusion, che diventa L’arte dell’intrusione in italiano, e racconta il proprio punto di vista sulle sue scorribande informatiche nel libro The Ghost in the Wires, altra lettura obbligatoria per chiunque voglia fare sicurezza informatica seriamente, tradotta in italiano con il titolo Il fantasma nella rete.

Una delle sue caratteristiche, oltre alla fama mondiale nel suo campo, è il suo biglietto da visita: è realizzato in lamina di metallo, fustellata in modo da formare dei grimaldelli che sono funzionanti e adatti per aprire la maggior parte delle serrature. 

Mentre preparo questo podcast, il New York Times, quello violato tanti anni fa dai sostenitori di Kevin Mitnick, ha pubblicato la notizia della sua morte a 59 anni in seguito alle complicanze di un tumore pancreatico. Lascia la moglie Kimberley, che aspetta da lui il primo figlio. E qualcuno, su Twitter, si augura caldamente che l’inferno e il paradiso abbiano installato l’autenticazione a due fattori. Kevin is free.

Both Heaven and Hell have hopefully installed two-factor Authenticationhttps://t.co/CtMOt0lJLW

— Jason Scott (@textfiles) July 19, 2023

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Deepfake di Elon Musk che promuove servizio di criptovalute]

La voce è quella, molto caratteristica, di Elon Musk, e il video mostra chiaramente Musk che parla davanti a un microfono, in un’ambientazione da podcast, e raccomanda un sito che nasconde una truffa. Dice che un suo amico ha avuto un’idea geniale per un servizio di scambio di criptovalute che offre le condizioni migliori e la possibilità di ottenere queste criptovalute gratis. Elon Musk cita il nome del sito e invita a visitarlo.

Ma è tutto finto: è l’ennesimo deepfake, pubblicato oltretutto su Twitter, che è di proprietà proprio di Elon Musk, da un utente con il bollino blu, uno di quelli che Twitter continua a definire “verificati” quando in realtà hanno semplicemente pagato otto dollari.

[Il testo era “An incredible crypto gift from @ElonMusk Promo code 68z88cnh for 6.5 ETH hxxps://t.co/7su64bT4Dq pic.twitter.com/NjiJlcVUE2 — PuprpleApe.eth (@purpleapeeth) July 7, 2023]. Ho alterato intenzionalmente i link mettendo “hxxps” al posto di “https”]

Quel tentativo di truffa è rimasto online per almeno 24 ore, nonostante le ripetute segnalazioni degli utenti esperti, ed è stato visto da quasi 250.000 persone. Dodicimila utenti hanno anche cliccato su “mi piace”. Non c’è modo di sapere quante persone abbiano invece creduto al video e all’apparente sostegno di Elon Musk e abbiano quindi affidato i propri soldi ai truffatori.

And here’s the deepfake video. pic.twitter.com/psDPV7SZz4

— @mikko (@mikko) July 10, 2023

[Segnalo la scheda informativa “Deepfake – come proteggersi” del Garante per la protezione dei dati italiano]

Sono numeri che dimostrano chiaramente il potere di inganno dei deepfake generati usando l’intelligenza artificiale per far dire in video qualunque cosa a persone molto note e usarle come involontari testimonial che promovono truffe [un altro caso di deepfake truffaldino è qui]. Ma questa è la stessa tecnologia che consente a Harrison Ford di apparire realisticamente ringiovanito di quarant’anni nel film più recente della saga di Indiana Jones.

[Clip: Fanfara di Indiana Jones, dalla colonna sonora di Indiana Jones e il Quadrante del Destino]

Due settimane fa, nella puntata del 30 giugno, vi ho raccontato alcune storie di disastri e orrori resi possibili dall’uso e abuso dell’intelligenza artificiale e ho promesso che avrei presentato anche i lati positivi, e le nuove opportunità di lavoro, di questa tecnologia tanto discussa.

Benvenuti dunque alla puntata del 14 luglio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Parole, parole, parole

Come tante altre tecnologie, anche l’intelligenza artificiale si presta a usi positivi e a usi negativi: dipende con che criterio la si adopera. L’esperto di intelligenza artificiale Stuart Russell, intervenuto pochi giorni fa al vertice “AI for Good” delle Nazioni Unite tenutosi a Ginevra, riassume questo criterio in un’intervista a Swissinfo con queste parole:

[CLIP: voce inglese, coperta da voce italiana che dice “Il modello di business non è ‘posso risparmiare licenziando tutto il mio personale?’ Il modello di business è che ora possiamo fare cose che prima non potevamo fare”]

Ne avete appena ascoltato un esempio concreto: con i metodi tradizionali e i tempi di produzione di un podcast come questo, scomodare uno speaker solo per fargli leggere in italiano le poche parole del professor Russell sarebbe stato un problema organizzativo e logistico ingestibile. Con l’intelligenza artificiale, invece, la voce può essere generata direttamente da me in una manciata di minuti usando un software come Speechify. Non è lavoro tolto a uno speaker professionista: è lavoro che uno speaker non avrebbe potuto fare e che permette di fare appunto una cosa che prima non si poteva fare. Il cambio di voce permette di indicare chiaramente che si tratta di una citazione [le alternative sono cercare di far capire quando inizia e finisce la citazione usando il tono della voce, cosa che mi riesce malissimo, oppure ricorrere a formule poco eleganti come dire “inizio citazione” e “fine citazione”].

Fra l’altro, anche la voce inglese in sottofondo è generata [sempre con Speechify], eppure ha una cadenza molto naturale. Se non vi avessi detto che non è quella del professor Russell, avreste notato che era sintetica? Probabilmente no, e questo crea obblighi etici di trasparenza per chi usa queste voci giornalisticamente. Nulla di nuovo, in realtà, visto che da sempre nel giornalismo si usa far ridire da uno speaker le parole dette da una persona di cui si vuole proteggere l’identità, e si avvisa il pubblico di questo fatto. Tutto qui.

Un altro esempio di cosa che prima non si poteva fare arriva da Chequeado, che è un’organizzazione senza scopo di lucro che si impegna a contrastare la disinformazione nel mondo ispanofono. Ha creato un software di intelligenza artificiale che legge automaticamente quello che viene pubblicato nei social network, trova le notizie vere o false che si stanno diffondendo maggiormente e allerta i fact-checker, i verificatori umani, affinché possano controllarle. Questo permette alla redazione di Chequeado di concentrarsi sul lavoro di verifica e quindi di essere più efficiente e tempestiva nelle smentite delle notizie false. È un bell’esempio positivo, che si contrappone alle notizie di testate giornalistiche [CNET Money] che pubblicano articoli generati dall’intelligenza artificiale senza dirlo apertamente ai propri lettori e licenziano i redattori.

L’intelligenza artificiale offre anche un altro tipo di supporto positivo al giornalismo e a molti altri settori della comunicazione: la trascrizione automatica del parlato. Se frequentate YouTube, per esempio, avrete notato i sottotitoli generati automaticamente, a volte con risultati involontariamente comici. Ma ci sono software specialistici, come per esempio Whisper di OpenAI (la stessa azienda che ha creato ChatGPT), che sono in grado di trascrivere quasi perfettamente il parlato, e di farlo in moltissime lingue, con tanto di punteggiatura corretta e riconoscimento dei nomi propri e del contesto.

Invece di spendere ore a trascrivere manualmente un’intervista, chi fa giornalismo può affidare la prima stesura della trascrizione all’intelligenza artificiale e poi limitarsi a sistemarne i pochi errori [l’ho fatto proprio ieri per sbobinare un’intervista di ben 35 minuti di parlato che spero di poter pubblicare presto]. Gli atti dei convegni, che prima richiedevano mesi o spesso non esistevano affatto perché erano un costo insostenibile, ora sono molto più fattibili. Milioni di ore di interviste e di parlato di programmi radiofonici e televisivi storici oggi sono recuperabili dall’oblio, e una volta che ne esiste una trascrizione diventano consultabili tramite ricerca di testo, e diventano accessibili anche a chi ha difficoltà di udito, tanto che a New York un’emittente pubblica, WNYC, ha creato un prototipo di radio per i sordi, in cui le dirette radiofoniche vengono trascritte in tempo reale dal software addestrato appositamente. Tutte “cose che prima non si potevano fare”, per citare di nuovo il criterio del professor Russell, o che si potevano fare solo con costi spesso insostenibili.

E poi c’è tutto il mondo della traduzione e della programmazione. Software di intelligenza artificiale specializzati, come Trados o DeepL o Github Copilot, non sostituiscono la persona competente che traduce o scrive codice, ma la assistono nella parte tediosa e meccanica del lavoro, per esempio proponendo frasi o funzioni già incontrate in passato o segnalando potenziali errori di sintassi, grammatica e coerenza. Ma la decisione e il controllo finale devono restare saldamente nelle mani della persona esperta, altrimenti l’errore di programmazione imbarazzante sarà inevitabile e la città di Brindisi rischierà di diventare Toast, come è successo sul sito della recente campagna Open to Meraviglia del Ministero del Turismo italiano.

Produttività e accessibilità

Google ha presentato pochi giorni fa uno studio sull’impatto economico dell’intelligenza artificiale nel mondo del lavoro. È dedicato al Regno Unito, ma contiene alcuni princìpi applicabili a qualunque economia di dimensioni analoghe.

• Il primo principio è che l’uso dell’intelligenza artificiale può far risparmiare oltre 100 ore di lavoro ogni anno al lavoratore medio, e questo costituirebbe il maggior aumento di produttività da quando fu introdotta la ricerca in Google.
  

• Il secondo principio è che l’intelligenza artificiale può far risparmiare a medici e docenti oltre 700.000 ore l’anno di tedioso lavoro amministrativo in un’economia come quella britannica. Anche cose a prima vista banali, come la composizione di una dettagliata mail di richiesta di rimborso, portano via tempo e risorse mentali, se bisogna farle tante volte al giorno, e strumenti come Workspace Labs di Google permettono di offrire assistenza in questi compiti.
  

• Il terzo principio, forse il più significativo, è che questa tecnologia, se usata in forma assistiva, permetterebbe a oltre un milione di persone con disabilità di lavorare, di riconquistare la propria indipendenza e di restare connesse al mondo che le circonda.
  

  
  

L’intelligenza artificiale consente anche di analizzare ed elaborare enormi quantità di dati riguardanti la protezione dell’ambiente, che sarebbero altrimenti impossibili da acquisire e gestire. L’azienda britannica Greyparrot, per esempio, usa l’intelligenza artificiale per riconoscere in tempo reale i tipi di rifiuti conferiti in una cinquantina di siti di riciclaggio sparsi in tutta Europa, tracciando circa 32 miliardi di oggetti e usando questi dati per permettere alle pubbliche amministrazioni di sapere quali rifiuti sono più problematici e consentire alle aziende di migliorare l’impatto ambientale delle proprie confezioni.

Passando a esempi più frivoli ma comunque utili a modo loro, l’intelligenza artificiale è uno strumento potente, e anche divertente, contro la piaga delle telefonate indesiderate di telemarketing e dei truffatori. La Jolly Roger Telephone Company è una piccola ditta californiana che permette ai suoi utenti di rispondere automaticamente a queste chiamate con voci sintetiche, pilotate da ChatGPT [CLIP in sottofondo: chiamata fra truffatore che crede di parlare con una persona anziana con difficoltà di attenzione e paranoia e per un quarto d’ora cerca di farsi dare i dati della sua carta di credito]. Tengono impegnati i televenditori e gli imbroglioni con conversazioni molto realistiche e basate sul contesto, rispondendo a tono ma senza mai dare informazioni personali.

Per un paio di dollari al mese, argomenta il creatore del servizio, Roger Anderson, si può impedire a questi scocciatori di importunare altre persone e colpire nel portafogli i criminali che tentano truffe e le aziende che fanno telemarketing spietato, e come bonus si ottengono registrazioni esilaranti delle chiamate, che rivelano chiaramente che spesso chi chiama crede di parlare con una persona vulnerabile e la tratta come un pollo da spennare senza pietà. Lo so, prima o poi anche chi fa truffe e vendite telefoniche si armerà di queste voci sintetiche, e a quel punto il cerchio si chiuderà.

Google, invece, ha presentato la funzione Try On, che permette a una persona di provare virtualmente un capo di vestiario visto online: parte da una singola immagine del capo e la manipola con un modello basato sull’intelligenza artificiale per applicarla a un corpo virtuale simile a quello dell’utente, mostrando fedelmente come l’indumento cade, si piega e aderisce al corpo. In questo modo permette di ridurre i dubbi e le incertezze tipiche di quando si compra vestiario online.

L’intelligenza artificiale, insomma, è utile quando non viene usata come sostituto delle persone, ma lavora come assistente di quelle persone per potenziarle, e va adoperata in modo consapevole, senza considerarla una divinità infallibile alla quale prostrarsi, come propongono per esempio — non si sa quanto seriamente — gli artisti del collettivo Theta Noir o vari altri gruppi di tecnomisticismo online.

Ma misticismi salvifici a parte, c’è un problema molto concreto che mina alla base tutte queste promesse dell’intelligenza artificiale.

La spada di Damocle

Ai primi di luglio l’attrice comica e scrittrice statunitense Sarah Silverman, insieme ad altri due autori, ha avviato una class action contro OpenAI e Meta, argomentando che i loro servizi di intelligenza artificiale violano il copyright a un livello molto fondamentale, perché includono tutto il testo dei libri di questi autori e dell’attrice, e di circa 290.000 altri libri, senza aver pagato diritti e senza autorizzazione.

Questi servizi si basano sulla lettura ed elaborazione di enormi quantità di testi di vario genere. OpenAI e Meta non hanno reso pubblico l’elenco completo dei testi usati, ma gli autori hanno notato che ChatGPT è in grado di riassumere il contenuto di molti libri con notevole precisione e quindi questo vuol dire che li ha letti. Il problema è che secondo l’accusa li ha letti prendendoli da archivi piratati. In parole povere, queste aziende starebbero realizzando un prodotto da vendere usando il lavoro intellettuale altrui senza averlo pagato [BBC; Ars Technica].

La presenza di opere protette dal copyright all’interno dei software di intelligenza artificiale sembra confermata anche da un’altra osservazione piuttosto tecnica. Molto spesso si pensa che i generatori di immagini sintetiche, come DALL-E 2 o Stable Diffusion, creino immagini originali ispirandosi allo stile delle tante immagini che hanno acquisito, ma senza copiarle pari pari: nella loro acquisizione avrebbero per così dire riassunto l’essenza di ciascuna immagine, un po’ come un artista umano si ispira legittimamente a tutte le immagini che ha visto nel corso della propria vita senza necessariamente copiarle.

Ma un recente articolo scientifico intitolato Extracting Training Data from Diffusion Models, dimostra che in realtà è possibile riestrarre quasi perfettamente le immagini originali da questi software. Questo significa che se un generatore è stato addestrato usando immagini di persone, magari di tipo medico o comunque personale o privato, è possibile recuperare quelle immagini, violando la privacy e il diritto d’autore [Quintarellli.it].

I ricercatori sottolineano che il problema riguarda uno specifico tipo di generatore, quello basato sul principio chiamato diffusion, che è il più popolare ed efficace; altri tipi [i GAN, per esempio] non hanno questa caratteristica. Se il fenomeno fosse confermato, la scala della violazione del copyright da parte delle intelligenze artificiali sarebbe colossale e porrebbe un freno drastico al loro sviluppo esplosivo commerciale. Per ora, però, questo sviluppo continua, e al galoppo: Elon Musk ha appena annunciato x.AI, una nuova azienda di intelligenza artificiale il cui obiettivo leggermente ambizioso è (cito) “comprendere la vera natura dell’universo”.

La questione di dove ci sta portando questo sviluppo poggia insomma su due pilastri: uno è il modo in cui scegliamo di usare queste intelligenze artificiali, per fornire nuove opportunità creative e di lavoro o per sopprimerle; e l’altro è il modo in cui vengono generate queste intelligenze, usando dati pubblicamente disponibili e non privati oppure attingendo ad archivi di provenienza illegittima stracolmi di informazioni sensibili. Forse, prima di tentare di comprendere la vera natura dell’universo, dovremmo concentrarci su questi concetti più semplici.

Pubblicazione iniziale: 2023/07/06 23:02. Ultimo aggiornamento: 2023/07/10 9:30.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.

Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: “Round one… Fight!” da Mortal Kombat]

Threads, la nuova app di Meta che sembra voler competere con Twitter, è stata rilasciata due giorni fa [il 5 luglio] in 100 paesi e sta già accumulando milioni di utenti [la presentazione formale di Meta è qui]. Tutti ne parlano, nonostante il fatto che in Europa non sia disponibile, e molti europei la vogliono lo stesso, un po’ per curiosità, un po’ per vanteria e un po’ per non sentirsi tagliati fuori da una nuova conversazione globale. E si parla tanto di Threads perché rappresenta un’altra tappa della rivalità diretta fra due fantastiliardari, Mark Zuckerberg e Elon Musk, che sono arrivati addirittura a proporre — non si sa quanto seriamente — un incontro personale di lotta corpo a corpo in un evento pubblico.

Se Threads vi incuriosisce e siete tentati di procurarvi un account per vie traverse, aspettate un momento. Ci sono parecchie cose importanti da sapere prima di lanciarsi nell’impresa, per evitare rischi e disastri. E se anche Threads non vi dovesse interessare, questa app è legata a un concetto informatico importante da conoscere, perché se prenderà piede cambierà radicalmente il modo in cui usiamo Internet.

Benvenuti alla puntata del 7 luglio 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Cos’è Threads

Threads è un nuovo social network basato sulla pubblicazione e condivisione di brevi testi, eventualmente accompagnati da un’immagine o da un video. È insomma molto simile a Twitter ed è il contrario di Instagram o TikTok, dove l’immagine è al centro e il testo è secondario. A differenza di Instagram consente link a fonti esterne. È gestito da Meta, l’azienda di Mark Zuckerberg che già gestisce Facebook, Instagram e WhatsApp. Già nelle prime ore dopo il suo debutto in oltre 100 paesi ha raccolto oltre 10 milioni di utenti [saliti a 30 milioni nelle prime 24 ore e 70 milioni entro i primi due giorni, dice Zuckerberg; 100 milioni nella prima settimana, secondo Threads Tracker].

Questa crescita esplosiva è facilitata dal fatto che chi ha un account Instagram ha automaticamente già un account Threads riservato con il suo nome, che può scegliere di attivare, e l’accesso a questo account avviene tramite il suo account Instagram. Questo vuol dire che oltre un miliardo di persone nel mondo ha già tutto quello che serve per entrare in Threads, senza dover creare nuovi login, nomi utente o password. L’utente Instagram @pierabernasconi, per esempio, su Threads è automaticamente @pierabernasconi e i suoi post pubblici sono leggibili a tutti press http://www.threads.net/@pierabernasconi.

[Per esempio, Mark Zuckerberg su Threads è presso www.threads.net/@zuck e io sono presso www.threads.net/@disinformatico]

Lo scopo dichiarato di Threads è rimpiazzare Twitter, che per anni è stato un punto di riferimento fondamentale per avere notizie di qualunque genere in tempo reale, ma è ora in serie difficoltà [che ho descritto in dettaglio qui] da quando è stato acquistato da Elon Musk: i ricavi pubblicitari sono crollati, gli inserzionisti sono più che dimezzati, la campagna di abbonamenti a pagamento annaspa, molti account di alto profilo sono stati chiusi e Musk proprio pochi giorni fa ha addirittura limitato il numero di tweet visibili agli utenti per bloccare, a suo dire, un eccesso di traffico prodotto da aziende che si stavano copiando tutti i tweet per addestrare le loro intelligenze artificiali [Techdirt.com]. Questo limite rende Twitter quasi inutilizzabile per gli utenti non paganti e scoraggia ulteriormente gli inserzionisti, che difficilmente pagheranno per pubblicità che gli utenti non possono vedere. Threads, invece, è gratuito, perlomeno in termini monetari.

Zuckerberg ha lanciato la sfida a Elon Musk molto apertamente, anticipando il debutto di Threads per sfruttare al massimo il momento di particolare debolezza di Twitter e dichiarando in un post su Threads che secondo lui ci dovrebbe essere un’app che consenta il dialogo collettivo di oltre un miliardo di persone e che “Twitter ha avuto l’opportunità di farlo ma non ce l’ha fatta, Noi speriamo di farcela” (ha detto proprio così). E i numeri sono a favore di Threads, perché avendo una base di oltre un miliardo di utenti già pronta grazie a Instagram, basta che un utente Instagram su dieci attivi Threads per creare un mercato di cento milioni di utenti, capace di competere significativamente con Twitter, che ne conta circa trecento milioni [quasi 238 milioni di “utenti giornalieri attivi monetizzabili”, secondo i dati di Twitter risalenti al suo ultimo resoconto pubblico di quasi un anno fa].

[CLIP: “Finish him!” da Mortal Kombat]

[La fretta di far debuttare il prodotto è forse il motivo per cui non c’è in Threads un feed dedicato per vedere solo il contenuto pubblicato da chi si segue (come nei Seguiti su Instagram) ma c’è solo un unico flusso che mescola post suggeriti e post seguiti, creando un fastidioso rumore di fondo. O forse è intenzionale]

Mark Zuckerberg, insomma, sembra aver trovato la maniera di risolvere il problema tipico di ogni nuovo social network: la cosiddetta massa critica. Normalmente nessuno si iscrive perché non c’è nessuno da seguire o con cui comunicare, e non c’è nessuno da seguire o con cui comunicare perché nessuno si iscrive, e tutti così se ne stanno invece nei social network preesistenti, perché lì ci sono già tutti i loro amici. Per questo WhatsApp predomina e alternative come Clubhouse, Mastodon e Telegram restano piccole e crescono molto lentamente. Con Threads, invece, un miliardo di utenti e passa è già potenzialmente iscritto e pronto a migrare in massa con tutti i propri amici, mantenendo lo stesso nome utente. E fra l’altro i post di Threads sono leggibili anche a chi non è iscritto, senza nessuna delle limitazioni, per esempio, di Twitter. 

[Shakira, per esempio, ha già due milioni di follower su Threads]

[CLIP: “Flawless victory!” da Mortal Kombat]

Ma Zuckerberg e Meta si sono trovati davanti un ostacolo formidabile: l’Unione Europea.

Il baluardo Europa

Threads, infatti, al momento non è disponibile nei paesi europei, Svizzera compresa, perché raccoglie una quantità spropositata di dati personali, incompatibile con le norme europee sulla privacy, e la combina inaccettabilmente con i tanti dati già raccolti da WhatsApp, Facebook e Instagram: dati sanitari, finanziari, cronologie di navigazione, geolocalizzazione, acquisti, contatti e tante altre informazioni sensibili. L’elenco completo, disponibile per esempio sull’App Store statunitense [o qui su The Register], è impressionante.

Per fare un paragone, Mastodon invece non raccoglie nulla.

Meta, oltretutto, è già finita nei guai per il modo in cui ha trattato i dati degli utenti. A maggio scorso ha subìto una sanzione record di 1,2 miliardi di euro per il trasferimento irregolare di dati verso gli Stati Uniti e a settembre 2022 è stata condannata a pagare oltre 400 milioni di euro per le sue violazioni dei diritti di privacy dei bambini. Anche Twitter ha ricevuto sanzioni pesanti per la sua gestione dei dati personali.

Quindi se state pensando di attivare Threads, magari eludendo il blocco geografico usando una VPN e un account non europeo, pensateci due volte, anche se credete di non avere niente da nascondere (in realtà, come si dice spesso, tutti abbiamo qualcosa da proteggere, non necessariamente da nascondere). Threads è davvero ficcanaso, e da alcune indicazioni sembra che una volta attivato non possa essere disattivato [più precisamente eliminato] senza perdere anche l’account Instagram collegato.

[Adam Mosseri, CEO di Instagram, scrive che l’account Threads per ora non si può eliminare ma si può disattivare, nascondendo così il profilo e i contenuti di Threads, si può impostare a privato il proprio profilo e si possono cancellare i singoli post su Threads]

Fate attenzione anche alle app o APK offerte da sedicenti amici o da siti non ufficiali, che potrebbero essere delle trappole infette, e fate attenzione alle app omonime che sono nate subito per approfittare della popolarità di Threads.

L’esclusione europea di Threads non include il Regno Unito, che dopo la Brexit sta introducendo regole di protezione dei dati personali molto più favorevoli alle aziende che vivono di questi dati, come Meta. Non si sa ancora, al momento, se Meta adeguerà Threads per rispettare le norme europee e conquistare così l’accesso a un mercato particolarmente vasto, abbiente e quindi appetibile.

Twitter, però, non è l’unico avversario sfidato da Threads.

Fediverso, decentralizzazione e interoperabilità

[CLIP: “Round Two… Fight!” da Mortal Kombat]

Nel mirino di Threads ci sono infatti anche le altre piattaforme social basate sul testo, come Mastodon, Bluesky, T2 e altre ancora, che hanno raccolto molti utenti fuggiti da Twitter. Una delle risorse che Threads metterà in campo per battere queste alternative è la semplice massa dei suoi utenti: se centinaia di milioni di persone adotteranno Threads, queste alternative smetteranno di crescere e resteranno delle nicchie meno allettanti.

L’altra risorsa, invece, è più sottile e complessa, ma è importante conoscerla anche se non vi importa nulla di Twitter o Threads, perché potrebbe cambiare radicalmente il modo in cui noi tutti usiamo Internet. Questa risorsa si chiama ActivityPub, e in gergo tecnico è un protocollo aperto di interoperabilità social. Tradotto in parole umanamente comprensibili, vuol dire che Threads userà uno standard aperto per lo scambio di dati fra i vari social network.

Per noi utenti, questo ha un’importanza enorme: vuol dire che potremo comunicare con gli utenti di Threads e seguirli anche senza iscriverci a Threads e quindi senza dover cedere montagne di dati personali. L’ipotetica utente di Threads @pierabernasconi sarà raggiungibile da un utente Mastodon semplicemente cercandola in Mastodon come @pierabernasconi@threads.net. Non sarà neanche necessario installare l’app ufficiale: si potrà usare qualunque app compatibile con questo protocollo. Non solo: se per qualunque motivo ci dovessimo stancare di Threads, potremo trasferire facilmente tutti i nostri dati e contatti altrove [perlomeno se Threads seguirà l’esempio di Mastodon e anche di Instagram].

L’idea non è nuova: la decentralizzazione viene già adottata da social network come Mastodon, Medium, Flipboard e Bluesky. E se ci si pensa un momento, è quello che fa da sempre la mail. Ed è un’idea che abbatte i giardini cintati, o se volete i ghetti, nei quali ci siamo abituati a stare: oggi se vuoi comunicare con qualcuno su Twitter devi iscriverti a Twitter, se vuoi dialogare con un utente su Instagram devi avere Instagram, per Facebook devi stare in Facebook, e così via, con tutte le scomodità e i tracciamenti pubblicitari multipli che tutto questo comporta.

Con un social network basato su un protocollo aperto, invece, tutti possono parlare con tutti, esattamente come un utente di Gmail può scambiare mail con una utente di BlueWin, Libero, Protonmail, Yahoo, Microsoft o Apple, e tutti possono seguire tutti. Lo standard aperto consente ai servizi di competere sulla qualità invece di intrappolare gli utenti, creando quello che viene chiamato fediverso: un universo di servizi distinti ma federati, dove ognuno può scegliere quello che gli calza meglio senza rinunciare a nulla o sacrificare informazioni personali.

È importante sottolineare, però, che tutto questo è previsto per il futuro: in questo momento Threads non supporta affatto il protocollo aperto ActivityPub e Meta ha soltanto annunciato che intende “lavorare per rendere Threads compatibile” con questo standard, per cui Threads per ora è un giardino cintato come tutti gli altri. Ma già il fatto di aver annunciato questa intenzione è una novità importante per il futuro di Internet, perché è un primo passo verso la riduzione del potere accentrante delle grandi aziende. Al tempo stesso, preoccupa gli altri social network basati sullo standard aperto, perché temono di essere fagocitati dall’enorme massa degli utenti provenienti da Instagram attraverso Threads. 

[Eugen Rochko, CEO e fondatore di Mastodon, ha pubblicato un suo parere tecnico dettagliato su Threads e la sua annunciata adozione di ActivityPub, che risponde in modo chiaro a molti dei dubbi più ricorrenti]

Lo scontro corpo a corpo fra Elon Musk e Mark Zuckerberg è probabilmente solo una boutade di infantilismo alimentato dai troppi gigadollari, ma il combattimento reale fra i due si sta già svolgendo online. Musk ha scritto scherzosamente che la sua mossa segreta è il “Tricheco”, in cui lui semplicemente si sdraia sull’avversario e non fa nulla, ma in questo caso la massa maggiore e schiacciante – in termini di utenti – ce l’ha Zuckerberg. Staremo a vedere. 

[Dopo la chiusura del podcast, Twitter ha mandato a Meta una comunicazione legale nella quale minaccia di citarla in giudizio, asserendo che Meta ha assunto ex dipendenti di Twitter per sviluppare Threads. Il direttore delle comunicazioni di Meta, Andy Stone, ha detto che nessuno dei tecnici che lavora a Threads è un ex dipendente di Twitter. La comunicazione di Twitter parla di “appropriazione scorretta sistematica, intenzionale e illegale dei segreti commerciali di Twitter e di altre sue proprietà intellettuali” (Dexerto.com; CNBC). Il corpo a corpo online si fa serio]

Fonti aggiuntive: Ars Technica, BBC.