Podcast

Questo è il testo della puntata del 9 giugno 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

Lo streaming verrà pubblicato qui non appena verrà messo online.

[CLIP: inizio dello spot promozionale di Builder.ai, ancora online su YouTube]

Un’azienda informatica operante nel settore dell’intelligenza artificiale applicata alla programmazione e valutata un miliardo e mezzo di dollari è crollata sotto gli occhi dei suoi investitori, fra i quali spicca Microsoft, perché è emerso che il suo prodotto basato sulla IA era molto I ma poco A: la sua strombazzata “intelligenza artificiale”, infatti, era in realtà quasi interamente costituita da 700 informatici residenti in India, pagati da 8 a 15 dollari l’ora per fingere di essere un software.

Questa è la storia di Builder.ai, che probabilmente è il più grosso flop di questo periodo di delirio di investimenti su qualunque cosa legata all’intelligenza artificiale, ma non è l’unico: è stato stimato che il 40% delle startup che hanno annunciato di avere un prodotto basato sull’intelligenza artificiale in realtà non usano affatto questa tecnologia ma simulano di averla per attirare più capitali. E finalmente comincia a serpeggiare una domanda: quanto di questo boom estenuante dell’intelligenza artificiale è solo marketing o addirittura sconfina nella truffa?

Benvenuti alla puntata del 9 giugno 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Builder.ai era una delle grandi speranze legate all’intelligenza artificiale nel Regno Unito. La startup londinese aveva raccolto 450 milioni di dollari di finanziamenti in capitale di rischio, principalmente da Microsoft e dal fondo sovrano di investimento del Qatar, uno dei più grandi del mondo. Il suo prodotto era Natasha, un’intelligenza artificiale che a suo dire permetteva ai clienti di creare app o addirittura interi siti di commercio elettronico semplicemente conversando con lei, senza aver bisogno di sapere nulla di programmazione. Nel 2023, quando Microsoft aveva investito in Builder.ai, uno dei vicepresidenti dello storico colosso del software, Jon Tinter, aveva detto che Builder.ai stava “creando una categoria completamente nuova che dà a tutti il potere di diventare sviluppatori” [GlobeNewsWire, 2023], e Microsoft aveva intenzione di integrare Natasha nel suo onnipresente Teams.

Ma il mese scorso Builder.ai ha presentato istanza di fallimento negli Stati Uniti, con debiti stimati fra i 50 e i 100 milioni di dollari [Courtlistener; Courtlistener], perché le indagini giornalistiche e quelle degli investitori hanno rivelato pratiche di contabilità estremamente sospette e perché è emerso che Natasha non esisteva: era solo una facciata di marketing, per nascondere il fatto poco vendibile che la sua cosiddetta intelligenza artificiale era in realtà costituita da un gruppo di 700 analisti, sviluppatori e programmatori residenti a Delhi, in India, addestrati a fingere di essere una IA, tanto che i dipendenti dicevano scherzosamente che “AI”, l’acronimo inglese che indica l’intelligenza artificiale, stava in realtà per “Another Indian”, ossia “un altro indiano”. I tecnici di Builder.ai si autodefinivano “un call center, ma con un marketing migliore”. Natasha si prendeva il merito e i clienti credevano di interagire con una straordinaria intelligenza artificiale capace di sviluppare app meglio degli esseri umani.

E le cose andavano avanti così da anni, fin dal 2016, quando l’azienda si chiamava Engineering.ai, e sono andate avanti nonostante il fatto che già nel 2019, quindi sei anni fa, le indagini del Wall Street Journal avevano fatto emergere il fatto che la sedicente IA dell’azienda era in realtà la maschera che copriva i volti di sviluppatori in carne e ossa [The Verge; WSJ], anche se il CEO di allora, Sachin Duggal, andava in giro a dire pubblicamente che il lavoro di sviluppo delle app era svolto per più dell’80% dall’intelligenza artificiale [Builder.ai su Facebook, video del 2018].

Sempre nel 2019, il responsabile commerciale di Engineering.ai, Robert Holdheim, aveva fatto causa all’azienda accusandola di esagerare le proprie capacità di intelligenza artificiale per ottenere gli investimenti che le servivano per sviluppare realmente la tecnologia che diceva di avere già [The Verge]. Ma ci sono voluti quasi nove anni perché i nodi arrivassero al pettine, e nel frattempo Builder.ai si è lasciata dietro una scia di investitori prestigiosi che ora si rendono conto di essere stati beffati.

La febbre dell’intelligenza artificiale arde ormai da parecchi anni, e molti investitori si lasciano sedurre dal marketing invece di analizzare la sostanza delle aziende che finanziano. E il caso di Builder.ai non è isolato. Secondo un’analisi della società di investimenti britannica MMC Ventures datata 2019, “le startup che hanno qualche sorta di componente IA possono attirare fino al 50% in più di investimenti rispetto alle altre società di software” ma “si sospetta che il 40% o più di queste startup non usi in realtà nessuna forma di intelligenza artificiale” [The Verge].

Per esempio, ad aprile 2025 è emerso che l’app di shopping Nate, che affermava di permettere agli utenti di completare gli acquisti nei negozi online facendo un solo clic grazie all’intelligenza artificiale, in realtà sfruttava centinaia di lavoratori nelle Filippine, che non facevano altro che completare a mano gli acquisti iniziati dai clienti. Secondo il Dipartimento di Giustizia statunitense, che ha incriminato l’ex CEO dell’azienda che gestiva questa app, il tasso effettivo di automazione di questa app era zero e il CEO ha nascosto intenzionalmente questo fatto agli investitori, dai quali è riuscito a farsi dare oltre 40 milioni di dollari.

Un altro esempio: nel 2023 la Presto Automation, società che offriva un popolare software per automatizzare gli ordini e gli acquisti nelle più importanti catene di fast food, ha ammesso che oltre il 70% degli ordini che a suo dire venivano gestiti dall’intelligenza artificiale erano in realtà presi in carico da lavoratori anche stavolta nelle Filippine [The Verge; Bloomberg]. La società è finita sotto indagine da parte delle autorità statunitensi di vigilanza sui mercati.

Nel 2016 Bloomberg ha segnalato il caso delle persone che lavoravano per dodici ore al giorno fingendo di essere dei chatbot per i servizi di gestione delle agende, come per esempio X.ai e Clara. Nel 2017 è emerso che i gestori di Expensify, una app che dichiarava di usare una “tecnologia di scansione smart” per leggere e digitalizzare ricevute e scontrini, in realtà sfruttava dei lavoratori umani sottopagati, che ovviamente venivano a conoscenza di tutti i dati personali dei clienti. E si potrebbe citare anche Facebook, il cui assistente virtuale per Messenger, denominato M, dal 2015 al 2018 si è appoggiato in realtà a esseri umani per oltre il 70% delle richieste [The Guardian].

In altre parole, l’intelligenza artificiale viene spesso usata come luccicante foglia di fico per coprire il fatto che si vuole semplicemente sfruttare una manodopera più a buon mercato di quella locale.

Non è che quelli che operano nel settore dell’intelligenza artificiale siano tutti truffatori o venditori di fumo: in parte il fenomeno delle IA fittizie è dovuto al fatto che spesso l’intelligenza artificiale sembra funzionare bene durante la fase di test ma fallisce quando viene esposta alle complessità del mondo reale e viene usata su vasta scala. Inoltre procurarsi i dati necessari per l’addestramento di una IA dedicata è molto costoso e richiede molto tempo.

C’è anche il fatto che l’intelligenza artificiale attuale ha ancora molto bisogno di intervento umano, e oltretutto di intervento umano qualificato, che costa, e quindi le promesse di riduzione dei costi spesso si rivelano vane. Per esempio, i social network, nonostante spingano insistentemente per l’adozione di massa delle intelligenze artificiali, non riescono ancora a usarle per moderare automaticamente i contenuti pubblicati dagli utenti e sono tuttora costretti a subappaltare questo compito a esseri umani, anche in questo caso sottopagati, ma siccome ammettere questa situazione non è cool e non fa bene alla quotazione in borsa, si continua a far finta di niente e si cerca di far sembrare che questa tecnologia sia più sofisticata di quanto lo sia realmente.

A questo miraggio della IA come tecnologia magica e affidabile credono in molti, compresi i professionisti di vari settori. Nella puntata precedente di questo podcast ho raccontato alcuni incidenti molto costosi e imbarazzanti che hanno coinvolto per esempio gli avvocati di vari paesi, che si sono affidati alle intelligenze artificiali per preparare le loro cause senza rendersi conto che questi software non sono fonti attendibili perché per natura tendono a inventarsi le risposte ai quesiti degli utenti. Dal Regno Unito arriva un aggiornamento che mostra quanto sia diventato grave e diffuso questo uso scorretto.

L’Alta corte di giustizia dell’Inghilterra e del Galles, un tribunale superiore che vigila sulle corti e i tribunali ordinari, ha rilasciato la settimana scorsa un documento indirizzato a tutti gli operatori di giustizia di sua competenza che è in sostanza una solenne lavata di capo a chi, per professione, dovrebbe sapere benissimo che non si va in tribunale portando fonti cercate rivolgendosi a ChatGPT, Gemini e simili senza verificarle.

Erano già state emanate delle direttive che mettevano in guardia contro i rischi di perdite di tempo e di equivoci derivati dall’uso improprio dell’intelligenza artificiale in campo legale, ma dopo un caso nel quale una causa di risarcimento per danni finanziari ammontanti a ben 89 milioni di sterline (circa 105 milioni di euro) è stata presentata fornendo al tribunale 45 precedenti inesistenti e fabbricati da un’intelligenza artificiale generativa, l’Alta corte ha deciso che a questo punto “è necessario prendere misure pratiche ed efficaci” contro questo fenomeno, come l’ammonimento pubblico dell’avvocato coinvolto, l’imposizione di una sanzione per i costi inutili causati, l’annullamento dell’azione legale e, nei casi più gravi, il processo per oltraggio alla corte o la segnalazione alla polizia [Pivot to AI].

L’aspetto forse più sorprendente, in tutte queste vicende legate all’intelligenza artificiale, è che non sono coinvolte persone qualsiasi, ma professionisti altamente qualificati, sia in campo legale sia in campo finanziario. Tutta gente che teoricamente dovrebbe sapere che prima di investire il proprio denaro (o quello degli altri) bisogna informarsi seriamente e indipendentemente sulla solidità della proposta, senza fidarsi delle patinate presentazioni aziendali, e che altrettanto teoricamente dovrebbe sapere che per fare le ricerche di precedenti legali non si va su Google e si prende per buono qualunque cosa risponda, ma si usano i servizi di ricerca professionali appositi. E invece ci cascano, e continuano a cascarci.

I catastrofisti dell’intelligenza artificiale dipingono spesso scenari inquietanti nei quali le macchine prima o poi acquisiranno un intelletto superiore a quello umano e quindi prenderanno il controllo di tutto. Ma forse non c’è bisogno di far leva sulla superiorità intellettiva. È sufficiente giocare sulla nostra tendenza a credere non a quello che è vero, ma a quello che vorremmo che fosse vero.

Gli investitori superpagati vogliono credere che investire nell’IA li farà diventare ancora più ricchi, e gli avvocati vogliono credere di poter delegare il loro lavoro a un software ottuso e incassare laute parcelle facendo meno fatica. E così l’intelligenza artificiale generativa dei grandi modelli linguistici come ChatGPT, Claude o Gemini, con la sua parlantina scioltissima e le sue risposte apparentemente così autorevoli, diventa l’imbonitore perfetto per rifilare fregature.

Questo è il testo della puntata del 26 maggio 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: audio di stampante che si accende e stampa]

Non c’è niente di più banale e tedioso, per chi fa informatica, dell’installazione di una stampante. La si collega, si installa il software di gestione, si configura tutto quanto e poi non ci si pensa più. Ma in un caso recentissimo, questo gesto di routine è costato oltre un milione di dollari sotto forma di criptovalute rubate tramite l’installazione, appunto, della stampante.

Questa è la storia di un attacco informatico che mette in luce il fatto, troppo spesso dimenticato, che i criminali informatici sono costantemente al lavoro per trovare nuovi modi di monetizzare le loro conoscenze tecniche ai nostri danni e sfruttano qualunque canale, immaginabile e meno immaginabile, e quindi bisogna essere tutti preparati e vigili, senza mai liquidare i segnali di pericolo. Ma è anche un’occasione preziosa per sbirciare dietro le quinte e scoprire come lavora in concreto tutti i giorni la comunità degli esperti di sicurezza informatica.

Benvenuti alla puntata del 26 maggio 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Questa storia comincia pochi giorni fa, con una normale recensione di una stampante da parte di uno YouTuber, lo statunitense Cameron Coward [il suo canale YouTube è Serial Hobbyism]. La stampante è piuttosto costosa: viene venduta intorno a 6000 dollari dalla casa produttrice, la cinese Procolored, che ne manda un esemplare a Coward. È un modello particolare, a raggi ultravioletti, che stampa su stoffa.

Lo YouTuber fa quello che fa sempre: spacchetta la stampante, la collega al computer, tenta di installare i driver di gestione attingendo alla chiavetta USB fornita dal fabbricante… e il suo antivirus, Windows Defender, blocca tutto e mette in quarantena i file che lui vorrebbe invece installare.

L’antivirus, infatti, gli dice che ha trovato un virus nei file forniti dal costruttore della stampante. Saggiamente Cameron Coward rispetta l’avviso dell’antivirus invece di pensare al solito falso allarme e si procura una versione alternativa pulita dei file [Microsoft Visual C++ Redistributable], che viene accettata dall’antivirus, risolvendo il problema.

Ma poi gli capita la stessa magagna, una seconda volta, con il software di controllo della stampante, che tenta di scaricare in versione aggiornata direttamente dal sito del costruttore, che ospita i propri file scaricabili presso Mega.nz. Stavolta è Google Chrome, il suo browser, a bloccare il download, avvisando di aver rilevato un altro virus.

Il tempo sta passando e la recensione si sta facendo più complicata del previsto, e non sembra esserci un motivo ragionevole per pensare che un fabbricante di stampanti metta dei virus nei propri prodotti o che un aggressore informatico sia motivato a infilarceli in qualche modo, soprattutto per un prodotto piuttosto di nicchia come una stampante così costosa, di cui non verranno venduti molti esemplari.

A questo punto probabilmente la maggior parte delle persone penserebbe a un eccesso di zelo degli antivirus e installerebbe il software comunque, scavalcando gli avvisi di pericolo. Ma Cameron Coward non molla e fa delle ricerche online, scoprendo che numerosi proprietari di stampanti della Procolored hanno segnalato di aver trovato dei virus durante l’installazione del software di gestione di questa stampante.

Lo YouTuber si mette così in contatto con l’assistenza tecnica del fabbricante, che però risponde negando la presenza di qualunque virus nel software dell’azienda e dicendo che si tratta di un errore, di un falso allarme.

Insomma, manca un movente e l’azienda dice che è tutto a posto. Forse è davvero un falso positivo degli antivirus: a volte capita. Ma come avete immaginato dal fatto che vi sto raccontando questa vicenda, non è così.

I criminali informatici di oggi, infatti, raramente cercano un attacco frontale: sarebbe troppo ovvio e banale e si infrangerebbe contro le barriere di sicurezza predisposte da qualunque utente o azienda che abbia un briciolo di buon senso. Cercano quindi di creare un falso senso di sicurezza, di prendere il bersaglio per sfinimento e di approfittare di situazioni difficilmente intuibili per l’utente comune, in modo che sia proprio l’utente a zittire gli allarmi e procedere con l’installazione che lo infetterà.

Il nostro malcapitato YouTuber recensore di stampanti non è un mago della sicurezza informatica, ma ha il pregio di essere cocciuto, e quindi nonostante le rassicurazioni dell’azienda contatta su Reddit degli esperti, illustra la situazione e chiede aiuto.

Ed è qui che arriva la cavalleria.

La cavalleria informatica arriva sotto forma di Karsten Hahn, capo ricercatore del malware presso la società di sicurezza informatica tedesca G Data Cyberdefense, che esamina il software di gestione della stampante messo a disposizione via Internet dal fabbricante e conferma che i file sono infetti con due virus differenti, nonostante le smentite dell’assistenza tecnica dell’azienda.

Hahn scarica il software su un computer isolato e sacrificabile, una cosiddetta sandbox, e identifica i virus in questione. Il primo è soprannominato XRed, esiste almeno dal 2019 ed è un virus di tipo backdoor, che registra insomma quello che viene digitato dall’utente, consente all’aggressore di farsi mandare file dal computer della vittima e di catturare immagini di quello che ha sullo schermo, offre una funzione di comando remoto e può elencare il contenuto di cartelle o interi dischi e cancellare qualunque file. Chiunque scarichi il software di questa stampante dal sito del suo fabbricante lo deve eseguire per poter stampare, ma eseguendolo autorizza e fa partire automaticamente anche il virus che è annidato al suo interno.

Il secondo virus è di un altro tipo: è un coinstealer o clipbanker, ossia un malware che tiene d’occhio la clipboard, cioè la memoria temporanea nella quale il computer tiene i dati quando si fa un copia e incolla, e aspetta che al suo interno compaia qualche sequenza di caratteri che somiglia a un indirizzo bitcoin. Quando la trova, la sostituisce con un altro indirizzo bitcoin. Questo malware ha la particolarità di infettare i file eseguibili di Windows ed è una variante nuova, che il ricercatore battezza SnipVex.

Ben trentanove dei file scaricabili forniti dal fabbricante della stampante sono infetti con questo o altri virus che hanno approfittato della situazione: è una cosiddetta sovrainfezione, che oltretutto va avanti da mesi indisturbata. Hahn rileva infatti che qualunque cliente della Procolored che abbia scaricato il software di gestione da ottobre del 2024 in poi ha ricevuto una versione infetta.

A questo punto dell’analisi il movente degli aggressori diventa chiaro: rubare criptovalute ai possessori di stampanti di questa marca. La loro tecnica consiste nell’infettare il software di gestione della stampante direttamente sul sito dove viene fornito dal fabbricante, perché la stragrande maggioranza degli utenti si fiderà di questa fonte rassicurante e ignorerà gli avvisi dell’antivirus, spianando la strada all’infezione del proprio computer.

Il malware a questo punto si metterà in attesa che l’utente faccia una transazione in bitcoin su quel computer infetto, la intercetterà e sostituirà le coordinate originali con quelle di un indirizzo bitcoin gestito dai criminali. In questo modo la vittima manderà soldi ai malviventi ogni volta che farà un pagamento in criptovalute.

Potreste pensare che sia improbabile che un computer al quale è collegata una stampante speciale per stoffe venga usato anche per fare transazioni in criptovalute, ma in realtà è proprio chi può permettersi una stampante che costa svariate migliaia di dollari che ha più probabilità di avere liquidità e quindi di operare anche nelle criptovalute. E ai criminali per avere successo basta che ci sia anche una sola persona o azienda in questa situazione che si fa infettare. Il fatto che per derubare quella singola vittima infettino centinaia o migliaia di altri utenti che non fanno movimenti in criptovalute per loro non è un problema. Sono criminali: per definizione non vanno per il sottile e non si fanno scrupoli morali.

E infatti Karsten Hahn, il ricercatore di sicurezza tedesco, trova nel malware l’indirizzo bitcoin sul quale confluiscono i soldi sottratti alle varie vittime. Usando il sito Blockchain.com e il fatto che le transazioni in bitcoin sono per definizione pubbliche e consultabili, rivela che su quell’indirizzo sono arrivati 9,3 bitcoin, provenienti da circa 160 vittime. Al cambio attuale, il maltolto ammonta in totale a poco più di un milione di dollari.

La tecnica dei criminali, insomma, ha funzionato. Resta solo una domanda: come hanno fatto i criminali a infettare il fabbricante.

L’8 maggio scorso, nonostante le smentite iniziali della Procolored, i software di gestione delle stampanti vengono rimossi e viene avviata un’indagine interna, dalla quale risulta che l’azienda ha caricato su Mega.nz il proprio software dopo averlo messo su una chiavetta USB che potrebbe essere stata infettata da un terzo virus, chiamato Floxif, quello rilevato inizialmente dallo YouTuber Cameron Coward sulla chiavetta fornitagli dalla Procolored.

Floxif è una brutta bestia: è un virus che si attacca ai file di tipo Portable Executable di Windows, ossia ai file eseguibili, ai file oggetto, alle librerie condivise e ai driver per dispositivi, ed è capace di propagarsi alle condivisioni di rete e ai supporti di memoria rimovibili, come per esempio le chiavette USB o i dischi rigidi di backup.

L’azienda, insomma, ha commesso l’errore di usare in modo promiscuo una chiavetta USB e in questo modo si è portata in casa l’infezione e da lì l’ha propagata agli utenti delle proprie stampanti.

Ora il suo software è stato ripulito e le versioni attualmente scaricabili non sono infette, come confermato dalla stessa azienda tedesca di sicurezza informatica G Data, e alle vittime tocca adesso scaricare queste nuove versioni, sostituirle a quelle precedenti infette, ed effettuare una scansione dei propri sistemi con un antivirus per estirpare i malware installati. Ma i soldi delle vittime, purtroppo, non torneranno indietro.

Casi come questo capitano tutti i giorni a chi lavora nella sicurezza informatica. È un lavoro silenzioso, invisibile, spesso ingrato, che si nota soltanto quando qualcosa va storto, ma è incessante e difficile. La morale di questa vicenda è che se il vostro antivirus o il vostro browser vi dice che un file è pericoloso, è il caso di fidarsi, anche se la fonte di quel file sembra sicura e affidabile, e non è assolutamente il caso di scavalcare quell’allarme. Inoltre bisogna stare molto più attenti di quello che normalmente si fa quando si scambiano chiavette o dischi esterni. E bisogna essere più grati di quanto lo siamo normalmente a chi lavora senza tanto clamore per tenerci al sicuro.

C’è una scena nel film della serie di James Bond Skyfall che può essere utile per imprimere questi concetti ad amici, parenti e colleghi. In questa scena, l’esperto informatico dell’MI6 prende un computer che apparteneva al supercattivo di turno – che è un noto hacker –– e per prima cosa lo collega alla rete informatica dei servizi segreti britannici. Con non uno, ma ben due cavi Ethernet. Questa è la cosa più stupida che si possa fare con un dispositivo informatico, e la scena si è giustamente meritata più di un decennio di sberleffi da parte di tutti gli informatici del mondo.

Se volete stare sicuri, siate più Cameron Coward e Karsten Hahn, e meno James Bond.

Fonti

The Maker’s Toolbox: Procolored V11 Pro DTO UV Printer Review, Cameron Coward, Hackster.io, 2025

Printer company provided infected software downloads for half a year, G Data Software, 2025

Printer maker Procolored offered malware-laced drivers for months, BleepingComputer.com, 2025

Bitcoin malware discovered: Chinese printer manufacturer involved, Atlas21.com, 2025

Malware Hidden in Procolored Printer Software – And No One Noticed, Security Daily Review, 2025 (video)

Stampanti Procolored distribuiscono malware per mesi: utenti a rischio, Cybersecurity360.it, 2025

Esistono stampanti sicure e non: il caso Procolored!, Latecnocopie.it, 2025

Questo è il testo della puntata del 17 marzo 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: Suoni di Alexa, tratti da questo video su YouTube]

Dal 28 marzo prossimo gli assistenti vocali Alexa di Amazon smetteranno di rispettare le scelte di privacy dei loro utenti. Lo ha comunicato Amazon stessa pochi giorni fa, in una mail inviata ad alcuni di questi utenti, ma senza usare parole così chiare. Eppure è questo il senso tecnico della decisione unilaterale di Amazon di cambiare radicalmente il funzionamento dei suoi dispositivi dopo che gli utenti li hanno acquistati, e di cambiarlo a sfavore di quegli utenti.

Tra una decina di giorni, in sostanza, tutto quello che direte in presenza di un Alexa potrà essere registrato e inviato ad Amazon, dove potrà essere ascoltato, trascritto, registrato e dato in pasto all’intelligenza artificiale.* E questo vale anche per le versioni di Alexa che gli utenti hanno acquistato specificamente perché non facevano nulla di tutto questo.

* Per maggiore chiarezza: è così da tempo per la stragrande maggioranza dei dispositivi Alexa. Però finora c‘erano alcuni modelli di Alexa che non funzionavano in questo modo. 

Questa è la storia di come Amazon è riuscita a convincere centinaia di milioni di persone in tutto il mondo a installarsi in casa un oggetto che è a tutti gli effetti un microfono aperto e connesso a Internet e ai suoi server, in ascolto ventiquattro ore su ventiquattro, ed è anche riuscita a convincere queste persone a pagare per avere quel microfono.

Benvenuti alla puntata del 17 marzo 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Siamo nel 2014, a novembre; quasi undici anni fa. Amazon presenta al pubblico Echo, uno strano altoparlante cilindrico, connesso a Internet, che include un assistente vocale simile a Siri di Apple.

Come Siri, anche Echo risponde ai comandi vocali quando viene attivato tramite una parola specifica, che per questo prodotto di Amazon è “Alexa”: una parola scelta per il suo suono piuttosto insolito, caratterizzata dalle vocali dolci e dalla X che la fanno spiccare e la rendono più facilmente riconoscibile da parte della limitata potenza di calcolo presente a bordo di Echo. Se in casa c’è qualcuno che si chiama Alexa o Alessia e quindi c’è rischio di confusione, l’utente può scegliere in alternativa le parole Amazon, Echo, Ziggy o Computer [Business Insider; FAQ Amazon].

Al suo debutto, Echo di Amazon costa ben 199 dollari ed è disponibile solo su invito da parte dell’azienda [TechCrunch] e soltanto negli Stati Uniti. Arriva in Europa due anni più tardi, nel 2016, quando viene offerto anche in versione compatta a circa 60 euro [CNBC]. Tramite comandi vocali, permette di fare acquisti su Amazon, comandare vari dispositivi domestici interconnessi, impostare sveglie e timer e rispondere a varie domande attingendo alle informazioni di Wikipedia e di altre fonti.

Il principio di funzionamento di Echo è relativamente semplice. I suoi microfoni estremamente sensibili captano costantemente tutti i suoni e tutte le conversazioni che si svolgono nell‘ambiente nel quale Echo è collocato. I suoi processori analizzano altrettanto costantemente quello che è stato captato dai microfoni. Se secondo questa analisi è stata pronunciata la parola di attivazione (o wake word in gergo tecnico), allora i suoni raccolti vengono trasmessi via Internet ai computer di Amazon, dove vengono elaborati, trascritti e trasformati in comandi. Questi comandi vengono eseguiti, sempre sui computer di Amazon e anche su quelli delle aziende associate ad Amazon, e i loro risultati vengono inviati al dispositivo dell’utente.

L’intero procedimento è talmente veloce e invisibile che chi usa Alexa ha l’impressione che sia il dispositivo a fare tutto questo lavoro. Non ha nessuna percezione del fatto che le sue parole vengano registrate e trasmesse ad Amazon, che le conserva. Lo scopre soltanto se gli capita di accedere al suo account Amazon e di consultare una sezione dedicata appunto ad Echo e Alexa, che contiene la Cronologia voce, ossia tutto quello che è stato registrato dal suo dispositivo.

[Questo è il link alla Cronologia voce di un account (accessibile solo dando login e password): https://www.amazon.it/alexa-privacy/apd/rvh?ref_=privacy0]

[CLIP: spezzoni delle mie registrazioni di Alexa]

Questi sono alcuni campioni di quello che ha registrato il mio Alexa, nei rari momenti in cui l’ho tenuto acceso per fare qualche esperimento. Alcuni risalgono a più di cinque anni fa, ed è chiaro da quello che è stato registrato che Alexa registra e archivia non solo i comandi impartiti ma anche spezzoni di conversazioni nei quali viene citato il suo nome o qualcosa che gli assomiglia. Cosa ancora più interessante, registra e archivia anche alcuni secondi di quello che è stato detto prima di dire la parola di attivazione.

[CLIP: una nostra amica che dice “è un po’ lenta Alexa” e Paolo che dice “OK Google parla con Alexa”. Notate che in entrambi i casi “Alexa” è l’ultima parola registrata e sono state registrate anche quelle dette appena prima]

Questo dimostra che Alexa è costantemente in ascolto e altrettanto costantemente in registrazione. Quando “crede” di aver sentito la parola di attivazione, prende l’audio che ha registrato e lo invia ad Amazon. E questo vuol dire che qualunque conversazione domestica è a rischio di essere registrata e inviata. Una confidenza, un momento di intimità con un partner, una telefonata al proprio medico per discutere la propria situazione di salute, una riunione confidenziale di lavoro, una discussione politica o religiosa. Tutto può finire negli archivi di Amazon.

È chiaro che questo modo di funzionare di Alexa è un grave rischio per la privacy, e non si tratta di ipotesi paranoiche: nel 2023 Amazon ha accettato di pagare un’ammenda di 25 milioni di dollari perché era stata colta a conservare per sempre le registrazioni delle interazioni dei bambini con Alexa, violando le leggi statunitensi sulla privacy [New York Times].

Amazon ha dichiarato che conserva tutte le registrazioni indefinitamente, se l’utente non provvede a cancellarle a mano [CNET; ZDNET] o a impostare la cancellazione automatica dopo tre o diciotto mesi. Ha aggiunto anche che un campione “estremamente piccolo” delle registrazioni acquisite viene ascoltato dai suoi dipendenti. Nel caso di Amazon, “estremamente piccolo” significava, nel 2019, che ciascuno dei suoi addetti specializzati a Boston, in Costa Rica, in India e in Romania ascoltava fino a mille spezzoni di audio domestico ogni giorno, e fra l’altro questi spezzoni venivano condivisi fra gli addetti non solo per ragioni tecniche ma anche semplicemente perché erano divertenti [Bloomberg (copia su Archive.is); Ars Technica].

Il fatto che le conversazioni degli utenti di Alexa possano essere ascoltate da queste persone non viene mai indicato nelle sue rassicuranti informazioni di marketing [copia su Archive.is; altre info qui] e neppure nelle sue informative sulla privacy. E così l’impressione che ha l’utente medio è che quello che dice ad Alexa nell’intimità della propria casa sia ascoltato soltanto da freddi e indifferenti sistemi automatici, ma non è affatto così.

A volte va anche peggio: queste registrazioni possono finire in mano a sconosciuti. Nel 2018 un utente Alexa in Germania ha provato a esaminare la propria cronologia delle conversazioni e vi ha trovato circa 1700 registrazioni di qualcun altro: un uomo che in casa propria parlava con la compagna. Quando ha segnalato la serissima violazione della privacy, inizialmente Amazon non gli ha neppure risposto e ha avvisato la vittima solo quando la notizia è uscita sulla stampa specializzata. L’azienda ha dichiarato che si è trattato di “un errore umano e un caso singolo isolato” [Washington Post; Reuters].*

* C’è poi tutta la questione degli attacchi intenzionali agli assistenti vocali: esistono vari modi per ingannare il loro riconoscimento vocale, usando per esempio suoni verbali che alle nostre orecchie sembrano privi di senso (i cosiddetti nonsense attack) oppure sembrano avere un altro significato (missense attack). Maggiori informazioni sono negli articoli Nonsense Attacks on Google Assistant and Missense Attacks on Amazon Alexa (2019), Researchers show Alexa “skill squatting” could hijack voice commands (2018), Skill Squatting Attacks on Amazon Alexa (2018) e A Survey on Amazon Alexa Attack Surfaces (2021).

Insomma, il problema di fondo è che i microfoni di questi dispositivi di Amazon, come del resto quelli equivalenti di Google e di Apple, prendono i suoni ascoltati in casa e li consegnano alle rispettive aziende per l’analisi e l’elaborazione. Se questa analisi ed elaborazione avvenissero localmente, a bordo del dispositivo, in modo da non trasmettere esternamente i suoni ambientali, il funzionamento di questi oggetti sarebbe molto più rispettoso della naturale riservatezza che ci si aspetta di avere in casa propria.

Infatti nel 2020 Amazon ha presentato i dispositivi Echo Dot di quarta generazione, che insieme agli Echo Show versione 10 e 15, dotati di schermo e telecamera, erano in grado di elaborare localmente i suoni che captavano. Una rivoluzione nel modo di funzionare di questi dispositivi che li rendeva decisamente appetibili per chiunque avesse riflettuto seriamente sulla questione. Finalmente un prodotto fatto come si deve in termini di privacy.*

* Questa funzione era disponibile esclusivamente agli utenti statunitensi con Alexa impostato sulla lingua inglese [The Technology Express]

Ma chi ha comprato questi dispositivi ora si trova con una sorpresa molto amara: il 28 marzo prossimo Amazon disabiliterà l’elaborazione locale dell’audio su tutti questi apparati, che cominceranno a funzionare esattamente come tutti gli altri di Amazon, mandando quindi ai server dell’azienda (e alle orecchie dei suoi dipendenti addetti al servizio Alexa) tutto quello che viene ascoltato dai loro sensibilissimi microfoni e interpretato come comando da mandare.

L’utente che ha pagato per avere questi prodotti si troverà quindi con un dispositivo degradato che non farà più la cosa fondamentale per la quale era stato acquistato, ossia rispettare la riservatezza dell’utente. E non ci sarà nulla che potrà fare per opporsi.*

* Negli Stati Uniti la legge DMCA (1998) rende punibile con cinque anni di carcere e una sanzione da 500.000 dollari l’alterazione del software (e in questo caso del firmware) di un dispositivo protetto dal copyright, anche se viene fatta dal proprietario del dispositivo stesso.

Quello di Amazon è un comportamento che viene spesso chiamato cinicamente “l’MBA di Darth Vader”, con riferimento al celeberrimo personaggio malvagio di Star Wars, il cui potere è così assoluto che se tenesse un corso di formazione per l’amministrazione aziendale insegnerebbe ai suoi studenti che il rispetto dei contratti e delle regole concordate è roba per gli inferiori, alle cui fastidiose obiezioni si risponde sempre in questo modo:

[CLIP: Darth Vader che dice “Ho cambiato il nostro accordo. Prega che non lo cambi ancora” (da L’Impero Colpisce Ancora, 1:34:10)]

Amazon giustifica questa menomazione intenzionale dei dispositivi comprati dai suoi clienti con la scusa onnipresente del mondo informatico: l’intelligenza artificiale. Sta infatti per arrivare Alexa+, che è in grado di offrire servizi più complessi e sofisticati grazie appunto all’intelligenza artificiale [Ars Technica]. Intelligenza che però sta nei computer di Amazon, non fisicamente dentro i dispositivi degli utenti, per cui non c’è scelta: l’audio captato deve essere per forza trasmesso ad Amazon ed elaborato sui computer dell’azienda. Alexa+, fra l’altro, avrà probabilmente un canone mensile, a differenza dell’Alexa attuale.*

* La maggior parte delle fonti prevede che questo canone sarà di 20 dollari al mese per gli utenti generici ma gratuito per gli utenti iscritti ad Amazon Prime [Aboutamazon.com].

Questa transizione all’intelligenza artificiale remota significa che gli attuali dispositivi Echo Show perderanno una delle loro funzioni più potenti: la capacità di identificare le voci delle varie persone che li usano e di offrire agende, musica e promemoria personalizzati ai vari membri di una famiglia elaborando l’audio localmente per riconoscere le varie voci, grazie a una funzione chiamata Voice ID. Amazon ha avvisato i proprietari di questi dispositivi che questa funzione non ci sarà più. Adesso la stessa cosa verrà fatta con l’intelligenza artificiale, ma mandando l’audio di casa ad Amazon.

Certo, l’azienda sottolinea nel suo avviso che l’audio è cifrato in transito e che gli utenti potranno chiedere che venga cancellato dopo l’uso, e aggiunge che ci sono “strati di protezioni di sicurezza per tenere al sicuro le informazioni dei clienti”. Ma visti i precedenti di Amazon, e visto che in generale l’intelligenza artificiale ha la discutibile abitudine di rigurgitare in modo inatteso i dati personali che ha ingerito, una certa diffidenza è comprensibile e inevitabile.*

* Anche perché fino al 2022 Amazon era lanciatissima verso l‘elaborazione on-device, che era presentata come una tecnologia con “tanti benefici: riduzione della latenza, ossia del tempo che Alexa impiega a rispondere alle richieste; riduzione del consumo di banda, importante sui dispositivi portatili; e maggiore disponibilità per le unità a bordo di auto e per altre applicazioni nelle quali la connettività verso Internet è intermittente. L’elaborazione on-device consente anche di fondere il segnale vocale con altre modalità, come la visione, per funzioni come il parlare a turno naturale di Alexa” [Amazon Science, gennaio 2022]. Se questi non sono più “benefici” e Amazon vuole accollarsi l’onere computazionale di elaborare in-cloud tutte le richieste, ci sarà probabilmente un tornaconto sotto forma di utilizzo dei dati vocali per addestramento di IA o ulteriore analisi.

Per chi preferisce non avere in casa, in ufficio o nello studio medico microfoni aperti e connessi a Internet, le soluzioni alternative ad Amazon non mancano. Una delle più interessanti è Home Assistant, un ecosistema di dispositivi e di software che fa quasi tutto quello che fa Alexa di base, compreso il collegamento con i sistemi domotici di ogni marca che rispetti gli standard tecnici, lo fa senza canone mensile ed è configurabile in modo che elabori tutto l’audio localmente, senza mandare nulla via Internet a nessuno, tenendo privacy e sostenibilità come valori centrali.*

* Due altre opzioni sulla stessa falsariga sono Mycroft AI (ora OpenVoiceOS) e Snips AI (acquisita da Sonos).

Inoltre Home Assistant è basato sul principio dell’open source, per cui tutti i componenti e tutto il software sono liberamente esaminabili e modificabili e tutti gli standard utilizzati sono liberi e documentati. Non c’è nessun Darth Vader o Jeff Bezos che possa cambiare gli accordi e far pregare che non li cambi ancora, ma c’è una fondazione, la Open Home Foundation, che coordina lo sviluppo di Home Assistant e ha fra l’altro sede in Svizzera [altre info], c’è una base legale solida e collaudata che tutela il tutto e c’è una vasta comunità di utenti che sviluppa il prodotto e insegna a usarlo, per esempio pubblicando dettagliati tutorial su YouTube.

Insomma, se vi è sempre sembrato assurdo che con la domotica per accendere le luci in soggiorno il comando dovesse fare il giro del mondo e dipendere da una rete di computer gestita da chissà chi, le soluzioni ci sono. Si tratta solo di scegliere fra ricevere la pappa pronta da chi può ritirare il suo costoso cucchiaio in ogni momento e rimboccarsi le maniche per studiare come cucinarsi le cose da soli. Di solito si fatica di più, ma si risparmia, e le cose fatte in questo modo hanno più gusto.

Fonti aggiuntive

Amazon annihilates Alexa privacy settings, turns on continuous, nonconsensual audio uploading, Cory Doctorow, 2025

Amazon’s subscription-based Alexa+ looks highly capable—and questionable, Ars Technica, 2025

Amazon Ends Local Voice Processing for Echo Devices, The Technology Express, 2025

Everything you say to your Echo will be sent to Amazon starting on March 28, Ars Technica, 2025

Amazon is getting rid of the option for Echo devices to process Alexa voice requests locally, Engadget, 2025

Amazon admits that employees review “small sample” of Alexa audio, Ars Technica, 2019

Amazon’s Echo will send all voice recordings to the cloud, starting March 28, TechCrunch, 2025

Amazon is ending the option to not send Echo voice recordings to the cloud, The Verge, 2025

Amazon plans to give Alexa an AI overhaul — and a monthly subscription price, CNBC, 2024

The Gdańsk man who brought US giant Amazon to Poland, The First News, 2020

Questo è il testo della puntata del 16 dicembre 2024 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS.

Il 9 dicembre scorso OpenAI, l’azienda che ha creato ChatGPT, ha rilasciato al pubblico Sora, un generatore di video basato sull’intelligenza artificiale, che era stato presentato a febbraio senza però renderlo pubblicamente disponibile. Con Sora, si descrive a parole la scena che si desidera, e il software produce il video corrispondente, in alta definizione.

Gli spezzoni dimostrativi sono straordinariamente realistici, e Sora a prima vista sembra essere un altro prodotto vincente e rivoluzionario di OpenAI, ma il giorno dopo il suo debutto ha iniziato a circolare in modo virale sui social network [Bluesky; X] un video, realizzato con Sora da un utente, che è così profondamente sbagliato e grottesco che diventa comico. Per qualche strano motivo, Sora sa generare di tutto, dai cani che corrono e nuotano alle persone che ascoltano musica ai paesaggi tridimensionali, ma è totalmente incapace di generare un video di una ginnasta che fa esercizi a corpo libero.

Il video diventato virale mostra appunto quella che dovrebbe essere una atleta che compie una serie di movimenti ginnici ma invece diventa una sorta di frenetica ameba fluttuante dal cui corpo spuntano continuamente arti a caso e le cui braccia diventano gambe e viceversa; dopo qualche secondo la testa le si stacca dal corpo e poi si ricongiunge. E non è l’unico video del suo genere.

Attempt 2.

2/4 pic.twitter.com/YuhQLLdj8d

— Deedy (@deedydas) December 10, 2024

Attempt 3

3/4 pic.twitter.com/sdJ6mKhbJh

— Deedy (@deedydas) December 10, 2024

Attempt 4

4/4 pic.twitter.com/GzBtUTuspm

— Deedy (@deedydas) December 10, 2024

Un risultato decisamente imbarazzante per OpenAI, ben diverso dai video dimostrativi così curati presentati dall’azienda. Un risultato che rivela una delle debolezze fondamentali delle intelligenze artificiali generative attuali e mette in luce il “trucco” sorprendentemente semplice usato da questi software per sembrare intelligenti.

Questa è la storia di quel trucco, da conoscere per capire i limiti dell’intelligenza artificiale ed evitare di adoperarla in modo sbagliato e pagare abbonamenti costosi ma potenzialmente inutili.

Benvenuti alla puntata del 16 dicembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Dieci mesi dopo il suo annuncio iniziale, OpenAI ha reso disponibile al pubblico il generatore di video Sora basato sull’intelligenza artificiale. Dandogli una descrizione, o prompt, Sora produce un video che può durare fino a venti secondi e rispecchia fedelmente la descrizione fornita.

Sora è la naturale evoluzione delle intelligenze artificiali generative: nel giro di pochi anni, dalla semplice produzione di testi siamo passati alla generazione di immagini, ormai diventate fotorealistiche, sempre partendo da un prompt testuale, e ora arrivano i video generati.

OpenAI non è l’unica azienda che ha presentato intelligenze artificiali che generano video: lo hanno già fatto Google, Runway, Kling e Minimax, giusto per fare qualche nome. Ma Sora sembrava essere molto superiore alla concorrenza, perlomeno fino al momento in cui ha iniziato a circolare il video della ginnasta ameboide.

Va detto che tutti i prodotti attuali di generazione di video hanno gli stessi problemi: spesso producono videoclip mostruosi e deformi, e tocca generarne tanti per ottenerne uno buono. Ma come mai il prodotto di punta di un’azienda leader nel settore fallisce miseramente proprio con la ginnastica artistica?

Per capirlo bisogna ragionare sul modo in cui lavorano le intelligenze artificiali: vengono addestrate fornendo loro un numero enorme di testi, foto o video di esempio di vario genere. Le foto e i video vengono accompagnati da una dettagliata descrizione testuale, una sorta di etichettatura. In questa fase di addestramento, l’intelligenza artificiale crea delle associazioni statistiche fra le parole e le immagini. Quando poi le viene chiesto di creare un testo, un’immagine o un video, attinge a questo vastissimo catalogo di associazioni e lo usa per il suo trucco fondamentale: calcolare il dato successivo più probabile.

Nel caso della generazione di testi, l’intelligenza artificiale inizia a scegliere una prima parola o sequenza di parole, basata sulla descrizione iniziale, e poi non fa altro che mettere in fila le parole statisticamente più probabili per costruire i propri testi. Nelle risposte di ChatGPT, per capirci, non c’è nessuna cognizione o intelligenza: quello che scrive è in sostanza la sequenza di parole più probabile. Sto semplificando, ma il trucco di base è davvero questo.

Lo ha detto chiaramente Sam Altman, il CEO di OpenAI, in una dichiarazione resa davanti a un comitato del Senato statunitense nel 2023:

La generazione attuale di modelli di intelligenza artificiale – dice – è costituita da sistemi di predizione statistica su vasta scala: quando un modello riceve la richiesta di una persona, cerca di prevedere una risposta probabile. Questi modelli operano in maniera simile al completamento automatico sugli smartphone […] ma a una scala molto più ampia e complessa […] – dice sempre Altman – Gli strumenti di intelligenza artificiale sono inoltre in grado di imparare i rapporti statistici fra immagini e descrizioni testuale e di generare nuove immagini basate su input in linguaggio naturale.

[fonte, pag. 2]

In altre parole, ChatGPT sembra intelligente perché prevede le parole o frasi più probabili dopo quelle immesse dall’utente. Nel caso dei video, un’intelligenza artificiale calcola l’aspetto più probabile del fotogramma successivo a quello corrente, basandosi sull’immenso repertorio di video che ha acquisito durante l’addestramento. Tutto qui. Non sa nulla di ombre o forme o di come si muovono gli oggetti o le persone (o, in questo caso, gli arti delle ginnaste): sta solo manipolando pixel e probabilità. Sora affina questa tecnica tenendo conto di numerosi fotogrammi alla volta, ma il principio resta quello.

Ed è per questo che va in crisi con la ginnastica.

Come spiega Beni Edwards su Ars Technica, i movimenti rapidi degli arti, tipici della ginnastica a corpo libero, rendono particolarmente difficile prevedere l’aspetto corretto del fotogramma successivo usando le tecniche attuali dell’intelligenza artificiale. E così Sora genera, in questo caso, un collage incoerente di frammenti dei video di ginnastica a corpo libero che ha acquisito durante l‘addestramento, perché non sa quale sia l’ordine giusto nel quale assemblarli. E non lo sa perché attinge a medie statistiche basate su movimenti del corpo molto differenti tra loro e calcolate su una quantità modesta di video di ginnastica a corpo libero.

Non è un problema limitato alla ginnastica artistica: in generale, se il tipo di video chiesto dall’utente è poco presente nell’insieme di dati usato per l’addestramento, l’intelligenza artificiale è costretta a inventarsi i fotogrammi, creando così movimenti mostruosi e arti supplementari che sono l’equivalente video delle cosiddette “allucinazioni” tipiche delle intelligenze artificiali che generano testo.

Sora, in questo senso, è nonostante tutto un passo avanti: alcuni generatori di video concorrenti usciti nei mesi scorsi facevano addirittura svanire le atlete a mezz’aria o le inglobavano nei tappeti o negli attrezzi, in una sorta di versione IA del terrificante morphing del robot T-1000 alla fine di Terminator 2: Il giorno del giudizio.

Gymnastics is the Turing test of video generation models pic.twitter.com/cOhmUJjI2m

— Deedy (@deedydas) July 2, 2024

Questo suggerisce una possibile soluzione al problema: aumentare la quantità e la varietà di video dati in pasto all’intelligenza artificiale per addestrarla, ed etichettare con molta precisione i contenuti di quei video. Ma non è facile, perché quasi tutti i video sono soggetti al copyright. Soprattutto quelli degli eventi sportivi, e quindi non sono liberamente utilizzabili per l’addestramento.

Sora fa sorridere con i suoi video mostruosamente sbagliati in questo campo, ma non vuol dire che sia da buttare: è comunque una tappa molto importante verso la generazione di video di qualità. Se i video che avete bisogno di generare rappresentano scene comuni, come una persona che cammina o gesticola oppure un paesaggio, Sora fa piuttosto bene il proprio mestiere e consente anche di integrare oggetti o immagini preesistenti nei video generati.

Al momento, però, non è disponibile in Europa, salvo ricorrere a VPN o soluzioni analoghe, e accedere alle funzioni di generazione video costa: gli abbonati che pagano 20 dollari al mese a ChatGPT possono creare fino a 50 video al mese, in bassa qualità [480p] oppure possono crearne di meno ma a qualità maggiore. Gli abbonati Pro, che pagano ben 200 dollari al mese, possono chiedere risoluzioni maggiori e durate più lunghe dei video generati.

Se volete farvi un’idea delle attuali possibilità creative di Sora, su Vimeo trovate per esempio The Pulse Within, un corto creato interamente usando spezzoni video generati con questo software, e sul sito di Sora, Sora.com, potete sfogliare un ricco catalogo di video dimostrativi.

Siamo insomma ancora lontani dai film creati interamente con l’intelligenza artificiale, ma rispetto a quello che si poteva fare un anno fa, i progressi sono stati enormi. Ora si tratta di decidere come usare questi nuovi strumenti e le loro nuove possibilità creative.

Infatti il rapidissimo miglioramento della qualità di questi software e la loro disponibilità di massa significano anche che diventa più facile e accessibile produrre deepfake iperrealistici o, purtroppo, anche contenuti di abuso su adulti e minori. Sora ha già implementato filtri che dovrebbero impedire la generazione di questo tipo di video, e i contenuti prodotti con Sora hanno delle caratteristiche tecniche che aiutano a verificare se un video è sintetico oppure no, ma questo è un settore nel quale la gara fra chi mette paletti e chi li vuole scardinare non conosce pause. Nel frattempo, noi comuni utenti possiamo solo restare vigili e consapevoli che ormai non ci si può più fidare neppure dei video. A meno che, per ora, siano video di ginnastica artistica.

Fonti aggiuntive

Ten months after first tease, OpenAI launches Sora video generation publicly, Ars Technica

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

[CLIP: TF1 annuncia l’arresto di Durov]

Il 24 agosto scorso Pavel Durov, fondatore e CEO della popolarissima piattaforma di messaggistica Telegram, è stato fermato in Francia [RSI] e successivamente incriminato dalle autorità francesi e rilasciato su cauzione, con l’obbligo di restare nel paese. L’incriminazione parla di “rifiuto di comunicare le informazioni necessarie per le intercettazioni autorizzate dalla legge”, “complicità” in reati e crimini gravissimi organizzati su o tramite Telegram, e… omessa dichiarazione formale di importazione in Francia di un sistema crittografico?

Questo terzo capo di incriminazione può sembrare dissonante rispetto agli altri due, ma ha una sua spiegazione che è importante per capire perché il fermo di Durov ha scatenato un terremoto che ha scosso molti degli oltre 900 milioni di utenti di Telegram.

Questa è la storia, fin qui, di questo terremoto e delle sue implicazioni per la sicurezza e la privacy, non tanto per i criminali che usano Telegram, ma per gli utenti onesti di questa piattaforma, specialmente quelli che vivono in paesi dove i diritti umani non vengono rispettati e i dissidenti vengono perseguitati. Questi utenti in questi anni si sono affidati a Telegram contando sulla sua promessa di non collaborare con nessun governo, e ora scoprono che le loro conversazioni su questa piattaforma non erano così protette e segrete come pensavano, anche perché Telegram, dopo il fermo e l’incriminazione di Durov, ha silenziosamente cambiato le proprie regole.

Benvenuti alla puntata del 13 settembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Telegram è diverso dagli altri sistemi di messaggistica, come Signal o WhatsApp, per due ragioni principali. La prima è che offre i cosiddetti canali, ai quali può iscriversi un numero sostanzialmente illimitato di persone per seguire i messaggi pubblicati da un singolo utente o da una specifica organizzazione.

[i gruppi di Telegram possono avere fino a 200.000 partecipanti]

Questa capacità di far arrivare un messaggio anche a milioni di persone, senza nessuna delle restrizioni o dei filtraggi tipici di altre piattaforme, rende Telegram più allettante rispetto alla concorrenza, per esempio per i criminali informatici e anche per quelli non informatici, dai trafficanti di droga ai terroristi ai pedofili, che possono usarlo (e lo usano) per pubblicizzare i propri prodotti e servizi o le proprie terribili azioni e gestire la propria clientela in modo efficiente e discreto. Ovviamente queste stesse caratteristiche sono utili anche per chi lotta contro censure, persecuzioni o restrizioni delle libertà.

E così Telegram, per chi vive in Russia, è uno dei pochissimi canali attraverso i quali è possibile ricevere informazioni non filtrate dalla censura governativa. Durov lasciò la Russia dieci anni fa, nel 2014, proprio per non dover cedere al governo i dati dei cittadini raccolti dalla sua piattaforma precedente, Vkontakte, una sorta di Facebook nazionale, e per non doverla censurare. A modo suo, Pavel Durov ha esibito dei princìpi etici molto saldi: non collaborare con nessuna autorità, perché chi per un certo governo è un sovversivo per un altro governo è un dissidente, e chi è considerato terrorista da una parte è visto come combattente per la libertà dall’altra.

La seconda ragione è che Telegram, intesa come azienda, si è sempre vantata di rifiutare qualunque collaborazione con le forze di polizia di qualunque paese e di non fare moderazione: nelle pagine del suo sito ha dichiarato che 

“Tutte le chat e i gruppi di Telegram sono territorio privato dei loro rispettivi partecipanti. Non eseguiamo alcuna richiesta relativa ad esse […] Ad oggi, abbiamo divulgato 0 byte di dati a terzi, inclusi i governi […] Mentre blocchiamo bot e canali legati al terrorismo (ad esempio legati all’ISIS), non bloccheremo nessuno che esprime pacificamente altre opinioni.”

Il risultato è che oggi 900 milioni e passa di persone in tutto il mondo si affidano a Telegram per comunicare di tutto, dagli annunci di estorsione informatica ai consigli delle mamme appassionate di rimedi naturali alle malattie, dagli amori clandestini ai film piratati, e di quei 900 milioni e passa circa 10 milioni sono utenti paganti, i cui abbonamenti permettono all’azienda Telegram di operare. Ma a fine agosto per tutte queste persone è arrivato un brusco risveglio.

Prima di tutto, il fermo di Durov ha fatto parlare molto di Telegram anche nei media generalisti, e quindi finalmente molti utenti non esperti sono venuti a conoscenza di un dettaglio tecnico cruciale: le normali chat di Telegram, le sue chat di gruppo e i messaggi diffusi in massa attraverso i suoi canali non sono protetti tramite la crittografia end-to-end, come lo sono invece quelli di WhatsApp o di Signal.

Soltanto le cosiddette chat segrete di Telegram godono di questa protezione, che rende tecnicamente impossibile per il fornitore di un servizio di messaggistica collaborare con le autorità facendo leggere i messaggi dei sospettati. Crittografia end-to-end significa infatti che neppure il fornitore del servizio è in grado di leggere i messaggi scambiati dai suoi utenti e quindi può respingere le richieste di accesso di qualunque autorità semplicemente spiegando che non le può soddisfare per motivi puramente tecnici. Non può fornire i messaggi perché non è in grado di leggerli.

Ma mentre su WhatsApp questa protezione è applicata automaticamente a tutti i messaggi di tutti gli utenti, su Telegram è appunto necessario attivarla manualmente, e comunque la crittografia end-to-end non è disponibile nelle comunicazioni di gruppo ma solo in quelle dirette tra due persone, come spiegato in dettaglio sul sito di Telegram nelle pagine tecniche, quelle che non legge nessuno. E così pochissimi utenti conoscono e usano queste chat segrete.

[oltretutto le chat segrete sono particolarmente difficili da attivare]

In altre parole, il grosso del traffico di messaggi, leciti e illeciti, trasportati da Telegram è leggibile dai tecnici di Telegram, è archiviato sui server dell’azienda e quindi potrebbe essere consegnato alle autorità di qualunque paese, democratico o non democratico. Nessun problema per chi usa Telegram per coordinare le attività di un circolo scacchistico, ma per chiunque usi Telegram per proteggersi da autorità oppressive o per scopi non propriamente legali è uno shock scoprire che quello spazio che riteneva sicuro non lo è affatto.

Va detto che Telegram ha protetto i messaggi dei suoi utenti in altri modi: lo ha fatto tramite la crittografia dei propri server, di cui però ha le chiavi, che quindi gli possono essere chieste dalle autorità; e lo ha fatto distribuendo la propria infrastruttura in vari paesi, per cui i messaggi degli utenti sono sparsi in vari frammenti sotto giurisdizioni molto differenti, che dovrebbero quindi avviare un’azione legale coordinata e congiunta per avere accesso a quei messaggi.

[anche per le chat segrete, comunque, ci sono dubbi tecnici sulla qualità della crittografia di Telegram, che usa una tecnologia “indipendente”, ossia autoprodotta. E resta la questione dei metadati, comunque facilmente accessibili]

Ma il fatto stesso che i messaggi siano in qualche modo accessibili all‘azienda significa che un governo sufficientemente attrezzato, agguerrito e deciso potrebbe effettuare un attacco informatico a Telegram per leggersi quei messaggi. Oppure, più semplicemente, potrebbe trovare metodi non informatici per indurre l’azienda a collaborare. Per esempio, un fermo e un’incriminazione del suo fondatore e amministratore, magari con la scusa della mancata dichiarazione formale di aver importato in Francia un sistema crittografico. Telegram opera anche in Francia da anni, alla luce del sole, per cui è presumibile che le autorità francesi fossero ben consapevoli da tempo di questa mancata dichiarazione prevista dalle leggi nazionali, eppure non hanno mai fatto nulla per contestare l’omissione prima di oggi.

[la normativa francese include la facoltà di chiedere alle aziende di fornire “le caratteristiche tecniche e il codice sorgente dei mezzi crittografici oggetto della dichiarazione”]

E in effetti dopo l’intervento delle autorità francesi su Telegram è cambiato qualcosa di importante.

Intorno al 5 settembre scorso le fiere parole di rifiuto di qualunque collaborazione che ho citato prima sono state riscritte sul sito di Telegram. Adesso Telegram non dice più che “Tutte le chat e i gruppi di Telegram sono territorio privato dei loro rispettivi partecipanti” e che non esegue alcuna richiesta relativa ad esse. Al posto di queste parole c’è l’annuncio che “Tutte le app di Telegram dispongono di pulsanti “Segnala” che consentono di segnalare i contenuti illegali ai nostri moderatori, con pochi tocchi.”

Non è una novità in senso stretto: questa funzione di segnalazione esiste da tempo nell’app. Ma è interessante che sia stata messa in evidenza e che siano scomparse quelle parole sul “territorio privato”, quasi a suggerire un nuovo corso di collaborazione con le autorità.

Durov ha usato parole piuttosto concilianti anche in un suo annuncio personale [https://t.me/durov/342], dicendo che

“l’improvviso aumento del numero di utenti a 950 milioni ha causato dei problemi legati alla crescita che hanno agevolato i criminali nell’abusare della nostra piattaforma […] è mio obiettivo personale assicurarmi che miglioreremo significativamente le cose in questo senso”.

Pavel Durov ha inoltre sottolineato l’impegno di Telegram contro gli abusi sui minori, citando l’apposito canale di Telegram [@StopCA] che indica, giorno per giorno, i numeri dei gruppi e canali banditi in relazione a questi abusi: sono quasi duemila al giorno. Ha dichiarato anche che Telegram rimuove quotidianamente “milioni di post nocivi” e ha “canali diretti di comunicazione con le organizzazioni non governative per gestire più rapidamente le richieste urgenti di moderazione.”

Sembra insomma che Durov voglia lasciarsi alle spalle numeri preoccupanti, come le 2460 richieste della polizia francese a Telegram rimaste senza risposta [Libération, paywall], e una reputazione guadagnata sul campo di non collaborare con le autorità nemmeno quando si tratta di situazioni di crimine indiscusso e non di questioni di libertà di parola.

[In realtà qualche caso di “collaborazione”, o meglio di azione forzata, c’è stato: la EFF nota che Telegram è stata multata dalle autorità tedesche nel 2022 per non aver predisposto un iter legale per la segnalazione di contenuti illegali e per non aver nominato un referente tedesco per la ricezione delle comunicazioni ufficiali e che il Brasile ha multato Telegram nel 2023 per non aver sospeso gli account dei sostenitori dell’ex presidente Bolsonaro]

[Secondo Politico.eu, l’indagine francese che ha portato al fermo di Durov sarebbe iniziata quando un agente sotto copertura ha interagito con una persona sospettata di essere un predatore sessuale su Telegram e questa persona ha poi ammesso di aver violentato una ragazza giovane. Quando le autorità hanno chiesto a Telegram l’identità di questo utente, Telegram si è rifiutata, e così gli inquirenti si sono concentrati sulle persone che gestiscono Telegram]

A questo restyling di Telegram contribuisce anche la rimozione della funzione Persone vicine, annunciata personalmente da Durov [https://t.me/durov/343]. Questa funzione permetteva a un utente di localizzare gli altri utenti di Telegram situati nelle sue vicinanze, con rischi fin troppo evidenti di abusi e di agevolazione dello stalking.

[la funzione era però anche utile per l’OSINT investigativa]

Numerosi criminali online che usano Telegram, intanto, hanno reagito alla situazione chiudendo i propri account sulla piattaforma, un po’ perché temono che i loro dati e quelli della loro clientela possano finire nelle mani delle autorità, e un po’ perché hanno paura che i loro account verranno chiusi, ora che Telegram dice di volersi occupare seriamente della moderazione [404 Media].

La parola chiave di tutta questa vicenda sembra essere moderazione, o meglio, carenza di moderazione dei contenuti diffusi da Telegram, anche dopo che sono stati segnalati, come nota anche l’autorevole Electronic Frontier Foundation riportando una dichiarazione dell’Ofmin, l’ente francese incaricato di investigare sulle minacce alla sicurezza online dei minori, notando che secondo la legge francese consentire la distribuzione di contenuti o servizi illegali di cui si è a conoscenza è un reato.

Gli eventuali cambiamenti concreti di Telegram diverranno visibili nei prossimi mesi, ma il presupposto delle autorità francesi che la mancanza di moderazione dei contenuti illegali segnalati comporti una responsabilità penale del titolare di un sito probabilmente sta facendo venire i brividi ad altri CEO di piattaforme di messaggistica e social network che non hanno la reputazione di essere “paradisi anarchici”, per citare l’espressione usata da Durov, ma se la meriterebbero. Perché anche Instagram, per esempio, ha lo stesso problema di omessa moderazione di contenuti anche dopo che sono stati segnalati.

Lo so perché anch’io, come tanti altri utenti, segnalo spesso gli spezzoni di video pornografici e di abusi su minori inseriti nei reel di Instagram dopo qualche secondo di contenuto non controverso, ma la moderazione di questa piattaforma risponde puntualmente che il video è conforme alle norme della comunità e non lo rimuove. Eppure la violazione delle norme sarebbe assolutamente ben visibile se solo il moderatore, o l’intelligenza artificiale che forse lo ha sostituito, si degnasse di esaminare il video per qualche secondo in più.

[non pubblico esempi per ovvie ragioni, ma se i responsabili di Instagram vogliono sapere i dettagli, ho screenshot e registrazioni dei reel in questione - solo di quelli pornografici, per non detenere materiale illegale, di cui posso comunque fornire i link]

X, quello che una volta era Twitter, è anche peggio, soprattutto per chi è genitore di figli molto giovani che scalpitano per entrare nei social network. La pornografia e la violenza, anche di tipi estremi, sono accessibili su X semplicemente cambiando un’impostazione dell’app, ed è cosi da ben prima della sua acquisizione da parte di Elon Musk; dopo questa acquisizione sono aumentati i contenuti riguardanti odio, discriminazione e razzismo. Segnalarli è inutile, perché la loro presenza è esplicitamente prevista dalle regole di X ed è coperta dalla foglia di fico decisamente troppo corta di un messaggio di avvertimento, facilissimo da eludere, e dall’appoggio esplicito di Musk stesso.

[Le info di X su come segnalare contenuti sono qui; questa è la media policy di X sui contenuti per adulti; questo è il post su X nel quale Musk dice a Taylor Swift che le vuole “dare un figlio”, cosa che persino le Note della Collettività di X considerano una molestia sessuale inaccettabile; queste (Variety) sono le reazioni al post di Musk]

Il segnale mandato dalle autorità francesi è molto forte e a differenza delle segnalazioni degli utenti è difficile da ignorare: i gestori delle grandi piattaforme, se sono avvisati del fatto che ospitano contenuti o comportamenti illegali, non possono far finta di niente solo perché sono straricchi. Hanno delle responsabilità legali e soprattutto sociali, visto il peso che i loro servizi hanno nella formazione delle giovani generazioni e anche di quelle meno giovani.

A questo punto viene da chiedersi se dopo quello che è successo a Pavel Durov, Mark Zuckerberg e Elon Musk abbiano già mandato un breve promemoria ai piloti del loro jet personali: “Evitare Francia”.

Fonti aggiuntive

• Telegram is not an “anarchic paradise,” CEO Pavel Durov says after arrest, Ars Technica
• The French Detention: Why We’re Watching the Telegram Situation Closely, Electronic Frontier Foundation
• Telegram disables ‘misused’ features as CEO faces criminal charges, The Verge
• Telegram CEO breaks silence after arrest, The Verge
• Telegram quietly updates website to allow abuse reports following founder’s arrest, TechCrunch
• Parigi: fermato Pavel Durov, il fondatore di Telegram, Rsi.ch
• Durov says Telegram will tackle criticism of how it moderates content, Swissinfo.ch

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Spotify e feed RSS (Google Podcasts non esiste più, al suo posto c’è YouTube Music).

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

I telefonini ascoltano le nostre conversazioni per bombardarci di pubblicità? La risposta degli esperti è sempre stata un secco “no”, nonostante la montagna di aneddoti e di casi personali raccontati dagli utenti, che dicono in tanti di aver visto sul telefonino la pubblicità di uno specifico prodotto poco dopo aver menzionato ad alta voce il nome o la categoria di quel prodotto.

La tecnologia, però, galoppa, i telefonini diventano sempre più potenti e i pubblicitari diventano sempre più avidi di dati personali per vendere pubblicità sempre più mirate ed efficaci, e quindi oggi quel secco “no” va aggiornato, trasformandolo in un “no, ma…”, perché un’azienda importante è stata colta a proporre ai clienti proprio questo tipo di ascolto delle conversazioni a scopo pubblicitario.

Questa è la storia di quel “no” e soprattutto di quel “ma”. Non è il caso di farsi prendere dal panico, ma è opportuno sapere dove sta andando la tecnologia e quali semplici gesti si possono fare per evitare il rischio di essere ascoltati dai nostri inseparabili smartphone.

Benvenuti alla puntata del 6 settembre 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Se ne parla da anni: moltissime persone sono convinte che i loro smartphone ascoltino costantemente le loro conversazioni e colgano le parole chiave di quello che dicono, selezionando in particolare i termini che possono interessare ai pubblicitari. C’è la diffusissima sensazione che basti parlare di una specifica marca di scarpe o di una località di vacanze, senza cercarla su Internet tramite il telefonino, per veder comparire sullo schermo la pubblicità di quel prodotto o di quel servizio. Praticamente tutti i proprietari di smartphone possono citare casi concreti accaduti a loro personalmente.

Restano inascoltate, invece, le spiegazioni e le indagini fatte dagli esperti in vari paesi del mondo in questi anni. I test e le inchieste della rete televisiva statunitense CBS e della Northeastern University nel 2018, gli esperimenti della BBC insieme alla società di sicurezza informatica Wandera nel 2019, l’inchiesta del Garante italiano per la protezione dei dati personali nel 2021: tutte queste ricerche sul problema non hanno portato a nulla. Non c’è nessuna conferma oggettiva che i telefonini ci ascoltino e mandino ai pubblicitari le nostre parole per impostazione predefinita. Quando si fanno i test in condizioni controllate, il fenomeno sparisce.

Per esempio, nella loro indagine del 2019, la BBC e Wandera hanno messo due telefonini, un Android di Samsung e un iPhone di Apple, in una stanza e per mezz’ora hanno fatto arrivare nella stanza l’audio di pubblicità di cibo per cani e per gatti. Hanno anche piazzato due telefonini identici in una stanza isolata acusticamente. Tutti questi telefoni avevano aperte le app di Facebook, Instagram, SnapChat, YouTube e Amazon, insieme al browser Chrome, e a tutte queste app erano stati dati tutti i permessi richiesti.

I ricercatori hanno successivamente controllato se nelle navigazioni fatte dopo il test con quegli smartphone sono comparse pubblicità di cibi per animali domestici e hanno analizzato il consumo della batteria e la trasmissione di dati durante il test. Hanno ripetuto tutta questa procedura per tre giorni, e il risultato è stato che non sono comparse pubblicità pertinenti sui telefonini esposti agli spot di cibi per animali e non ci sono stati aumenti significativi del consumo di batteria o della trasmissione di dati. I consumi e le trasmissioni di dati sono stati praticamente uguali per i telefoni esposti all’audio pubblicitario e per quelli nella stanza silenziosa.

Se ci fosse un ascolto costante e un’altrettanto costante analisi dell’audio ambientale, questo produrrebbe un aumento dei consumi, perché il processore del telefono lavorerebbe in continuazione, e ci sarebbe un aumento della trasmissione di dati, per inviare le informazioni ascoltate ai pubblicitari. E invece niente. Anzi, i ricercatori hanno osservato che i telefonini Android nella stanza isolata acusticamente trasmettevano più dati rispetto a quelli esposti all’audio preparato per l’esperimento, mentre gli iPhone facevano il contrario.

Altri esperimenti analoghi sono stati fatti negli anni successivi, e tutti hanno dato gli stessi risultati. Il picco di consumo energetico e di trasmissione di dati prodotto dagli assistenti vocali, cioè Siri e OK Google, è sempre emerso chiaramente in questi test. Questi assistenti vocali sono in ascolto costante per impostazione predefinita (anche se si possono disattivare), e questo non è minimamente in dubbio, ma lavorano in maniera molto differente rispetto a un ipotetico ascolto pubblicitario.

Gli assistenti vocali, infatti, ascoltano l’audio ambientale alla ricerca di suoni che somiglino a una o due parole chiave di attivazione – tipicamente “Ehi Siri” e “OK Google” – e quando credono di averle sentite iniziano una vistosissima trasmissione di dati verso le rispettive case produttrici. L’ipotetico ascolto pubblicitario, invece, dovrebbe cercare e riconoscere un insieme di parole molto più vasto e magari anche in più di una lingua, e questo richiederebbe molta più potenza di calcolo e quindi consumi molto più elevati, e poi dovrebbe trasmettere dei dati, cosa che i test finora hanno smentito.

Ma allora perché abbiamo la forte sensazione che i telefonini ci ascoltino lo stesso a scopo pubblicitario? E perché avete probabilmente la sensazione altrettanto forte che alla fine di questo mio racconto ci sia una novità che smentisce tutto quello che si era scoperto fin qui?

La sensazione di ascolto pubblicitario viene spiegata dagli esperti con la cosiddetta “illusione di frequenza”, per usare il termine coniato dal professore di linguistica Arnold Zwicky della Stanford University. In parole povere, tendiamo a notare le coincidenze e a dimenticare le non coincidenze. Nel corso della giornata vediamo moltissime pubblicità, ma ci rimangono impresse solo quelle che coincidono con qualcosa che abbiamo detto o fatto. E quando la coincidenza è particolarmente specifica ci colpisce anche emotivamente.

Va detto che la pubblicità che vediamo sui nostri dispositivi non è affatto casuale, e quindi le coincidenze sono agevolate: Google e Facebook, per esempio, usano un vasto assortimento di tecniche per dedurre i nostri interessi e proporci pubblicità mirata. Sanno dove ci troviamo minuto per minuto, grazie alla geolocalizzazione del GPS e del Wi-Fi; sanno con chi siamo e con chi trascorriamo più tempo, grazie al monitoraggio passivo dei dispositivi Bluetooth nelle nostre vicinanze, all’analisi del traffico di messaggi e al fatto che affidiamo a loro le nostre agende e le nostre rubriche telefoniche; sanno cosa scriviamo nelle mail o rispettivamente sui social network. Con dati del genere, ascoltare le conversazioni è praticamente superfluo. Oltretutto la legalità di un ascolto di questo tipo sarebbe molto controversa, visto che si tratterebbe in sostanza di una intercettazione di massa di conversazioni che si ha il diritto di presumere che siano private.

Va anche detto, però, che non è un mistero che esistano tecnologie di ascolto installabili sugli smartphone. I servizi di sicurezza dei vari governi le usano abitualmente per intercettare le comunicazioni delle persone indagate. Già dieci anni fa, Edward Snowden spiegò che l’NSA aveva accesso diretto ai sistemi di Google, Facebook e Apple nell’ambito di un programma di sorveglianza governativa denominato PRISM [The Guardian, 2013]. Ma si tratta di intercettazioni mirate, specifiche, ordinate da un governo su bersagli selezionati, non di ascolti di massa, collettivi e senza basi legali. In ogni caso, è indubbio che usare uno smartphone come microfono nascosto, a insaputa dell’utente, sia tecnicamente possibile.

Si sa anche di un caso conclamato di ascolto ambientale tramite telefonini a scopo commerciale: nel 2019 l’app ufficiale del campionato spagnolo di calcio, LaLiga, fu colta a usare il microfono e la geolocalizzazione degli smartphone degli utenti per identificare i locali che trasmettevano le partite senza autorizzazione. L’agenzia spagnola per la protezione dei dati impose all’organizzazione sportiva una sanzione di 250.000 euro per questo comportamento. Ma anche in questo caso, si trattava di un ascolto effettuato da una specifica app, installata su scelta dell’utente, con tanto di richiesta esplicita del permesso di usare il microfono del telefono, non di una attivazione collettiva e nascosta dei microfoni di tutti gli smartphone così come escono dalla fabbrica.

Questa storia, però, prosegue a dicembre 2023, quando alcuni giornali segnalano che una società di marketing, la statunitense Cox Media Group, avrebbe “ammesso di monitorare le conversazioni degli utenti per creare annunci pubblicitari personalizzati in base ai loro interessi” [Il Sole 24 Ore, 28 dicembre 2023, paywall].

Sembra essere la conferma che il sentimento popolare era giusto e che gli esperti avevano torto. Ma per capire come stanno realmente le cose bisogna andare un pochino più a fondo.

La scoperta di questa presunta ammissione da parte di Cox Media Group è merito della testata 404 Media, che ha pubblicato lo scoop in un articolo riservato agli abbonati e quindi non immediatamente accessibile [paywall].

Ma pagando l’abbonamento e andando a leggere l’articolo originale, come ho fatto io per questo podcast, emerge che non c’è nessuna ammissione di monitoraggio in corso, ma semplicemente c’è l’annuncio che Cox Media Group dispone della capacità di effettuare un eventuale monitoraggio tramite i microfoni degli smartphone e anche tramite quelli dei televisori smart e di altri dispositivi. Non c’è nessuna dichiarazione che la stia realmente usando.

Anzi, il materiale promozionale di Cox Media Group dice che questa tecnologia, denominata “Active Listening” o “ascolto attivo”, “è agli albori” (“Active Listening is in its early days”), e presenta questa capacità tecnica come “una tecnica di marketing adatta al futuro, disponibile oggi” [“a marketing technique fit for the future. Available today”].

È disponibile, ma questo non vuol dire che venga usata. E i consulenti di vendita dell’azienda la presentano come se fosse un prodotto nuovo in cerca dei primi clienti.

I clienti di Cox Media Group, stando all’azienda, sono nomi come Amazon, Microsoft e Google. Stanno usando questa tecnologia di ascolto? Le risposte che hanno dato ai colleghi di 404 Media a dicembre scorso sembrano dire di no, ma inizialmente è mancata una smentita secca da parte loro. Smentita che è invece arrivata subito, stranamente, da Cox Media Group stessa, che ha dichiarato ai giornalisti di 404 Media che

“non ascolta conversazioni e non ha accesso a nulla più di un insieme di dati fornito da terze parti e anonimizzato, aggregato e completamente cifrato usabile per il piazzamento pubblicitario”

e ha aggiunto che si scusa per “eventuali equivoci”.

Eppure il suo materiale promozionale dice cose decisamente difficili da equivocare. O meglio, le diceva, perché è scomparso dal suo sito.

[È disponibile come copia d’archivio su Archive.org e su Documentcloud.org, e contiene frasi come “No, it’s not a Black Mirror episode - it’s Voice Data” e “Creepy? Sure. Great for marketing? Definitely”].

Ma pochi giorni fa, sempre 404 Media ha reso pubblica una presentazione di Cox Media Group [PDF] nella quale l’azienda parla esplicitamente di “dispositivi smart” che “catturano dati di intenzione in tempo reale ascoltando le nostre conversazioni” (“Smart devices capture real-time intent data by listening to our conversations”), parla di consumatori che “lasciano una scia di dati basata sulle loro conversazioni e sul loro comportamento online” (“Consumers leave a data trail based on their conversations and online behavior”) e parla di “dati vocali” (“voice data”).

Ma allora come stanno le cose? È indubbio, anche grazie alle testimonianze raccolte dai giornalisti di 404 Media, che Cox Media Group abbia cercato di vendere questa sua presunta capacità di ascoltare le nostre conversazioni. Ma l’ha davvero venduta, ed è realmente in uso? Sembra proprio di no.

Anzi, dopo che si è diffusa la notizia di questa sua offerta di tecnologie di ascolto, Google ha tolto Cox Media Group dal programma Google Partners dedicato ai migliori inserzionisti, nel quale la Cox era presente al massimo livello da oltre 11 anni. Amazon ha dichiarato di non aver mai lavorato con la Cox al programma di ascolto. Meta, invece, dice che sta valutando se la Cox abbia violato i termini e le condizioni della loro collaborazione, mentre Microsoft non ha rilasciato commenti.

[Meta ha dichiarato al New York Post che “non usa il microfono del vostro telefono per le pubblicità e lo dichiariamo pubblicamente da anni [...] stiamo cercando di comunicare con CMG per fare in modo che chiariscano che il loro programma non è basato su dati di Meta”. In originale: “Meta does not use your phone’s microphone for ads and we’ve been public about this for years [...] We are reaching out to CMG to get them to clarify that their program is not based on Meta data.”]

Insomma, formalmente intorno a chi ha proposto di ascoltare le nostre conversazioni a scopo pubblicitario è stata fatta terra bruciata, per cui tutta la vicenda sembra più un maldestrissimo tentativo di proporre una tecnologia di ascolto che una conferma di una sua reale applicazione in corso. E la rivelazione di questo tentativo mette in luce la falla non tecnica ma molto umana di qualunque piano di ascolto globale segreto delle conversazioni a scopo pubblicitario: è praticamente impossibile tenere nascosta una tecnologia del genere, che va presentata ai potenziali partner, va pubblicizzata agli addetti ai lavori, ai rivenditori, ai tecnici e a chissà quante altre persone. Il segreto dovrebbe essere condiviso da un numero enorme di persone, e prima o poi qualcuna di queste persone si lascerebbe sfuggire qualcosa oppure, presa da rimorsi di coscienza, vuoterebbe il sacco.

[L’inchiesta di 404 Media sembra essere partita appunto da una vanteria di ascolto pubblicitario fatta in un podcast da un’azienda del New Hampshire, la MindSift]

Anche stavolta, quindi, possiamo stare tranquilli, ma solo grazie al fatto che ci sono giornalisti che vigilano e segnalano i tentativi di invadere uno spazio così personale come quello di una chiacchierata privata tra colleghi, amici o coniugi. Perché un’invasione del genere è illegale e immorale, ma questo non impedirà a persone e aziende senza scrupoli di provarci lo stesso. E se comunque preferite spegnere il telefonino prima di una conversazione sensibile di qualunque tipo, male non fa. Non si sa mai.

Fonti aggiuntive

• Cox Media Group Reveals Its ‘Active Listening’ Software Spies on User Convos, Clients Include Meta, Google (TechTimes.com)
• Marketing firm admits using your own phone to listen in on your conversations (New York Post)
• Attenti al microfono del vostro smartphone: Cox Media Group vi spia per pubblicità mirate (Hwupgrade.it).

Questo articolo è importato dal mio blog precedente Il Disinformatico: l’originale (con i commenti dei lettori) è qui.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

Vi piacciono gli adblocker? Quelle app che bloccano le pubblicità e rendono così fluida e veloce l’esplorazione dei siti Web, senza continue interruzioni? O state pensando di installarne uno perché avete visto che gli altri navigano beatamente senza spot? Beh, se adoperate o state valutando di installare uno degli adblocker più popolari, uBlock Origin, c’è una novità importante che vi riguarda: Google sta per bloccarlo sul proprio browser Chrome. Ma c’è un modo per risolvere il problema.

Ve lo racconto in questa puntata del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica, e vi racconto anche cosa succede realmente con gli iPhone ora che l’App Store di Apple non è più l’unico store per le app per questi telefoni e quindi aziende come Epic Games, quella di Fortnite, sono finalmente libere di offrire i propri prodotti senza dover pagare il 30% di dazio ad Apple, anche se lo sono solo a certe condizioni complicate. Vediamole insieme. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Google sta per bloccare l’adblocker uBlock Origin

La pubblicità nei siti a volte è talmente invadente, specialmente sugli schermi relativamente piccoli degli smartphone, che diventa impossibile leggere i contenuti perché sono completamente coperti da banner, pop-up e tutte le altre forme di interruzione inventate in questi anni dai pubblicitari. Molti utenti si difendono da quest’invasione di réclame adottando una misura drastica: un adblocker, ossia un’app che si aggiunge al proprio browser sul computer, sul tablet o sul telefono e blocca le pubblicità.

Uno degli adblocker più popolari, con decine di milioni di utenti, è uBlock Origin, un’app gratuita disponibile per tutti i principali browser, come per esempio Edge, Firefox, Chrome, Opera e Safari. È scaricabile presso Ublockorigin.com ed è manutenuto ormai da un decennio dal suo creatore, Raymond Hill, che non solo offre gratuitamente questo software ma rifiuta esplicitamente qualunque donazione o sponsorizzazione. Questa sua fiera indipendenza, rimasta intatta mentre altri adblocker sono scesi a compromessi lasciando passare le “pubblicità amiche”, lo ha fatto diventare estremamente popolare.

Ovviamente i pubblicitari, e i siti che si mantengono tramite le pubblicità, non vedono di buon occhio questo successo degli adblocker, e quindi c’è una rincorsa tecnologica continua fra chi crea pubblicità che eludono gli ablocker in modi sempre nuovi e chi crea adblocker che cercano di bloccare anche quei nuovi modi.

Anche Google vive di pubblicità, e quindi in questa rincorsa non è affatto neutrale: se le pubblicità che Google vende non vengono viste dagli utenti, gli incassi calano. E infatti il suo browser Chrome, uno dei più usati al mondo, sta per bloccare l’adblocker uBlock Origin. I trentacinque milioni di utenti che lo adoperano su Chrome, stando perlomeno ai dati presenti sulla sua pagina nel Chrome Web Store [screenshot qui sotto], si troveranno quindi presto orfani, perché è in arrivo un aggiornamento importante della tecnologia di supporto alle estensioni in Chrome, fatto formalmente per aumentarne la sicurezza, l’efficienza e la conformità agli standard, ma questo aggiornamento ha anche un effetto collaterale non trascurabile: renderà uBlock Origin incompatibile con le prossime versioni di Chrome.

Niente panico: al momento attuale uBlock Origin funziona ancora su Chrome, ma nelle prossime versioni del browser di Google verrà disabilitato automaticamente. Per un certo periodo, gli utenti avranno la possibilità di riattivarlo manualmente, ma poi sparirà anche questa opzione.

uBlock Origin continuerà a funzionare sugli altri browser, per cui un primo rimedio al problema per i suoi milioni di utenti è cambiare browser, passando per esempio a Firefox. Ma questo non è facile per gli utenti poco esperti e rischia di introdurre incompatibilità e disagi, perché la popolarità di Chrome spinge i creatori dei siti a realizzare siti Web che funzionano bene soltanto con Chrome, in una ripetizione distorta della celebre guerra dei browser che aveva visto protagonista Internet Explorer di Microsoft contro Netscape alla fine degli anni Novanta.

Raymond Hill, il creatore di uBlock Origin, non è rimasto con le mani in mano. Vista la tempesta in arrivo, ha già creato e reso disponibile, sempre gratuitamente, un nuovo adblocker che è compatibile con le prossime versioni di Google Chrome. Si chiama uBlock Origin Lite, ed è già disponibile sul Chrome Web Store. Trovate i link per scaricarlo su Disinformatico.info. Per ragioni tecniche non è potente ed efficace come il suo predecessore, per cui Raymond Hill non lo propone come aggiornamento automatico ma lo raccomanda come alternativa.

Se siete affezionati alla navigazione senza pubblicità grazie a uBlock Origin, insomma, avete due possibilità: cambiare browser oppure passare alla versione Lite di uBlock Origin, che è già stata installata in questo momento da circa trecentomila utenti.

In tutto questo non va dimenticato che molti dei siti e dei servizi più usati di Internet si mantengono grazie ai ricavi pubblicitari che gli adblocker impediscono, per cui se usate un adblocker di qualunque tipo vale la pena di dedicare qualche minuto ad autorizzare le pubblicità dei siti che vi piacciono e che volete sostenere, lasciando bloccati tutti gli altri, anche come misura di difesa contro i siti di fake news nei quali è facile incappare e che si mantengono con la pubblicità, per cui a loro non interessa che crediate o meno a quello che scrivono: l’importante per loro è che vediate le loro inserzioni pubblicitarie. Ed è così che paradossalmente gli adblocker diventano uno strumento contro la disinformazione e i truffatori.

Fonti aggiuntive: PC World, WindowsCentral.

iPhone, arrivano gli app store alternativi. Ma solo in UE

Da quando è arrivato l’iPhone, una delle sue caratteristiche centrali è stata quella di avere un unico fornitore di app, cioè l’App Store della stessa Apple. Sugli smartphone delle altre marche, con altri sistemi operativi come per esempio Android, l’utente è sempre stato libero di procurarsi e installare app di qualunque provenienza con poche semplici operazioni, mentre Apple ha scelto la via del monopolio, aggirabile solo con procedure decisamente troppo complicate per l’utente medio.

Oggi, dopo sedici anni dal suo debutto nel 2008, l’App Store di Apple non è più l’unica fonte di app disponibile agli utenti degli smartphone di questa marca: debuttano infatti gli app store alternativi per gli iPhone. Ma solo per chi si trova nell’Unione Europea. Una volta tanto, una novità arriva prima in Europa che negli Stati Uniti, ma non scalpitate, le cose non sono così semplici come possono sembrare a prima vista.

La novità è merito delle norme europee sulla concorrenza, specificamente del Digital Markets Act o DMA, e delle azioni legali avviate da aziende come Spotify, Airbnb e in particolare Epic Games, la casa produttrice di Fortnite, aziende che contestavano non solo il regime di sostanziale monopolio ma anche il fatto che Apple, come Google, chiede il 30% dei ricavi delle app: una percentuale ritenuta troppo esosa da molti sviluppatori di app.

A questi costi si aggiungeva il fatto che alcuni tipi di app non erano disponibili nell’App Store di Apple per scelta politica, per esempio su pressioni di governi come quello cinese, indiano o russo, oppure per decisione spesso arbitraria di Apple, come per esempio nel caso degli emulatori di altri sistemi operativi (come il DOS) [The Verge], o nel caso dei browser alternativi (ammessi solo se usano lo stesso motore interno WebKit di Safari [The Verge]), oppure dei contenuti anche solo vagamente relativi alla sessualità, come nella vicenda emblematica dell’app che offriva un adattamento a fumetti dell’Ulisse di Joyce, che era stata respinta per aver osato mostrare dei genitali maschili appena accennati da un tratto di matita.

Apple ha giustificato finora queste restrizioni parlando di esigenze di qualità e di sicurezza, e in effetti i casi di app pericolose giunte nel suo App Store sono limitatissimi rispetto al fiume di malware e di spyware che si incontra facilmente su Google Play per il mondo Android, ma non sempre queste giustificazioni sono state documentate; l’argomentazione generale di Apple è stata che solo Apple era in grado di fornire una user experience buona, sicura e felice. In ogni caso, che ad Apple piaccia o no, l’Unione Europea ha disposto che gli utenti di iPhone e iPad abbiano la facoltà di procurarsi app anche attraverso app store alternativi.

E così oggi un utente Apple che si trovi in Unione Europea può rivolgersi ad app store come AltStore, Setapp, Epic Games, Aptoide e altri, trovandovi app che non esistono nello store di Apple, soprattutto nel settore dei giochi e degli emulatori.

Ma la procedura non è affatto semplice. Mentre per usare l’App Store di Apple l’utente non deve fare nulla, per usare gli store alternativi deve trovarsi materialmente nel territorio dell’Unione Europea, e quindi per esempio la Svizzera e il Regno Unito sono esclusi; deve impostare il paese o l’area geografica del proprio ID Apple su uno dei paesi o delle aree geografiche dell’Unione Europea, e deve aver installato iOS 17.4 o versioni successive. E una volta fatto tutto questo, deve poi andare al sito dello store alternativo ed eseguire tutta una serie di operazioni prima di poter arrivare finalmente alle app vere e proprie. La cosa è talmente complessa che Epic Games ha addirittura pubblicato su YouTube un video che spiega la procedura.

La faccenda si complica ulteriormente se per caso l’utente esce per qualunque motivo dall’Unione Europea: gli aggiornamenti delle app degli store alternativi saranno ammessi solo per 30 giorni, e ci sono anche altre limitazioni, elencate in un tediosissimo documento pubblicato da Apple che trovate linkato su Disinformatico.info.

[il documento di Apple elenca in dettaglio i paesi e le aree geografiche compatibili: Austria, Belgio, Bulgaria, Croazia, Cipro, Repubblica Ceca, Danimarca, Estonia, Finlandia (incluse Isole Åland), Francia (incluse Guyana francese, Guadalupa, Martinica, Mayotte, Reunion, Saint Martin), Germania, Grecia, Ungheria, Irlanda, Italia, Lettonia, Lituania, Lussemburgo, Malta, Paesi Bassi, Polonia, Portogallo (incluse Azzorre), Madeira, Romania, Slovacchia, Slovenia, Spagna (incluse Isole Canarie), Svezia]

All’atto pratico, è difficile che questa apertura forzata e controvoglia dell’App Store interessi a chi non è particolarmente esperto o appassionato, ma perlomeno stabilisce il principio che a differenza di quello che avviene altrove, nell’Unione Europea le grandi aziende del software non sono sempre in grado di fare il bello e il cattivo tempo.

Fonti aggiuntive: TechCrunch, IGN, The Verge, TechCrunch

Questo articolo è importato dal mio blog precedente Il Disinformatico: l’originale (con i commenti dei lettori) è qui.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

Benvenuti alla puntata del 16 agosto 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo, e questa settimana vi porto due storie, e due notizie, che sembrano scollegate e appartenenti a due mondi molto distanti, ma hanno in realtà in comune un aspetto molto importante.

La prima storia riguarda una delle più pubblicizzate influencer virtuali, Emily Pellegrini, annunciata dai giornali di mezzo mondo come un trionfo dell’intelligenza artificiale, così attraente e realistica che viene contattata da celebri calciatori che la vogliono incontrare a cena e da ricchi imprenditori che le offrono vacanze di lusso pur di conoscerla, credendo che sia una persona reale, e accumula centinaia di migliaia di follower su Instagram. Ma oggi tutte le immagini che l’avevano resa celebre sui social sono scomparse.

La seconda storia riguarda invece una truffa da 25 milioni di dollari ai danni di una multinazionale, messa a segno tramite una videoconferenza in cui il direttore finanziario sarebbe stato simulato dai criminali, in voce e in video e in tempo reale, usando anche qui l’intelligenza artificiale così bene da ingannare persino i suoi stessi dipendenti.

Ma non è l’intelligenza artificiale l’aspetto che accomuna queste storie. È qualcosa di ben poco artificiale e purtroppo molto umano.

[SIGLA di apertura]

Siamo a fine settembre del 2023. Un’eternità di tempo fa, per i ritmi dello sviluppo frenetico dell’intelligenza artificiale. Su un sito per adulti, Fanvue, e su Instagram iniziano a comparire le foto sexy di Emily Pellegrini [instagram.com/emilypellegrini], una modella di 23 anni che vive a Los Angeles e fa l’influencer. Ma si tratta di una influencer particolare, perché è generata con l’intelligenza artificiale, anche se nelle foto che pubblica sembra una persona in carne e ossa.

Sei settimane dopo, l’11 novembre, Emily Pellegrini ha già 81.000 follower su Instagram [New York Post]. Ai primi di gennaio ne ha 175.000 [Corriere del Ticino], a metà gennaio sono già 240.000 [NZZ], e ne parlano i media di tutto il mondo [Daily Mail, ripetutamente; Fortune, Dagospia, Repubblica, Stern, Welt.de, Radio Sampaio], dicendo che il suo aspetto procace e fotorealistico ha tratto in inganno molti uomini “ricchi, potenti e di successo”, dice per esempio il Daily Mail britannico, aggiungendo che su Instagram la contattano “persone veramente famose, come calciatori, miliardari, campioni di arti marziali miste e tennisti” che “credono che sia reale” e “la invitano a Dubai per incontrarla e mangiare nei migliori ristoranti”. Una delle celebrità sedotte da Emily Pellegrini, scrive sempre il Daily Mail, è un imprecisato conoscente di Cristiano Ronaldo; un altro è una star del calcio tedesco di cui non viene fatto il nome.

Moltissime testate in tutto il mondo riportano fedelmente questi dettagli e non perdono l’occasione di pubblicare molte foto delle grazie abbondanti dell’influencer virtuale, ma c’è un piccolo problema: tutte queste presunte conquiste di Emily Pellegrini sono riferite da una sola fonte, il suo creatore, che fra l’altro vuole restare anonimo, e sono descritte in modo estremamente vago: nessun nome, ma solo frasi come “uno dei volti famosi, di cui non viene fatto il nome e che l’ha contattata, a quanto pare conosce Cristiano Ronaldo” [“One unnamed famous face who contact [sic] her allegedly knew Cristiano Ronaldo, the creator claimed”]. 

Che senso ha precisare che questo anonimo fan conosce Cristiano Ronaldo? Non fornisce nessuna informazione reale. Però permette di citare un nome famoso e associarlo a questa influencer per farla brillare di luce riflessa nella mente del lettore, che magari è distratto perché l’occhio gli sta cadendo altrove.

Questo espediente autopromozionale funziona, perché Emily Pellegrini viene citata dai media di mezzo pianeta come l’influencer che “fa innamorare i vip”, come titola Il Mattino, o “ha fatto innamorare calciatori e vip di tutto il mondo”, come scrive Repubblica, per citare giusto qualche esempio italofono. Ma di questo innamoramento collettivo non c’è la minima conferma. Ci sono solo le dichiarazioni straordinariamente vaghe del suo creatore senza nome.

Questo anonimo creatore della influencer virtuale racconta anche di aver “lavorato 14-16 ore al giorno” per riuscire a creare il volto, il corpo e i video di Emily Pellegrini con l’intelligenza artificiale. Ma anche qui qualcosa non quadra, perché a fine gennaio 2024 emerge un dato: alcune delle immagini di Emily Pellegrini, soprattutto quelle più realistiche, sono realistiche non per qualche rara maestria nell’uso dei software di intelligenza artificiale, ma perché sono semplicemente foto e video di donne reali, come per esempio quelle della modella Ella Cervetto (www.instagram.com/ellacervetto/), sfruttate senza il loro consenso [Radio France; Abc.net.au, con esempi; Fanpage.it], sostituendo digitalmente il loro volto con un volto sintetico e tenendo tutto il resto del corpo intatto. In altre parole, un banale deepfake come tanti, fatto oltretutto a scrocco.

Le pose e le movenze così realistiche di Emily Pellegrini non sono generate dal software: sono prese di peso dai video reali di modelle reali. Una chiara violazione del copyright e uno sfruttamento spudorato del lavoro altrui.

Oggi il profilo Instagram di Emily Pellegrini [www.instagram.com/emilypellegrini] è praticamente vuoto. Tutte le foto sono scomparse. Restano solo 12 post, nei quali un uomo che si fa chiamare “Professor Ep” e dice di essere il creatore della modella virtuale – che in realtà tanto virtuale non era – propone un corso, naturalmente a pagamento, per insegnare agli altri a fare soldi creando modelle virtuali. Nessun accenno al fatto che l’insegnante ha usato i video e la fatica degli altri e ha adoperato  solo in parte l’intelligenza artificiale per guadagnare, dice lui, oltre un milione di dollari.

Fra l’altro, il corso del sedicente professore, che costava inizialmente mille dollari, ora è svenduto a circa duecento.

Lasciando da parte un momento i ragionevoli dubbi sull’etica e la competenza dimostrate fin qui dal Professor Ep, se per caso state pensando di lanciarvi anche voi nel settore immaginando di fare soldi facilmente in questa versione 2024 della febbre per il mining domestico delle criptovalute, beh, pensateci due volte.

I dati indicano infatti che fare soldi esclusivamente generando immagini di modelle virtuali è cosa assai rara. Ci sono alcune superstar del settore che guadagnano discretamente, ma il grosso degli aspiranti creatori e delle aspiranti creatrici fa la fame. Il mercato è saturo di gente che ci sta provando e fallendo.

Grazie ad alcune persone esperte del settore, ho constatato di persona che su piattaforme che promettono grandi guadagni tramite la vendita di immagini generate con l’intelligenza artificiale, come la piattaforma usata dal creatore di Emily Pellegrini, è sufficiente incassare trecento dollari nell’arco di un mese per trovarsi nel discutibile Olimpo del settore, ossia nella fascia del 10% dei creatori che guadagnano di più. Il restante 90%, in altre parole, guadagna di meno.

Molte influencer virtuali che nei mesi scorsi erano state segnalate dai media come le avanguardie emergenti di un nuovo fenomeno oggi non rendono visibile il numero dei like o dei follower, o addirittura questi dati vengono nascosti dalla piattaforma stessa, per non far vedere che non le sta seguendo praticamente nessuno e che i guadagni promessi sono solo un miraggio per molti.

Quelli che guadagnano davvero, invece, sono i fornitori dei servizi e dell’hardware necessario per generare queste immagini sintetiche, proprio come è avvenuto per le criptovalute. Quando si scatena una corsa all’oro, conviene sempre essere venditori di picconi.

Fonti aggiuntive e ulteriori dettagli:

• Celebrities And Millionaires Fall For Instagram Model Created By AI, Send Her Flirty Texts, BoredPanda.com (con citazione di un comunicato stampa di Fanvue che parla degli incassi: “A press release from Fanvue, a subscription social platform, said in an official statement: “The stunner, who shares her content with fans on content creator platform, Fanvue, has become an overnight sensation with her perfect smile and envious figure, earning nearly $10,000 in just six weeks on the content creator platform.”)
• ‘AI pimps’ and their fake influencers are mass-harvesting women’s videos to peddle porn, Abc.net.au (include servizio TV di 9 minuti e video di confronto del furto di foto e video ai danni di Ella Cervetto e altre modelle, non solo da parte del creatore di Emily Pellegrini)
• AI influencers are making their secretive creators tens of thousands of dollars a month—now an OnlyFans rival is betting on the lucrative virtual girlfriends, Fortune.com (“Last November, the amount of money generated on Fanvue from AI models doubled from the month before. AI creators accounted for 15% of Fanvue’s total revenues that month. One of the biggest drivers of that increase was Emily Pellegrini, a 23-year-old influencer who posts adult content to her subscribers using deepfake technology. Fanvue says Pellegrini, one of the most popular AI models on its site, generated $23,000 in revenue in January, up from $6,000 in October”; cita anche Aitana Lopez e le relazioni parasociali)
• No, this AI model isn’t making €10,000 a month as a model: how an upstart conned dozens of gullible journalists, Medium.com (debunking dei presunti guadagni di Aitana Lopez e analisi di come la pseudonotizia del suo successo è diventata virale)

La seconda storia di questo podcast arriva da Hong Kong. Siamo a febbraio del 2024, e scoppia la notizia di una truffa da 25 milioni di dollari ai danni di una multinazionale, effettuata con la tecnica del deepfake, la stessa usata nella storia precedente con altri scopi.

Un operatore finanziario che lavora a Hong Kong si sarebbe fatto sottrarre questa ragguardevolissima cifra perché dei truffatori avrebbero creato una versione sintetica del suo direttore finanziario, che stava a Londra, e l’avrebbero usata per impersonare questo direttore durante una videoconferenza di gruppo, nella quale anche gli altri partecipanti, colleghi dell’operatore, sarebbero stati simulati sempre con l’intelligenza artificiale, perlomeno stando alle dichiarazioni attribuite alla polizia di Hong Kong [Rthk.hk, con video del portavoce della polizia, Baron Chan; The Register].

Dato che tutti i partecipanti alla videochiamata sembravano reali e avevano le sembianze di colleghi, quando l’operatore ha ricevuto l’ordine di effettuare quindici transazioni verso cinque conti bancari locali, per un totale appunto di 25 milioni di dollari, ha eseguito le istruzioni, e i soldi hanno preso il volo.

L’ipotesi che viene fatta dalla polizia è che i truffatori abbiano scaricato dei video dei vari colleghi e li abbiano usati per addestrare un’intelligenza artificiale ad aggiungere ai video una voce sintetica ma credibile. Il malcapitato operatore si sarebbe accorto del raggiro solo quando ha chiamato la sede centrale dell’azienda per un controllo.

La notizia viene accolta con un certo scetticismo da molti addetti alla sicurezza informatica. Già simulare un singolo volto e una singola voce in maniera perfettamente realistica è piuttosto impegnativo, figuriamoci simularne due, tre o più contemporaneamente. La potenza di calcolo necessaria sarebbe formidabile. Non c’è per caso qualche altra spiegazione a quello che è successo?

[The Standard presenta una ricostruzione un po’ diversa degli eventi: solo il direttore finanziario sarebbe stato simulato e gli altri quattro o sei partecipanti sarebbero stati reali. “An employee of a multinational company received a message from the scammer, who claimed to be the “Chief Financial Officer” of the London head office, asking to join an encrypted virtual meeting with four to six staffers. The victim recalled that the “CFO” spent most of the time giving investment instructions, asking him to transfer funds to different accounts, and ending the meeting in a hurry. He found that he was cheated after he made 15 transactions totaling HK$200 million to five local accounts within a week and reported to the police. It was discovered that the speech of the “CFO” was only a virtual video generated by the scammer through deepfake. Police said other employees of the same company were also instructed to attend the meeting.”]

Otto mesi dopo, cioè pochi giorni fa, un esperto di sicurezza, Brandon Kovacs, affascinato da quella truffa milionaria, ha dimostrato alla conferenza di hacking DEF CON che in realtà una videoconferenza nella quale tutti i partecipanti, tranne la vittima, sono in realtà delle simulazioni indistinguibili dagli originaliè fattibile, ed è fattibile con apparecchiature piuttosto modeste e sicuramente alla portata economica di una banda di criminali che spera in un bottino di svariati milioni di dollari.

La parte più impegnativa di quest’impresa è procurarsi delle riprese video delle persone da simulare. Queste registrazioni servono per addestrare un’intelligenza artificiale su misura a generare un deepfake in tempo reale della persona specifica. Ma oggigiorno praticamente chiunque lavori in un’azienda ha ore e ore di riprese video che lo riguardano nel contesto ideale per addestrare un’intelligenza artificiale: le registrazioni delle videoconferenze di lavoro alle quali ha partecipato.

Kovacs ha messo alla prova quest’ipotesi: è possibile creare un clone video di qualcuno usando solo informazioni pubblicamente disponibili e software a sorgente aperto, cioè open source?

La risposta è sì: insieme a una collega, Alethe Denis, di cui aveva le registrazioni pubblicamente disponibili delle sue interviste, podcast e relazioni a conferenze pubbliche, ha addestrato un’intelligenza artificiale e si è procurato una fotocamera digitale reflex professionale, delle luci, una parrucca somigliante ai capelli della collega, un telo verde e del software, e ha usato il deepfake generato in tempo reale come segnale di ingresso del microfono e della telecamera per una sessione di Microsoft Teams, nella quale ha parlato con i figli della collega, spacciandosi per lei in voce e in video in diretta. I figli ci sono cascati completamente, e se un figlio non si accorge che sua mamma non è sua mamma, vuol dire che l’inganno è più che adeguato.

Creare un deepfake del genere, insomma, non è più un’impresa: il sito tecnico The Register nota che un software come DeepFaceLab, che permette di addestrare un modello per creare un deepfake di una persona specifica, è disponibile gratuitamente. Anche il software per l’addestramento della voce esiste in forma open source e gratuita: è il caso per esempio di RVC. E la scheda grafica sufficientemente potente da generare le immagini del volto simulato in tempo reale costa circa 1600 dollari.

In pratica, Kovacs ha creato un kit per deepfake pronto per l’uso [mini-demo su LinkedIn]. Un kit del genere moltiplicato per il numero dei partecipanti a una videoconferenza non è a buon mercato per noi comuni mortali, ma è sicuramente una spesa abbordabile per un gruppo di criminali se la speranza è usarlo per intascare illecitamente 25 milioni di dollari. E quindi l’ipotesi della polizia di Hong Kong è plausibile.

Non ci resta che seguire i consigli di questa stessa forza di polizia per prevenire questo nuovo tipo di attacco:

• primo, avvisare che esiste, perché molti utenti non immaginano nemmeno che sia possibile;
• secondo, non pensare che il numero dei partecipanti renda particolarmente difficile questo reato;
• e terzo, abituare e abituarsi a confermare sempre le identità delle persone che vediamo in video facendo loro delle domande di cui solo loro possono sapere la risposta.

E così la demolizione della realtà fatta dall’intelligenza artificiale prosegue inesorabile in entrambe queste storie: non possiamo più fidarci di nessuna immagine, né fissa né in movimento, ma possiamo fare affidamento su una costante umana che non varia nel tempo: la capacità e la passione universale di trovare il modo di usare qualunque tecnologia per imbrogliare il prossimo.

Fonte aggiuntiva: Lights, camera, AI! Real-time deepfakes coming to DEF CON, The Register.