Vai al contenuto

*Podcast RSI – Gli smartphone ci ascoltano? No, ma…

logo del Disinformatico

È disponibile subito il podcast di oggi de
Il Disinformatico
della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto:
lo trovate
qui sul sito della RSI
(si apre in una finestra/scheda separata) e lo potete scaricare
qui.

Le puntate del Disinformatico sono ascoltabili anche tramite
iTunes, Spotify
e
feed RSS (Google Podcasts non esiste più, al suo posto c’è YouTube Music). 

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle
fonti di questa puntata, sono qui sotto.

—

I telefonini ascoltano le nostre conversazioni per bombardarci di pubblicità?
La risposta degli esperti è sempre stata un secco “no”, nonostante la
montagna di aneddoti e di casi personali raccontati dagli utenti, che dicono
in tanti di aver visto sul telefonino la pubblicità di uno specifico prodotto
poco dopo aver menzionato ad alta voce il nome o la categoria di quel
prodotto.

La tecnologia, però, galoppa, i telefonini diventano sempre più potenti e i
pubblicitari diventano sempre più avidi di dati personali per vendere
pubblicità sempre più mirate ed efficaci, e quindi oggi quel secco
“no” va aggiornato, trasformandolo in un “no, ma…”,
perché un’azienda importante è stata colta a proporre ai clienti proprio
questo tipo di ascolto delle conversazioni a scopo pubblicitario.

Questa è la storia di quel “no” e soprattutto di quel “ma”. Non
è il caso di farsi prendere dal panico, ma è opportuno sapere dove sta andando
la tecnologia e quali semplici gesti si possono fare per evitare il rischio di
essere ascoltati dai nostri inseparabili smartphone.

Benvenuti alla puntata del 6 settembre 2024 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

—

Se ne parla da anni: moltissime persone sono convinte che i loro smartphone
ascoltino costantemente le loro conversazioni e colgano le parole chiave di
quello che dicono, selezionando in particolare i termini che possono
interessare ai pubblicitari. C’è la diffusissima sensazione che basti
parlare
di una specifica marca di scarpe o di una località di vacanze, senza cercarla
su Internet tramite il telefonino, per veder comparire sullo schermo la
pubblicità di quel prodotto o di quel servizio. Praticamente tutti i
proprietari di smartphone possono citare casi concreti accaduti a loro
personalmente.

Restano inascoltate, invece, le spiegazioni e le indagini fatte dagli esperti
in vari paesi del mondo in questi anni. I test e le inchieste della rete televisiva statunitense CBS e della Northeastern University nel 2018, gli
esperimenti della BBC insieme alla società di sicurezza informatica Wandera
nel 2019, l’inchiesta del Garante italiano per la protezione dei dati
personali nel 2021: tutte queste ricerche sul problema non hanno portato a
nulla. Non c’è nessuna conferma oggettiva che i telefonini ci ascoltino e
mandino ai pubblicitari le nostre parole per impostazione predefinita. Quando
si fanno i test in condizioni controllate, il fenomeno sparisce.

Per esempio, nella loro
indagine del 2019,
la BBC e Wandera hanno messo due telefonini, un Android di Samsung e un iPhone
di Apple, in una stanza e per mezz’ora hanno fatto arrivare nella stanza
l’audio di pubblicità di cibo per cani e per gatti. Hanno anche piazzato due
telefonini identici in una stanza isolata acusticamente. Tutti questi telefoni
avevano aperte le app di Facebook, Instagram, SnapChat, YouTube e Amazon,
insieme al browser Chrome, e a tutte queste app erano stati dati tutti i
permessi richiesti.

I ricercatori hanno successivamente controllato se nelle navigazioni fatte
dopo il test con quegli smartphone sono comparse pubblicità di cibi per
animali domestici e hanno analizzato il consumo della batteria e la
trasmissione di dati durante il test. Hanno ripetuto tutta questa procedura
per tre giorni, e il risultato è stato che non sono comparse pubblicità
pertinenti sui telefonini esposti agli spot di cibi per animali e non ci sono
stati aumenti significativi del consumo di batteria o della trasmissione di
dati. I consumi e le trasmissioni di dati sono stati praticamente uguali per i
telefoni esposti all’audio pubblicitario e per quelli nella stanza silenziosa.

Se ci fosse un ascolto costante e un’altrettanto costante analisi dell’audio
ambientale, questo produrrebbe un aumento dei consumi, perché il processore
del telefono lavorerebbe in continuazione, e ci sarebbe un aumento della
trasmissione di dati, per inviare le informazioni ascoltate ai pubblicitari. E
invece niente. Anzi, i ricercatori hanno osservato che i telefonini Android
nella stanza isolata acusticamente trasmettevano più dati rispetto a
quelli esposti all’audio preparato per l’esperimento, mentre gli iPhone
facevano il contrario.

Altri esperimenti analoghi sono stati fatti negli anni successivi, e tutti
hanno dato gli stessi risultati. Il picco di consumo energetico e di
trasmissione di dati prodotto dagli assistenti vocali, cioè Siri e OK Google,
è sempre emerso chiaramente in questi test. Questi assistenti vocali sono in
ascolto costante per impostazione predefinita (anche se si possono
disattivare), e questo non è minimamente in dubbio, ma lavorano in maniera
molto differente rispetto a un ipotetico ascolto pubblicitario.

Gli assistenti vocali, infatti, ascoltano l’audio ambientale alla ricerca di
suoni che somiglino a una o due parole chiave di attivazione – tipicamente
“Ehi Siri” e “OK Google” – e quando credono di averle sentite iniziano una
vistosissima trasmissione di dati verso le rispettive case produttrici.
L’ipotetico ascolto pubblicitario, invece, dovrebbe cercare e riconoscere un
insieme di parole molto più vasto e magari anche in più di una lingua, e
questo richiederebbe molta più potenza di calcolo e quindi consumi molto più
elevati, e poi dovrebbe trasmettere dei dati, cosa che i test finora hanno
smentito.

Ma allora perché abbiamo la forte sensazione che i telefonini ci ascoltino lo
stesso a scopo pubblicitario? E perché avete probabilmente la sensazione
altrettanto forte che alla fine di questo mio racconto ci sia una novità che
smentisce tutto quello che si era scoperto fin qui?

—

La sensazione di ascolto pubblicitario viene spiegata dagli esperti con la
cosiddetta “illusione di frequenza”, per usare il termine coniato dal
professore di linguistica Arnold Zwicky della Stanford University. In parole
povere, tendiamo a
notare le coincidenze
e a dimenticare le non coincidenze. Nel corso della giornata vediamo
moltissime pubblicità, ma ci rimangono impresse solo quelle che coincidono con
qualcosa che abbiamo detto o fatto. E quando la coincidenza è particolarmente
specifica ci colpisce anche emotivamente.

Va detto che la pubblicità che vediamo sui nostri dispositivi non è affatto
casuale, e quindi le coincidenze sono agevolate: Google e Facebook, per
esempio, usano un vasto assortimento di tecniche per dedurre i nostri
interessi e proporci pubblicità mirata. Sanno dove ci troviamo minuto per
minuto, grazie alla geolocalizzazione del GPS e del Wi-Fi; sanno con chi siamo
e con chi trascorriamo più tempo, grazie al monitoraggio passivo dei
dispositivi Bluetooth nelle nostre vicinanze, all’analisi del traffico di
messaggi e al fatto che affidiamo a loro le nostre agende e le nostre rubriche
telefoniche; sanno cosa scriviamo nelle mail o rispettivamente sui social
network. Con dati del genere, ascoltare le conversazioni è praticamente
superfluo. Oltretutto la legalità di un ascolto di questo tipo sarebbe molto
controversa, visto che si tratterebbe in sostanza di una intercettazione di
massa di conversazioni che si ha il diritto di presumere che siano private.

Va anche detto, però, che non è un mistero che esistano tecnologie di ascolto
installabili sugli smartphone. I servizi di sicurezza dei vari governi le
usano abitualmente per intercettare le comunicazioni delle persone indagate.
Già dieci anni fa, Edward Snowden spiegò che l’NSA aveva accesso diretto ai
sistemi di Google, Facebook e Apple nell’ambito di un programma di
sorveglianza governativa denominato PRISM [The Guardian, 2013]. Ma si tratta di intercettazioni mirate, specifiche, ordinate
da un governo su bersagli selezionati, non di ascolti di massa, collettivi e
senza basi legali. In ogni caso, è indubbio che usare uno smartphone come
microfono nascosto, a insaputa dell’utente, sia tecnicamente possibile.

Si sa anche di un caso conclamato di ascolto ambientale tramite telefonini a
scopo commerciale: nel 2019 l’app ufficiale del campionato spagnolo di calcio,
LaLiga, fu colta a usare il microfono e la geolocalizzazione degli smartphone degli utenti per identificare i locali che trasmettevano le partite senza autorizzazione. L’agenzia spagnola per la protezione dei dati impose
all’organizzazione sportiva una sanzione di 250.000 euro per questo
comportamento. Ma anche in questo caso, si trattava di un ascolto effettuato
da una specifica app, installata su scelta dell’utente, con tanto di richiesta
esplicita del permesso di usare il microfono del telefono, non di una
attivazione collettiva e nascosta dei microfoni di tutti gli smartphone così
come escono dalla fabbrica.

Questa storia, però, prosegue a dicembre 2023, quando alcuni giornali
segnalano che una società di marketing, la statunitense Cox Media Group,
avrebbe
“ammesso di monitorare le conversazioni degli utenti per creare annunci
pubblicitari personalizzati in base ai loro interessi” [Il Sole 24 Ore, 28 dicembre 2023, paywall].

Sembra essere la conferma che il sentimento popolare era giusto e che gli
esperti avevano torto. Ma per capire come stanno realmente le cose bisogna
andare un pochino più a fondo.

—

La scoperta di questa presunta ammissione da parte di Cox Media Group è merito
della testata 404 Media, che ha pubblicato lo scoop in un articolo riservato
agli abbonati e quindi non immediatamente accessibile [paywall].

Ma pagando l’abbonamento e andando a leggere l’articolo originale, come ho
fatto io per questo podcast, emerge che non c’è nessuna ammissione di
monitoraggio in corso, ma semplicemente c’è l’annuncio che Cox Media
Group dispone della capacità di effettuare un eventuale monitoraggio
tramite i microfoni degli smartphone e anche tramite quelli dei televisori
smart
e di altri dispositivi. Non c’è nessuna dichiarazione che la stia realmente
usando.

Anzi, il materiale promozionale di Cox Media Group dice che questa tecnologia,
denominata “Active Listening” o
“ascolto attivo”, “è agli albori” (“Active Listening is in its early days”), e
presenta
questa capacità tecnica come
“una tecnica di marketing adatta al futuro, disponibile oggi” [“a marketing
technique fit for the future. Available today”].

Le affermazioni promozionali di Cox Media Group, ora rimosse ma salvate su Archive.org.

È disponibile, ma questo non vuol dire che venga usata. E i consulenti
di vendita dell’azienda la presentano come se fosse un prodotto nuovo in cerca
dei primi clienti.

I clienti di Cox Media Group, stando all’azienda, sono nomi come Amazon,
Microsoft e Google. Stanno usando questa tecnologia di ascolto? Le risposte
che hanno dato ai colleghi di 404 Media a dicembre scorso sembrano dire di no,
ma inizialmente è mancata una smentita secca da parte loro. Smentita che è
invece arrivata subito, stranamente, da Cox Media Group stessa, che ha
dichiarato ai giornalisti di 404 Media che
“non ascolta conversazioni e non ha accesso a nulla più di un insieme di
dati fornito da terze parti e anonimizzato, aggregato e completamente
cifrato usabile per il piazzamento pubblicitario” e ha aggiunto che si scusa per “eventuali equivoci”.

Eppure il suo materiale promozionale dice cose decisamente difficili da
equivocare. O meglio, le diceva, perché è scomparso dal suo sito.

[È disponibile come copia d’archivio su Archive.org e su Documentcloud.org, che contiene frasi come “No, it’s not a Black Mirror episode – it’s Voice Data” e “Creepy? Sure. Great for marketing? Definitely”].

Ma pochi giorni fa, sempre 404 Media ha reso pubblica una
presentazione di Cox Media Group [PDF] nella quale l’azienda parla esplicitamente di
“dispositivi smart” che
“catturano dati di intenzione in tempo reale ascoltando le nostre
conversazioni” (“Smart devices capture real-time intent data by listening to our
conversations”), parla di consumatori che
“lasciano una scia di dati basata sulle loro conversazioni e sul loro
comportamento online” (“Consumers leave a data trail based on their conversations and online
behavior”) e parla di “dati vocali” (“voice data”).

La slide 1 della presentazione di Cox Media Group ottenuta da 404 Media.

Ma allora come stanno le cose? È indubbio, anche grazie alle testimonianze
raccolte dai giornalisti di 404 Media, che Cox Media Group abbia
cercato di vendere questa sua presunta capacità di ascoltare le nostre
conversazioni. Ma l’ha davvero venduta, ed è realmente in uso? Sembra proprio
di no.

Anzi, dopo che si è diffusa la notizia di questa sua offerta di tecnologie di
ascolto, Google ha tolto Cox Media Group dal programma Google Partners
dedicato ai migliori inserzionisti, nel quale la Cox era presente al massimo
livello da oltre 11 anni. Amazon ha dichiarato di non aver mai lavorato con la
Cox al programma di ascolto. Meta, invece, dice che sta valutando se la Cox
abbia violato i termini e le condizioni della loro collaborazione, mentre
Microsoft non ha rilasciato commenti.

[Meta ha dichiarato al New York Post che “non usa il microfono del vostro telefono per le pubblicità e lo dichiariamo pubblicamente da anni […] stiamo cercando di comunicare con CMG per fare in modo che chiariscano che il loro programma non è basato su dati di Meta”. In originale: “Meta does not use your phone’s microphone for ads and we’ve been public about this for years […] We are reaching out to CMG to get them to clarify that their program is not based on Meta data.”]

Insomma, formalmente intorno a chi ha proposto di ascoltare le nostre
conversazioni a scopo pubblicitario è stata fatta terra bruciata, per cui
tutta la vicenda sembra più un maldestrissimo tentativo di proporre una
tecnologia di ascolto che una conferma di una sua reale applicazione in corso.
E la rivelazione di questo tentativo mette in luce la falla non tecnica ma
molto umana di qualunque piano di ascolto globale segreto delle conversazioni
a scopo pubblicitario: è praticamente impossibile tenere nascosta una
tecnologia del genere, che va presentata ai potenziali partner, va
pubblicizzata agli addetti ai lavori, ai rivenditori, ai tecnici e a chissà
quante altre persone. Il segreto dovrebbe essere condiviso da un numero enorme
di persone, e prima o poi qualcuna di queste persone si lascerebbe sfuggire
qualcosa oppure, presa da rimorsi di coscienza, vuoterebbe il sacco.

[L’inchiesta di 404 Media sembra essere partita appunto da una vanteria di ascolto pubblicitario fatta in un podcast da un’azienda del New Hampshire, la MindSift]

Anche stavolta, quindi, possiamo stare tranquilli, ma solo grazie al fatto che
ci sono giornalisti che vigilano e segnalano i tentativi di invadere uno
spazio così personale come quello di una chiacchierata privata tra colleghi,
amici o coniugi. Perché un’invasione del genere è illegale e immorale, ma
questo non impedirà a persone e aziende senza scrupoli di provarci lo stesso.
E se comunque preferite spegnere il telefonino prima di una conversazione
sensibile di qualunque tipo, male non fa. Non si sa mai.

Fonti aggiuntive: Cox Media Group Reveals Its ‘Active Listening’ Software Spies on User Convos, Clients Include Meta, Google (TechTimes.com); Marketing firm admits using your own phone to listen in on your conversations (New York Post); ; “Attenti al microfono del vostro smartphone: Cox Media Group vi spia per pubblicità mirate”, Hwupgrade.it.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

*Podcast RSI – Gli smartphone ci ascoltano? No, ma…

logo del Disinformatico

È disponibile subito il podcast di oggi de
Il Disinformatico
della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto:
lo trovate
qui sul sito della RSI
(si apre in una finestra/scheda separata) e lo potete scaricare
qui.

Le puntate del Disinformatico sono ascoltabili anche tramite
iTunes, Spotify
e
feed RSS (Google Podcasts non esiste più, al suo posto c’è YouTube Music). 

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle
fonti di questa puntata, sono qui sotto.

—

I telefonini ascoltano le nostre conversazioni per bombardarci di pubblicità?
La risposta degli esperti è sempre stata un secco “no”, nonostante la
montagna di aneddoti e di casi personali raccontati dagli utenti, che dicono
in tanti di aver visto sul telefonino la pubblicità di uno specifico prodotto
poco dopo aver menzionato ad alta voce il nome o la categoria di quel
prodotto.

La tecnologia, però, galoppa, i telefonini diventano sempre più potenti e i
pubblicitari diventano sempre più avidi di dati personali per vendere
pubblicità sempre più mirate ed efficaci, e quindi oggi quel secco
“no” va aggiornato, trasformandolo in un “no, ma…”,
perché un’azienda importante è stata colta a proporre ai clienti proprio
questo tipo di ascolto delle conversazioni a scopo pubblicitario.

Questa è la storia di quel “no” e soprattutto di quel “ma”. Non
è il caso di farsi prendere dal panico, ma è opportuno sapere dove sta andando
la tecnologia e quali semplici gesti si possono fare per evitare il rischio di
essere ascoltati dai nostri inseparabili smartphone.

Benvenuti alla puntata del 6 settembre 2024 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

—

Se ne parla da anni: moltissime persone sono convinte che i loro smartphone
ascoltino costantemente le loro conversazioni e colgano le parole chiave di
quello che dicono, selezionando in particolare i termini che possono
interessare ai pubblicitari. C’è la diffusissima sensazione che basti
parlare
di una specifica marca di scarpe o di una località di vacanze, senza cercarla
su Internet tramite il telefonino, per veder comparire sullo schermo la
pubblicità di quel prodotto o di quel servizio. Praticamente tutti i
proprietari di smartphone possono citare casi concreti accaduti a loro
personalmente.

Restano inascoltate, invece, le spiegazioni e le indagini fatte dagli esperti
in vari paesi del mondo in questi anni. I test e le inchieste della rete televisiva statunitense CBS e della Northeastern University nel 2018, gli
esperimenti della BBC insieme alla società di sicurezza informatica Wandera
nel 2019, l’inchiesta del Garante italiano per la protezione dei dati
personali nel 2021: tutte queste ricerche sul problema non hanno portato a
nulla. Non c’è nessuna conferma oggettiva che i telefonini ci ascoltino e
mandino ai pubblicitari le nostre parole per impostazione predefinita. Quando
si fanno i test in condizioni controllate, il fenomeno sparisce.

Per esempio, nella loro
indagine del 2019,
la BBC e Wandera hanno messo due telefonini, un Android di Samsung e un iPhone
di Apple, in una stanza e per mezz’ora hanno fatto arrivare nella stanza
l’audio di pubblicità di cibo per cani e per gatti. Hanno anche piazzato due
telefonini identici in una stanza isolata acusticamente. Tutti questi telefoni
avevano aperte le app di Facebook, Instagram, SnapChat, YouTube e Amazon,
insieme al browser Chrome, e a tutte queste app erano stati dati tutti i
permessi richiesti.

I ricercatori hanno successivamente controllato se nelle navigazioni fatte
dopo il test con quegli smartphone sono comparse pubblicità di cibi per
animali domestici e hanno analizzato il consumo della batteria e la
trasmissione di dati durante il test. Hanno ripetuto tutta questa procedura
per tre giorni, e il risultato è stato che non sono comparse pubblicità
pertinenti sui telefonini esposti agli spot di cibi per animali e non ci sono
stati aumenti significativi del consumo di batteria o della trasmissione di
dati. I consumi e le trasmissioni di dati sono stati praticamente uguali per i
telefoni esposti all’audio pubblicitario e per quelli nella stanza silenziosa.

Se ci fosse un ascolto costante e un’altrettanto costante analisi dell’audio
ambientale, questo produrrebbe un aumento dei consumi, perché il processore
del telefono lavorerebbe in continuazione, e ci sarebbe un aumento della
trasmissione di dati, per inviare le informazioni ascoltate ai pubblicitari. E
invece niente. Anzi, i ricercatori hanno osservato che i telefonini Android
nella stanza isolata acusticamente trasmettevano più dati rispetto a
quelli esposti all’audio preparato per l’esperimento, mentre gli iPhone
facevano il contrario.

Altri esperimenti analoghi sono stati fatti negli anni successivi, e tutti
hanno dato gli stessi risultati. Il picco di consumo energetico e di
trasmissione di dati prodotto dagli assistenti vocali, cioè Siri e OK Google,
è sempre emerso chiaramente in questi test. Questi assistenti vocali sono in
ascolto costante per impostazione predefinita (anche se si possono
disattivare), e questo non è minimamente in dubbio, ma lavorano in maniera
molto differente rispetto a un ipotetico ascolto pubblicitario.

Gli assistenti vocali, infatti, ascoltano l’audio ambientale alla ricerca di
suoni che somiglino a una o due parole chiave di attivazione – tipicamente
“Ehi Siri” e “OK Google” – e quando credono di averle sentite iniziano una
vistosissima trasmissione di dati verso le rispettive case produttrici.
L’ipotetico ascolto pubblicitario, invece, dovrebbe cercare e riconoscere un
insieme di parole molto più vasto e magari anche in più di una lingua, e
questo richiederebbe molta più potenza di calcolo e quindi consumi molto più
elevati, e poi dovrebbe trasmettere dei dati, cosa che i test finora hanno
smentito.

Ma allora perché abbiamo la forte sensazione che i telefonini ci ascoltino lo
stesso a scopo pubblicitario? E perché avete probabilmente la sensazione
altrettanto forte che alla fine di questo mio racconto ci sia una novità che
smentisce tutto quello che si era scoperto fin qui?

—

La sensazione di ascolto pubblicitario viene spiegata dagli esperti con la
cosiddetta “illusione di frequenza”, per usare il termine coniato dal
professore di linguistica Arnold Zwicky della Stanford University. In parole
povere, tendiamo a
notare le coincidenze
e a dimenticare le non coincidenze. Nel corso della giornata vediamo
moltissime pubblicità, ma ci rimangono impresse solo quelle che coincidono con
qualcosa che abbiamo detto o fatto. E quando la coincidenza è particolarmente
specifica ci colpisce anche emotivamente.

Va detto che la pubblicità che vediamo sui nostri dispositivi non è affatto
casuale, e quindi le coincidenze sono agevolate: Google e Facebook, per
esempio, usano un vasto assortimento di tecniche per dedurre i nostri
interessi e proporci pubblicità mirata. Sanno dove ci troviamo minuto per
minuto, grazie alla geolocalizzazione del GPS e del Wi-Fi; sanno con chi siamo
e con chi trascorriamo più tempo, grazie al monitoraggio passivo dei
dispositivi Bluetooth nelle nostre vicinanze, all’analisi del traffico di
messaggi e al fatto che affidiamo a loro le nostre agende e le nostre rubriche
telefoniche; sanno cosa scriviamo nelle mail o rispettivamente sui social
network. Con dati del genere, ascoltare le conversazioni è praticamente
superfluo. Oltretutto la legalità di un ascolto di questo tipo sarebbe molto
controversa, visto che si tratterebbe in sostanza di una intercettazione di
massa di conversazioni che si ha il diritto di presumere che siano private.

Va anche detto, però, che non è un mistero che esistano tecnologie di ascolto
installabili sugli smartphone. I servizi di sicurezza dei vari governi le
usano abitualmente per intercettare le comunicazioni delle persone indagate.
Già dieci anni fa, Edward Snowden spiegò che l’NSA aveva accesso diretto ai
sistemi di Google, Facebook e Apple nell’ambito di un programma di
sorveglianza governativa denominato PRISM [The Guardian, 2013]. Ma si tratta di intercettazioni mirate, specifiche, ordinate
da un governo su bersagli selezionati, non di ascolti di massa, collettivi e
senza basi legali. In ogni caso, è indubbio che usare uno smartphone come
microfono nascosto, a insaputa dell’utente, sia tecnicamente possibile.

Si sa anche di un caso conclamato di ascolto ambientale tramite telefonini a
scopo commerciale: nel 2019 l’app ufficiale del campionato spagnolo di calcio,
LaLiga, fu colta a usare il microfono e la geolocalizzazione degli smartphone degli utenti per identificare i locali che trasmettevano le partite senza autorizzazione. L’agenzia spagnola per la protezione dei dati impose
all’organizzazione sportiva una sanzione di 250.000 euro per questo
comportamento. Ma anche in questo caso, si trattava di un ascolto effettuato
da una specifica app, installata su scelta dell’utente, con tanto di richiesta
esplicita del permesso di usare il microfono del telefono, non di una
attivazione collettiva e nascosta dei microfoni di tutti gli smartphone così
come escono dalla fabbrica.

Questa storia, però, prosegue a dicembre 2023, quando alcuni giornali
segnalano che una società di marketing, la statunitense Cox Media Group,
avrebbe
“ammesso di monitorare le conversazioni degli utenti per creare annunci
pubblicitari personalizzati in base ai loro interessi” [Il Sole 24 Ore, 28 dicembre 2023, paywall].

Sembra essere la conferma che il sentimento popolare era giusto e che gli
esperti avevano torto. Ma per capire come stanno realmente le cose bisogna
andare un pochino più a fondo.

—

La scoperta di questa presunta ammissione da parte di Cox Media Group è merito
della testata 404 Media, che ha pubblicato lo scoop in un articolo riservato
agli abbonati e quindi non immediatamente accessibile [paywall].

Ma pagando l’abbonamento e andando a leggere l’articolo originale, come ho
fatto io per questo podcast, emerge che non c’è nessuna ammissione di
monitoraggio in corso, ma semplicemente c’è l’annuncio che Cox Media
Group dispone della capacità di effettuare un eventuale monitoraggio
tramite i microfoni degli smartphone e anche tramite quelli dei televisori
smart
e di altri dispositivi. Non c’è nessuna dichiarazione che la stia realmente
usando.

Anzi, il materiale promozionale di Cox Media Group dice che questa tecnologia,
denominata “Active Listening” o
“ascolto attivo”, “è agli albori” (“Active Listening is in its early days”), e
presenta
questa capacità tecnica come
“una tecnica di marketing adatta al futuro, disponibile oggi” [“a marketing
technique fit for the future. Available today”].

Le affermazioni promozionali di Cox Media Group, ora rimosse ma salvate su Archive.org.

È disponibile, ma questo non vuol dire che venga usata. E i consulenti
di vendita dell’azienda la presentano come se fosse un prodotto nuovo in cerca
dei primi clienti.

I clienti di Cox Media Group, stando all’azienda, sono nomi come Amazon,
Microsoft e Google. Stanno usando questa tecnologia di ascolto? Le risposte
che hanno dato ai colleghi di 404 Media a dicembre scorso sembrano dire di no,
ma inizialmente è mancata una smentita secca da parte loro. Smentita che è
invece arrivata subito, stranamente, da Cox Media Group stessa, che ha
dichiarato ai giornalisti di 404 Media che
“non ascolta conversazioni e non ha accesso a nulla più di un insieme di
dati fornito da terze parti e anonimizzato, aggregato e completamente
cifrato usabile per il piazzamento pubblicitario” e ha aggiunto che si scusa per “eventuali equivoci”.

Eppure il suo materiale promozionale dice cose decisamente difficili da
equivocare. O meglio, le diceva, perché è scomparso dal suo sito.

[È disponibile come copia d’archivio su Archive.org e su Documentcloud.org, che contiene frasi come “No, it’s not a Black Mirror episode – it’s Voice Data” e “Creepy? Sure. Great for marketing? Definitely”].

Ma pochi giorni fa, sempre 404 Media ha reso pubblica una
presentazione di Cox Media Group [PDF] nella quale l’azienda parla esplicitamente di
“dispositivi smart” che
“catturano dati di intenzione in tempo reale ascoltando le nostre
conversazioni” (“Smart devices capture real-time intent data by listening to our
conversations”), parla di consumatori che
“lasciano una scia di dati basata sulle loro conversazioni e sul loro
comportamento online” (“Consumers leave a data trail based on their conversations and online
behavior”) e parla di “dati vocali” (“voice data”).

La slide 1 della presentazione di Cox Media Group ottenuta da 404 Media.

Ma allora come stanno le cose? È indubbio, anche grazie alle testimonianze
raccolte dai giornalisti di 404 Media, che Cox Media Group abbia
cercato di vendere questa sua presunta capacità di ascoltare le nostre
conversazioni. Ma l’ha davvero venduta, ed è realmente in uso? Sembra proprio
di no.

Anzi, dopo che si è diffusa la notizia di questa sua offerta di tecnologie di
ascolto, Google ha tolto Cox Media Group dal programma Google Partners
dedicato ai migliori inserzionisti, nel quale la Cox era presente al massimo
livello da oltre 11 anni. Amazon ha dichiarato di non aver mai lavorato con la
Cox al programma di ascolto. Meta, invece, dice che sta valutando se la Cox
abbia violato i termini e le condizioni della loro collaborazione, mentre
Microsoft non ha rilasciato commenti.

[Meta ha dichiarato al New York Post che “non usa il microfono del vostro telefono per le pubblicità e lo dichiariamo pubblicamente da anni […] stiamo cercando di comunicare con CMG per fare in modo che chiariscano che il loro programma non è basato su dati di Meta”. In originale: “Meta does not use your phone’s microphone for ads and we’ve been public about this for years […] We are reaching out to CMG to get them to clarify that their program is not based on Meta data.”]

Insomma, formalmente intorno a chi ha proposto di ascoltare le nostre
conversazioni a scopo pubblicitario è stata fatta terra bruciata, per cui
tutta la vicenda sembra più un maldestrissimo tentativo di proporre una
tecnologia di ascolto che una conferma di una sua reale applicazione in corso.
E la rivelazione di questo tentativo mette in luce la falla non tecnica ma
molto umana di qualunque piano di ascolto globale segreto delle conversazioni
a scopo pubblicitario: è praticamente impossibile tenere nascosta una
tecnologia del genere, che va presentata ai potenziali partner, va
pubblicizzata agli addetti ai lavori, ai rivenditori, ai tecnici e a chissà
quante altre persone. Il segreto dovrebbe essere condiviso da un numero enorme
di persone, e prima o poi qualcuna di queste persone si lascerebbe sfuggire
qualcosa oppure, presa da rimorsi di coscienza, vuoterebbe il sacco.

[L’inchiesta di 404 Media sembra essere partita appunto da una vanteria di ascolto pubblicitario fatta in un podcast da un’azienda del New Hampshire, la MindSift]

Anche stavolta, quindi, possiamo stare tranquilli, ma solo grazie al fatto che
ci sono giornalisti che vigilano e segnalano i tentativi di invadere uno
spazio così personale come quello di una chiacchierata privata tra colleghi,
amici o coniugi. Perché un’invasione del genere è illegale e immorale, ma
questo non impedirà a persone e aziende senza scrupoli di provarci lo stesso.
E se comunque preferite spegnere il telefonino prima di una conversazione
sensibile di qualunque tipo, male non fa. Non si sa mai.

Fonti aggiuntive: Cox Media Group Reveals Its ‘Active Listening’ Software Spies on User Convos, Clients Include Meta, Google (TechTimes.com); Marketing firm admits using your own phone to listen in on your conversations (New York Post); ; “Attenti al microfono del vostro smartphone: Cox Media Group vi spia per pubblicità mirate”, Hwupgrade.it.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

*Podcast RSI – Telegram cambia le proprie regole, terremoto di sicurezza

logo del Disinformatico

È disponibile subito il podcast di oggi de
Il Disinformatico
della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto:
lo trovate
qui sul sito della RSI
(si apre in una finestra/scheda separata) e lo potete scaricare
qui.

Le puntate del Disinformatico sono ascoltabili anche tramite
iTunes,
YouTube Music,
Spotify
e
feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle
fonti di questa puntata, sono qui sotto.

—

[CLIP:
TF1 annuncia l’arresto di Durov]

Il 24 agosto scorso Pavel Durov, fondatore e CEO della popolarissima
piattaforma di messaggistica Telegram, è stato fermato in Francia [RSI] e successivamente incriminato dalle autorità francesi e rilasciato su
cauzione, con l’obbligo di restare nel paese. L’incriminazione parla di
“rifiuto di comunicare le informazioni necessarie per le intercettazioni
autorizzate dalla legge”, “complicità” in reati e crimini gravissimi organizzati su o tramite
Telegram, e… omessa dichiarazione formale di importazione in Francia di un
sistema crittografico?

Questo terzo capo di incriminazione può sembrare dissonante rispetto agli
altri due, ma ha una sua spiegazione che è importante per capire perché il
fermo di Durov ha scatenato un terremoto che ha scosso molti degli oltre 900
milioni di utenti di Telegram.

Questa è la storia, fin qui, di questo terremoto e delle sue implicazioni per
la sicurezza e la privacy, non tanto per i criminali che usano Telegram, ma
per gli utenti onesti di questa piattaforma, specialmente quelli che vivono in
paesi dove i diritti umani non vengono rispettati e i dissidenti vengono
perseguitati. Questi utenti in questi anni si sono affidati a Telegram
contando sulla sua promessa di non collaborare con nessun governo, e ora
scoprono che le loro conversazioni su questa piattaforma non erano così
protette e segrete come pensavano, anche perché Telegram, dopo il fermo e
l’incriminazione di Durov, ha silenziosamente cambiato le proprie regole.

Benvenuti alla puntata del 13 settembre 2024 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

—

Telegram è diverso dagli altri sistemi di messaggistica, come Signal o
WhatsApp, per due ragioni principali. La prima è che offre i cosiddetti
canali, ai quali può iscriversi un numero sostanzialmente illimitato di
persone per seguire i messaggi pubblicati da un singolo utente o da una
specifica organizzazione.

[i gruppi di Telegram possono avere fino a
200.000 partecipanti]

Questa capacità di far arrivare un messaggio anche a milioni di persone, senza
nessuna delle restrizioni o dei filtraggi tipici di altre piattaforme, rende
Telegram più allettante rispetto alla concorrenza, per esempio per i criminali
informatici e anche per quelli non informatici, dai trafficanti di droga ai
terroristi ai pedofili, che possono usarlo (e lo usano) per pubblicizzare i
propri prodotti e servizi o le proprie terribili azioni e gestire la propria
clientela in modo efficiente e discreto. Ovviamente queste stesse
caratteristiche sono utili anche per chi lotta contro censure, persecuzioni o
restrizioni delle libertà.

E così Telegram, per chi vive in Russia, è uno dei pochissimi canali
attraverso i quali è possibile ricevere informazioni non filtrate dalla
censura governativa. Durov lasciò la Russia dieci anni fa, nel 2014, proprio
per non dover cedere al governo i dati dei cittadini raccolti dalla sua
piattaforma precedente, Vkontakte, una sorta di Facebook nazionale, e per non
doverla censurare. A modo suo, Pavel Durov ha esibito dei princìpi etici molto
saldi: non collaborare con nessuna autorità, perché chi per un certo
governo è un sovversivo per un altro governo è un dissidente, e chi è
considerato terrorista da una parte è visto come combattente per la libertà
dall’altra.

La seconda ragione è che Telegram, intesa come azienda, si è sempre vantata di
rifiutare qualunque collaborazione con le forze di polizia di qualunque paese
e di non fare moderazione: nelle
pagine
del suo sito ha dichiarato che
“Tutte le chat e i gruppi di Telegram sono territorio privato dei loro
rispettivi partecipanti. Non eseguiamo alcuna richiesta relativa ad esse
[…] Ad oggi, abbiamo divulgato 0 byte di dati a terzi, inclusi i governi
[…] Mentre blocchiamo bot e canali legati al terrorismo (ad esempio legati
all’ISIS), non bloccheremo nessuno che esprime pacificamente altre opinioni.”

Il risultato è che oggi 900 milioni e passa di persone in tutto il mondo si
affidano a Telegram per comunicare di tutto, dagli annunci di estorsione
informatica ai consigli delle mamme appassionate di rimedi naturali alle
malattie, dagli amori clandestini ai film piratati, e di quei 900 milioni e
passa circa 10 milioni sono utenti paganti, i cui abbonamenti permettono
all’azienda Telegram di operare. Ma a fine agosto per tutte queste persone è
arrivato un brusco risveglio.

—

Prima di tutto, il fermo di Durov ha fatto parlare molto di Telegram anche nei
media generalisti, e quindi finalmente molti utenti non esperti sono venuti a
conoscenza di un dettaglio tecnico cruciale: le normali chat di Telegram, le
sue chat di gruppo e i messaggi diffusi in massa attraverso i suoi canali
non sono protetti tramite la crittografia end-to-end, come lo sono
invece quelli di WhatsApp o di Signal.

Soltanto le cosiddette chat segrete di Telegram godono di questa
protezione, che rende tecnicamente impossibile per il fornitore di un servizio
di messaggistica collaborare con le autorità facendo leggere i messaggi dei
sospettati. Crittografia end-to-end significa infatti che neppure il
fornitore del servizio è in grado di leggere i messaggi scambiati dai suoi
utenti e quindi può respingere le richieste di accesso di qualunque autorità
semplicemente spiegando che non le può soddisfare per motivi puramente
tecnici. Non può fornire i messaggi perché non è in grado di leggerli.

Ma mentre su WhatsApp questa protezione è applicata automaticamente a tutti i
messaggi di tutti gli utenti, su Telegram è appunto necessario attivarla
manualmente, e comunque la crittografia end-to-end non è disponibile
nelle comunicazioni di gruppo ma solo in quelle dirette tra due persone, come
spiegato in dettaglio sul sito di Telegram nelle
pagine tecniche,
quelle che non legge nessuno. E così pochissimi utenti conoscono e usano
queste chat segrete.

[oltretutto le chat segrete sono particolarmente
difficili da attivare]

In altre parole, il grosso del traffico di messaggi, leciti e illeciti,
trasportati da Telegram è leggibile dai tecnici di Telegram, è archiviato sui
server dell’azienda e quindi potrebbe essere consegnato alle autorità
di qualunque paese, democratico o non democratico. Nessun problema per chi usa
Telegram per coordinare le attività di un circolo scacchistico, ma per
chiunque usi Telegram per proteggersi da autorità oppressive o per scopi non
propriamente legali è uno shock scoprire che quello spazio che riteneva sicuro
non lo è affatto.

Va detto che Telegram ha protetto i messaggi dei suoi utenti in altri modi: lo
ha fatto tramite la crittografia dei propri server, di cui però ha le chiavi,
che quindi gli possono essere chieste dalle autorità; e lo ha fatto
distribuendo la propria infrastruttura in vari paesi, per cui i messaggi degli
utenti sono sparsi in vari frammenti sotto giurisdizioni molto differenti, che
dovrebbero quindi avviare un’azione legale coordinata e congiunta per avere
accesso a quei messaggi.

[anche per le chat segrete, comunque, ci sono
dubbi
tecnici
sulla qualità della crittografia di Telegram, che usa una tecnologia
“indipendente”, ossia autoprodotta. E resta la questione dei metadati,
comunque facilmente accessibili]

Ma il fatto stesso che i messaggi siano in qualche modo accessibili
all‘azienda significa che un governo sufficientemente attrezzato, agguerrito e
deciso potrebbe effettuare un attacco informatico a Telegram per leggersi quei
messaggi. Oppure, più semplicemente, potrebbe trovare metodi non informatici
per indurre l’azienda a collaborare. Per esempio, un fermo e un’incriminazione
del suo fondatore e amministratore, magari con la scusa della mancata
dichiarazione formale di aver importato in Francia un sistema crittografico.
Telegram opera anche in Francia da anni, alla luce del sole, per cui è
presumibile che le autorità francesi fossero ben consapevoli da tempo di
questa mancata dichiarazione
prevista
dalle leggi nazionali, eppure non hanno mai fatto nulla per contestare
l’omissione prima di oggi.

[la normativa francese include la facoltà di
chiedere
alle aziende di fornire “le caratteristiche tecniche e il codice sorgente dei mezzi crittografici
oggetto della dichiarazione”]

E in effetti dopo l’intervento delle autorità francesi su Telegram è cambiato
qualcosa di importante.

—

Intorno al 5 settembre scorso le fiere parole di rifiuto di qualunque
collaborazione che ho citato prima sono state riscritte sul sito di Telegram.
Adesso Telegram non dice più che
“Tutte le chat e i gruppi di Telegram sono territorio privato dei loro
rispettivi partecipanti”
e che non esegue alcuna richiesta relativa ad esse. Al posto di queste parole
c’è l’annuncio che
“Tutte le app di Telegram dispongono di pulsanti “Segnala” che consentono
di segnalare i contenuti illegali ai nostri moderatori, con pochi
tocchi.”

Le FAQ di Telegram com’erano
prima
del fermo di Durov…
… e come sono adesso.

Non è una novità in senso stretto: questa funzione di segnalazione esiste da
tempo nell’app. Ma è interessante che sia stata messa in evidenza e che siano
scomparse quelle parole sul “territorio privato”, quasi a suggerire un
nuovo corso di collaborazione con le autorità.

Durov ha usato parole piuttosto concilianti anche in un suo annuncio personale
[https://t.me/durov/342], dicendo
che
“l’improvviso aumento del numero di utenti a 950 milioni ha causato dei
problemi legati alla crescita che hanno agevolato i criminali nell’abusare
della nostra piattaforma […] è mio obiettivo personale assicurarmi che miglioreremo significativamente le cose
in questo senso”.

Pavel Durov ha inoltre sottolineato l’impegno di Telegram contro gli abusi sui
minori, citando l’apposito canale di Telegram
[@StopCA] che indica, giorno per
giorno, i numeri dei gruppi e canali banditi in relazione a questi abusi: sono
quasi duemila al giorno. Ha dichiarato anche che Telegram rimuove
quotidianamente “milioni di post nocivi” e ha
“canali diretti di comunicazione con le organizzazioni non governative per
gestire più rapidamente le richieste urgenti di moderazione.”

Sembra insomma che Durov voglia lasciarsi alle spalle numeri preoccupanti,
come le 2460 richieste della polizia francese a Telegram rimaste senza
risposta
[Libération, paywall], e una reputazione guadagnata sul campo di non collaborare con le autorità
nemmeno quando si tratta di situazioni di crimine indiscusso e non di
questioni di libertà di parola.

[In realtà qualche caso di “collaborazione”, o meglio di azione forzata,
c’è stato: la EFF
nota
che Telegram è stata multata dalle autorità tedesche nel 2022 per non aver
predisposto un iter legale per la segnalazione di contenuti illegali e per
non aver nominato un referente tedesco per la ricezione delle comunicazioni
ufficiali e che il Brasile ha multato Telegram nel 2023 per non aver sospeso
gli account dei sostenitori dell’ex presidente Bolsonaro]

[Secondo
Politico.eu, l’indagine francese che ha portato al fermo di Durov sarebbe iniziata
quando un agente sotto copertura ha interagito con una persona sospettata di
essere un predatore sessuale su Telegram e questa persona ha poi ammesso di
aver violentato una ragazza giovane. Quando le autorità hanno chiesto a
Telegram l’identità di questo utente, Telegram si è rifiutata, e così gli
inquirenti si sono concentrati sulle persone che gestiscono Telegram]

A questo restyling di Telegram contribuisce anche la rimozione della
funzione Persone vicine, annunciata personalmente da Durov
[https://t.me/durov/343]. Questa
funzione permetteva a un utente di localizzare gli altri utenti di Telegram
situati nelle sue vicinanze, con rischi fin troppo evidenti di abusi e di
agevolazione dello stalking.

[la funzione era però anche
utile per
l’OSINT investigativa]

Numerosi criminali online che usano Telegram, intanto, hanno reagito alla
situazione chiudendo i propri account sulla piattaforma, un po’ perché temono
che i loro dati e quelli della loro clientela possano finire nelle mani delle
autorità, e un po’ perché hanno paura che i loro account verranno chiusi, ora
che Telegram dice di volersi occupare seriamente della moderazione
[404 Media].

La parola chiave di tutta questa vicenda sembra essere moderazione, o
meglio, carenza di moderazione dei contenuti diffusi da Telegram, anche dopo
che sono stati segnalati, come nota anche l’autorevole
Electronic Frontier Foundation
riportando una dichiarazione dell’Ofmin, l’ente francese incaricato di
investigare sulle minacce alla sicurezza online dei minori, notando che
secondo la legge francese consentire la distribuzione di contenuti o servizi
illegali di cui si è a conoscenza è un reato.

Gli eventuali cambiamenti concreti di Telegram diverranno visibili nei
prossimi mesi, ma il presupposto delle autorità francesi che la mancanza di
moderazione dei contenuti illegali segnalati comporti una
responsabilità penale del titolare di un sito probabilmente sta facendo venire
i brividi ad altri CEO di piattaforme di messaggistica e social network che
non hanno la reputazione di essere “paradisi anarchici”, per citare
l’espressione usata da Durov, ma se la meriterebbero. Perché anche Instagram,
per esempio, ha lo stesso problema di omessa moderazione di contenuti anche
dopo che sono stati segnalati.

—

Lo so perché anch’io, come tanti altri utenti, segnalo spesso gli spezzoni di
video pornografici e di abusi su minori inseriti nei reel di Instagram
dopo qualche secondo di contenuto non controverso, ma la moderazione di questa
piattaforma risponde puntualmente che il video è conforme alle norme della
comunità e non lo rimuove. Eppure la violazione delle norme sarebbe
assolutamente ben visibile se solo il moderatore, o l’intelligenza artificiale
che forse lo ha sostituito, si degnasse di esaminare il video per qualche
secondo in più.

[non pubblico esempi per ovvie ragioni, ma se i responsabili di Instagram
vogliono sapere i dettagli, ho screenshot e registrazioni dei reel in
questione – solo di quelli pornografici, per non detenere materiale
illegale, di cui posso comunque fornire i link]

X, quello che una volta era Twitter, è anche peggio, soprattutto per chi è
genitore di figli molto giovani che scalpitano per entrare nei social network.
La pornografia e la violenza, anche di tipi estremi, sono accessibili su X
semplicemente cambiando un’impostazione dell’app, ed è cosi da ben prima della
sua acquisizione da parte di Elon Musk; dopo questa acquisizione sono
aumentati i contenuti riguardanti odio, discriminazione e razzismo. Segnalarli
è inutile, perché la loro presenza è esplicitamente prevista dalle regole di X
ed è coperta dalla foglia di fico decisamente troppo corta di un messaggio di
avvertimento, facilissimo da eludere, e dall’appoggio esplicito di Musk
stesso.

[Le info di X su come segnalare contenuti sono
qui;
questa
è la media policy
di X sui contenuti per adulti;
questo è il
post su X nel quale Musk dice a Taylor Swift che le vuole “dare un figlio”,
cosa che persino le Note della Collettività di X considerano una molestia
sessuale inaccettabile;
queste
(Variety) sono le reazioni al post di Musk]

Il segnale mandato dalle autorità francesi è molto forte e a differenza delle
segnalazioni degli utenti è difficile da ignorare: i gestori delle grandi
piattaforme, se sono avvisati del fatto che ospitano contenuti o comportamenti
illegali, non possono far finta di niente solo perché sono straricchi. Hanno
delle responsabilità legali e soprattutto sociali, visto il peso che i loro
servizi hanno nella formazione delle giovani generazioni e anche di quelle
meno giovani.

A questo punto viene da chiedersi se dopo quello che è successo a Pavel Durov,
Mark Zuckerberg e Elon Musk abbiano già mandato un breve promemoria ai piloti
del loro jet personali: “Evitare Francia”.

Fonti aggiuntive:

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

*Podcast RSI – Telegram cambia le proprie regole, terremoto di sicurezza

logo del Disinformatico

È disponibile subito il podcast di oggi de
Il Disinformatico
della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto:
lo trovate
qui sul sito della RSI
(si apre in una finestra/scheda separata) e lo potete scaricare
qui.

Le puntate del Disinformatico sono ascoltabili anche tramite
iTunes,
YouTube Music,
Spotify
e
feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle
fonti di questa puntata, sono qui sotto.

—

[CLIP:
TF1 annuncia l’arresto di Durov]

Il 24 agosto scorso Pavel Durov, fondatore e CEO della popolarissima
piattaforma di messaggistica Telegram, è stato fermato in Francia [RSI] e successivamente incriminato dalle autorità francesi e rilasciato su
cauzione, con l’obbligo di restare nel paese. L’incriminazione parla di
“rifiuto di comunicare le informazioni necessarie per le intercettazioni
autorizzate dalla legge”, “complicità” in reati e crimini gravissimi organizzati su o tramite
Telegram, e… omessa dichiarazione formale di importazione in Francia di un
sistema crittografico?

Questo terzo capo di incriminazione può sembrare dissonante rispetto agli
altri due, ma ha una sua spiegazione che è importante per capire perché il
fermo di Durov ha scatenato un terremoto che ha scosso molti degli oltre 900
milioni di utenti di Telegram.

Questa è la storia, fin qui, di questo terremoto e delle sue implicazioni per
la sicurezza e la privacy, non tanto per i criminali che usano Telegram, ma
per gli utenti onesti di questa piattaforma, specialmente quelli che vivono in
paesi dove i diritti umani non vengono rispettati e i dissidenti vengono
perseguitati. Questi utenti in questi anni si sono affidati a Telegram
contando sulla sua promessa di non collaborare con nessun governo, e ora
scoprono che le loro conversazioni su questa piattaforma non erano così
protette e segrete come pensavano, anche perché Telegram, dopo il fermo e
l’incriminazione di Durov, ha silenziosamente cambiato le proprie regole.

Benvenuti alla puntata del 13 settembre 2024 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

—

Telegram è diverso dagli altri sistemi di messaggistica, come Signal o
WhatsApp, per due ragioni principali. La prima è che offre i cosiddetti
canali, ai quali può iscriversi un numero sostanzialmente illimitato di
persone per seguire i messaggi pubblicati da un singolo utente o da una
specifica organizzazione.

[i gruppi di Telegram possono avere fino a
200.000 partecipanti]

Questa capacità di far arrivare un messaggio anche a milioni di persone, senza
nessuna delle restrizioni o dei filtraggi tipici di altre piattaforme, rende
Telegram più allettante rispetto alla concorrenza, per esempio per i criminali
informatici e anche per quelli non informatici, dai trafficanti di droga ai
terroristi ai pedofili, che possono usarlo (e lo usano) per pubblicizzare i
propri prodotti e servizi o le proprie terribili azioni e gestire la propria
clientela in modo efficiente e discreto. Ovviamente queste stesse
caratteristiche sono utili anche per chi lotta contro censure, persecuzioni o
restrizioni delle libertà.

E così Telegram, per chi vive in Russia, è uno dei pochissimi canali
attraverso i quali è possibile ricevere informazioni non filtrate dalla
censura governativa. Durov lasciò la Russia dieci anni fa, nel 2014, proprio
per non dover cedere al governo i dati dei cittadini raccolti dalla sua
piattaforma precedente, Vkontakte, una sorta di Facebook nazionale, e per non
doverla censurare. A modo suo, Pavel Durov ha esibito dei princìpi etici molto
saldi: non collaborare con nessuna autorità, perché chi per un certo
governo è un sovversivo per un altro governo è un dissidente, e chi è
considerato terrorista da una parte è visto come combattente per la libertà
dall’altra.

La seconda ragione è che Telegram, intesa come azienda, si è sempre vantata di
rifiutare qualunque collaborazione con le forze di polizia di qualunque paese
e di non fare moderazione: nelle
pagine
del suo sito ha dichiarato che
“Tutte le chat e i gruppi di Telegram sono territorio privato dei loro
rispettivi partecipanti. Non eseguiamo alcuna richiesta relativa ad esse
[…] Ad oggi, abbiamo divulgato 0 byte di dati a terzi, inclusi i governi
[…] Mentre blocchiamo bot e canali legati al terrorismo (ad esempio legati
all’ISIS), non bloccheremo nessuno che esprime pacificamente altre opinioni.”

Il risultato è che oggi 900 milioni e passa di persone in tutto il mondo si
affidano a Telegram per comunicare di tutto, dagli annunci di estorsione
informatica ai consigli delle mamme appassionate di rimedi naturali alle
malattie, dagli amori clandestini ai film piratati, e di quei 900 milioni e
passa circa 10 milioni sono utenti paganti, i cui abbonamenti permettono
all’azienda Telegram di operare. Ma a fine agosto per tutte queste persone è
arrivato un brusco risveglio.

—

Prima di tutto, il fermo di Durov ha fatto parlare molto di Telegram anche nei
media generalisti, e quindi finalmente molti utenti non esperti sono venuti a
conoscenza di un dettaglio tecnico cruciale: le normali chat di Telegram, le
sue chat di gruppo e i messaggi diffusi in massa attraverso i suoi canali
non sono protetti tramite la crittografia end-to-end, come lo sono
invece quelli di WhatsApp o di Signal.

Soltanto le cosiddette chat segrete di Telegram godono di questa
protezione, che rende tecnicamente impossibile per il fornitore di un servizio
di messaggistica collaborare con le autorità facendo leggere i messaggi dei
sospettati. Crittografia end-to-end significa infatti che neppure il
fornitore del servizio è in grado di leggere i messaggi scambiati dai suoi
utenti e quindi può respingere le richieste di accesso di qualunque autorità
semplicemente spiegando che non le può soddisfare per motivi puramente
tecnici. Non può fornire i messaggi perché non è in grado di leggerli.

Ma mentre su WhatsApp questa protezione è applicata automaticamente a tutti i
messaggi di tutti gli utenti, su Telegram è appunto necessario attivarla
manualmente, e comunque la crittografia end-to-end non è disponibile
nelle comunicazioni di gruppo ma solo in quelle dirette tra due persone, come
spiegato in dettaglio sul sito di Telegram nelle
pagine tecniche,
quelle che non legge nessuno. E così pochissimi utenti conoscono e usano
queste chat segrete.

[oltretutto le chat segrete sono particolarmente
difficili da attivare]

In altre parole, il grosso del traffico di messaggi, leciti e illeciti,
trasportati da Telegram è leggibile dai tecnici di Telegram, è archiviato sui
server dell’azienda e quindi potrebbe essere consegnato alle autorità
di qualunque paese, democratico o non democratico. Nessun problema per chi usa
Telegram per coordinare le attività di un circolo scacchistico, ma per
chiunque usi Telegram per proteggersi da autorità oppressive o per scopi non
propriamente legali è uno shock scoprire che quello spazio che riteneva sicuro
non lo è affatto.

Va detto che Telegram ha protetto i messaggi dei suoi utenti in altri modi: lo
ha fatto tramite la crittografia dei propri server, di cui però ha le chiavi,
che quindi gli possono essere chieste dalle autorità; e lo ha fatto
distribuendo la propria infrastruttura in vari paesi, per cui i messaggi degli
utenti sono sparsi in vari frammenti sotto giurisdizioni molto differenti, che
dovrebbero quindi avviare un’azione legale coordinata e congiunta per avere
accesso a quei messaggi.

[anche per le chat segrete, comunque, ci sono
dubbi
tecnici
sulla qualità della crittografia di Telegram, che usa una tecnologia
“indipendente”, ossia autoprodotta. E resta la questione dei metadati,
comunque facilmente accessibili]

Ma il fatto stesso che i messaggi siano in qualche modo accessibili
all‘azienda significa che un governo sufficientemente attrezzato, agguerrito e
deciso potrebbe effettuare un attacco informatico a Telegram per leggersi quei
messaggi. Oppure, più semplicemente, potrebbe trovare metodi non informatici
per indurre l’azienda a collaborare. Per esempio, un fermo e un’incriminazione
del suo fondatore e amministratore, magari con la scusa della mancata
dichiarazione formale di aver importato in Francia un sistema crittografico.
Telegram opera anche in Francia da anni, alla luce del sole, per cui è
presumibile che le autorità francesi fossero ben consapevoli da tempo di
questa mancata dichiarazione
prevista
dalle leggi nazionali, eppure non hanno mai fatto nulla per contestare
l’omissione prima di oggi.

[la normativa francese include la facoltà di
chiedere
alle aziende di fornire “le caratteristiche tecniche e il codice sorgente dei mezzi crittografici
oggetto della dichiarazione”]

E in effetti dopo l’intervento delle autorità francesi su Telegram è cambiato
qualcosa di importante.

—

Intorno al 5 settembre scorso le fiere parole di rifiuto di qualunque
collaborazione che ho citato prima sono state riscritte sul sito di Telegram.
Adesso Telegram non dice più che
“Tutte le chat e i gruppi di Telegram sono territorio privato dei loro
rispettivi partecipanti”
e che non esegue alcuna richiesta relativa ad esse. Al posto di queste parole
c’è l’annuncio che
“Tutte le app di Telegram dispongono di pulsanti “Segnala” che consentono
di segnalare i contenuti illegali ai nostri moderatori, con pochi
tocchi.”

Le FAQ di Telegram com’erano
prima
del fermo di Durov…
… e come sono adesso.

Non è una novità in senso stretto: questa funzione di segnalazione esiste da
tempo nell’app. Ma è interessante che sia stata messa in evidenza e che siano
scomparse quelle parole sul “territorio privato”, quasi a suggerire un
nuovo corso di collaborazione con le autorità.

Durov ha usato parole piuttosto concilianti anche in un suo annuncio personale
[https://t.me/durov/342], dicendo
che
“l’improvviso aumento del numero di utenti a 950 milioni ha causato dei
problemi legati alla crescita che hanno agevolato i criminali nell’abusare
della nostra piattaforma […] è mio obiettivo personale assicurarmi che miglioreremo significativamente le cose
in questo senso”.

Pavel Durov ha inoltre sottolineato l’impegno di Telegram contro gli abusi sui
minori, citando l’apposito canale di Telegram
[@StopCA] che indica, giorno per
giorno, i numeri dei gruppi e canali banditi in relazione a questi abusi: sono
quasi duemila al giorno. Ha dichiarato anche che Telegram rimuove
quotidianamente “milioni di post nocivi” e ha
“canali diretti di comunicazione con le organizzazioni non governative per
gestire più rapidamente le richieste urgenti di moderazione.”

Sembra insomma che Durov voglia lasciarsi alle spalle numeri preoccupanti,
come le 2460 richieste della polizia francese a Telegram rimaste senza
risposta
[Libération, paywall], e una reputazione guadagnata sul campo di non collaborare con le autorità
nemmeno quando si tratta di situazioni di crimine indiscusso e non di
questioni di libertà di parola.

[In realtà qualche caso di “collaborazione”, o meglio di azione forzata,
c’è stato: la EFF
nota
che Telegram è stata multata dalle autorità tedesche nel 2022 per non aver
predisposto un iter legale per la segnalazione di contenuti illegali e per
non aver nominato un referente tedesco per la ricezione delle comunicazioni
ufficiali e che il Brasile ha multato Telegram nel 2023 per non aver sospeso
gli account dei sostenitori dell’ex presidente Bolsonaro]

[Secondo
Politico.eu, l’indagine francese che ha portato al fermo di Durov sarebbe iniziata
quando un agente sotto copertura ha interagito con una persona sospettata di
essere un predatore sessuale su Telegram e questa persona ha poi ammesso di
aver violentato una ragazza giovane. Quando le autorità hanno chiesto a
Telegram l’identità di questo utente, Telegram si è rifiutata, e così gli
inquirenti si sono concentrati sulle persone che gestiscono Telegram]

A questo restyling di Telegram contribuisce anche la rimozione della
funzione Persone vicine, annunciata personalmente da Durov
[https://t.me/durov/343]. Questa
funzione permetteva a un utente di localizzare gli altri utenti di Telegram
situati nelle sue vicinanze, con rischi fin troppo evidenti di abusi e di
agevolazione dello stalking.

[la funzione era però anche
utile per
l’OSINT investigativa]

Numerosi criminali online che usano Telegram, intanto, hanno reagito alla
situazione chiudendo i propri account sulla piattaforma, un po’ perché temono
che i loro dati e quelli della loro clientela possano finire nelle mani delle
autorità, e un po’ perché hanno paura che i loro account verranno chiusi, ora
che Telegram dice di volersi occupare seriamente della moderazione
[404 Media].

La parola chiave di tutta questa vicenda sembra essere moderazione, o
meglio, carenza di moderazione dei contenuti diffusi da Telegram, anche dopo
che sono stati segnalati, come nota anche l’autorevole
Electronic Frontier Foundation
riportando una dichiarazione dell’Ofmin, l’ente francese incaricato di
investigare sulle minacce alla sicurezza online dei minori, notando che
secondo la legge francese consentire la distribuzione di contenuti o servizi
illegali di cui si è a conoscenza è un reato.

Gli eventuali cambiamenti concreti di Telegram diverranno visibili nei
prossimi mesi, ma il presupposto delle autorità francesi che la mancanza di
moderazione dei contenuti illegali segnalati comporti una
responsabilità penale del titolare di un sito probabilmente sta facendo venire
i brividi ad altri CEO di piattaforme di messaggistica e social network che
non hanno la reputazione di essere “paradisi anarchici”, per citare
l’espressione usata da Durov, ma se la meriterebbero. Perché anche Instagram,
per esempio, ha lo stesso problema di omessa moderazione di contenuti anche
dopo che sono stati segnalati.

—

Lo so perché anch’io, come tanti altri utenti, segnalo spesso gli spezzoni di
video pornografici e di abusi su minori inseriti nei reel di Instagram
dopo qualche secondo di contenuto non controverso, ma la moderazione di questa
piattaforma risponde puntualmente che il video è conforme alle norme della
comunità e non lo rimuove. Eppure la violazione delle norme sarebbe
assolutamente ben visibile se solo il moderatore, o l’intelligenza artificiale
che forse lo ha sostituito, si degnasse di esaminare il video per qualche
secondo in più.

[non pubblico esempi per ovvie ragioni, ma se i responsabili di Instagram
vogliono sapere i dettagli, ho screenshot e registrazioni dei reel in
questione – solo di quelli pornografici, per non detenere materiale
illegale, di cui posso comunque fornire i link]

X, quello che una volta era Twitter, è anche peggio, soprattutto per chi è
genitore di figli molto giovani che scalpitano per entrare nei social network.
La pornografia e la violenza, anche di tipi estremi, sono accessibili su X
semplicemente cambiando un’impostazione dell’app, ed è cosi da ben prima della
sua acquisizione da parte di Elon Musk; dopo questa acquisizione sono
aumentati i contenuti riguardanti odio, discriminazione e razzismo. Segnalarli
è inutile, perché la loro presenza è esplicitamente prevista dalle regole di X
ed è coperta dalla foglia di fico decisamente troppo corta di un messaggio di
avvertimento, facilissimo da eludere, e dall’appoggio esplicito di Musk
stesso.

[Le info di X su come segnalare contenuti sono
qui;
questa
è la media policy
di X sui contenuti per adulti;
questo è il
post su X nel quale Musk dice a Taylor Swift che le vuole “dare un figlio”,
cosa che persino le Note della Collettività di X considerano una molestia
sessuale inaccettabile;
queste
(Variety) sono le reazioni al post di Musk]

Il segnale mandato dalle autorità francesi è molto forte e a differenza delle
segnalazioni degli utenti è difficile da ignorare: i gestori delle grandi
piattaforme, se sono avvisati del fatto che ospitano contenuti o comportamenti
illegali, non possono far finta di niente solo perché sono straricchi. Hanno
delle responsabilità legali e soprattutto sociali, visto il peso che i loro
servizi hanno nella formazione delle giovani generazioni e anche di quelle
meno giovani.

A questo punto viene da chiedersi se dopo quello che è successo a Pavel Durov,
Mark Zuckerberg e Elon Musk abbiano già mandato un breve promemoria ai piloti
del loro jet personali: “Evitare Francia”.

Fonti aggiuntive:

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

Podcast RSI – Instagram, l’etichetta “Creato con IA” fa infuriare i fotografi veri; aggiornamento su Windows Recall

logo del Disinformatico

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

Se siete fra i due miliardi e mezzo di utenti di Instagram, probabilmente avete notato che da qualche settimana alcune fotografie postate su questo social network sono accompagnate da una piccola dicitura: nella versione italiana, questa dicitura è “Creato con IA”, dove “IA” ovviamente sta per l’immancabile, onnipresente intelligenza artificiale.

Gli hater dell’intelligenza artificiale – sì, esistono e sono numerosi e anche inviperiti – vedono questa etichetta sulle fotografie di luoghi e persone pubblicate su Instagram e lasciano commenti livorosi in cui accusano chi le ha postate di essere un bugiardo, perché secondo loro l’etichetta dimostra che si tratta di falsi creati appunto con l’intelligenza artificiale. E gli autori delle foto in questione si sgolano, invano, cercando di dimostrare che le loro foto sono autentiche, scattate davvero sul luogo e con soggetti e persone reali. Niente da fare: l’etichetta “Creato con IA” li condanna. Fotografi professionisti celebri si vedono screditati di colpo da queste tre brevi parole.

Questa è la storia strana di una iniziativa di Meta, proprietaria di Instagram, partita con l’intento di fare chiarezza nel caos delle immagini sintetiche spacciate per vere che stanno intasando questo social network. Quell’intento si è trasformato in un autogol, che sta facendo infuriare i fotografi che avrebbe dovuto proteggere. E fra quei fotografi, e fra quegli accusati, potreste trovarvi anche voi.

Se volete saperne di più e conoscere come difendervi da questi nuovi hater, siete nel posto giusto: benvenuti! Questa è la puntata del 14 giugno 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Recall richiamato

Prima di tutto devo fare un aggiornamento a una delle notizie che ho segnalato nel podcast precedente, ossia l’introduzione in Windows 11 di un nuovo servizio, chiamato Recall, che in sostanza registra localmente tutto quello che passa sullo schermo, con ovvi problemi di privacy. Poco dopo la chiusura della puntata, Microsoft ha reagito al clamore mediatico prodotto dall’annuncio di Recall e ha risposto in parte alle preoccupazioni degli esperti, modificando il funzionamento del servizio.

Mentre prima Recall era attivo per impostazione predefinita e toccava all’utente scoprire come disattivarlo, d’ora in poi sarà attivato solo se l’utente accetterà la proposta di attivazione, che comparirà durante la configurazione iniziale del computer (The Verge). Restano ancora valide tutte le considerazioni di privacy e di sicurezza che sono state segnalate dagli esperti per chi decide di attivare Recall, ma perlomeno adesso è più facile e naturale per l’utente rifiutare questo servizio.

Colgo l’occasione per precisare anche un altro dettaglio importante: per il momento, Recall viene installato ed è disponibile soltanto sui computer di tipo Copilot+ dotati di processore ARM e processore neurale o NPU, che sono una decina di modelli di varie marche. Chi ha un computer meno recente di questi non si vedrà proporre l’attivazione di Recall. Almeno per ora, perché Microsoft ha dichiarato di voler fornire supporto anche per i computer con processori AMD e Intel, che sono i più diffusi. Staremo a vedere.

Instagram e l’etichetta “Creato con IA”

Da qualche settimana Instagram ha iniziato ad aggiungere automaticamente ai post una dicitura che avvisa gli utenti che un’immagine postata è stata creata usando prodotti basati sull’intelligenza artificiale. In italiano questa dicitura è “Creato con IA”.

Dall’account Instagram @candyrose_mc (link diretto al post).

L’intenzione di Meta era buona: etichettare chiaramente le immagini sintetiche generate con l’intelligenza artificiale, che ormai hanno raggiunto un livello di realismo tale da rendere molto difficile, se non impossibile, distinguere un’immagine sintetica da una fotografia reale.

La pubblicazione di immagini sintetiche fotorealistiche, senza avvisare esplicitamente che si tratta di qualcosa che è stato generato completamente da zero e non esiste nella realtà fisica, è infatti chiaramente ingannevole, specialmente quando l’immagine generata rappresenta una situazione plausibile nel mondo reale. Il rischio che i professionisti delle fake news usino i generatori di immagini basati sull’intelligenza artificiale per produrre immagini false di persone conosciute, allo scopo per esempio di ridicolizzarle o screditarle, è fin troppo evidente e ne esistono già molti casi documentati.

C’è anche il problema che i generatori di immagini finiscono per svilire il lavoro e la fatica dei fotografi professionisti, perché invece di comporre pazientemente la scena, mettere in posa il soggetto, regolare le luci e tutte le altre cose che un fotografo è costretto a fare fisicamente per ottenere una certa immagine, oggi si può ottenere un risultato più che paragonabile usando l’intelligenza artificiale, standosene comodamente al computer. Instagram è invaso, infatti, dalle foto di “modelle” che sono in realtà immagini generate dal computer, e le fotomodelle reali si vedono scavalcate da immagini sintetiche che possono essere fabbricate in una manciata di secondi, non si stancano, non invecchiano, non cambiano forme o peso e non hanno spese di trasferta o compensi da pretendere. E gran parte degli utenti (e anche dei committenti) non è in grado di accorgersi della differenza.

Etichettare le immagini sintetiche sembrerebbe quindi un’ottima idea per difendere il professionismo dei fotografi e il lavoro di modelli e modelle in carne e ossa, e anche per contrastare le fake news; eppure i fotografi sono sul piede di guerra e pubblicano proteste indignate contro questa etichettatura.

L’etichetta che scredita

La ragione delle loro proteste è molto semplice: la “soluzione” escogitata da Meta sta etichettando come sintetiche, ossia false agli occhi del pubblico, anche le loro foto, quelle scattate con una fotocamera, inquadrando un soggetto fisico reale. L’etichetta “Creato con IA” sta insomma screditando il lavoro di moltissimi professionisti, ed è importante che chi usa Instagram sia ben consapevole che al momento attuale questa etichetta non vuol dire necessariamente che l’immagine sia stata generata da zero con l’intelligenza artificiale, e che viceversa la mancanza di questa etichetta non è una garanzia di autenticità.

Questa etichetta, infatti, viene applicata da Meta ai post su Instagram in due casi. Il primo è quello in cui chi posta un’immagine decide volontariamente di etichettarla come sintetica, usando la funzione apposita presente nell’app di Instagram [per esempio per evitare di incappare in sanzioni da parte di Meta]. Il secondo caso, quello più importante, è quello in cui Meta rileva in un’immagine sintetica la presenza di appositi indicatori, che vengono incorporati nell’immagine sotto forma di metadati dai programmi di generazione o di fotoritocco. Questi indicatori informano Meta che è stato fatto uso di intelligenza artificiale per elaborare l’immagine in questione.

Ma attenzione: l’etichetta “Creato con IA” viene applicata automaticamente da Meta non solo quando l’immagine è totalmente generata, ma anche quando una fotografia reale viene manipolata in qualunque modo, anche molto lievemente, usando software come Photoshop, che adoperano per alcuni strumenti l’intelligenza artificiale per produrre fotoritocchi sempre più rapidi e sofisticati.

Ovviamente c’è una differenza enorme fra un’immagine fotorealistica completamente generata al computer e una fotografia tradizionale alla quale è stato fatto un piccolo ritocco digitale per rimuovere, che so, un dettaglio antiestetico, eppure Meta mette tutto nel mucchio, perché in realtà non sta facendo alcun lavoro di analisi sofisticata delle immagini, per esempio per cercare di “capire” dal contenuto e dal contesto se sono sintetiche oppure no: sta semplicemente controllando se sono presenti o meno questi metadati. Se ci sono, mostra l’etichetta “Creato con IA”, e lo fa anche se il fotografo ha usato una vera fotocamera e ha inquadrato per esempio una modella reale, andando in un luogo reale, ma ha usato, anche in misura minima, uno degli
strumenti di rifinitura di Photoshop basati sull’intelligenza artificiale, per esempio per rimuovere una minuscola sbavatura nel trucco o un granello di polvere che era finito sul sensore della fotocamera.

E viceversa, se questi metadati non ci sono, o vengono semplicemente rimossi con un trucco semplice come fare uno screenshot dell’immagine generata e pubblicare quello screenshot, anche l’immagine più vistosamente sintetica non verrà etichettata come “creata con IA”.

Purtroppo moltissimi utenti non sono al corrente di come funziona questo sistema di etichettatura e quindi stanno accusando di falsificazione fotografi che in realtà non hanno alcuna colpa. Questa etichetta così grossolana, insomma, sta causando danni reputazionali molto significativi. Ma questo a Meta non sembra interessare. Non per nulla fino al 2014 il motto ufficiale di Facebook, oggi Meta, era “move fast and break things”, ossia “muoviti in fretta e rompi le cose”: l’importante è fare soldi in fretta, e se nel farli si rovina la reputazione di qualcuno, il problema è di quel qualcuno, non di Meta.

Fate attenzione, insomma, a non farvi coinvolgere in discussioni e polemiche interminabili sulla “autenticità” di una foto su Instagram basandovi su questa etichetta: il rischio di trovarsi dalla parte del torto è molto alto. Anche perché forse state creando anche voi immagini sintetiche, di quelle che Meta etichetterebbe come “create con IA”, e nemmeno ve ne accorgete.

Fotografia computazionale

Se fate foto con il vostro smartphone, infatti, è molto probabile che alcuni dei filtri automatici presenti in questi dispositivi si basino sull’intelligenza artificiale. Per esempio, una foto di gruppo in cui tutti hanno miracolosamente gli occhi aperti o sorridono viene ottenuta spesso facendo una rapidissima raffica di foto e poi usando il riconoscimento delle immagini e dei volti per prendere dai vari scatti le facce venute bene e sovrapporle a quelle che hanno gli occhi chiusi o le espressioni serie. E tutto questo avviene direttamente a bordo dello smartphone, senza che ve ne accorgiate. Questa tecnica viene chiamata fotografia computazionale, e moltissime persone la usano senza nemmeno saperlo, perché è una funzione automatica standard degli smartphone di fascia alta.

Una foto ottenuta in questo modo è “falsa”, dato che non rappresenta un momento realmente esistito, e quindi dovrebbe essere etichettata da Meta? Oppure rappresenta la nostra intenzione o la nostra percezione della realtà come vorremmo che fosse, e quindi va accettata come “reale”?

Chiaramente la questione dell’autenticità e del realismo di un’immagine è molto più complessa e ricca di sfumature rispetto al banale “sì” oppure “no” di un’etichetta semplicistica come quella proposta da Meta. E questa necessità di sfumature, forse, è la lezione di realtà più importante di tutte.

 

Fonti aggiuntive: Crikey, Art-vibes, PetaPixel, Reddit.

Podcast RSI – Strana mail di Meta; Windows 11 vuole registrare tutto

logo del Disinformatico

Ultimo aggiornamento: 2024/06/07 18:55.

È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

—

[CLIP: voce da speaker (generata da IA) legge un brano della mail di Meta]

Due giganti dell’informatica, Meta e Microsoft, presentano grandi novità nei loro prodotti. Meta annuncia che userà i dati degli utenti per addestrare le proprie intelligenze artificiali, mentre Microsoft presenta Recall, una funzione di Windows 11 che registra tutto quello che viene mostrato sullo schermo e lo fa analizzare e classificare da un’intelligenza artificiale. Ma in entrambi i casi, gli esperti criticano fortemente queste novità: non solo per le loro implicazioni tecniche potenzialmente pericolose, ma anche per questa scelta di imporre agli utenti nuove funzioni che non hanno chiesto, sono molto invadenti e una volta attivate sono molto difficili da disattivare.

Benvenuti alla puntata del 7 giugno 2024 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

La mail di Meta sull’IA, spiegata

Se siete su Facebook o Instagram e vivete in Europa (intesa come regione geografica), probabilmente avete già ricevuto da Meta una mail che parla di aggiornamenti dell’informativa sulla privacy ed è scritta in burocratese stretto, con espressioni come “siamo pronti a espandere la nostra IA nelle esperienze Meta alla tua area geografica” oppure “Per consentirti di vivere queste esperienze, da adesso in poi ci affideremo alla base giuridica denominata interesse legittimo per l’uso delle tue informazioni al fine di sviluppare e migliorare l’IA di Meta”. Chiaro, no?

Sembra il solito annuncio periodico di nessun interesse, inviato più che altro per formalità e per rispettare gli obblighi di legge e quindi tranquillamente cestinabile, ma non è così. Tradotta in italiano normale, quella mail dice che se non vi opponete formalmente, dal 26 giugno prossimo Meta userà tutto quello che pubblicate sui suoi social network, quindi Facebook e Instagram e forse anche WhatsApp, per addestrare i suoi sistemi di intelligenza artificiale.

In altre parole, se non agite adesso, tutto quello che avete mai scritto nei messaggi pubblici e tutte le foto, gli audio e i video che ritraggono voi o i vostri eventuali figli e che avete messo sui social network di Meta in questi anni entreranno a far parte del cosiddetto corpus, ossia dell’immensa quantità di dati necessaria per far sembrare intelligenti questi prodotti.

Potreste pensare che questo non sia un problema. Tanto si tratta di testi, immagini, video e audio pubblici, non di messaggi privati (che stando a quanto dichiara Meta sono esclusi), quindi che male c’è se Meta li usa per migliorare la propria intelligenza artificiale? In fin dei conti sono dati che le avete già affidato quando li avete postati.

Ma c’è un dettaglio importante: Meta non precisa come userà quei dati. Non dice che tipo di intelligenza artificiale intende creare. Potrebbe trattarsi di un semplice chatbot per conversare, ma potrebbe anche essere un sistema che eroga pubblicità super-personalizzate basate su tutto quello che avete mai detto, fotografato o scritto. O potrebbe essere un’intelligenza artificiale che usa i vostri dati, la vostra voce, il vostro volto per creare un vostro clone digitale, che potrebbe dire o fare qualunque cosa, con il vostro aspetto e con il vostro esatto modo di parlare: un alter ego, un assistente virtuale, oppure un impostore.

Se entrano a far parte del corpus, i vostri volti o quelli dei figli o degli amici o dei familiari possono spuntare in immagini false o di propaganda o pornografiche. E come osserva anche l’esperto Matteo Flora, un fotografo, un cantante o un musicista che non rifiuta questo trattamento dei suoi dati potenzialmente permette a Meta di creare foto e canzoni nel suo stesso stile e con la sua voce.

In sintesi: dare carta bianca a qualunque possibile uso futuro è un rischio, soprattutto quando c’è di mezzo un’azienda che ha già dimostrato, come dire, una certa disinvoltura nell’uso dei dati dei suoi utenti per scopi socialmente dannosi. E Meta parla esplicitamente di cedere questi dati a terzi, di cui non sappiamo assolutamente nulla.

Di conseguenza, il consiglio degli esperti e delle associazioni di difesa dei diritti digitali è rifiutare questo nuovo tipo di trattamento dei nostri dati, che non è lo scopo per il quale li abbiamo concessi inizialmente, e chiedere anche a parenti, amici e colleghi di fare la stessa cosa. Infatti Meta avvisa che farà comunque elaborazione delle informazioni personali anche di chi ha rifiutato, se trova quelle informazioni nei post di qualcun altro che non ha rifiutato il trattamento. Quindi serve la collaborazione di tutti.

Come dire di no a Meta

Rifiutare il trattamento dei propri dati per l’intelligenza artificiale di Meta è abbastanza semplice: si clicca sulle parole “diritto di opposizione” nella mail, oppure si entra nel proprio account Facebook o Instagram e si va direttamente al link https://privacycenter.instagram.com/privacy/genai e lì si clicca sulle stesse parole “diritto di opposizione” nella parte finale della pagina. Non vi preoccupate di prendere nota di questo link: lo trovate presso Disinformatico.info, come tutte le altre fonti che cito in questo podcast.

[per chi ha un account Facebook, il link da usare è https://www.facebook.com/privacy/genai e le parole da cliccare sono “diritto di contestare”]

Fatto questo, avrete sullo schermo un modulo da compilare, intitolato “Contesta l’uso delle tue informazioni per l’IA di Meta”, e qui indicherete il vostro paese di residenza e il vostro indirizzo di mail e scriverete la spiegazione del vostro rifiuto. Se volete potete usare la spiegazione che ho usato io e che mi è stata ispirata da Fabienb.blog:

[CLIP: voce sintetica che legge le seguenti frasi: “Sono preoccupato del rischio che i miei dati vengano utilizzati in modi che non posso né controllare né prevedere. Rifiutando di partecipare al training dell’intelligenza artificiale, voglio assicurarmi che i miei dati vengano utilizzati esclusivamente per le funzioni di base dei prodotti di Meta, non per applicazioni future non ancora identificate e in modi sconosciuti e indesiderati.”]

Il modulo proposto da Instagram.

Cliccando sul pulsante Invia, il vostro rifiuto verrà inviato a Meta, che vi manderà via mail un codice di conferma di sei cifre. Immettendo questo codice e cliccando su Conferma, la richiesta di opposizione verrà trasmessa a Meta, che si riserverà di accettarla. Tutto qui: non occorre fare altro. Se tutto va bene, nel giro di qualche ora vi arriverà una mail di conferma che la vostra opposizione è stata accolta.

Nel frattempo sono già partite le prime azioni legali da parte di associazioni come lo European Center for Digital Rights, che accusano Meta di non rispettare la legge e in particolare di non rispettare il regolamento europeo GDPR. Secondo loro, infatti, questo regolamento richiede che l’utente dia il consenso esplicito per un nuovo trattamento dei suoi dati, come quello che sta per iniziare Meta; senza questo consenso i dati non si possono trattare. E invece Meta sta facendo il contrario, ossia sta dando per scontato il consenso di tutti e sta obbligando gli utenti a opporsi uno per uno.

Non è così che si conquista la fiducia degli utenti. Ma probabilmente Meta conta più sull’indifferenza che sulla fiducia.

Fonti aggiuntive: Mashable, EuroNews.

Windows 11: Recall vuole registrare tutto quello che fai

Il 20 maggio scorso Microsoft ha presentato una nuova funzione di Windows 11, chiamata Recall, che è una sorta di super-cronologia delle attività svolte al computer. Prossimamente, Windows farà automaticamente e in continuazione degli screenshot, ossia delle istantanee di quello che c’è sullo schermo del vostro computer, e userà l’onnipresente intelligenza artificiale per analizzare localmente il testo e le immagini presenti in questi screenshot. La funzione è già disponibile oggi per chi usa le versioni di anteprima di Windows 11.

[NOTA: per il momento, Recall viene installato soltanto sui computer di tipo Copilot+ con processore ARM e processore neurale o NPU, che sono una decina di modelli di varie marche, ma secondo Total Recall Microsoft dichiara di voler fornire supporto anche per i computer con processori AMD e Intel]

Questo permetterà all’utente di tornare indietro nel tempo, con un semplice clic, e rivedere cosa stava facendo al computer in qualunque momento degli ultimi tre mesi circa. Le istantanee dello schermo verranno catalogate e riordinate per categoria e sarà possibile fare ricerche per parole chiave all’interno di questa cronologia.

Per esempio, se sfogliando Internet avete visto una foto di un oggetto o di un prodotto ma non vi ricordate dove e quando l’avete visto, potrete ritrovarlo semplicemente scrivendone il nome, anche se l’oggetto è stato mostrato solo in fotografia, senza testo descrittivo. Ci penserà infatti Recall a riconoscere e catalogare gli oggetti e le persone presenti nelle foto. Il CEO di Microsoft, Satya Nadella, descrive Recall come una specie di memoria fotografica per i computer.

[CLIP di Nadella, tratto da questo post Mastodon di Kevin Beaumont. Diversamente da quello che dico nei saluti di coda, la clip è la sua voce reale e non è generata da IA]

Se ascoltando questa descrizione di Recall vi è venuto da pensare “Aspetta un momento…”, non siete i soli. Numerosi esperti di sicurezza informatica stanno segnalando Recall come se fosse la madre di tutte le pessime idee e raccomandano di imparare come disattivarlo, visto che sarà attivo per impostazione predefinita.*

* 2024/06/07 18:55. Microsoft ha dichiarato che Recall sarà opt-in: durante la configurazione iniziale del computer verrà offerta la possibilità di impostare Recall, che sarà disattivato per default (The Verge).

A livello istintivo, l’idea che il computer registri, cataloghi e annoti in continuazione e minuziosamente tutto ma proprio tutto quello che facciamo e tutti i siti che visitiamo dà un pochino i brividi per ovvie ragioni. Ma anche dal punto di vista tecnico, Recall pone problemi molto seri.

Per esempio, se vi collegate alla vostra banca per fare delle transazioni, Recall catturerà e archivierà schermate che contengono i vostri dettagli contabili. Se aprite una mail confidenziale, verrà letta e copiata in archivio da Recall. Se fate una chat segreta usando Signal o un altro sistema di messaggistica, quella chat verrà letta e conservata da Recall. Se custodite e gestite dati altrui per lavoro, per esempio in campo medico, una copia di quei dati finirà nella memoria di Recall, impedendovi di garantire ai vostri clienti che i loro dati personali siano stati davvero cancellati dopo l’uso. 

Certo, questi dati vengono conservati localmente, sul vostro computer, e non vengono passati a Microsoft, ma se un attacco informatico colpisce il vostro computer, gli intrusi potranno andare a colpo sicuro rubando l’archivio di Recall, dove troveranno tutti i dati che interessano a loro, già comodamente catalogati e classificati, invece di dover perdere tempo a cercarseli. Fra l’altro, l’archivio non è cifrato adeguatamente ed è semplicemente un database leggibile con molta facilità.

Una password viene rivelata da Recall. Fonte: Marc-André Moreau su Twitter/X.

Per dirla con le parole dell’esperto di sicurezza informatica Kevin Beaumont, “In sostanza sta per essere integrato in Windows un keylogger, presentato come una funzione positiva”. Un keylogger è un’applicazione ostile che registra di nascosto qualunque cosa venga digitata sulla tastiera e cattura delle schermate e poi manda il tutto all’aggressore informatico. Con Recall, la registrazione la fa già direttamente Windows e agli intrusi non resta che scaricarla, via Internet o localmente.

Certo, Recall è disattivabile, ma quanti utenti sanno farlo? Il problema è che è appunto attivato per impostazione predefinita, per cui spetta all’utente scoprire prima di tutto che esiste questa funzione e poi scoprire anche come disattivarla [istruzioni in italiano su IlSoftware.it], cosa tutt’altro che semplice; e come per le nuove funzioni di Meta, anche qui la novità viene imposta e sta all’utente ingegnarsi a respingerla. Sembra proprio che le aziende facciano fatica a comprendere il concetto di proporre le loro novità anziché imporle.

Il garante per la protezione dei dati personali britannico ha già avviato un’indagine, e stanno già nascendo i primi strumenti di analisi dei database di Recall [c’è anche un TotalRecall, con chiara citazione del film omonimo]. La questione è in rapida evoluzione; se ci saranno novità, le segnalerò nelle prossime puntate. Nel frattempo, ricordatevi questo nome: Recall.

Fonti aggiuntive: Kevin Beaumont (uno, due), Euronews, Ars Technica, Charlie Stross, DDay.it.

RSI – Niente Panico 2024/05/27

È pronta la puntata di questa settimana di Niente Panico, il programma radiofonico che
conduco insieme a Rosy Nervi ogni lunedì mattina alle 11, in diretta sulla Rete Tre della RSI, in aggiunta al consueto
podcast del Disinformatico:

streaming

(si apre in una finestra separata) e

download.

Qui sotto trovate l’embed.

Questi sono gli argomenti di questa puntata, che include anche la musica:

  • Resoconto di Starmus: la parte scientifica
  • Antitruffa: una domanda veloce in privato su Messenger (Butac.it)
  • Tecniche dei furti degli account social (con testimonianze degli ascoltatori)
  • Cos’è una VPN
  • Donne dimenticate dalla scienza: Chien-Shiung Wu e, in generale, l’Effetto Matilda
  • ChatGPT altera il modo di conversare delle persone
  • Strane offerte di comprare foto personali per trasformarle in NFT: sono truffe
  • Interviste improbabili con Character.ai: Vincent Price (avatar su Character.ai)
Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
RSI - Niente Panico 2024/06/03

RSI – Niente Panico 2024/06/03

Ecco la puntata di questa settimana di
Niente Panico, il programma radiofonico che conduco insieme a Rosy
Nervi ogni lunedì mattina alle 11, in diretta alla RSI su Rete Tre, in aggiunta al
consueto podcast del Disinformatico:

streaming

(si apre in una finestra separata) e

download. Qui sotto trovate l’embed.

Questi sono gli argomenti di questa puntata, che include anche la musica e ho fatto da Lione, dove mi trovavo per lo European Skeptics Congress 2024 insieme agli amici del CICAP:

  • Antibufala: Internet sta scomparendo? No (Butac.it)
  • Antibufala: la morte di Terence Hill (no, non è morto) (Bufale.net)
  • Donne dimenticate dalla scienza: Alice Ball
  • Interviste improbabili con Character.ai: Tony
    Curtis

Screenshot della ricerca in Google con la query morto terence hill:

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

RSI – Niente Panico 2024/05/13

È a vostra disposizione la puntata di questa settimana di
Niente Panico, il programma radiofonico che conduco insieme a Rosy
Nervi ogni lunedì mattina alle 11, in diretta alla RSI, in aggiunta al
consueto podcast del Disinformatico:

streaming

(si apre in una finestra separata) e

download. Qui sotto trovate l’embed.

Questi sono gli argomenti di questa puntata, che include anche la musica, in
collegamento da Bratislava:

  • Resoconto di Starmus (il concerto di Jean-Michel Jarre e le conferenze di
    Jane Gooodall e di altri scienziati, astronauti, informatici, premi Nobel)
  • Antibufala: le origini sarde di Batman (Butac.it)
  • Donne dimenticate dalla scienza:
    Lise Meitner
Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.

RSI – Niente Panico 2024/05/06

È a vostra disposizione la puntata di questa settimana di Niente Panico, il programma radiofonico che
conduco insieme a Rosy Nervi ogni lunedì mattina alle 11, in diretta alla RSI, in aggiunta al consueto
podcast del Disinformatico:

streaming

(si apre in una finestra separata) e

download.

Qui sotto trovate l’embed.

Questi sono gli argomenti di questa puntata, che include anche la musica:

  • Donne dimenticate dalla scienza: Jocelyn Bell Burnell
  • Presentazione di Starmus a Bratislava
  • Marco Sieber, il nuovo astronauta svizzero
  • Bart Sibrel, complottista lunare, dice nel podcast di Joe Rogan che gli UFO sono pilotati da demoni (Daily Star)
  • Ufologia: il “caso Amicizia”
  • Interviste improbabili con Character.ai: Gustave Eiffel
  • Gary Brolsma e la Numa Numa Dance
  • Cos’è un “moonbounce”
Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.