assistente vocale – Pagina 2

Quanto sono intimi i dettagli raccolti da Siri e ascoltati dai dipendenti Apple? Molto

2019-08-02
di Paolo Attivissimo
Apple, assistente vocale, ReteTreRSI, Siri

Una indagine del giornale britannico The Guardian rivela quanto è vasta la rete delle persone che ascoltano quello che gli utenti di dispositivi Apple dicono a Siri, l‘assistente vocale dell’azienda: non si tratta solo di dipendenti Apple, ma anche di dipendenti di società collegate, che lavorano al controllo qualità per verificare che Siri capisca correttamente le richieste vocali. Tanta gente, e come sempre quando tante persone devono tenere un segreto, il segreto finisce a spasso.

Uno di questi dipendenti, riferisce il Guardian, ha lanciato l’allerta: Siri si attiva spessissimo anche quando l’utente non vuole interrogare questo assistente vocale. Lo fa, per esempio, ogni volta che un utente alza il polso sul quale indossa un Apple Watch: se il dispositivo sente delle voci, quelle voci vengono mandate ad Apple, che l’utente lo voglia o no. I principali colpevoli di queste attivazioni accidentali sono il Watch e l’altoparlante smart HomePod.

Il risultato è che anche se Apple anonimizza le registrazioni dissociandole dagli altri dati che raccoglie dall’utente, non è difficile identificare chi parla: basta per esempio che qualcuno dica il nome e cognome, suo o di altri, o un indirizzo, e addio anonimizzazione.

I dipendenti e subappaltatori di Apple, secondo il whistleblower intervistato dal Guardian, sentono regolarmente informazioni mediche confidenziali (conversazioni fra medici e pazienti), transazioni di spaccio di stupefacenti, e attività amorose intime. E la selezione di questo personale è spesso molto sommaria: “Non ci sono particolari controlli di affidabilità di chi ci lavora… e il ricambio è elevato.” Ma Apple, nella sua pagina sulla privacy, non spiega che ci sono suoi dipendenti, e dipendenti di aziende terze, che ascoltano quanto captato dall’assistente vocale.

L’unica opzione salvaprivacy per gli utenti Apple è disabilitare Siri: su smartphone e tablet, si va in Impostazioni – Siri e Cerca, e si disattiva Abilita “Ehi Siri” e Usa Siri quando bloccato.

2019/08/02 13:25. Poco dopo la pubblicazione iniziale di questo articolo è arrivata la notizia che Apple, come Google, ha sospeso l’ascolto da parte dei dipendenti.

Google smetterà di origliare le registrazioni di Assistant. Ma solo per tre mesi

2019-08-02
di Paolo Attivissimo
assistente vocale, Google, Internet delle cose, ReteTreRSI

The Verge segnala che il Commissario tedesco per la protezione dei dati ha annunciato che ha avviato una procedura amministrativa contro Google e ha ordinato all’azienda di smettere di dare ai dipendenti e ai collaboratori esterni le registrazioni delle voci degli utenti captate dai dispositivi dotati di Google Assistant, come gli altoparlanti smart e gli smartphone. Si tratta solo di una pausa temporanea di tre mesi, ma vale per tutti i paesi dell’Unione Europea.

Molti utenti pensano che questi dispositivi facciano riconoscimento vocale senza alcun intervento umano, ed è così: ma questo non vuol dire che quello che viene ascoltato dai microfoni di Google Home e simili non sia ascoltato da nessuno. Infatti un campione di queste registrazioni viene ascoltato da dipendenti di Google e di altre aziende collegate, allo scopo di verificare che il sistema automatico abbia capito correttamente quello che ha ascoltato.

Questo fatto è descritto da Google in un documento pubblico, ma non è noto a molti, e gli esperti hanno dimostrato che da queste registrazioni è possibile ricavare “informazioni personali — alcune delle quali sensibili – nella sfera privata e intima delle persone” e che “una parte non trascurabile delle registrazioni viene prodotta da attivazioni improprie”, ossia dal fatto che i dispositivi credono di aver sentito qualcosa che somiglia alla parola di attivazione e quindi si mettono a registrare e a trasmettere la registrazione a Google.

Il Commissario scrive inoltre che “l’uso di assistenti vocali automatici di fornitori come Google, Apple e Amazon si sta dimostrando molto rischioso per la privacy delle persone interessate. Questo vale non solo per le persone che usano un assistente vocale, ma anche per tutte le persone che vi entrano in contatto, per esempio se vivono in una casa in cui sono installati dispositivi come Google Assistant.” Oppure, aggiungo io, se visitano una casa nella quale è installato uno di questi dispositivi.

Amazon conferma che non cancella tutto quello che dite ad Alexa. Neanche se glielo chiedete

2019-07-05
di Paolo Attivissimo
Alexa, Amazon, assistente vocale, Internet delle cose, ReteTreRSI, riconoscimento vocale

Alexa, l’assistente vocale di Amazon, non cancella tutte le cose che registra, neppure quando l’utente glielo chiede (con comandi come “Alexa, cancella quello che ho appena detto” oppure “Alexa, cancella tutto quello che ho detto oggi”).

Lo segnala Gizmodo, citando una lettera pubblica del vicepresidente per le politiche pubbliche di Amazon, Brian Huseman, che dice che le trascrizioni automatiche di quello che è stato detto dagli utenti non sempre vengono eliminate. Amazon, dice la lettera, può decidere di conservare questi dati nonostante le richieste di cancellazione delle registrazioni degli utenti se includono per esempio richieste di abbonamento, ordini di pizza, acquisti online, impostazioni di sveglie, o messaggi agli amici.

Huseman spiega che Amazon conserva queste trascrizioni perché, dice, “i clienti non vorrebbero e non si aspetterebbero che la cancellazione della registrazione vocale cancellasse anche i dati di contorno o impedisse ad Alexa di svolgere il compito richiesto.”

Meglio tenerne conto, se usate questo genere di dispositivo: separate i vostri ordini dalle altre cose che dite in casa, sperando che Amazon le archivi altrettanto separatamente e quindi cancelli eventuali conversazioni confidenziali captate dai sensibilissimi microfoni di Alexa.

Quanta gente può consultare quello che si dice ad Alexa?

Torno a parlare di assistenti vocali e in particolare di Alexa, dopo le segnalazioni di problemi di privacy di un paio di settimane fa, per un aggiornamento.

Dalle indagini di Bloomberg è emerso infatti che non solo presso Amazon ci sono molti dipendenti che ascoltano quello che viene captato dal microfono di questi dispositivi, ma che questi dipendenti possono facilmente scoprire gli indirizzi di casa delle persone che si trovano a dover origliare per lavoro e potevano anche scoprirne facilmente i numeri di telefono.

Amazon ha confermato, precisando però che questo genere di accesso è dato a “un numero limitato” di dipendenti che usano “un campione molto piccolo di interazioni” per migliorare il sistema di riconoscimento vocale. Non è chiaro cosa si intenda per “limitato” e “molto piccolo”, considerato che Amazon ha oltre 600.000 dipendenti e sono stati venduti oltre 100 milioni di dispositivi Alexa.

Non è il caso di fare i complottisti paranoici, come Alex Jones che chiede ad Alexa se è collegata alla CIA:

I’m crying laughing…
“Alexa… are you connected to the CIA?”
“Alexa… you are lying to me.” – Alex Jones’ hard hitting back and forth interview with an Amazon Echo.
He’s not gonna let it get away with ANYTHING. pic.twitter.com/GxguDBLMST

— Tim Young (@TimRunsHisMouth) December 9, 2017

Tuttavia è importante rendersi conto che una conversazione fatta in un ambiente nel quale è attivo un dispositivo Alexa non può essere considerata realmente privata, perché a volte Alexa crede di aver sentito la parola di attivazione quando non è stata pronunciata e quindi inizia a registrare quando non dovrebbe. Qualunque assistente vocale attivato dalla voce tenderà a raccattare spezzoni di parlato non indirizzati ad esso: è un difetto inevitabile di questa tecnologia.

È altrettanto importante capire che la sensazione di intimità e riservatezza generata dalla voce suadente di questi dispositivi è ingannevole: chiunque abbia accesso all’account Amazon di una persona può infatti leggere e riascoltare tutte le domande fatte ad Alexa da quella persona. Genitori e figli, per esempio, potrebbero scoprire cose che preferirebbero non sapere gli uni degli altri. Lo stesso vale per le coppie.

Chi volesse ispezionare la propria cronologia delle richieste ad Alexa può andare a www.amazon.it/alexaprivacy e scegliere Rivedi la cronologia voce, come ho fatto io nello screenshot all’inizio di questo articolo. Raccomando inoltre di leggere con cura le Condizioni d’uso di Alexa e le altre informative di privacy del servizio: ma soprattutto di prendere la sana abitudine di galateo di spegnere i microfoni di Alexa con l’apposito pulsante, o scollegare il dispositivo dall’alimentazione, se arrivano ospiti o se si prevede di fare conversazioni intime: voi potreste non avere nulla da nascondere, ma magari il vostro interlocutore ha qualcosa da proteggere.

Perché alla fine questi assistenti vocali sono, in sostanza, microfoni che ci piazziamo in casa o in ufficio e sulla cui attivazione non abbiamo l’ultima parola (per parafrasare Jeremy Gillula, Electronic Frontier Foundation, citato da Gizmodo).

Se Amazon origlia, cosa fanno Google e Siri?

2019-04-16
di Paolo Attivissimo
assistente vocale, Google, ReteTreRSI, Siri

Se state pensando che Google potrebbe ascoltarvi come fa Amazon con il suo assistente vocale Alexa, avete indovinato. Come spiega Bloomberg, alcuni revisori possono accedere a spezzoni audio dell’Assistente Google per addestrarlo e migliorarlo, ma gli spezzoni non sono associati a informazioni personalmente identificabili e l’audio viene distorto, stando alle dichiarazioni di Google.

Se volete gestire le registrazioni vocali di Google, potete consultare le apposite istruzioni, che consentono di eliminare una singola registrazione audio oppure eliminarle tutte.

Anche Siri usa assistenti in carne ossa per verificare che questo assistente vocale abbia capito correttamente le intenzioni dell’utente. Come per Google, le registrazioni ascoltate non contengono informazioni personalmente identificabili e vengono conservate per sei mesi, tenendole associate a un identificativo generato a caso; passati i sei mesi, i dati vengono privati dell’identificativo casuale e possono essere conservati più a lungo per migliorare il riconoscimento vocale di Siri.

Apple non consente all’utente di esaminare le proprie registrazioni o di eliminarle in modo interattivo. Tuttavia è possibile far scorrere verso il basso la schermata “Come posso aiutarti?” di Siri per rivedere le richieste vocali più recenti. Inoltre andando in Impostazioni – Siri e Cerca e toccando Chiedi a Siri e privacy compare un’informativa che include questo suggerimento per cancellare completamente la propria cronologia di richieste vocali:

Puoi scegliere di disattivare Siri o Dettatura in qualsiasi momento. Per disattivare Siri, apri Impostazioni > Siri e Cerca, quindi disattiva le opzioni “Abilita Ehi Siri” e “Premi il tasto Home per Siri” o “Premi il tasto laterale per Siri”. Per disattivare Dettatura, apri Impostazioni > Generali > Tastiera, quindi disattiva “Abilita dettatura”. Se disattivi sia Siri che Dettatura, Apple cancellerà i tuoi dati utente, così come dati di input vocale recenti. I dati di input vocale meno recenti che sono stati dissociati potrebbero essere conservati per certo un periodo di tempo per migliorare le funzionalità generali di Siri, di Dettatura e della dettatura in altri prodotti e servizi Apple. Tali dati di input vocale possono includere file audio e trascrizioni di ciò che hai detto, dati diagnostici correlati, quali le specifiche hardware e del sistema operativo e le statistiche sulle prestazioni e la posizione approssimativa del dispositivo al momento della richiesta.

Quello che dite ad Alexa può essere ascoltato da dipendenti di Amazon

Se pensavate che le cose che dite ad Alexa, l’assistente vocale di Amazon, fossero private perché ascoltate soltanto da sistemi automatici per decifrarle e trasformarle in comandi e poi buttate via, ho una brutta notizia. Bloomberg ha scoperto che Amazon ha incaricato diverse migliaia di persone, sparse per il mondo, di ascoltare le voci degli utenti di Alexa, e le cose che dite vengono conservate.

Lo scopo di questo ascolto da parte di addetti di Amazon è migliorare il riconoscimento vocale di Alexa, ma questi addetti spesso captano registrazioni di momenti intimi e condividono gli spezzoni audio più divertenti. Comunque sia, ora sappiamo per certo che qualcuno origlia le cose captate dai microfoni di Alexa.

Amazon ha replicato alla scoperta di Bloomberg dicendo che questi dipendenti ascoltatori non hanno accesso a informazioni identificative e che ci sono numerose salvaguardie contro gli abusi. Ma è anche vero che Amazon non dice esplicitamente, nel suo materiale promozionale, che le conversazioni con Alexa possono essere ascoltate da suoi dipendenti.

Inoltre questi assistenti vocali, che in teoria dovrebbero registrare e decifrare solo dopo che hanno sentito la parola di attivazione (Alexa o Echo, di solito), in realtà si attivano anche per gli omofoni. Per esempio, in francese avec sa viene spesso frainteso come comando di attivazione. Il risultato è che spezzoni di conversazioni private, fatte senza invocare Alexa, finiscono negli archivi di Amazon.

Se volete un esempio di conversazione privata:

Ne ho uno in camera da letto, luogo dove entro solo io. In un ambiente comune come la sala non lo metterei mai. Lo uso prevalentemente per ascoltare musica, radio, podcast e info varie. Quando non sono in casa lo spengo.
A parte buttarlo via, quali altre accortezze suggeriresti?

— Deejay Raf (@DjRaf) 6 aprile 2019

Non portarci mai il tuo partner amoroso. Specialmente se si chiama Alessia 🙂

— Paolo Attivissimo (@disinformatico) 6 aprile 2019

LOL! Tu scherzi, ma ci hai preso in pieno: mi è successo proprio con una Alessia… rispondevano entrambe.

— Deejay Raf (@DjRaf) 6 aprile 2019

Se volete controllare che cosa ha registrato Alexa su di voi, e magari cancellarlo, potete farlo dall’app Alexa andando in Impostazioni – Account Alexa – Privacy Alexa o dalla pagina Web www.amazon.it/alexaprivacy.

Se invece volete evitare che i dipendenti di Amazon ascoltino quello che dite ad Alexa, andate all’app di Alexa sul vostro telefono, toccate il menu in alto a sinistra, scegliete Account Alexa e Privacy Alexa, scegliete Gestisci il modo in cui i tuoi dati migliorano Alexa e poi disattivate il pulsante accanto ad Aiuta a sviluppare nuove funzionalità.

Fonte aggiuntiva: The Register.

Alexa, voci captate in casa e inviate a uno sconosciuto

2018-12-21
di Paolo Attivissimo
Amazon, assistente vocale, privacy, ReteTreRSI

Amazon Echo, l’assistente vocale che risponde al nome di Alexa, è sostanzialmente un microfono sempre aperto e connesso a Internet. Forse è il caso di pensarci prima di comperarlo. Perché a volte quello che viene detto in casa viene captato e trasmesso a uno sconosciuto.

È successo a un cittadino tedesco, che ha chiesto ad Amazon di ricevere i dati riguardanti la sua attività presso questo negozio online e ha ricevuto 1700 registrazioni audio di comandi impartiti ad Alexa. Un risultato sorprendente, visto che non possiede un Echo.

Amazon gli aveva infatti inviato le registrazioni di qualcun altro. Il cittadino ha avvisato Amazon, che non gli ha risposto, però ha reso inattivo il link dal quale erano scaricabili le registrazioni.

I giornalisti di Heise.de le hanno ascoltate e sono stati in grado di “ricostruire un quadro dettagliato del cliente in questione e delle sue abitudini personali. Era ovvio che il ‘Cliente X’ usava Alexa in più di un posto. Aveva almeno un Echo in casa e ha un dispositivo Fire, comandato a voce, collegato alla sua TV. Anche una voce femminile si rivolgeva ad Alexa, e quindi c’era evidentemente una donna almeno per parte del tempo.”

Prosegue Heise: “Alexa era chiaramente in grado di sentire il nostro ‘soggetto’ nella doccia e i comandi dati a termostati e simili ci hanno mostrato che usa Alexa per comandare vari apparecchi smart di casa. Usa Alexa a casa, sul suo smartphone, e quando è in giro […] siamo stati in grado di esplorare la vita privata di uno sconosciuto senza che lui lo sapesse […] gli allarmi, i comandi Spotify, le richieste di informazioni sui trasporti pubblici incluse nei dati hanno rivelato molto sulle abitudini personali, il lavoro e i gusti musicali delle vittime. Usando questi file, è stato piuttosto facile identificare la persona e la sua compagna.”

Vi lascio leggere il resto della storia presso Heise.de. È molto interessante il modo in cui Amazon ha minimizzato e ha gestito il problema, prendendosi il merito di averlo scoperto, dicendo che si è trattato di “errore umano” ed evitando di contattare la persona di cui aveva inviato ad altri le registrazioni fino al momento in cui ne ha parlato Heise.de.

Se avete Alexa e volete riesaminare quello che ha registrato, potete visitare amazon.de/alexaprivacy (o il link equivalente del vostro account Amazon).

Violare un computer con la voce? Con Windows 10 si può

2018-06-15
di Paolo Attivissimo
aggiornamenti software, assistente vocale, Cortana, ReteTreRSI, Windows 10

Se usate Windows 10, vi conviene aggiornarlo: Microsoft ha rilasciato un aggiornamento correttivo che risolve una cinquantina di vulnerabilità, undici delle quali sono state classificate come “critiche”.

La più spettacolare riguarda Cortana, l’assistente vocale integrato in Windows 10, che ha un difetto grazie al quale un aggressore può sbloccare un computer non aggiornato quando è protetto dalla schermata di blocco. Lo sblocco avviene semplicemente dandogli un comando a voce.

La falla, denominata CVE-2018-8140, è utilizzabile per esempio per cambiare la password di accesso a un computer, per accedere ai dati presenti nel computer o per eseguire un malware con pieni privilegi. Dopo che l’utente (o l’aggressore) ha pronunciato la frase di attivazione “Ehi Cortana”, infatti, Windows 10 gli permette di digitare in una casella di ricerca. Questa casella accetta varie parole chiave, come pas (l’inizio di password), e risponde fornendo informazioni che riguardano quello che è stato digitato: per esempio l’ubicazione di un file di password.

In alternativa l’aggressore può fare clic destro per far comparire un menu che include varie opzioni pericolose, come “esegui come Amministratore” oppure “esegui con PowerShell” (la shell di comando testuale di Microsoft).

Su Bleepingcomputer trovate un video di dimostrazione di un attacco che sfrutta questa vulnerabilità vocale. Presso McAfee trovate tutti i dettagli degli altri modi molto creativi nei quali questo attacco può essere messo a segno.

Naturalmente questa falla è sfruttabile soltanto da un aggressore che si trovi fisicamente vicino al vostro computer e libero di agire (e a quel punto la partita è ormai già quasi persa); una situazione che può capitare abbastanza facilmente in ufficio, quando si lascia il PC incustodito perché tanto ci pensa la schermata di blocco a proteggerlo.

Aggiornate il vostro PC, insomma, e se non usate Cortana, disabilitate questo assistente vocale.