Vai al contenuto
Secondo Amazon, due legislatori americani su dieci sono criminali. Le gioie del riconoscimento facciale

Secondo Amazon, due legislatori americani su dieci sono criminali. Le gioie del riconoscimento facciale

Sono sempre più numerosi i governi che spingono per l’introduzione del riconoscimento facciale come strumento di sorveglianza e lotta al crimine, ma è importante capire bene la reale affidabilità di questi sistemi, specialmente se non vengono configurati rispettando attentamente le raccomandazioni dei produttori.

Di recente la ACLU, un’associazione statunitense che si batte per la difesa dei diritti civili, ha dato una dimostrazione molto efficace dei limiti di affidabilità del sistema Rekognition di Amazon. Al sistema sono state date in pasto 120 immagini di legislatori californiani, per confrontarle con 25.000 foto segnaletiche di criminali. Rekognition ha trovato 26 corrispondenze. Tutte errate.

I legislatori, che sono chiamati proprio in questo periodo a legiferare sul riconoscimento facciale, ci possono ridere sopra: ma una persona che cerca lavoro e viene erroneamente identificata come un criminale ride molto meno.

Amazon ha contestato i risultati di questa dimostrazione, dicendo che se Rekognition viene usato “usando la soglia raccomandata di certezza del 99% e nell’ambito di una decisione guidata da esseri umani”, funziona adeguatamente. Il test della ACLU, invece, aveva usato una soglia dell’80%. Che però, nota l’associazione, è l’impostazione predefinita del software, ed è comunque piuttosto alta.

Quello che è certo è che senza un’impostazione corretta e scelta caso per caso, il rischio di falsi positivi che possono rovinare una vita è alto. Conviene quindi dare a questi sistemi di riconoscimento facciale una certa tara, altrimenti c’è il rischio che chi li usa li scambi per oracoli infallibili.

Amazon conferma che non cancella tutto quello che dite ad Alexa. Neanche se glielo chiedete

Amazon conferma che non cancella tutto quello che dite ad Alexa. Neanche se glielo chiedete

Alexa, l’assistente vocale di Amazon, non cancella tutte le cose che registra, neppure quando l’utente glielo chiede (con comandi come “Alexa, cancella quello che ho appena detto” oppure “Alexa, cancella tutto quello che ho detto oggi”).

Lo segnala Gizmodo, citando una lettera pubblica del vicepresidente per le politiche pubbliche di Amazon, Brian Huseman, che dice che le trascrizioni automatiche di quello che è stato detto dagli utenti non sempre vengono eliminate. Amazon, dice la lettera, può decidere di conservare questi dati nonostante le richieste di cancellazione delle registrazioni degli utenti se includono per esempio richieste di abbonamento, ordini di pizza, acquisti online, impostazioni di sveglie, o messaggi agli amici.

Huseman spiega che Amazon conserva queste trascrizioni perché, dice, “i clienti non vorrebbero e non si aspetterebbero che la cancellazione della registrazione vocale cancellasse anche i dati di contorno o impedisse ad Alexa di svolgere il compito richiesto.”

Meglio tenerne conto, se usate questo genere di dispositivo: separate i vostri ordini dalle altre cose che dite in casa, sperando che Amazon le archivi altrettanto separatamente e quindi cancelli eventuali conversazioni confidenziali captate dai sensibilissimi microfoni di Alexa.

Quanta gente può consultare quello che si dice ad Alexa?

Quanta gente può consultare quello che si dice ad Alexa?

Torno a parlare di assistenti vocali e in particolare di Alexa, dopo le segnalazioni di problemi di privacy di un paio di settimane fa, per un aggiornamento.

Dalle indagini di Bloomberg è emerso infatti che non solo presso Amazon ci sono molti dipendenti che ascoltano quello che viene captato dal microfono di questi dispositivi, ma che questi dipendenti possono facilmente scoprire gli indirizzi di casa delle persone che si trovano a dover origliare per lavoro e potevano anche scoprirne facilmente i numeri di telefono.

Amazon ha confermato, precisando però che questo genere di accesso è dato a “un numero limitato” di dipendenti che usano “un campione molto piccolo di interazioni” per migliorare il sistema di riconoscimento vocale. Non è chiaro cosa si intenda per “limitato” e “molto piccolo”, considerato che Amazon ha oltre 600.000 dipendenti e sono stati venduti oltre 100 milioni di dispositivi Alexa.

Non è il caso di fare i complottisti paranoici, come Alex Jones che chiede ad Alexa se è collegata alla CIA:

Tuttavia è importante rendersi conto che una conversazione fatta in un ambiente nel quale è attivo un dispositivo Alexa non può essere considerata realmente privata, perché a volte Alexa crede di aver sentito la parola di attivazione quando non è stata pronunciata e quindi inizia a registrare quando non dovrebbe. Qualunque assistente vocale attivato dalla voce tenderà a raccattare spezzoni di parlato non indirizzati ad esso: è un difetto inevitabile di questa tecnologia.

È altrettanto importante capire che la sensazione di intimità e riservatezza generata dalla voce suadente di questi dispositivi è ingannevole: chiunque abbia accesso all’account Amazon di una persona può infatti leggere e riascoltare tutte le domande fatte ad Alexa da quella persona. Genitori e figli, per esempio, potrebbero scoprire cose che preferirebbero non sapere gli uni degli altri. Lo stesso vale per le coppie.

Chi volesse ispezionare la propria cronologia delle richieste ad Alexa può andare a www.amazon.it/alexaprivacy e scegliere Rivedi la cronologia voce, come ho fatto io nello screenshot all’inizio di questo articolo. Raccomando inoltre di leggere con cura le Condizioni d’uso di Alexa e le altre informative di privacy del servizio: ma soprattutto di prendere la sana abitudine di galateo di spegnere i microfoni di Alexa con l’apposito pulsante, o scollegare il dispositivo dall’alimentazione, se arrivano ospiti o se si prevede di fare conversazioni intime: voi potreste non avere nulla da nascondere, ma magari il vostro interlocutore ha qualcosa da proteggere.

Perché alla fine questi assistenti vocali sono, in sostanza, microfoni che ci piazziamo in casa o in ufficio e sulla cui attivazione non abbiamo l’ultima parola (per parafrasare Jeremy Gillula, Electronic Frontier Foundation, citato da Gizmodo).

Quello che dite ad Alexa può essere ascoltato da dipendenti di Amazon

Quello che dite ad Alexa può essere ascoltato da dipendenti di Amazon

Se pensavate che le cose che dite ad Alexa, l’assistente vocale di Amazon, fossero private perché ascoltate soltanto da sistemi automatici per decifrarle e trasformarle in comandi e poi buttate via, ho una brutta notizia. Bloomberg ha scoperto che Amazon ha incaricato diverse migliaia di persone, sparse per il mondo, di ascoltare le voci degli utenti di Alexa, e le cose che dite vengono conservate.

Lo scopo di questo ascolto da parte di addetti di Amazon è migliorare il riconoscimento vocale di Alexa, ma questi addetti spesso captano registrazioni di momenti intimi e condividono gli spezzoni audio più divertenti. Comunque sia, ora sappiamo per certo che qualcuno origlia le cose captate dai microfoni di Alexa.

Amazon ha replicato alla scoperta di Bloomberg dicendo che questi dipendenti ascoltatori non hanno accesso a informazioni identificative e che ci sono numerose salvaguardie contro gli abusi. Ma è anche vero che Amazon non dice esplicitamente, nel suo materiale promozionale, che le conversazioni con Alexa possono essere ascoltate da suoi dipendenti.

Inoltre questi assistenti vocali, che in teoria dovrebbero registrare e decifrare solo dopo che hanno sentito la parola di attivazione (Alexa o Echo, di solito), in realtà si attivano anche per gli omofoni. Per esempio, in francese avec sa viene spesso frainteso come comando di attivazione. Il risultato è che spezzoni di conversazioni private, fatte senza invocare Alexa, finiscono negli archivi di Amazon.

Se volete un esempio di conversazione privata:

Se volete controllare che cosa ha registrato Alexa su di voi, e magari cancellarlo, potete farlo dall’app Alexa andando in Impostazioni – Account Alexa – Privacy Alexa o dalla pagina Web www.amazon.it/alexaprivacy.

Se invece volete evitare che i dipendenti di Amazon ascoltino quello che dite ad Alexa, andate all’app di Alexa sul vostro telefono, toccate il menu in alto a sinistra, scegliete Account Alexa e Privacy Alexa, scegliete Gestisci il modo in cui i tuoi dati migliorano Alexa e poi disattivate il pulsante accanto ad Aiuta a sviluppare nuove funzionalità.

Fonte aggiuntiva: The Register.

Campanelli digitali, video visibili a sconosciuti

Campanelli digitali, video visibili a sconosciuti

Se avete acquistato un campanello digitale Ring di Amazon, tenete presente che i video registrati da questo dispositivo possono essere stati condivisi con sconosciuti e guardati dallo staff dell’azienda.

Secondo le indagini di The Intercept e di The Information, i video acquisiti da campanelli e telecamere di sorveglianza internet di questa marca venivano accumulati nel cloud di Amazon e messi a disposizione dei dipendenti in Ucraina e dei dirigenti negli Stati Uniti, senza crittografia per ridurre i costi e facilitare l’accesso. Per accedere a quello che vedevano le telecamere degli utenti era sufficiente conoscere il loro indirizzo di mail.

Inoltre la vantata “intelligenza” di riconoscimento delle immagini di queste telecamere era in realtà basata sull’instancabile e frenetico lavoro di un gran numero di dipendenti che esaminavano manualmente i video per valutarli. A giudicare dalle inserzioni su LinkedIn, questa prassi continua tuttora.

Secondo le fonti di The Intercept, “i dipendenti di Ring si scambiavano i video che stavano etichettando e descrivevano alcune delle cose che avevano visto, come persone che si baciavano, sparavano con armi da fuoco e rubavano”.

Di fronte a queste notizie, la maggior parte della gente reagisce dicendo “ma io non ho niente da nascondere”. Pensateci la prossima volta che vostra figlia torna a casa con il suo partner.

Alexa, voci captate in casa e inviate a uno sconosciuto

Alexa, voci captate in casa e inviate a uno sconosciuto

Amazon Echo, l’assistente vocale che risponde al nome di Alexa, è sostanzialmente un microfono sempre aperto e connesso a Internet. Forse è il caso di pensarci prima di comperarlo. Perché a volte quello che viene detto in casa viene captato e trasmesso a uno sconosciuto.

È successo a un cittadino tedesco, che ha chiesto ad Amazon di ricevere i dati riguardanti la sua attività presso questo negozio online e ha ricevuto 1700 registrazioni audio di comandi impartiti ad Alexa. Un risultato sorprendente, visto che non possiede un Echo.

Amazon gli aveva infatti inviato le registrazioni di qualcun altro. Il cittadino ha avvisato Amazon, che non gli ha risposto, però ha reso inattivo il link dal quale erano scaricabili le registrazioni.

I giornalisti di Heise.de le hanno ascoltate e sono stati in grado di “ricostruire un quadro dettagliato del cliente in questione e delle sue abitudini personali. Era ovvio che il ‘Cliente X’ usava Alexa in più di un posto. Aveva almeno un Echo in casa e ha un dispositivo Fire, comandato a voce, collegato alla sua TV. Anche una voce femminile si rivolgeva ad Alexa, e quindi c’era evidentemente una donna almeno per parte del tempo.”

Prosegue Heise: “Alexa era chiaramente in grado di sentire il nostro ‘soggetto’ nella doccia e i comandi dati a termostati e simili ci hanno mostrato che usa Alexa per comandare vari apparecchi smart di casa. Usa Alexa a casa, sul suo smartphone, e quando è in giro […] siamo stati in grado di esplorare la vita privata di uno sconosciuto senza che lui lo sapesse […] gli allarmi, i comandi Spotify, le richieste di informazioni sui trasporti pubblici incluse nei dati hanno rivelato molto sulle abitudini personali, il lavoro e i gusti musicali delle vittime. Usando questi file, è stato piuttosto facile identificare la persona e la sua compagna.”

Vi lascio leggere il resto della storia presso Heise.de. È molto interessante il modo in cui Amazon ha minimizzato e ha gestito il problema, prendendosi il merito di averlo scoperto, dicendo che si è trattato di “errore umano” ed evitando di contattare la persona di cui aveva inviato ad altri le registrazioni fino al momento in cui ne ha parlato Heise.de.

Se avete Alexa e volete riesaminare quello che ha registrato, potete visitare amazon.de/alexaprivacy (o il link equivalente del vostro account Amazon).

Amazon e la traduzione automatica

Amazon e la traduzione automatica

Si fa un gran parlare di intelligenza artificiale e di comprensione del linguaggio umano da parte dei computer, ma nel caso di Amazon sembra proprio che intelligenza e soprattutto comprensione siano andati a fare una passeggiata e non siano più tornati.

Amazon.it è infatti ricco di traduzioni assolutamente assurde di prodotti, presumibilmente perché le descrizioni vengono scritte in inglese e poi tradotte automaticamente senza però tenere conto dei doppi significati di alcune parole inglesi.

Prendete per esempio la parola cock. Significa sia gallo, sia fallo (in realtà la traduzione precisa del secondo significato è un po’ più volgare, ma lascio a voi immaginarla). E quando Amazon deve tradurre un ciondolo a forma di gallo, che cosa sceglie il traduttore automatico?

Fonte: Amazon.it.

Fonte: Amazon.it.

Anche il termine inglese wire stripper (spelafili) viene sbagliato clamorosamente, diventando Spogliarellista cavi:

Fonte: Amazon.it.

E che dire del Cestino di stoccaggio di impiccagione creativo? Traduzione bislacca di Creative Hanging Storage Hanging Basket (to hang significa appendere ma anche impiccare). La descrizione include anche un magnifico Cremagliera dell’organizzatore, che deriva da tidy rack (rastrelliera per riordinare), come si nota cercando lo stesso prodotto su Amazon.de.

Fonte: Amazon.it.

C’è anche un elefante giocattolo che aveva decisamente un pessimo carattere:

Ma ora è stato corretto in un più rassicurante spavaldo.

Come mai Amazon non adotta per esempio un filtro che escluda le parole scurrili o perlomeno attiri l’attenzione di un verificatore umano quando le incontra? Bella domanda. Vorrei saperlo anch’io. Comunque non è solo un problema di parolacce: dai commenti arrivati dopo la pubblicazione iniziale di questo articolo sono arrivate segnalazioni come i bicchieri di realtà virtuale: traduzione completamente sbagliata di virtual reality glasses, con il traduttore che inciampa nel doppio significato inglese di glasses (bicchieri ma anche occhiali).

Assistenti vocali troppo pettegoli: Amazon Echo cattura e invia conversazione privata

Assistenti vocali troppo pettegoli: Amazon Echo cattura e invia conversazione privata

Amazon Echo in versione HAL.
Credit: Cryteria (CC-BY).

Ricordate quando dicevo che mettersi in casa un microfono sempre aperto e connesso a Internet, come per esempio un Google Home o un Amazon Echo, era una pessima idea perché esponeva al rischio che qualcuno ascoltasse le conversazioni? È successo. Non ci voleva un genio particolare per prevederlo, per cui non mi voglio prendere meriti da profeta, ma almeno un “ve l’avevo detto” credo di potermelo permettere.

Un assistente vocale (o “altoparlante smart”) Echo di Amazon, installato in una casa a Portland, in Oregon, ha ascoltato, registrato e inviato una conversazione privata tra moglie e marito a un conoscente degli abitanti della casa che vive a Seattle. Amazon ha confermato la notizia, accolta inizialmente con una certa incredulità.

Tutto è iniziato a metà maggio scorso con una telefonata da uno dei dipendenti della coppia, che avvisava di scollegare subito i dispositivi di Amazon presenti in casa perché erano stati “hackerati”. Il dipendente ha spiegato che aveva ricevuto dei file audio che contenevano registrazioni delle conversazioni avvenute nella casa. La coppia, inizialmente incredula, ha dovuto ricredersi quando il dipendente ha descritto il contenuto di una conversazione e poi gliel’ha fatta riascoltare.

Amazon, contattata dalla coppia, si è scusata, ha analizzato i log dell’altoparlante smart e ha spiegato come è avvenuta la violazione della sfera privata: il dispositivo Echo, permanentemente in ascolto, ha captato delle parole nella conversazione della coppia che ha interpretato come un comando di attivazione (il comando standard è il nome Alexa). Poi ne ha captate delle altre che ha interpretato come una richiesta di inviare un messaggio (send message).

A questo punto Echo ha detto “To whom?” (“A chi?”) e poi si è messo in ascolto in attesa che qualcuno dicesse il nome del destinatario del messaggio. La coppia, ignara della richiesta e del microfono aperto, ha proseguito la propria conversazione ed Echo ha interpretato alcune delle loro parole come il nome di una persona presente nella rubrica dei contatti.

Echo ha poi chiesto conferma dicendo “[nome del contatto], right?” e si è messo in attesa di una risposta. Intanto la coppia ha continuato a parlare ed Echo ha interpretato erroneamente alcune delle loro parole come una conferma (“right”) e quindi ha inviato il messaggio, contenente un brano della conversazione.

In sintesi:

  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato ordinato di mandare un messaggio e chiede “A chi?”
  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato detto il nome del contatto a cui mandare il messaggio e chiede “A [nome], giusto?”
  • Coppia: bla bla bla bla bla
  • Echo capisce che gli è stato risposto “Giusto”, inizia a registrare il “messaggio” e lo manda al contatto.

Tre errori di interpretazione concatenati sono un evento improbabile, certo, ma l’evento improbabile è avvenuto, dimostrando chiaramente che questi dispositivi possono fraintendere facilmente i comandi vocali e addirittura inventarsene quando non ne sono stati dati.

La coppia ha chiesto ad Amazon il rimborso dei dispositivi Alexa. Amazon per ora non ha accettato e ha dichiarato che sta prendendo “misure affinché questo non succeda in futuro”.

Fonte aggiuntiva: Ars Technica.

Amazon Echo modificato diventa microspia; occhio agli altoparlanti “smart”

Amazon Echo modificato diventa microspia; occhio agli altoparlanti “smart”

Credit: Cryteria (CC-BY)

Pochi giorni fa mi trovavo in un centro commerciale (il Media Markt di Lugano), nel reparto di elettronica di consumo, quando mi è arrivata una chiamata al telefono. La chiamata riguardava una questione di lavoro abbastanza riservata ed ero in un luogo pubblico, ma non mi sono preoccupato più di tanto perché vicino a me non c’era nessuno e ho tenuto basso il volume della mia voce. Ma a un certo punto una voce accanto a me ha detto “Mi dispiace, ma non ho capito.”

La voce proveniva non da una persona, ma da un oggetto piazzato su uno scaffale di esposizione: un Google Home Mini, uno di quei dispositivi che oggi va di moda chiamare “altoparlante smart” o “assistente per la casa” ma che in sintesi sono dei microfoni permanentemente aperti e connessi a Internet. Oggetti che secondo chi li produce dovremmo metterci in casa per poter interagire con Internet e i servizi commerciali della Rete semplicemente tramite la nostra voce.

Per esempio, se abbiamo le mani occupate, possiamo chiedere all’assistente digitale di comporre per noi il numero di telefono di un amico o di mandargli un messaggio. Se viviamo in una casa “smart”, attrezzata con impianti di controllo informatizzati, possiamo chiedere a questo assistente di accendere le luci, abbassare le tapparelle, regolare il riscaldamento o l’aria condizionata, programmare la TV o suonare le nostre canzoni preferite. E naturalmente fare shopping online.

Tutto molto bello e futuribile, ma il mio piccolo incidente personale mostra il rovescio della medaglia di queste tecnologie, che è meglio conoscere per scegliere se acquistarle e per impostarle correttamente. Google Home Mini, infatti, si attiva ogni volta che capta qualunque suono che secondo il suo software corrisponde a “OK Google”. Un altro prodotto concorrente, Echo di Amazon, si attiva chiamandolo per nome, ossia “Alexa”. Tutto quello che dite dopo queste parole di attivazione viene registrato e trasmesso ai computer centrali di Google e rispettivamente di Amazon per essere analizzato e decodificato.

In altre parole, tutto quello che viene detto in casa di chi ha un “altoparlante smart” viene ascoltato dal dispositivo; se, a giudizio di quel dispositivo, è stata pronunciata la frase di attivazione, tutto quel che viene detto subito dopo viene inviato a Google o Amazon.

Il problema è che a volte il software di riconoscimento vocale di questi dispositivi sbaglia e quindi pensa che sia stata detta la frase di attivazione quando in realtà non è stata pronunciata. Il risultato, come ho già accennato per gli smartphone, è che pezzi delle nostre conversazioni private possono finire archiviati involontariamente e inconsapevolmente presso le grandi aziende di raccolta di dati personali.

È un fatto poco conosciuto e sul quale occorre riflettere. Una conversazione che facciamo in confidenza a casa di un amico informatizzato potrebbe essere registrata e ascoltata di nascosto tramite questi dispositivi “smart”.

La protezione apparente offerta dalla frase di attivazione, fra l’altro, è già stata scavalcata. I ricercatori della società di sicurezza informatica Checkmarx hanno infatti trovato il modo di attivare di nascosto e permanentemente il microfono incorporato in Amazon Echo, per cui tutto quello che viene captato dal suo sensibilissimo microfono viene non solo trasmesso ma viene anche trascritto, pronto per l’uso e l’abuso.

La falla è solo un proof of concept e Amazon l’ha già corretta, ma è già la seconda del suo genere che è stata trovata. Per fortuna in questi dispositivi esiste l’opzione di richiedere la pressione di un tasto per accendere il loro microfono. Valutate se è il caso di attivarla, oppure di non mettersi del tutto un microfono aperto in casa.

Videocitofono online un po' troppo pettegolo

Videocitofono online un po’ troppo pettegolo

La sicurezza dei campanelli o videocitofoni digitali è ancora tutta da inventare: si tratta di oggetti indubbiamente utili, perché consentono di vedere chi c’è alla porta tramite lo smartphone, sia quando siamo in casa sia quando siamo lontani da casa, come ho raccontato di recente, ma essendo connessi a Internet è importante assicurarsi che non abbiano difetti di progettazione che consentano a un malintenzionato di abusarne via Internet.

The Information segnala il caso del “campanello smart” della Ring, azienda acquisita di recente da Amazon per un miliardo di dollari: un uomo di Miami, in Florida, Jesus Echezarreta, dopo aver chiuso la relazione con il proprio partner, ha cambiato la password di questo campanello, eppure l’ex partner è riuscito comunque a scaricare video dal dispositivo e persino a farlo suonare nel cuore della notte. Tutto tramite smartphone.

L’azienda ha risolto questa falla a gennaio scorso, ma il difetto di progettazione era grave: se un utente era già connesso al campanello tramite l’app, il software del Ring gli consentiva di restare connesso anche dopo un cambio di password. Una progettazione intelligente, invece, avrebbe obbligato tutti a riconnettersi. È un po’ come cambiare la serratura alla porta di casa e poi scoprire che si apre anche usando le chiavi di quella vecchia.

Anche dopo la correzione apportata da Ring, comunque, i test indicano che un utente resta collegato anche fino a ventiquattro ore dopo il cambio di password. Se state pensando di installare questi dispositivi, valutate bene a chi affidarne l’accesso.