Venerdì scorso sono stato ospite della trasmissione Patti Chiari della Radiotelevisione Svizzera per parlare di due tipi di truffa che sono diventati molto diffusi: il furto di denaro tramite codici QR ingannevoli e il furto di auto tramite le rispettive app di gestione.
La puntata è visionabile qui oppure qui sotto (salvo georestrizioni che mi segnalano alcuni commentatori):
Aggiungo qualche link utile per inquadrare meglio i due casi:
Il test per sapere se siete in grado di riconoscere un messaggio fraudolento
La pagina di Tesla che spiega (in italiano) come funziona l’autenticazione a due fattori (o autenticazione a più fattori, come la chiama Tesla) sulle sue auto (e anche sulla mia)
Sottolineo, per maggiore chiarezza, che l’autenticazione a due fattori non va confusa con il PIN di sblocco dell’auto, il cosiddetto PIN to Drive. L’autenticazione protegge l’accesso all’account usato per gestire l’auto tramite l’app; il PIN di sblocco protegge l’auto contro il furto perché è un PIN che va digitato sullo schermo dell’auto, nell‘abitacolo, per consentirne la guida.
Stasera alle 19 sarò ospite del canale YouTube di Tesla Owners Italia per parlare delle ultime dichiarazioni di Elon Musk, tra alieni, missioni su Marte e SpaceX: chi lo osanna e chi lo prende per pazzo. Una parte della puntata sarà dedicata alle tariffe delle ricariche impazzite in Italia. Cosa c’è dietro? Con me ci saranno Fabrizio Colista, ingegnere e divulgatore tecnico scientifico, Daniele Invernizzi e Pierpaolo Zampini. Coordina Luca Del Bo.
Oggi alle 19 sarò in diretta streaming su YouTube con Tesla Owners Italia per parlare di auto elettriche, viste le ultime notizie di cronaca sugli incendi di questi veicoli, sul “richiamo” di due milioni di Tesla, sulla produzione delle batterie che emette più CO2 di un’auto termica e sull’aumento dei consumi di carbone che sarebbe legato alle auto elettriche. Parleremo insomma della malinformazione e le fake news in circolazione sul tema, e ci sarà spazio per parlare delle conclusioni della COP28 con chi ha vissuto dal vivo a Dubai le fasi finali della conferenza: Domenico Vito di Climate Reality Project. Si parlerà anche del Cybertruck e del mercato delle auto elettriche con Carlo Bellati di Automoto.it, e parteciperanno anche Daniele Invernizzi e Pierpaolo Zampini. La diretta sarà coordinata da Luca De Bo.
L’articolo è stato aggiornato dopo la pubblicazione iniziale. Ultimo aggiornamento: 2016/04/19 21:00.
Il 12 marzo si terrà a Verona l’incontro Tesla Revolution: una giornata di relazioni e discussioni sul futuro e sul presente delle automobili elettriche Tesla (ma non solo), con esperti del settore e con proprietari di queste auto, per conoscerle meglio e smontare miti positivi e negativi. Sarà il primo raduno italiano di proprietari Tesla e si terrà al Crowne Plaza Verona, dove c’è un punto di ricarica rapida Supercharger.
Come noterete dal programma della manifestazione, insieme ai notevoli relatori ci sono anch’io, su invito di Redder, uno degli sponsor di Tesla Revolution. Non essendo un esperto di autotrazione elettrica o proprietario di Tesla (non ancora, perlomeno), che c’entro io? Semplice: nel mio intervento, dalle 10:40, userò gli strumenti tecnici del debunking per cercare di capire se Elon Musk, boss di Tesla, è, come recita il titolo, “visionario illuminato o folle ottimista”.
Tutti i posti disponibili per le conferenze e i dibattiti sono stati già prenotati, ma se siete da quelle parti e volete vedere un numero decisamente anomalo di Tesla, fatevi trovare in zona.
2016/04/19 21:00. È stato pubblicato il video del mio intervento.
Questo articolo vi arriva gratuitamente grazie alle donazioni dei
lettori. Se vi piace, potete farne una per
incoraggiarmi a scrivere ancora (anche con un microabbonamento). Ultimo aggiornamento: 2023/01/21.
Stanotte (ora italiana) Elon Musk ha annunciato a sorpresa, con un post su Tesla.com
e una conferenza stampa telefonica (ora rimossa), il nuovo hardware che viene già ora installato a bordo di
tutte le auto Tesla che lasciano la catena di montaggio e che verrà installato
anche sulle future Model 3 (come quella che ho prenotato ad aprile scorso):
otto telecamere con copertura su 360 gradi, sia grandangolari sia a
teleobiettivo (disposte e nascoste in questo modo);
un radar frontale con elaborazione migliorata, “in grado di penetrare pioggia intensa, nebbia e polvere e persino
guardare oltre l’auto che sta davanti”
(è già successo, salvando un conducente);
dodici sensori a ultrasuoni migliorati (fino a 8 metri di portata);
un computer di bordo molto più potente, basato su GPU Nvidia;
software riscritto per tenere conto delle nuove risorse hardware.
Questa nuova dotazione hardware e software consentirà, dice Musk, di saltare la
fase di miglioria iniziata con l’Autopilot 2.0 (il software di guida assistita, non autonoma), che avrebbe portato le Tesla prodotte fin qui
al Livello 3 o 4 di autonomia secondo i criteri SAE, e di offrire direttamente la guida totalmente autonoma (Livello 5): il
“conducente” non dovrà fare altro che impostare la destinazione desiderata.
Contemporaneamente Tesla ha pubblicato il video qui sotto, girato nei dintorni
di Palo Alto e nel parcheggio della casa automobilistica (secondo le deduzioni di Electrek). Attenzione: è accelerato rispetto alla realtà. Presumo che sia stato girato
in condizioni particolarmente favorevoli, che non corrispondono nemmeno
lontanamente alla realtà di una congestionata città europea, ma vi sfido a
guardarlo senza angosciarvi a ogni incrocio e senza restare a bocca aperta
quando il “conducente” scende dall’auto e l’auto va da sola a cercarsi un parcheggio (saltando,
fra l’altro, il parcheggio per disabili perché, dice Musk, ha letto il cartello stradale). Cose già viste in tanti prototipi di altre case automobilistiche, ma qui si
parla di fornirle in un’automobile di serie.
La guida autonoma mostrata nel video non sarà disponibile da subito sulle Tesla
predisposte: per ora viene solo installato l’hardware adatto a consentirla. Il
software, dice Tesla, verrà aggiornato man mano che la flotta di auto acquisisce
esperienza di guida in condizioni reali.
—
2023/01/21: Sette anni dopo la pubblicazione di questo video,
è emerso che si trattava di una messinscena. E infatti, a sette anni di distanza, la guida autonoma mostrata in questo video non è ancora pubblicamente disponibile. I dettagli sono in questo mio articolo.
—
The Register
nota che l’annuncio
precisa che l’attuale Autopilot (sistema di guida assistita usato fin qui)
non sarà abilitato nelle nuove Tesla: anzi, inizialmente queste
nuove auto non avranno neanche la frenata automatica d’emergenza,
l’allarme di collisione, il mantenimento di corsia e il cruise control attivo (almeno fino a dicembre 2016, secondo il sito di Tesla). Le “vecchie” Tesla già circolanti, invece, continueranno ad avere
l’attuale Autopilot (se i proprietari lo hanno acquistato e lo
abilitano).
Le nuove Tesla Model S e X, in altre parole, saranno all’inizio inferiori a quelle oggi circolanti, ma le funzioni di sicurezza
attiva (per esempio manovre anticollisione e frenata d’emergenza) verranno
attivate in seguito, intorno a dicembre 2016 tramite aggiornamenti
software distribuiti tramite la rete cellulare.
Chi acquista oggi una Tesla ha come opzione un Enhanced Autopilot (guida assistita, con adattamento della
velocità al traffico circostante, mantenimento di corsia, gestione degli
svincoli e delle uscite autostradali, cambio di corsia e parcheggio
automatico), che in Italia costa 5700 euro (6800 se attivato dopo la
consegna) e una Full Self-Driving Capability (guida autonoma), che costa altri 3400 euro (4500 post-consegna) in aggiunta al costo dell’Enhanced Autopilot.
La differenza fra una Model S o X elettrica “manuale”, con le funzioni
basilari di assistenza alla guida, e la stessa auto in versione pienamente
autonoma ammonta insomma a ben 9100 euro nel migliore dei casi. Una cifra
non trascurabile, anche se le Model S e X sono auto di lusso da 80.000
euro e passa. Sarà interessante scoprire il costo di quest’opzione sulla
Model 3, ben più economica (da 35.000 dollari in su).
Va detto, inoltre, che Tesla sottolinea
che le funzioni di guida autonoma “dipendono da una validazione estesa del software e dell’approvazione
normativa”
e che “non è possibile sapere esattamente quando ciascun elemento di queste
funzioni verrà reso disponibile”.
Entro la fine dell’anno prossimo, dice il Wall Street Journal, Tesla intende dimostrare un viaggio totalmente autonomo da costa a
costa negli Stati Uniti (da Los Angeles a New York). Affascinante.
L’altro aspetto interessante dell’annuncio di oggi è che specifica
che “usare una Tesla a guida autonoma per condividere l’auto e per
trasportare amici e familiari va benissimo, ma farlo a scopo di lucro
sarà permesso solo sul Tesla Network, di cui verranno resi noti i
dettagli l’anno prossimo”. Tesla, insomma, sta già pensando a un futuro nel quale le
automobili autonome saranno usabili come fonte di reddito: invece di
restare ferma in garage a svalutarsi, l’auto potrà essere usata da altri
come taxi, a pagamento, quando non ne abbiamo bisogno, come descritto da
Elon Musk nel suo Master Plan Part Deux. E Tesla vuole detenere il monopolio nell’uso commerciale delle proprie
auto in modalità autonoma.
Chiarisco alcuni dubbi che stanno emergendo dai commenti e propongo alcune
riflessioni:
le Tesla hanno un’app che permette di localizzarle e (nella futura
versione mostrata qui sopra) chiamarle a distanza dal loro parcheggio fino
a dove si trova il proprietario. Non so cosa succeda in caso di parcheggio
in zona non servita dalla rete cellulare (per esempio un parcheggio
sotterraneo). Verranno installati ripetitori cellulari ovunque?
Se non trova parcheggio, in teoria l’auto può allontanarsi fino a
trovarne uno oppure continuare a orbitare. Potrebbe anche andare a un
punto di ricarica a induzione (senza contatto), per esempio, e
ricaricarsi.
Il software dovrà essere in grado di gestire i codici della strada
differenti dei vari paesi e stati e i loro aggiornamenti. E le Tre Leggi
della Robotica 🙂
La segnaletica stradale dovrà essere mantenuta con estrema attenzione e
studiata per evitare ambiguità. Come si comporterà un’auto autonoma in
caso di segnaletica orizzontale temporanea per lavori in corso?
Sì, ci sono degli ostacoli legislativi enormi sulla responsabilità in
caso di incidente.
Ha molto senso introdurre hardware e software per la guida autonoma
prima che il legislatore abbia creato il quadro normativo: infatti le
nuove Tesla opereranno in “shadow mode”, ossia osserveranno la
guida dei conducenti nelle condizioni più disparate (non solo nelle
situazioni ideali da video promozionale) e ne estrarranno dati di
esperienza indispensabili per convincere l’opinione pubblica e il
legislatore che un’auto autonoma non è più pericolosa di un essere umano
alla guida (e probabilmente è meno pericolosa della maggior parte dei
guidatori). Serviranno milioni di chilometri per avere dati sufficienti, e
cominciare adesso consente a Tesla di avere una miniera di dati che gli
altri costruttori semplicemente non possono avere. Questo è un vantaggio
competitivo enorme.
Per i disabili e gli anziani un’auto a guida totalmente autonoma è una
rivoluzione di mobilità totale.
Se ci saranno le auto autonome, chiamabili quando servono, avrà ancora
senso essere proprietari di un’auto personale?
Sì, nasceranno nuovi servizi basati su questa capacità e le nostre città
dovranno essere ripensate in funzione di questa nuova opportunità,
esattamente come fu necessario ripensarle quando arrivarono le automobili
a sostituire le carrozze dei ricchi (e i tram, i piedi e le biciclette dei
poveri).
Se i tassisti avevano avuto paura di perdere il posto quando è arrivata
Uber, ora saranno nel panico totale. È ora di trasformarsi, magari in
proprietari e gestori di una piccola flotta di auto autonome.
Vedere un’auto che guida da sola ci fa capire cosa provavano i nostri
nonni quando furono introdotti gli ascensori con le porte automatiche e
senza operatore.
Ci sono case automobilistiche che spendono milioni in campagne pubblicitarie
per esaltare gli attributi più inutili dei loro veicoli sempre più
ingombranti, e ci sono case automobilistiche che non spendono nulla in
pubblicità ma spendono soldi in altre cose che fanno parlare dei loro
prodotti. Oggi Tesla offre cariche gratuite in tutte le sue colonnine rapide
Supercharger europee, comprese quelle compatibili con auto di altre marche
(qualunque auto con connettore di ricarica standard CCS può usarle).
L’occasione è il decennale
dell’installazione dei primi Supercharger europei, in Norvegia.
Btw, Supercharging in Europe is free to all today! This includes locations
open to all EVs (70% of our network!)
Chiamatemi quando troverete una rete di distributori che offre carburante
gratis (tasse, accise e IVA incluse). Intanto non dimenticate che tutti quei
bei poster pubblicitari, quei compensi da favola a calciatori e tennisti già
strapagati, li pagate voi quando comprate l’auto e ogni volta che andate al
distributore. Se potete, cambiate.
Questi sono i dettagli pubblicati da Tesla (grazie a Vaielettrico per averli segnalati):
Tesla Supercharger anniversary in Europe
Free charging for all EVs on August 29, 2023
To celebrate 10 years of Tesla Charging in Europe Tesla will organise a
1-day promotion event during which all Superchargers in the following
markets will be providing charging services for free: Austria, Belgium,
Croatia, Czech Republic, Denmark, Finland, France, Germany, Greece, Hungary,
Iceland, Ireland, Israel, Italy, Liechtenstein, Luxembourg, Netherlands,
Norway, Poland, Romania, Slovakia, Slovenia, Spain, Sweden, Switzerland,
United Kingdom.
Charging session must be started between 09.00 CEST and 23h59 CEST the
latest.
The event is organised by Tesla’s local entities operating Superchargers in
the listed markets (Tesla).
No purchase necessary.
The event is open to Tesla owners and the non-Tesla owners with and without
membership and customers paying via Chargemap in France. Photography and
filming of the event will be taking place for promotional purposes. Please
let the photographer onsite know if you do not wish to be photographed or
filmed.
Tesla reserves the right to hold void, suspend, cancel, or amend all or any
part of the event where it becomes necessary to do so. Any changes to these
terms and conditions, or cancellation of the event, will be posted on the
Tesla website.
È disponibile subito il podcast di oggi de Il Disinformatico della
Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico
(link diretto) e qui sotto.
Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.
—
[CLIP: Gente che grida perché crede di aver visto fantasmi – da YouTube]
Su TikTok
e YouTube ci sono
molti video
che mostrano persone che percorrono lentamente una strada interna di un
cimitero a bordo di una Tesla e si spaventano perché l’auto segnala sul
proprio schermo che vicino al veicolo c’è qualcuno che loro non vedono. Di
solito questi video sono accompagnati da musica inquietante e da reazioni
esagerate, che non si sa se siano sincere o recitate. Ma il tema è sempre lo
stesso: le Tesla vedono i fantasmi. Perlomeno secondo chi pubblica questi
video.
[CLIP: Persone che gridano perché credono di aver visto fantasmi]
Questa è la storia di come un TikTok Challenge in salsa paranormale ha creato
un mito, spaventa gli animi sensibili ed è un’occasione per capire meglio come
funziona realmente il riconoscimento delle immagini tramite intelligenza
artificiale, perché sbaglia e vede “fantasmi”, e soprattutto perché è
importante essere consapevoli che questi suoi sbagli possono diventare
realmente pericolosi.
Benvenuti alla puntata del 19 maggio 2023 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io sono Paolo Attivissimo.
[SIGLA di apertura]
Prima di tutto, è importante chiarire che i video di “fantasmi” avvistati
dalle auto Tesla mostrano un fenomeno reale, nel senso che è davvero
possibile che sullo schermo principale di queste automobili, quello che mostra
l’ambiente intorno al veicolo, compaiano sagome di persone che non esistono.
Ma non c’è nulla di ultraterreno o paranormale: si tratta di un effetto
frequente delle tecnologie usate da questo tipo di auto.
Le auto di Tesla e di molte altre marche sono dotate di telecamere perimetrali
che guardano in tutte le direzioni. Le immagini di queste telecamere vengono
inviate al computer di bordo, che le analizza e, nel caso di Tesla, mostra
sullo schermo in cabina un’animazione tridimensionale schematica degli oggetti
che sono stati identificati da questa analisi: le strisce di delimitazione
della corsia, i cartelli stradali, i semafori, i veicoli e i pedoni.
Questa animazione è basata sul riconoscimento automatico delle immagini. Il
software di bordo è stato addestrato a riconoscere gli oggetti mostrandogli
moltissime fotografie di vari oggetti e indicandogli il tipo di oggetto
mostrato, esattamente come si fa con un bambino per insegnargli a riconoscere
le cose che gli stanno intorno. Ma le somiglianze finiscono qui, perché il
software usa un sistema molto differente da quello umano per identificare gli
oggetti.
La differenza fondamentale, semplificando molto, è che il software si basa
esclusivamente sulle immagini, cioè sulle forme e i colori, mentre una persona
usa anche il contesto, ossia informazioni come la distanza, il tipo di
ambiente in cui si trova, le regole fondamentali della realtà: per esempio un
camion non può fluttuare a mezz’aria, gli oggetti non appaiono e scompaiono di
colpo e una persona non può camminare a cento chilometri l’ora.
È questa mancanza di contesto a causare l’apparizione dei fantasmi sullo
schermo delle Tesla: il software sbaglia a interpretare l’immagine che gli è
stata inviata dalle telecamere, non ha modo di “rendersi conto” del proprio
errore valutando la plausibilità della sua interpretazione, e così mostra
sullo schermo il risultato del suo sbaglio. L’automobile non sta rivelando
cose che i nostri occhi umani non possono vedere; le sue telecamere non stanno
ricevendo emanazioni dall’aldilà. I presunti “fantasmi” sono semplicemente
errori momentanei di interpretazione automatica delle immagini.
[CLIP da Ghostbusters]
Anche le persone che credono alla natura ultraterrena di questi avvistamenti
commettono a loro volta un errore di interpretazione, a un livello molto
differente, perché non sanno come funzionano questi software. Ovviamente, se
il contesto è un cimitero, magari di notte, la fantasia galoppa e l’unica
giustificazione che viene in mente a chi non conosce queste tecnologie è la
presenza di un fantasma.
Però tutto questo non spiega come faccia un computer a sbagliare così
clamorosamente, per esempio riconoscendo una sagoma umana in un’immagine in
cui non c’è nessuno ma si vedono solo prati, fiori e qualche lapide. Scambiare
una statua per una persona avrebbe senso, per esempio, ma nei video dei
presunti fantasmi si vede chiaramente che intorno all’auto non ci sono oggetti
di forma umana. Come fa un computer a sbagliare così tanto?
Confondere sedie a dondolo e occhiali
Alexander Turner, assistente universitario presso la facoltà di scienze informatiche
all’Università di Nottingham, nel Regno Unito, spiega in un video della serie Computerphile su YouTube che il riconoscimento delle immagini fatto
oggi dai computer in sostanza assegna a ciascuna immagine un valore di
probabilità di identificazione.
[CLIP: dal video di Turner per Computerphile]
Per esempio, se si mostra a uno di questi software una foto di un paio di
occhiali, il software risponde che rientra nella categoria “occhiali” con una
probabilità del 93%, ma non esclude che si tratti di una sedia a dondolo o di
un corrimano di una scala, con probabilità però molto più basse.
Fotogramma tratto dal video di Computerphile.
Questo è il meglio che riesce a fare: bisogna ricordare che il software non
“sa” cosa siano gli occhiali o le sedie a dondolo, ma si sta basando
esclusivamente sulle forme e sui colori presenti nell’immagine e li sta
confrontando con i milioni di campioni di immagini di occhiali, sedie a
dondolo e corrimano sui quali è stato addestrato, misurando quanto l’immagine
proposta si avvicini a una delle categorie che conosce e poi scegliendo la
categoria che ha la maggiore probabilità di corrispondenza, cioè di
somiglianza. Tutto qui.
Questo approccio probabilistico, così lontano dalla certezza umana, porta a
una vulnerabilità inaspettata di questi sistemi di riconoscimento delle
immagini. Come spiega Alexander Turner, di solito il software assegna una
probabilità molto alta a una singola categoria e alcune probabilità molto
basse ad altre categorie, ma è possibile influenzare fortemente queste
assegnazioni con un trucco: basta cambiare qualche pixel a caso dell’immagine
e vedere se la probabilità di identificazione corretta aumenta o diminuisce di
qualche decimale. Se diminuisce, si mantiene quel pixel cambiato e si prova a
cambiarne anche un altro, e così via, ripetutamente, tenendo i pixel alterati
che fanno scendere la probabilità di identificazione esatta e fanno salire
quella di identificazione errata.
La cosa sorprendente di questa tecnica è che i pixel cambiati che alterano il
riconoscimento non hanno niente a che vedere con l’oggetto nell’immagine ma
sono una nuvola di punti colorati apparentemente casuali. Per esempio, si può
prendere una foto di una giraffa, che il software identifica correttamente
come giraffa al 61%, cambiare alcuni pixel qua e là, magari anche solo sullo
sfondo, e ottenere che il software identifichi l’immagine come cane al 63%. Ai
nostri occhi la foto mostra ancora molto chiaramente una giraffa, ma agli
occhi virtuali del software quella giraffa è ora altrettanto chiaramente un
cane.
Fotogramma tratto dal video di Computerphile.
Fotogramma tratto dal video di Computerphile.
Turner prosegue la sua dimostrazione con una foto di un telecomando per
televisori su uno sfondo bianco, che viene riconosciuta correttamente dal
software: ma spargendo opportunamente dei pixel colorati sull’immagine, il
software dichiara che si tratta di una tazza, e assegna a questa
identificazione addirittura il 99% di probabilità. Il ricercatore ripete
l’esperimento con altri pixel sparsi e il software dice con la stessa certezza
che si tratta di una tastiera, di una busta, di una pallina da golf o di una
fotocopiatrice. Eppure noi, guardando le immagini alterate, continuiamo a
vedere chiaramente che si tratta sempre di un telecomando.
Fotogramma tratto dal video di Computerphile.
La conclusione di questo esperimento è che non solo i computer riconoscono gli
oggetti in maniera molto differente da noi, ma esistono delle immagini che li
confondono completamente anche se ai nostri occhi non sono ambigue e sembrano
semplicemente foto di un oggetto sporcate da qualche puntino disposto a caso.
Noi prendiamo lucciole per lanterne, loro scambiano telecomandi per palline da
golf.
[CLIP da video di presunti fantasmi visti dalle Tesla]
Nel caso dei presunti fantasmi avvistati dalle Tesla, è probabile che una
specifica inquadratura di un particolare punto del prato di un cimitero
contenga momentaneamente un insieme di pixel sparsi qua e là, come quelli
usati nell’esperimento di Turner, che al nostro sguardo non spiccano affatto
ma che per il software spostano la probabilità di identificazione verso la
categoria “persona”.
Bisogna ricordare, infatti, che non è necessario che l’immagine sia
riconosciuta con il 100% di certezza: è sufficiente che il software assegni
alla categoria “persona” una probabilità anche solo leggermente più alta
rispetto a tutte le altre categorie. E così sullo schermo comparirà
improvvisamente e per un istante la sagoma di un essere umano.
Mistero risolto, insomma. Ma un fantasma, comunque, in questa storia c’è lo
stesso.
Il fantasma in autostrada
Gli avvistamenti di presunti fantasmi nei cimiteri a causa di errori del
software di riconoscimento delle immagini ovviamente fanno parecchia
impressione e generano video molto virali, ma c’è un altro tipo di
avvistamento fantasma da parte delle automobili dotate di telecamere che è
reale ed è importante conoscerlo perché ha conseguenze molto concrete.
Le telecamere di questi veicoli vengono usate per l’assistenza alla guida, per
esempio per il mantenimento di corsia, per la lettura dei limiti di velocità e
per l’identificazione degli ostacoli. L’auto adatta la propria velocità in
base alla segnaletica e alla presenza di barriere, veicoli o altri oggetti
lungo la strada. Ma se il software di riconoscimento delle immagini sbaglia ad
assegnare categorie agli oggetti che vede, le conseguenze possono essere
pericolose.
Questi sbagli possono essere spesso comprensibili e anticipabili da parte del
conducente, come in un video
molto popolare che circola su Twitter e mostra una Tesla che sbaglia a
identificare una carrozza che le sta davanti e la mostra come camion, come
furgone, poi di nuovo come autoarticolato ma rivolto in senso contrario alla
direzione di marcia, e infine aggiunge un inesistente essere umano che cammina
in mezzo alla strada. Fortunatamente tutta la scena avviene a bassissima
velocità e in modalità di guida manuale; ma se fosse stata attiva la guida
assistita, come avrebbe reagito l’auto a quel pedone fantasma?
In altre circostanze, invece, lo sbaglio del software può essere completamente
incomprensibile e imprevedibile. Se il riconoscimento delle immagini del
sistema di assistenza alla guida identifica erroneamente che c’è un ostacolo
che in realtà non esiste, e lo fa perché in quell’istante l’immagine inviata
dalle telecamere contiene per caso dei pixel che spostano la probabilità di
identificazione verso la categoria “ostacolo”, l’auto potrebbe frenare di
colpo senza motivo apparente. È quello che gli utenti di questi veicoli
chiamano phantom braking, ossia “frenata fantasma”, e se avviene nel traffico può aumentare la
probabilità di tamponamenti, perché il conducente del veicolo che sta dietro
non si aspetta che l’auto che ha davanti freni improvvisamente e senza motivo
quando la strada è libera. Le versioni più recenti dei software di guida
assistita hanno ridotto questo fenomeno, ma non è ancora scomparso del tutto.
Si può anche immaginare uno scenario in cui vengono create intenzionalmente situazioni che sembrano innocue ai nostri occhi ma
producono errori nei sistemi di riconoscimento delle immagini. Per esempio,
per le auto a guida assistita è facile pensare a immagini speciali, applicate
al retro di furgoni o camion o cartelli stradali, oppure sul manto stradale,
che hanno un aspetto normale ma contengono uno schema di pixel apparentemente
casuali che forza i veicoli a frenare, accelerare o cambiare corsia, con
intenti ostili oppure protettivi.
Uscendo dal settore automobilistico, sono già in vendita indumenti
che hanno colorazioni e forme che all’osservatore umano sembrano prive di
significato ma che mettono in crisi i sistemi di riconoscimento facciale delle
telecamere di sorveglianza. In campo medico, l’uso crescente di sistemi di
riconoscimento automatico delle immagini per la diagnosi può portare a sviste
devastanti se il software non ha un approccio prudente, ossia genera falsi
positivi invece di falsi negativi, e se il medico non conosce e non considera
queste debolezze del software.
Insomma, non vi angosciate: le anime dei defunti non hanno deciso di rendersi
visibili solo a chi ha un’automobile di una specifica marca. Almeno per ora.
[CLIP: Risata di Vincent Price da Thriller di Michael Jackson]
Ultimo aggiornamento: 2023/04/13 13:40. L’articolo è stato estesamente
riscritto per tenere conto degli sviluppi della vicenda.
Sta creando comprensibilmente scalpore la notizia che dei dipendenti di Tesla
hanno dichiarato che fra il 2019 e il 2022 alcuni video ripresi dalle
telecamere di bordo di cui sono dotate le auto di questa marca sono stati
fatti circolare per divertimento all’interno dell’azienda, violando le regole
interne di privacy. A seguito di questa notizia, un proprietario statunitense
di una di queste auto ha avviato una class action contro Tesla (RSI.ch).
Le descrizioni dei video fatti circolare dai dipendenti includono per esempio
un uomo che si è avvicinato a una Tesla mentre era completamente nudo,
incidenti, animali, cartelli stradali e immagini riprese all’interno dei
garage degli utenti, che mostrano oggetti intimi. Fra queste immagini c’è
anche la Lotus Esprit “sommergibile”
usata nel film della serie di James Bond La spia che mi amava del 1977.
Questa famosissima Lotus è oggi di proprietà di Elon Musk.
Nella concitazione di riferire la notizia, la cui fonte originale è un lungo e
dettagliato articolo di Reuters, molte delle testate che l’hanno riportata hanno tralasciato informazioni
molto importanti e pubblicato notizie tecnicamente scorrette.
Prima di tutto, le immagini descritte da Reuters provengono dalle telecamere esterne dei veicoli, non dalla telecamera interna, che è montata sui modelli più recenti per monitorare l’attenzione del
conducente durante la guida assistita, come fanno anche altre marche [Ford, per esempio]. Ma molte
testate giornalistiche hanno scritto erroneamente che si tratta di immagini “prese all’interno dei veicoli” [ANSA, 2023/11/04, copia permanente, ho chiesto
spiegazioni pubblicamente] o che “dentro le auto i conducenti venivano filmati” (La Regione, copia permanente; ho segnalato
l’errore).
Mi sono procurato e letto anche i documenti pubblici
della class action: non contengono alcun riferimento a immagini prese all’interno dei veicoli.
Il problema, insomma, non riguarda chi sta dentro il veicolo e che
probabilmente come proprietario sa di guidare un’auto dotata di telecamere di
sorveglianza, ma riguarda le persone che passano vicino a un’auto di questo
tipo e che possono essere facilmente inconsapevoli delle sue dotazioni
tecnologiche.
Questi veicoli, infatti, hanno numerose telecamere esterne, poco visibili, che
guardano in tutte le direzioni e sono attive durante la marcia, per consentire
le funzioni di guida assistita e per fungere da dashcam, e anche durante la sosta, se il conducente ha attivato la cosiddetta modalità Sentinella
per proteggere l’auto contro furti e vandalismi [funziona].
Una compilation di incidenti e tentativi di furto documentati dalle telecamere perimetrali di veicoli Tesla.
Se vi siete mai avvicinati a una Tesla parcheggiata e avete notato che i suoi
fanali hanno iniziato a lampeggiare, è perché il veicolo aveva attiva la
modalità Sentinella e quindi vi ha avvisato discretamente di avervi visto e
potenzialmente registrato.
Le telecamere esterne (1, 3, 4, 5) di una Tesla Model Y, descritte nel manuale online: 2 indica i sensori di prossimità ultrasonici; 6 indica il radar.
Una telecamera laterale esterna di una Tesla Model 3. Fonte: Wikipedia.
Un altro aspetto importante che è stato spesso tralasciato è che le immagini delle telecamere vengono trasmesse a Tesla e alle aziende che
collaborano con Tesla solo se l’utente dà il proprio consenso. Questo viene detto esplicitamente nell’articolo originale di Reuters [“if a customer agrees to share data”] ed è indicato nell’informativa sul trattamento dati
di Tesla, che specifica che “È possibile controllare i dati che si condividono toccando Comandi >
Software > Condivisione dati”. Lo stesso vale per la telecamera interna, secondo quanto indicato dal manuale: “Per impostazione predefinita, le immagini e i video registrati dalla
telecamera restano all’interno del veicolo e non vengono trasmessi a
nessuno, nemmeno a Tesla, a meno che non sia stata abilitata la condivisione dei dati”.
Questi video possono essere visti dal proprietario e, se il proprietario ha dato il consenso, anche dai dipendenti di Tesla e
delle sue affiliate. Se avviene un incidente, le immagini delle telecamere
vengono inviate a Tesla.
[Inoltre l’informativa sulla privacy parla specificamente dei dati delle
telecamere, precisando ancora una volta che è necessario il consenso opt-in dell’utente:
“In order for camera recordings for fleet learning to be shared with Tesla, your consent for Data Sharing is required and can be controlled through
the vehicle’s touchscreen at any time. Even if you choose to opt-in, unless we receive the data as a result of a
safety event (a vehicle collision or airbag deployment) — camera recordings
remain anonymous and are not linked to you or your vehicle”. I tipi di dati raccolti da Tesla sono schematizzati bene in questo articolo di Electrek]
In sintesi: indubbiamente l’articolo di Reuters denuncia una violazione
inaccettabile delle regole di confidenzialità da parte dei dipendenti di Tesla
e rivela una cultura aziendale di disinvolta condivisione interna di queste immagini.
Ma va anche considerato che se uno va in giro nudo e lo fa davanti a un’auto
dotata di telecamere, sua o altri, che lo avvisa della presenza di quelle
telecamere lampeggiando, forse il problema non è soltanto di Tesla.
Più in generale, questa vicenda mette bene in luce un problema di moltissimi
dispositivi connessi a Internet, dagli assistenti vocali alle dashcam alle
telecamere di sorveglianza che salvano le registrazioni nel cloud alle
automobili di qualunque marca che trasmettono dati e immagini ai loro
produttori. Se avete Alexa o Google Home in casa, pezzi delle vostre
conversazioni vengono inviati ad Amazon o Google, rispettivamente, e quindi i dipendenti
possono ascoltare quelle registrazioni. E se possono farlo, conoscendo la
natura umana è probabile che lo faranno e le condivideranno, e non solo per motivi di lavoro.
Per questo da anni si raccomanda agli utenti di questi dispositivi di
chiedersi quali dati vengano raccolti e come sia possibile evitare questa
raccolta, scegliendo prodotti che minimizzano la raccolta di dati o che
permettono all’utente di rifiutarla o limitarla; per questo esistono i Garanti
per la privacy, che spesso vengono visti dall’opinione pubblica come un
pedante ostacolo (come si è visto con la vicenda del cosiddetto “blocco” di ChatGPT in
Italia).
Leggete, una volta tanto, i manuali dei dispositivi connessi che acquistate e
scoprite come si impostano le funzioni di blocco della condivisione dei dati
che non volete far circolare. Farete un favore a voi stessi e agli altri.
[Piccola precisazione personale: ho una Tesla Model S, ma essendo un modello
del 2016 non è dotata di telecamere perimetrali ma solo di telecamere frontali
e posteriori, che non registrano nulla e non inviano nulla a Tesla. Però ho
installato una dashcam che registra costantemente quello che avviene
esternamente; questa telecamera tiene i dati per sé e non li condivide con
nessuno]
Domani (10 aprile) all’aeroporto internazionale di Parma, dalle 10 alle 14, si terrà una drag race molto particolare: supercar e moto (Ferrari, Porsche, Bentley, Lotus e Ducati) sfideranno una Tesla Model S P100 nella classica prova di accelerazione sui 400 metri da fermo.
La Tesla, configurata con l’opzione Ludicrous di massima accelerazione, si confronterà con una Ducati Panigale preparata racing, guidata dal pilota di Superbike Daniele Beretta, e con Lotus Evora, Ferrari 488 spyder, Bentley Bentayga e Porsche GT3. La disfida è organizzata dall’associazione Tesla Owners Italia – Tecnologia e Ambiente, composta da proprietari ed appassionati del marchio Tesla e non direttamente collegata a Tesla Motors. Sarò lì anch’io a godermi lo spettacolo insieme alla Dama del Maniero Digitale.
Aggiornamento (2018/04/11 9:00): Purtroppo la Ferrari ha avuto un guasto e non ha potuto partecipare alla partenza valida. Sono di corsa verso nuove avventure, per cui per ora non posso raccontarvi tutto in dettaglio: intanto ecco qualche tweet riassuntivo. Le foto nei miei tweet sono tutte mie, fatte con il telefonino, non sono state fatte mentre guidavo io e sono liberamente riutilizzabili citandone la fonte.
Ecco un mio breve video del tratto finale della mia corsetta come passeggero sulla pista dell’aeroporto di Parma su una Tesla P100D. Nella prima parte, che per ora non ho il permesso di pubblicare, abbiamo raggiunto in men che non si dica i 228 km/h, ma anche qui si nota che l‘accelerazione è a dir poco notevole.
#dragraceitalia Aeroporto Parma
Ferrari, Porsche, Bentley, Lotus, Nissan GTR e Ducati sfidano Tesla Model S P100D e Tesla Model X P100D sui 400 metri.
Tesla Model S P100D ha vinto con 10,86 secondi battendo la Porsche GT3, Ferrari 488 e tutte le altre supercar a scoppio! pic.twitter.com/0NtllejuGC
Di ritorno al Maniero Digitale, in Autopilot, sotto la pioggia. Tra poco, finalmente, sarà ora di fare un rabbocco di carica. pic.twitter.com/DaDth4tOmK
In coda in tangenziale a Milano xon Autopilot che mantiene corsia, distanza e velocità, frenando e accelerando, tutto da solo. Meno stress, ma mani sempre sul volante, pronte a intervenire. pic.twitter.com/pbA3chj7Sn
Ducati Panigale (moto): 9.79
Tesla Model S P100D: 10.86
Porsche GT3: 11.49
Nissan GTR: 11.60
Tesla Model X P100D: 11.74
Bentley Bentayga: 11.92
Lotus Evora: 13.42
Il video ufficiale è qui:
Trasparenza: sono socio di Teslari.it, club Tesla Owner ufficiale italiano. L’ospitalità mi è stata offerta dall’associazione Tesla Owners Italia. Non ricevo compensi da Tesla Inc. o da altre aziende o da associazioni per questo articolo, che vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.
Questa sera alle 19 ora italiana sarò ospite di Tesla Owners Italia, su YouTube, per due chiacchiere in libertà con Carlo Bellati, Luca Del Bo e Daniele Invernizzi sulla recente presentazione del cosiddetto Master Plan 3 di Tesla nel corso dell’Investor Day, che ha deluso chi si aspettava grandi annunci ma contiene dati molto interessanti, alcune novità intriganti e soprattutto una parola che è raro sentire di questi tempi: speranza. Se vi interessa, le slide della presentazione sono qui; l’embed di stasera è qui sotto.
Questa, invece, è la lunga registrazione della presentazione di Tesla, già posizionata sul momento di inizio, saltando l’ormai immancabile ritardo.
