Vai al contenuto

Antibufala: il video del conducente addormentato in Tesla

Sta spopolando un video, ripreso negli Stati Uniti, nel quale si vedono il conducente e un’altra persona, a bordo di una Tesla Model X, che sembrano addormentate o incoscienti mentre la loro auto procede autonomamente in autostrada grazie al suo sistema di guida assistita.

Prima di tutto, questo comportamento è totalmente irresponsabile. Le Tesla, come molte altre auto di fascia alta, hanno un sistema di guida assistita, che non sostituisce il conducente, che rimane responsabile della condotta del veicolo e deve restare vigile e pronto a prendere il controllo.

Si tratta appunto di un assistente di guida, non di guida autonoma, nella quale l’auto non avrebbe bisogno di un conducente. Questo viene messo in chiaro continuamente, nel manuale e sullo schermo dell’auto ogni volta che si attiva il sistema (che nelle Tesla è infelicemente e ingannevolmente denominato Autopilot).

Che questo video sia una messinscena, uno svenimento o un colpo di sonno, poco importa per ora: il concetto importante è che le Tesla non funzionano come si vede nel video se non vengono manipolate. Se il conducente non fa sentire la propria presenza periodicamente agendo almeno leggermente sul volante, una Tesla non continua ad andare come si vede nel video, ma attiva una serie di allarmi sempre più intensi, poi accosta e si ferma.

Lo si vede molto bene in questo video dimostrativo, da non imitare:

Nel video dimostrativo, il conducente attiva la guida assistita e simula uno svenimento togliendo lo sguardo dalla strada e chiudendo gli occhi (assolutamente irresponsabile). 40 secondi dopo, la guida assistita inizia a far lampeggiare lo schermo. A 50 secondi dallo svenimento simulato arriva il primo allarme acustico. A 70 secondi l’allarme acustico diventa continuo; poi l’auto rallenta, accosta e si ferma, mettendo la freccia.

È comunque una situazione di pericolo, perché l’auto è ferma sulla corsia di destra e non sulla corsia d’emergenza. Ma va anche detto che in un’auto priva di guida assistita, un colpo di sonno o un malore del conducente avrebbe fatto andare l’auto chissà dove, con conseguenze gravissime.

Esistono modi per ingannare questo sistema di rilevamento dell’attenzione del guidatore, ma sono intenzionali: richiedono che il conducente li usi apposta e non possono verificarsi per caso. I sensori dell’auto richiedono infatti che sul volante ci sia un minimo di resistenza, prodotta per esempio dal peso del braccio del guidatore, e se si sviene o ci si addormenta è altamente improbabile che il braccio rimanga sul volante. Ho provato personalmente questo sensore su una Model 3, e confermo che bastano pochi secondi senza la mano ben ferma sul volante per far attivare il primo avviso visivo.

Detto questo, a mio parere Tesla potrebbe fare di più per impedire questo genere di situazione, per esempio usando la telecamera interna (presente sulla Model 3) per rilevare la direzione dello sguardo del conducente o almeno verificare che il conducente non abbia gli occhi chiusi. La questione è esaminata in dettaglio in questo articolo di Ars Technica.

La BBC ha pubblicato un test effettuato in condizioni sicure, ossia su una pista, con un’auto dotata di guida assistita. I risultati di una disubbidienza ai richiami dell’auto sono eloquentissimi e gli esperti chiedono che un’auto di questo genere non si fermi in corsia ma accosti, per evitare incidenti catastrofici.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Auto a guida autonoma coinvolta in un investimento mortale

Auto a guida autonoma coinvolta in un investimento mortale

Ultimo aggiornamento: 2018/03/22 00:55.

Un’auto a guida autonoma di Uber, una Volvo XC90, ha investito una donna che stava attraversando la strada spingendo la propria bicicletta a Tempe, in Arizona, intorno alle 22 locali di domenica scorsa.

L’incidente è avvenuto su un rettilineo con visibilità elevata. L’auto era in modalità di guida autonoma con una persona al posto di guida (una dipendente di Uber), procedeva a circa 65 km/h e non ha frenato in modo significativo.

La donna investita, Elaine Herzberg, è morta in ospedale per le ferite riportate. Il programma di sperimentazione della guida autonoma di Uber è stato sospeso.

È presto per capire a fondo la dinamica e le responsabilità: ma sta di fatto che il giorno che temevamo è purtroppo arrivato. Le implicazioni e conseguenze della prima morte accertata di una persona in un incidente che coinvolge un’auto pienamente autonoma saranno inevitabilmente pesanti su tutto il settore nascente delle automobili senza conducente.

Maggiori dettagli e immagini dell’incidente sono su Electrek e sul Phoenix New Times. La conferenza stampa della polizia di Tempe è qui.

L’auto è autonoma ma non elettrica (ha un motore a benzina) ed è dotata di numerose telecamere che hanno registrato l’incidente. Aggiornerò questo articolo man mano che vi saranno informazioni precise e accertate.

2018/03/21

Repubblica (a firma di Vincenzo Borgomeo) ha pubblicato un articolo pieno di errori, dall’ortografia di base (“driveless”, “detenction”) alla fisica e all’informatica, e saturo di luoghi comuni terroristici. Ne trovate qui su Archive.is una copia.

È un esempio interessante di uno dei motivi per cui le auto elettriche, quelle autonome e in generale quelle informatizzate vengono snobbate dalla stampa: i loro giornalisti, formatisi su carburatori e pistoni, non capiscono un’acca di queste nuove tecnologie e non fanno alcuno sforzo per aggiornarsi e capirle. Sono rimasti indietro, superati dai geek dell’informatica, e scelgono di denigrare quello che non capiscono.

2018/03/22 00:55

La polizia di Tempe ha rilasciato il video dell’incidente. Attenzione: è la realizzazione del peggior incubo di chiunque guidi. Ringrazio Fabio per la segnalazione.

Prima di lanciarsi in considerazioni o commenti, non dimenticate che questo video documenta la morte di una persona.

Sul piano freddamente tecnico, è da capire come mai il LIDAR o radar dell’auto non ha rilevato la donna, che ha attraversato la sede stradale provenendo da sinistra e quindi sembrerebbe essere stata a lungo nel campo visivo dei sensori dell’auto anche se non illuminata dai fanali.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Incidente mortale in California con guida assistita, Tesla incolpa esplicitamente il conducente

Incidente mortale in California con guida assistita, Tesla incolpa esplicitamente il conducente

Ultimo aggiornamento: 2018/04/15 01:00.

Pochi giorni fa ho provato personalmente l’Autopilot più recente di Tesla e ora mi è molto più chiara la dinamica dell’incidente che è costato la vita a un utente di una Model X, Walter Huang, su un’autostrada californiana meno di un mese fa. Per questo credo che sia importante scrivere un chiarimento e lanciare pubblicamente un monito a tutti coloro che usano le Tesla e le altre auto a guida assistita: non fidatevi eccessivamente di questi sistemi e rispettatene scrupolosamente i limiti restando sempre pronti a intervenire, perché commette errori estremamente pericolosi.

Riassumo la dinamica dell’incidente, descritta in dettaglio qui: a una biforcazione di un’autostrada presso Mountain View, la Tesla di Huang ha colpito frontalmente la testata dello spartitraffico in cemento che divide le due carreggiate. L’attenuatore d’urto dello spartitraffico era già stato distrutto da un incidente precedente di un’auto convenzionale e quindi l’impatto è stato violentissimo.

I dati di bordo indicano che al momento dell’impatto il sistema di guida assistita (non autonoma) dell’auto, denominato Autopilot, era stato attivato da Huang. Il sistema aveva avvisato Huang ripetutamente di riprendere il controllo e le mani del conducente non erano sul volante nei sei secondi precedenti la collisione. Huang non ha intrapreso alcuna azione correttiva.

La vedova di Huang si appresta ora a fare causa a Tesla per la morte del marito e Tesla ha risposto con toni decisamente insoliti per una casa automobilistica, dando inequivocabilmente la responsabilità dell’incidente a Huang:

[…] Secondo la famiglia, il signor Huang era ben consapevole che l’Autopilot non era perfetto e aveva detto specificamente alla famiglia che non era affidabile proprio in quel luogo, eppure ha attivato l’Autopilot in quel luogo. L’incidente è avvenuto in una giornata limpida, con alcune centinaia di metri di visibilità anteriore, e questo significa che l’unico modo in cui questo incidente può essere accaduto è che il signor Huang non stava prestando attenzione alla strada nonostante il fatto che l’auto abbia fornito numerosi avvisi di farlo. […]

Il comunicato integrale di Tesla è qui su Bloomberg.

Ma come mai l’Autopilot della Tesla di Huang ha sbagliato così disastrosamente? L’ho visto all’opera personalmente durante un recente viaggio su una Model S P100D dotata della versione più recente del sistema di guida assistita. Il mantenimento di corsia si basa fondamentalmente sulle telecamere di bordo, che rilevano le strisce che delimitano le corsie. Ma basta poco per confondere questo rilevamento.

Nel mio caso, su un tratto libero di autostrada svizzera nel quale erano state aggiunte delle strisce provvisorie per dei lavori, l’Autopilot ha riconosciuto ripetutamente soltanto le strisce bianche normali e quindi ha iniziato a sbagliare l’inserimento in corsia, spostandosi verso l’area dei lavori. Ma il conducente, accanto a me, era pronto a intervenire, come è giusto che sia e come Tesla ribadisce costantemente ad ogni attivazione dell’Autopilot, e quindi lo scostamento è stato minimo.

Senza l’intervento del conducente, però, le conseguenze sarebbero state preoccupanti. Proprio per questo Tesla visualizza promemoria e allarmi visivi e acustici molto chiari, arrivando a disabilitare l’Autopilot fino alla sosta successiva se il conducente ignora gli allarmi e non rimette le mani sul volante.

Nel caso di Huang, la striscia di sinistra della sua corsia si divideva a Y presso la biforcazione, creando un tratto nel quale la striscia sdoppiata formava una sorta di corsia fantasma che termina proprio contro lo spartitraffico.

La zona dell’incidente in Google Maps, secondo i dati di Mercury News. L’auto proveniva da sinistra; lo spartitraffico è sulla destra.

La zona dell’incidente in Google Street View.

L’ipotesi più plausibile è che l’auto abbia interpretato questa corsia fantasma come una corsia reale, usando come riferimento la striscia di sinistra e quindi interpretando la corsia fantasma come proseguimento di quella reale che stava occupando, e vi si sia posizionata. Il radar di bordo non avrebbe individuato lo spartitraffico, forse a causa del suo accartocciamento che lo rendeva poco riflettente al segnale emesso dall’auto.

Un’altra Tesla compie lo stesso errore nello stesso punto. Immagine tratta da questo video.

L’incapacità dell’attuale Autopilot di gestire questa configurazione stradale è evidenziata in questo video, che si riferisce a un’altra biforcazione:

I dati raccolti dagli enti di sicurezza (NHTSA, pagina 11) indicano che in generale l’Autopilot riduce gli incidenti rispetto alle stesse auto guidate manualmente, ma questo non vuol dire che lo si debba usare intenzionalmente al di fuori dei suoi limiti di competenza, che sono molto evidenti: è un ottimo ausilio nelle code o su autostrade libere e con segnaletica orizzontale ben demarcata, ma si confonde molto facilmente in molte altre situazioni, come fanno del resto i sistemi delle altre marche.

Dal manuale della BMW Serie 7 del 2016. Fonte: NHTSA.

Dal manuale della Volvo XC90 del 2016. Fonte: NHTSA.
Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Tesla Model 3 si schianta, conducente incolpa l’Autopilot

Tesla Model 3 si schianta, conducente incolpa l’Autopilot

Ultimo aggiornamento: 2018/05/27 15:00.

YouYou Xue, un proprietario di una Tesla Model 3 americana che stava girando l’Europa per un tour personale per presentare l’auto ai tanti europei che l’hanno prenotata, ha avuto un incidente del quale incolpa il sistema di guida assistita, denominato Autopilot, mentre procedeva verso sud sull’autostrada E65 in Grecia, vicino a Florina, diretto verso Kozani. Il conducente è incolume e l’auto non ha preso fuoco. Non sono coinvolte altre auto.

Secondo quanto postato da Xue, il veicolo procedeva a 120 km/h con l’Autopilot attivo quando ha sterzato improvvisamente verso destra senza preavviso e si è scontrata con lo spartitraffico in corrispondenza di un’uscita. Una ruota è completamente distrutta e la portiera del conducente non si apriva correttamente.

Electrek ha raccolto un’altra dichiarazione di Xue, che dice che l’auto ha sterzato verso destra cinque metri prima che la fiancata sinistra colpisse il lato destro dello spartitraffico visibile in questa foto:

Lo spartitraffico è visibile a destra della corsia in quest’altra foto:

Xue ha segnalato l’incidente direttamente a Elon Musk via Twitter, parlando di malfunzionamento dell’Autopilot:

Electrek ha raccolto una dichiarazione di Tesla che traduco qui sotto:

“Anche se apprezziamo l’impegno di You You Xue nel far conoscere la Model 3, era stato informato che Tesla non ha ancora una presenza in Europa orientale e che lì non sono disponibili connettività o assistenza per i veicoli. Inoltre la Model 3 non è ancora stata approvata e omologata per la guida al di fuori degli Stati Uniti e del Canada. Anche se non siamo stati in grado di recuperare dati dal veicolo, visto che l’incidente si è verificato in una zona non supportata, Tesla è sempre stata molto chiara che il conducente deve restare responsabile dell’auto in ogni momento durante l’uso dell’Autopilot. Ci dispiace che sia avvenuto questo incidente e siamo contenti che You You sia salvo.”

Per quel che ne so, questo è il primo incidente in Autopilot di una Model 3.

La prima impressione è che l’Autopilot, basato in gran parte sul riconoscimento visivo della segnaletica orizzontale, abbia seguito per errore le linee bianche di demarcazione della corsia di uscita invece di quelle, più sbiadite, della corsia di marcia e quindi abbia (dal suo punto di vista) “corretto” all’ultimo momento la propria traiettoria prima che il conducente potesse intervenire, ma è solo una congettura.

È tutto quello che so per il momento; aggiornerò questo articolo se ci saranno novità.

2018/05/26 14:40

C’è una dichiarazione più dettagliata di Xue, che cito integralmente qui sotto. Mi manca il tempo di tradurla, ma in sintesi:

  • L’Autopilot era impostato con un limite di 120 km/h, pari al limite di velocità dell’autostrada.
  • La strada a due corsie per ciascun senso di marcia era asciutta, sgombra, ben illuminata, con segnaletica orizzontale ben mantenuta e ben illuminata.
  • Nella zona dell’incidente c’era una biforcazione: la corsia di destra diventava una corsia di uscita. L’auto era nella corsia di sinistra.
  • Circa 8 metri prima dello spartitraffico della biforcazione, la Model 3 ha sterzato improvvisamente e con molta forza verso destra. Xue stava guardando il navigatore sul telefonino ed è stato colto di sorpresa. Ha tentato di correggere la sterzata, ma è intervenuto troppo tardi e così ha colpito di striscio il bordo destro dello spartitraffico.
  • Xue riconosce il fatto che stava tenendo una sola mano sul volante invece di tenerne due come raccomanda Tesla durante l’uso dell’Autopilot e che non stava monitorando costantemente il veicolo, ma dice che l’incidente è stato “causato direttamente da un grave malfunzionamento del software Autopilot, che non ha interpretato correttamente la strada” e “sarebbe potuto capitare a chiunque non si aspetti che un’auto che procede a velocità elevata in linea retta faccia una deviazione improvvisa e senza preavviso dalla propria traiettoria”. Ammette che dopo decine di migliaia di chilometri d’uso dell’Autopilot senza problemi significativi, era diventato troppo fiducioso nel software.
  • Probabilmente la riflessione più significativa di YouYou Xue a proposito dell’idea generale dell’Autopilot è questa: “L’Autopilot viene commercializzato come una funzione di assistenza al conducente che riduce lo stress e aumenta la sicurezza. Tuttavia si può argomentare che la vigilanza necessaria per usare il software, come per esempio tenere entrambe le mani sul volante e monitorare costantemente il sistema per eventuali malfunzionamenti o comportamenti anormali, richiede un’attenzione significativamente maggiore rispetto alla guida normale del veicolo senza usare l’Autopilot.” In altre parole, in questo livello ibrido di guida assistita in pratica il conducente deve monitorare l’auto come se l’avesse messa in mano a un principiante. Inoltre Xue dice che se l’Autopilot implica un rischio, anche modesto, di interpretare male una biforcazione ben segnalata e di andarvi a sbattere contro “non dovrebbe essere testata in beta sulle strade pubbliche e da comuni consumatori”.

Statement
Re: Model 3 crash on Autopilot

Statement regarding collision
26 May 2018
FLORINA, GREECE
Thank you everyone for your kind wishes and messages of support following the collision late yesterday night. This is an absolutely devastating loss for me and brings a great journey to a sudden end.

I was driving southbound on highway E65 near the city of Florina, Greece. I was headed towards Kozani, Greece, where I planned to charge and spend the night. At this time, I was not tired after having 8 hours of sleep the previous night. I engaged Autopilot upon entering the highway after crossing the border between Macedonia (FYROM) and Greece. My Autopilot maximum speed was set at approximately 120 km/h, the speed limit for this highway. The highway was well-marked, well-maintained, and well-lit. The conditions were dry, and there was no traffic around me. The highway was two lanes in each direction, separated by a concrete median. The highway in my direction of travel divided at a fork, with the #2 right lane changing into the exit lane, and the #1 left lane remaining the lane for thru traffic. I was travelling in the #1 lane.

My left hand was grasping the bottom of the steering wheel during the drive, my right hand was resting on my lap. The vehicle showed no signs of difficulty following the road up until this fork. As the gore point began, approximately 8m before the crash barrier and end of the fork, my Model 3 veered suddenly and with great force to the right. I was taking a glance at the navigation on my phone, and was not paying full attention to the road. I was startled by the sudden change in direction of the car, and I attempted to apply additional grip onto the steering wheel in an attempt to correct the steering. This input was too late and although I was only a few inches from clearing the crash barrier, the front left of the vehicle near the wheel well crashed into the right edge of the barrier, resulting in severe damage.

I was not harmed in the collision, and no medical attention has been sought. I was wearing my seatbelt before and during the collision. None of the airbags deployed.

My Model 3 is not drivable as the front left wheel is completely shattered, and the axle is out of alignment. The damage is severe on the left of the front bumper, running to the front lip of the driver’s door, and is moderately severe from there to the left of the back bumper. The vehicle has been towed to a shop, and at 09:00 today, I will accompany the vehicle on a tow truck to Thessaloniki. I am towing the car there under recommendation from locals as more resources are available there, including resources to repatriate the vehicle back to the United States. I will make a decision soon as to whether or not it makes sense to bring this car back to the United States in an attempt to fix it, as the cost to repair the vehicle may substantially exceed its value after repair or salvage value.

Tesla states in an on-screen warning that both hands should be on the wheel when Autopilot is activated. Furthermore, Tesla states that drivers should be paying attention and monitoring the performance of Autopilot at all times. It is likely true that if all drivers obeyed the warnings surrounding this software, that most of the collisions we hear about in the press would never happen. Autopilot has limitations that currently can only be overcome through human intervention. For example, it cannot detect stationary objects, which explains collisions where Model S has rear-ended stationary vehicles parked on the side of the road.

By looking at my navigation and by not having both hands on the wheel, I was not paying full attention to the road while the vehicle was in Autopilot and was not following Tesla’s directions in regards to the correct use of the software. I want to make it clear that I take responsibility in regards to my actions. With that being said, I do not believe that there are many Tesla owners who, when using Autopilot, always keep both hands on the wheel and provide their undivided attention to monitoring the road and the software. This collision was directly caused by the Autopilot software seriously malfunctioning and misinterpreting the road. This collision could have happened to anyone who does not expect a car travelling at a fast speed in a straight line to suddenly and without warning, veer off course. After tens of thousands of kilometres worth of Autopilot driving without major incidents, I have learned to trust the software. Autopilot provides users with a strong sense of security and reliability as it takes you to your destination and navigates traffic on your behalf. Clearly, I had become too trusting of the software.

Autopilot is marketed as a driver assistance feature that reduces stress and improves safety. However, the vigilance required to use the software, such as keeping both hands on the wheel and constantly monitoring the system for malfunctions or abnormal behaviour, arguably requires significantly more attention than just driving the vehicle normally without use of Autopilot. Furthermore, I believe that if Autopilot even has the small potential of misreading a clearly marked gore point, and has the potential to drive into a gore point and crash into a barrier, it should not be tested in beta, on the open road, and by normal consumers. My experience is not unique as many drivers have reported similar behaviour from Autopilot, and a fatal crash involving Autopilot on a Model X may have been caused by a disturbingly similar malfunction.

Many Tesla fans will likely dismiss this as fully my fault, but I implore those who believe so to take a full step back and put themselves in my shoes, as a driver who had used this amazing software for so long, and who could not have anticipated such a sudden and violent jerk of the wheel to one direction while travelling at a fast speed. I hope that my fellow owners will be less dismissive of various incidents regarding Autopilot, and understand that the general public views these severe collisions differently from the owner community. Tesla is moving quickly into the mass market, and potential customers in that segment aren’t going to ask, “why were both of his hands not on the wheel while the car was in Autopilot?”, rather, they are going to ask “why did the car swerve into the gore point without warning?”. The autonomous driving movement as well as the Tesla community can only get stronger when we tackle these questions and resolve the issues behind them.

I love my Teslas and I have owned a Tesla since 2014. I am upset with myself for being part of the growing list of individuals who have been involved in collisions while their Tesla was on Autopilot. I strongly believe in the capability of self-driving vehicles to not only eliminate all collisions on the road but to revolutionise our society. However, malfunctions like this greatly reduce the public’s confidence in a technology that should indeed be tested and rolled out to the public as soon as it is safe for use. I do not want to cause Tesla damage to its brand or image as I wholly support its mission and I am a big supporter. I only hope that Tesla will investigate this incident to determine what went wrong with the software, and make improvements that will enhance other people’s experiences with the car.

I am very grateful to be alive after what could have easily been a fatal collision. This incident was not more severe thanks to an excellent crash barrier on the Greek highway. I want to thank everyone again for your messages of support. I am honoured to have had this opportunity to spread the EV movement not only around my country but around the world. In closing, I want to address some of my critics who have used this collision to laugh at me or to otherwise make fun of this incident. On this road trip, there have indeed been crazy posts where I push the limit of my car and I have only done these things to share my excitement about my Model 3 with others. Please understand that there was nothing out of the ordinary occurring before this collision. I was not sleeping at the wheel, I was not tired, I was not eating at the wheel (which by the way, I have not done before), no videos were being filmed – the vehicle was being operated normally. I am truly sorry and deeply regret that some of my actions have caused a bad taste in people’s mouths, I ask those people to judge my road trip thus far as a whole and not by my craziest or worst moments. I have met with over 8000 people on the road in three continents and 25 countries, and have demonstrated that not only is it possible to drive an EV across the world, it is absolutely exhilarating and brings along great adventure along the way. I have also seen the potential and power of the EV owners community, which when leveraged, can make a great difference in our world. I ask those who disapprove of my actions to reconsider their stance, and I want to see what positive things can come of this collision.

What happens next on this road trip is uncertain. I will keep everyone posted.

2018/05/27 7:05

Ho aggiunto una sintesi della dichiarazione estesa di YouYou Xue. Personalmente, dopo questo incidente, dopo gli altri che ho raccontato in questo blog e dopo le mie esperienze personali con l’Autopilot, se deciderò di dare seguito alla mia prenotazione della Model 3 non acquisterò l’Autopilot e non lo userò finché avrà questo genere di difetto. Le Tesla restano delle ottime auto elettriche a lunga autonomia, con una rete di ricarica senza pari, ma il loro Autopilot non è, a mio parere, pronto per l’uso e rischia di causare incidenti, invece di prevenirli, perché “ragiona” in modo totalmente diverso da un essere umano, per cui condizioni che sarebbero ovvie da gestire per il più scalcinato dei guidatori lo mandano in crisi, e questo rende difficile capire quando potrebbe fallire inaspettatamente.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Autopilot di Tesla fallisce miseramente un semplice test della BBC

Autopilot di Tesla fallisce miseramente un semplice test della BBC

Ultimo aggiornamento: 2018/06/14 7:20.

Chiunque abbia una Tesla (o un’auto con funzioni di guida assistita di altra marca) o stia pensando di acquistarne una dovrebbe riflettere seriamente su questo video prodotto dalla BBC.

Nella prima parte del test, l’auto (una Tesla Model S con la guida assistita Autopilot attiva) segue correttamente le corsie e rallenta altrettanto correttamente, fino a fermarsi, quando il veicolo che le sta davanti incontra un’auto ferma sulla corsia, rallenta e a sua volta si ferma.

Ma nella seconda parte del test, l‘auto che precede la Tesla mette la freccia e poi cambia corsia per evitare il veicolo fermo: la Tesla invece procede diritta, senza rallentare, fino a centrare in pieno l’auto ferma.

So che Tesla sta correndo per installare software meno fallimentare di questo, e che la sua release più recente (la 2018.21.9, in distribuzione in queste ore a tutta la flotta) riduce drasticamente il tempo per il quale si possono togliere le mani dal volante (da uno o due minuti a una trentina di secondi), ma a mio parere l’Autopilot attuale (quello mostrato nel video) non può neanche essere considerato un assistente di guida. È un pericolo, perché fallisce in situazioni e in modi che l’utente non ha motivo di aspettarsi.

È vero che la situazione del test è indicata specificamente nel manuale delle Tesla e in quello di altre auto con guida assistita, ma quanti conducenti se ne ricorderanno e la terranno costantemente presente durante la guida assistita, il cui scopo è ridurre la fatica (e quindi l’attenzione) di chi guida?

Il manuale della Tesla Model X dice: “Avvertimento: Il Cruise Control adattativo al traffico potrebbe non rilevare oggetti e potrebbe non frenare o decelerare in presenza di veicoli fermi, soprattutto se si procede a velocità superiori a 80 km/h e il veicolo antistante si sposta dal percorso di marcia e ci si trova davanti a un veicolo fermo un oggetto immobile. Prestare sempre attenzione alla strada davanti a sé ed essere sempre pronti a prendere immediatamente azioni correttive.”

Il problema di qualunque sistema di guida assistita di questo genere (BBC cita sia Autopilot di Tesla, sia Propilot di Nissan; da parte mia segnalo queste avvertenze nei manuali BMW e Volvo) è in quel potrebbe, che crea incertezza e che rischia di aumentare i tempi di reazione invece di ridurli.

Infatti il conducente tenderà a lasciar fare al sistema, che spesso funzionerà correttamente e quindi farà aumentare man mano la fiducia del conducente nei suoi confronti, ma poi fallirà inaspettatamente, come in questo caso, e il conducente spenderà secondi preziosi per valutare se il sistema sta per intervenire o no. Quando si accorgerà che il sistema non solo non sta intervenendo, ma sta creando una condizione di pericolo, potrebbe essere troppo tardi.

2018/06/14 7:20

La Thatcham Research ha pubblicato su Youtube un video che mostra altri dettagli dei test svolti non solo su Tesla ma anche su altre marche che offrono sistemi di guida assistita (notate quanto sbaglia il mantenimento di corsia della BMW a 1:20):

Jalopnik ha pubblicato un elenco (probabilmente parziale) degli incidenti nei quali l’Autopilot di Tesla, usato scorrettamente con eccessiva fiducia, ha ignorato ostacoli metallici (veicoli o barriere) fermi sulla corsia di marcia e li ha centrati:

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
A sorpresa Tesla annuncia una Model 3 da 45.000 dollari. Poi aggiorna a 46.000

A sorpresa Tesla annuncia una Model 3 da 45.000 dollari. Poi aggiorna a 46.000

Ultimo aggiornamento: 2018/10/24 12:10.

Da poche ore sul sito di Tesla USA è disponibile una versione di Model 3 di cui non si sapeva nulla, dotata di una batteria “mid range” e a motore singolo, al prezzo di 45.000 dollari (al cambio attuale, circa 39.000 euro). La versione meno cara finora disponibile, quella con motore singolo e batteria “long range” (49.000 dollari), sparisce e viene rimpiazzata da una “long range” a doppio motore, che costa 54.000 dollari (circa 47.000 euro). I prezzi non includono le tasse, come consueto in USA.

Questa nuova versione “mid range” promette 260 miglia (418 km) di autonomia secondo lo standard EPA, rispetto alle 310 miglia (498 km) della versione “long range”. È una versione a motore singolo e trazione posteriore, mentre la “long range” è a doppio motore e trazione integrale. È inoltre limitata (si fa per dire) a una velocità massima di 125 mph (201 km/h) contro i 145 mph (233 km/h) della versione “long range”.
 
La consegna in USA e Canada di questa nuova versione è “entro 6-10 settimane circa”.

Il prezzo effettivo è quello indicato in basso, non quello cerchiato in blu.

La stessa pagina annuncia che la versione con batteria standard sarà “disponibile tra 4-6 mesi”. Le consegne delle Model 3 in Europa cominceranno, dice Tesla, a “inizio 2019”.

La batteria di questa nuova versione “mid range” non è una batteria “long range” limitata via software, come ha fatto Tesla in alcune versioni delle sue altre auto (Model S), ma è proprio fisicamente meno capiente, secondo Electrek.

Il nuovo prezzo è assolutamente senza optional, quindi solo con carrozzeria nera (gli altri colori costano da 1.500 dollari in su), ruote da 18 pollici, interni neri (quelli bianchi si pagano 1.000 dollari extra), sedili riscaldati, tetto in vetro e guida solo assistita (frenata automatica, allarme di collisione frontale e laterale). L’Autopilot si paga 5.000 dollari a parte.

Con questa versione, Tesla accorcia le distanze rispetto alle altre auto elettriche a lunga autonomia disponibili sul mercato USA, come la Bolt EV (36.000 dollari, pari a 31.400 euro, in USA).

È impossibile dire ora quale sarà il prezzo di vendita in Europa delle Model 3, dove i principali concorrenti con autonomia comparabile sono Opel Ampera-E (in Svizzera 52.700 CHF, ossia 46.200 euro), Hyundai Kona Electric (in Svizzera da 44.990 CHF, ossia 39.300 euro) e Kia Niro EV (in UE circa 34.000 euro, ossia 38.700 CHF). Aspettiamo e vediamo: intanto il debutto di questa versione semplificata della Model 3 è un passo verso una riduzione dei prezzi base delle Tesla.

Dal punto di vista informatico, forse la novità più significativa è quella per nulla pubblicizzata: dal configuratore delle Model 3 è scomparsa l’opzione Full Self-Driving, che prevedeva già a bordo tutto l’hardware necessario per la futura guida pienamente autonoma. Nel configuratore della Model S l’opzione c’è ancora. Elon Musk ha tweetato poco fa che l’opzione sarà disponibile fuori menu ancora per una settimana e che non sarà più offerta perché “causava troppa confusione”. Mah.

2018/10/24 12:10

Electrek segnala che oggi Tesla ha modificato leggermente i prezzi: da oggi la Model 3 Mid-Range costa 46.000 dollari e la Long Range costa 53.000 dollari.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Guida autonoma e intelligenza artificiale: il problema della regionalità

Guida autonoma e intelligenza artificiale: il problema della regionalità

Ultimo aggiornamento: 2019/11/03 20:45.

Oggi molte aziende stanno tentando di insegnare la guida autonoma a un’intelligenza artificiale usando grandi masse di dati: fai vedere alla IA milioni di foto o di scansioni LIDAR di oggetti, per esempio semafori, le dici “questi sono semafori” e continui a farlo finché non li riconosce tutti con altissimo tasso di successo in ogni condizione di luce, disposizione e orientamento. Il problema è che il mondo non è tutto uguale.

Le regole del traffico variano da paese a paese. La segnaletica varia. Il cartello dei 50 km/h italiano è diverso da quello francese e da quello svizzero, tanto per fare un esempio, e il sorpasso/superamento a destra è consentito in alcuni paesi ma in altri no, per non parlare di quelli squinternati che guidano a sinistra e affrontano le rotatorie a rovescio. Servirebbero quindi dataset di apprendimento separati per ogni paese e descrizioni software di regole differenti per i singoli codici della strada nazionali.

Inoltre gli stili di guida degli umani variano, non solo da paese a paese ma da città a città, come ben sa un palermitano che guida a Napoli o un milanese che guida a Zurigo. Un’auto con IA deve agire in modo diverso a seconda della disciplina e dell’aggressività degli automobilisti e dei pedoni: un’IA pensata per la tranquilla e ordinata Olanda sarebbe paralizzata dal terrore nel traffico romano (e dovrebbe oltretutto adattarsi quando l’auto si sposta da una regione all’altra). Quindi servirebbero dataset estremamente granulari, distinti e localizzati.

Ma per crearli con il metodo usato per esempio da Tesla, ossia far circolare le auto, registrare tante immagini, etichettarle inizialmente a mano e poi far fare il resto all’IA, verificando man mano successi e insuccessi e osservando cosa fanno i guidatori umani (il cosiddetto shadow mode), servirebbero tante auto per ogni singola regione. 

Esempio concreto: Tesla ha attivato da poco il riconoscimento dei coni di delimitazione delle corsie per lavori stradali. Ma l’addestramento a riconoscerli è basato principalmente su dataset americani. Riconoscerà i coni italiani di delimitazione delle corsie, che sono più piccoli?


[2019/11/03 20:45: dopo la pubblicazione iniziale di questo articolo, è emerso che il tweet citato qui sopra si riferisce a un altro problema di riconoscimento, riferito alle corsie. Il principio generale, comunque, resta valido]

Intendiamoci: gli attuali sistemi di guida assistita (non autonoma) si comportano egregiamente e sono straordinariamente utili in condizioni semplici, come i viaggi in autostrada. Ma nelle situazioni complesse, come i cantieri o il traffico cittadino, crollano miseramente. Per questo si raccomanda, forse mai a sufficienza, di non fidarsi ciecamente degli attuali sistemi e di non portarli oltre i loro limiti ben circoscritti.

Insomma, il problema è più complicato di quel che molti pensano. Un’AI di guida totalmente autonoma, nel caos delle strade reali e dei codici della strada incoerenti e differenti, è un incubo da realizzare e testare. Tenetene conto nella guida, se avete l’Autopilot di Tesla o dispositivi simili, e nell’acquisto, se state pensando di comprare un’auto con AI.

Ci sarebbe una possibile soluzione: riscrivere i codici della strada per renderli uguali in tutto il mondo e riprogettare la viabilità di conseguenza. Un’altra soluzione sarebbe separare il traffico autonomo da quello umano, con corsie/strade distinte e su misura. In ogni caso servirà uno sforzo enorme e un grandissimo dispendio di intelligenza naturale, risorsa ahimé scarsissima, ma si salveranno migliaia di vite.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico), Bitcoin (3AN7DscEZN1x6CLR57e1fSA1LC3yQ387Pv) o altri metodi.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
Come ingannare l’Autopilot di Tesla e farlo andare contromano

Come ingannare l’Autopilot di Tesla e farlo andare contromano

Un gruppo di ricercatori del Keen Security Lab di Tencent ha dimostrato un metodo che consente di ingannare il sistema di guida Autopilot di Tesla e pone seri dubbi sull’affidabilità di tutti i sistemi di guida assistita di questo genere.

Premessa importante per chi non è pratico del settore: l’Autopilot di Tesla e tutti i sistemi analoghi attualmente installati su auto di varie marche sono dispositivi di guida assistita e non autonoma: sono ausilii al conducente, che però rimane sempre e comunque responsabile della conduzione del veicolo. Hanno delle limitazioni d’uso ben precise, spiegate dettagliatamente nei rispettivi manuali, che però molte persone decidono incoscientemente di ignorare.

Una di questa limitazioni è che il sistema di guida si aspetta che la strada non voglia ingannarlo intenzionalmente. Normalmente è così, ma i ricercatori hanno invece creato dei particolari adesivi che sono quasi invisibili ai conducenti ma vengono interpretati dal software di gestione del sistema di guida come se fossero delle linee continue che delimitano una corsia.

I ricercatori hanno piazzato tre di questi adesivi in diagonale sulla strada, orientandoli verso il centro della carreggiata, e l’Autopilot li ha interpretati come una deviazione della corsia, sterzando verso il centro della strada e invadendo la corsia opposta.

Questo è un difetto estremamente serio e difficile da correggere, anche perché si tratta di un sabotaggio intenzionale della segnaletica stradale. È l’equivalente informatico di qualcuno che altera i cartelli stradali o ridipinge le strisce di delimitazione di corsia per portarvi fuori strada o farvi andare contromano.

Tesla ha riconosciuto il problema e ha proposto l’unica difesa attualmente possibile, dicendo che lo scenario non è realistico “considerato che un conducente può facilmente scavalcare l’Autopilot in qualunque momento agendo sul volante o sui freni e deve sempre essere pronto a farlo”.

Il problema di questa giustificazione è che in realtà affidarsi all’Autopilot rischia di allungare i tempi di reazione in caso di problemi, come ho visto accadere di persona (come passeggero di varie Tesla): il conducente perde istanti preziosi per rendersi conto che il sistema di guida assistita sta sbagliando, gli concede il beneficio del dubbio e quindi può esitare prima di intervenire.

Per questo motivo si raccomanda di utilizzare questi sistemi esclusivamente in condizioni stradali ottimali (strisce ben visibili, strade senza curve improvvise) e di tenere sempre le mani sul volante (l’Autopilot, fra l’altro, suona l’allarme se si tolgono le mani per più di qualche secondo).

Gli esperti di Keen Security Lab dicono che la scelta di Tesla di usare solo sistemi di visione computerizzata per decidere che cosa costituisce una corsia “comporta rischi di sicurezza” e che “il riconoscimento della corsia di marcia in senso opposto è una delle funzioni necessarie per la guida autonoma su strade non chiuse”. Il semplice riconoscimento di due righe parallele per identificare una corsia, insomma, da solo non basta.

Maggiori dettagli su questi e altri risultati di questi esperti, insieme al loro rapporto tecnico, sono su Ars Technica.

Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.