È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

Il governo svizzero si affianca a quello tedesco, quello britannico e quello francese gettando le basi giuridiche per consentire la guida autonoma, o almeno fortemente assistita, anche in Europa. Ma nel frattempo negli Stati Uniti è stata revocata la licenza di circolare alle auto autonome di Cruise, un’azienda che gestisce una flotta di robotaxi: automobili senza conducente, nelle quali i passeggeri paganti vengono trasportati in giro per le città. C’è un problema con l’intelligenza artificiale che sta alla base di queste auto che viaggiano da sole? Stiamo per caso adottando leggi troppo permissive?

Sono Paolo Attivissimo, e vi do il benvenuto alla puntata del 27 ottobre 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica e incentrato questa settimana sullo stato dell’arte nella guida autonoma e assistita. Allacciate le cinture!

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

[SIGLA di apertura]

Auto autonome: nuove leggi le introducono in Svizzera…

Dal mondo iper-informatizzato della guida autonoma arrivano due notizie apparentemente contraddittorie. Il 18 ottobre scorso il governo svizzero ha pubblicato un’ordinanza che prepara il terreno, dal punto di vista giuridico, per l’introduzione delle automobili a guida assistita o autonoma sulle strade nazionali. Ma intanto negli Stati Uniti, che hanno già introdotto automobili completamente autonome in alcune regioni, la licenza di operare di una delle aziende del settore, Cruise, è stata revocata dalle autorità californiane parlando di “rischio irragionevole per la sicurezza pubblica”.

A prima vista sembra che la Svizzera stia aprendo pericolosamente le strade a una tecnologia che altri paesi hanno già provato e bocciato, ma non è così.

Per chiarire come stanno realmente le cose può essere utile prima di tutto un rapido ripasso della terminologia e della situazione legale di questi veicoli. Si parla di guida autonoma quando il veicolo viaggia senza avere a bordo un conducente e sono i computer di bordo a prendere tutte le decisioni di guida; quando invece il conducente c’è e resta responsabile della condotta del veicolo, si parla di guida assistita.

Molte automobili oggi disponibili sul mercato sono dotate di sistemi di guida assistita, come per esempio la frenata d’emergenza automatica, il mantenimento di distanza dal veicolo che precede o il mantenimento di corsia; esistono anche alcune auto equipaggiate con sistemi di guida autonoma, ma finora hanno circolato in Svizzera “solo con autorizzazioni eccezionali nel quadro di esperimenti”, come nota il recentissimo Rapporto esplicativo sull’ordinanza nazionale sulla guida automatizzata. Lo stesso rapporto sottolinea un altro concetto spesso frainteso: “l’attuale situazione giuridica esclude la possibilità di utilizzare su strada i sistemi di automazione conformemente alla loro destinazione d’uso”, dice, perché “[L]a legge sulla circolazione stradale […] prescrive che il conducente debba costantemente padroneggiare il veicolo [...], il che implica nello specifico il divieto di lasciare il volante”. In altre parole, quei sistemi di guida assistita che tecnicamente consentirebbero di togliere le mani dal volante per qualche decina di secondi non sono legalmente utilizzabili in questo modo, come invece molti automobilisti credono di poter fare.

Anche quando il mantenimento di corsia è attivato e l’auto sterza da sola, insomma, allo stato attuale chi guida deve tenere le mani sul volante, deve essere costantemente pronto a intervenire, e la responsabilità della condotta del veicolo è sempre sua. La revisione della legge federale sulla circolazione stradale e questa ordinanza servono a consentire in futuro l’uso legale di assistenti di guida sempre più sofisticati, come sta già avvenendo per esempio nel Regno Unito e in Germania, dove in alcuni casi è possibile togliere le mani dal volante, tenendo però gli occhi sulla strada, ma solo su alcuni tratti autostradali e se si ha un’automobile dotata di assistenza di guida evoluta.

In ogni caso, le prodezze irresponsabili di chi pensa di poter schiacciare un pisolino o leggere il giornale mentre si fa portare dall’auto restano vietate. Anche perché questi sistemi di guida assistita o autonoma di fatto non sono ancora abbastanza maturi, capaci e affidabili tecnicamente da consentire questo tipo di prestazioni, a prescindere dal quadro legale.

L’approccio svizzero e in generale europeo, insomma, è molto prudente. Negli Stati Uniti, in Cina e in altri paesi extraeuropei, invece, circolano già sulle strade di alcune città molte auto a guida altamente assistita e anche flotte di automobili completamente autonome, usate come taxi senza conducente ed equipaggiate con una selva di sensori e computer. Le cose, però, non stanno andando molto bene.

...intanto che vengono bandite in USA? Non proprio

A San Francisco, per esempio, è già possibile da qualche mese chiamare taxi autonomi, privi di conducente e appartenenti ad aziende come Cruise e Waymo, che dopo un periodo di sperimentazione offrono ora corse a pagamento al pubblico.

Ma il 24 ottobre scorso è arrivata la notizia che il Dipartimento dei Trasporti della California [California Department of Motor Vehicles] ha sospeso la licenza di uno di questi gestori, Cruise, che usa le automobili autonome fabbricate dalla General Motors.

Nei mesi scorsi si sono verificati alcuni incidenti e disagi legati alla circolazione di questi veicoli, che si sono fermati in mezzo alla strada, sono finiti nel cemento fresco di un cantiere stradale, hanno causato ingorghi radunandosi in massa e non hanno dato la precedenza ai mezzi di soccorso, con i quali si sono anche scontrati.

Tutte cose, va detto, che fanno ogni giorno anche moltissimi conducenti umani, senza che nessuno per questo chieda di revocare a tutti gli automobilisti le loro licenze. Gli errori umani, insomma, sono tollerati; quelli dei computer su ruote no.

La licenza di Cruise è stata revocata in seguito a un incidente grave avvenuto il 2 ottobre scorso e causato da un conducente umano, che ha investito un pedone e poi è fuggito. L’investimento ha spinto il pedone nella corsia sulla quale stava viaggiando un’auto autonoma di Cruise, che ha frenato immediatamente, in modo automatico, ma non ha potuto evitare l’impatto con il malcapitato pedone finitole davanti. La persona investita è rimasta intrappolata sotto il veicolo autonomo ed è ora ricoverata con ferite traumatiche multiple.

Ma se l‘incidente è stato causato da un automobilista, cioè da un essere umano, perché è stata revocata la licenza di operare al gestore delle auto autonome?

La risposta si annida nell’annuncio di revoca e nell’ordine sospensivo pubblicati dal Dipartimento dei Trasporti californiano.

Da questi documenti risulta infatti che l’auto autonoma di Cruise, dopo aver frenato fino a fermarsi, intrappolando il pedone al di sotto del veicolo, ha iniziato a muoversi tentando di accostare. L’auto ha percorso così circa sette metri, raggiungendo una velocità di 11 chilometri orari, trascinando con sé il pedone già gravemente ferito. Un errore di comportamento del veicolo davvero grave, che però non è l’unica causa della revoca della licenza.

Infatti secondo il Dipartimento dei Trasporti, i rappresentanti di Cruise hanno mostrato alle autorità le riprese dell’investimento registrate dalle telecamere installate sull’auto autonoma, ma hanno omesso di mostrare le immagini che documentavano questa manovra di accostamento e di trascinamento della povera vittima e non hanno informato il Dipartimento dei Trasporti del fatto che quella manovra era avvenuta. Il Dipartimento dice di essere venuto a conoscenza di questa omissione soltanto grazie a una discussione con “un’altra agenzia governativa” di cui non fa il nome.

Cruise non concorda con questa ricostruzione degli eventi e osserva che se l’auto che ha investito inizialmente il pedone fosse stata autonoma anziché guidata da una persona, avrebbe rilevato ed evitato il pedone, stando alle sue simulazioni. Cruise nota inoltre che l’auto autonoma ha di fatto reagito in 460 millisecondi, cioè più rapidamente della maggior parte dei conducenti umani.

La revoca della licenza, quindi, non è stata causata solo dall’errore del veicolo: vi ha contribuito anche l’omissione di informazioni importanti da parte dei responsabili di Cruise. Mentre il conducente umano ha fatto perdere le proprie tracce, sembra che i rappresentanti dell’azienda di veicoli autonomi abbiano in un certo senso fatto qualcosa di analogo, cercando di far perdere le tracce dell’errore del proprio prodotto.

Il problema, insomma, non è solo la programmazione del software delle auto autonome, che si può sempre riscrivere e migliorare, ma è – come dire – la “programmazione” dei comportamenti dei responsabili di Cruise, che probabilmente è molto più difficile da correggere e rendere più trasparente.

[Dopo la chiusura di questo podcast è arrivata la notizia che Cruise ha sospeso le attività di guida autonoma in tutti gli Stati Uniti e ora le farà circolare soltanto con un supervisore umano a bordo (Wired)]

Nel frattempo, la concorrenza, cioè Waymo, continua a poter operare a San Francisco: segno che le autorità non sono diffidenti verso le automobili autonome in generale, ma diffidano dei responsabili umani delle aziende che le producono e che non sono adeguatamente trasparenti.

[Fonti aggiuntive: Electrek, ABC7news, Techcrunch, Techcrunch. Nota: Cruise ha pubblicato una ricerca secondo la quale i suoi veicoli autonomi sono più sicuri del conducente medio di San Francisco, ma è importante leggere attentamente i criteri della ricerca]

USA vs Europa, approcci differenti, miti da smontare

Le differenze di approccio giuridico alla guida assistita o autonoma nelle varie zone del mondo sono molto marcate, ma le esperienze acquisite in questi anni indicano alcuni princìpi universali che è utile conoscere per evitare equivoci e scelte di acquisto e uso imprudenti o addirittura illegali, suggerite da campagne di marketing a volte un po’ troppo ottimiste e poco chiare.

Per esempio, la guida autonoma di massa in ogni situazione che Elon Musk annunciava come imminente nel 2016 su Twitter per le sue Tesla continua infatti a essere imminente e il conducente di questi veicoli continua ancora oggi a essere legalmente responsabile della loro condotta e deve tenersi pronto a intervenire quando sbagliano, anche negli Stati Uniti.

Uno di questi princìpi universali è che la guida assistita e quella autonoma sono problemi informatici molto più complessi di quello che si immagina comunemente, nonostante l’impiego sempre più massiccio di intelligenza artificiale e di potenza di calcolo, perché l’ambiente in cui si svolgono queste attività è molto più vario, dinamico e ricco di situazioni imprevedibili di quello che si pensa normalmente, specialmente nel caso della guida cittadina.

Una soluzione a questi problemi è semplificare l’ambiente, e infatti i sistemi di guida assistita funzionano già ora piuttosto bene, e vengono offerti da numerose case costruttrici, specificamente sulle autostrade, dove normalmente si ha una singola direzione di marcia, le strisce delle corsie sono ben visibili e non ci sono semafori, incroci, pedoni e ciclisti. Ma basta anche lì un cantiere per mandarli in crisi.

Nel Regno Unito, per esempio, è entrato da poco in commercio il servizio di assistenza alla guida BlueCruise di Ford, nel quale il conducente resta responsabile della condotta del veicolo ma è legalmente autorizzato a togliere le mani dal volante anche per periodi prolungati e può togliere gli occhi dalla strada per qualche secondo, sorvegliato comunque da una telecamera interna che controlla costantemente la direzione del suo sguardo. Tuttavia BlueCruise funziona soltanto sulla rete autostradale di quel paese e il conducente deve tenersi sempre pronto a intervenire se si presenta una situazione che il sistema di guida assistita non è in grado di gestire.

In Germania, negli Stati Uniti e in Cina, invece, è possibile usare Drive Pilot, l’assistente di guida di Mercedes, che è una delle poche case costruttrici che si assume la responsabilità legale in caso di incidenti e offre al conducente un sistema che gli permette di togliere le mani dal volante e anche gli occhi dalla strada. Tuttavia Drive Pilot funziona soltanto su tratti autostradali molto specifici, solo di giorno, fuori dalle gallerie e a velocità ridotta (sotto i 60 km/h), e comunque non consente pennichelle o altre distrazioni importanti, visto che dà un preavviso di soli dieci secondi prima di disattivarsi se rileva una situazione che non è equipaggiato per affrontare.

Visto che si tratta di gestire oggetti che pesano due tonnellate o più, sono lanciati a velocità elevate in ambienti affollati e portano passeggeri preziosi, è comprensibile che ci sia molta prudenza tecnica e legale intorno a questi sistemi. Lasciando da parte i facili entusiasmi del marketing e degli YouTuber, è proprio il caso di dire che per ora la guida assistita e quella autonoma devono ancora fare molta strada.

Si potranno togliere legalmente le mani dal volante, ma bisognerà sempre essere pronti a intervenire: questa, in sintesi, la novità più importante delle nuove normative svizzere sulla guida autonoma e assistita annunciate nei giorni scorsi.

A primavera scorsa il Parlamento svizzero ha approvato la revisione della Legge federale sulla circolazione stradale, creando le condizioni quadro, e il 18 ottobre scorso il Governo federale ha pubblicato due ordinanze, una sulla guida automatizzata e una sugli aiuti finanziari a soluzioni innovative per i trasporti su strade pubbliche, che definiscono le modalità di attuazione della legge in questione. Ora si avvia il processo di consultazione, che durerà fino al 2 febbraio 2024.

Le novità principali dell’ordinanza sulla guida automatizzata sono due:

• La prima è che i veicoli appositamente attrezzati con sistemi di guida assistita (non autonoma; l’ordinanza usa il termine automatizzata per indicare la guida assistita) consentiranno al conducente di togliere legalmente le mani dal volante nelle situazioni opportune, pur restando sempre responsabile della condotta del veicolo. Oggi ci sono vari sistemi di guida assistita che lo consentono tecnicamente, ma non legalmente (anche se il mantenimento di corsia è affidato all’auto, il conducente ha l’obbligo legale di tenere le mani sul volante).
• La seconda è che il parcheggio automatizzato senza conducente sarà legalmente possibile negli spazi appositi. Le auto adeguatamente equipaggiate potranno quindi essere lasciate a un punto specifico di un parcheggio apposito e andranno a cercarsi da sole un posto per parcheggiare.

Chi ha in mente di comprarsi oggi una Tesla, una Mercedes o una Ford e mettersi a leggere il giornale o fare un pisolino mentre l’auto lo porta a destinazione farà bene a smorzare le proprie attese: neppure sistemi di punta come Autopilot e FSD, Drive Pilot e BlueCruise (dei costruttori che ho citato sopra) consentono di farlo, né tecnicamente (salvo sabotaggi da incoscienti) né legalmente. Il conducente resta legalmente responsabile della condotta del veicolo sempre e comunque e deve essere pronto a intervenire in ogni momento (l’unica possibile eccezione, che io sappia, è Drive Pilot di Mercedes, ma solo in particolari condizioni di guida, e resta ancora da vedere se la nuova normativa svizzera consentirà questo tipo di responsabilità del costruttore).

Un altro aspetto interessante è che i sistemi di assistenza alla guida dovranno essere omologati e spetterà alle case costruttrici dimostrare che funzionano correttamente, garantendo sicurezza e fluidità del traffico per tutti gli utenti delle strade.

Per chi vuole consultare il testo ufficiale delle ordinanze e i rapporti esplicativi, che contengono molti riferimenti normativi utili e anche informazioni sullo stato dell’arte e della legge in altri paesi europei, sono a disposizione in italiano nell’apposita pagina del sito dell’Ufficio federale delle strade. Il comunicato stampa è disponibile in italiano.

Dal Rapporto esplicativo sull’ordinanza sulla guida automatizzata, pagina 4, cito questo paragrafo fondamentale, che chiarisce una situazione spesso fraintesa da molti utenti di auto dotate di assistenti di guida (ho aggiunto io i grassetti):

In Svizzera l’attuale situazione giuridica esclude la possibilità di utilizzare su strada i sistemi di automazione conformemente alla loro destinazione d’uso. La legge sulla circolazione stradale (LCStr) prescrive che il conducente debba costantemente padroneggiare il veicolo in modo da potersi conformare ai suoi doveri di prudenza (dovere di controllo) [Art. 31 cpv. 1], il che implica nello specifico il divieto di lasciare il volante [Art. 3 cpv. 3 ordinanza sulle norme della circolazione stradale (ONC; RS 741.11)]. Finora i veicoli a guida automatizzata hanno pertanto circolato in Svizzera solo con autorizzazioni eccezionali nel quadro di esperimenti.

Segnalo anche altri paragrafi importanti:

I veicoli devono in particolare essere dotati di un registratore di guida che rilevi le interazioni tra sistema di automazione e conducente od operatore e tenga traccia degli eventi che si verificano mentre è attivo il sistema di automazione. È inoltre stabilito chi ha diritto ad accedere ai dati rilevati dal registratore di guida e a che scopo [pag. 5]

L’utilizzo di sistemi di automazione implica anche l’acquisizione di nuove competenze e conoscenze e ciò vale sia per i veicoli che continuano a necessitare di un conducente sia per quelli che ne sono privi. Per non intralciare inutilmente la diffusione di veicoli a guida automatizzata, si rinuncia a un apposito esame di guida e si prescrive una formazione obbligatoria unicamente per i veicoli senza conducente. Chi guida o monitora un veicolo a guida automatizzata è tenuto a conoscere le funzionalità del sistema e prendere visione delle istruzioni d’uso del costruttore, cui spetta l’obbligo di fornirne di idonee. Chi acquista un veicolo a guida automatizzata deve essere informato dal rivenditore sull’utilizzo conforme del sistema di automazione e sui dati memorizzati al riguardo. Nel caso di veicoli privi di conducente, l’operatore o la persona che se necessario guida manualmente un veicolo sprovvisto di comandi convenzionali (ad es. mediante telecomando) deve seguire una formazione presso il costruttore [pag. 8]

Sono intervenuto a Ticinonews sulla questione, cercando di riassumerla in termini semplici e pratici. La registrazione e la trascrizione sono qui sul sito di Ticinonews.

Fonti aggiuntive: TVsvizzera, Corriere del Ticino.

Ultimo aggiornamento: 2023/06/12 8:15.

Già da un anno, da giugno 2022, a San Francisco circolano i taxi autonomi di Cruise, usabili dal pubblico dopo anni di prove e collaudi. A bordo non c‘è un conducente in caso di emergenza; c’è solo un monitoraggio remoto. E i risultati si vedono: nonostante la selva di sensori, che includono radar, LIDAR e telecamere, non appena l’auto incontra una caratteristica della strada che non è stata premappata nei suoi sistemi non ha idea di cosa fare. E questo non è l’unico caso documentato. La strada verso la guida realmente autonoma su strade non dedicate sembra essere ancora molto lunga.

Cruise stuck in the Middle of the road in SF. pic.twitter.com/0XOcfC3Q2M

— Tesla Owners Silicon Valley (@teslaownersSV) June 4, 2023

---

Anche Waymo, altro gestore di auto autonome, non se la passa bene. È arrivata da poco la notizia che sempre a San Francisco una delle sue auto ha investito e ucciso un cane che le ha attraversato la strada mentre il veicolo era in modalità autonoma in una zona in cui il limite di velocità è 25 miglia orarie (40 km/h). L’incidente è avvenuto nonostante ci fosse un conducente d’emergenza a bordo e nonostante il riconoscimento del cane da parte del software del veicolo. 

Certo, anche gli umani purtroppo investono gli animali e anche i pedoni, e può anche darsi che la situazione abbia reso impossibile evitare la collisione. Ma l’investimento di questo cane non rassicura un pubblico già scettico sui veicoli autonomi, e servirà una dose di sano realismo per chiarire che nessun sistema è perfetto e infallibile e che gli incidenti come questo capiteranno e andranno messi in preventivo. Purtroppo il sano realismo si scontra con i miraggi del marketing.

---

Un altro investimento di un cane riguarda una Tesla in modalità di guida assistita massima (il cosiddetto Full Self-Driving Beta, che nonostante il nome è un sistema di assistenza di Livello 2). Il cane è morto e le circostanze dell’investimento sono state documentate dalle telecamere di bordo. Il video, per chi volesse valutarle, è qui. Il cane attraversa la strada a passo spedito e il software, secondo il conducente, non ha reagito in alcun modo alla sua presenza e alla sua traiettoria di movimento. La sterzata che si nota nel video è stata effettuata dal conducente, stando alle sue dichiarazioni.

A prescindere da qualunque considerazione tecnica, è prudente rallentare ogni volta che si vede un animale libero sul bordo di una strada.

---

Intanto è Mercedes-Benz, non Tesla, la prima casa costruttrice a ricevere l’approvazione dagli enti normatori californiani per un’auto con guida assistita di Livello 3 (nessun obbligo di mani sul volante e di occhi sulla strada e libertà di distrarsi in alcune condizioni). Tesla, anche con il suo software “Full Self-Drive”, è ancora formalmente al Livello 2 (mani sul volante, occhi sull strada, pronti a intervenire sempre e subito). 

La casa costruttrice si assume la responsabilità legale di eventuali incidenti che avvengano in questa modalità di guida, a patto che il conducente abbia rispettato le regole. Il suo sistema Drive Pilot, basato su telecamere, radar, ultrasuoni, LIDAR, GPS centimetrico e anche microfoni, funziona solo in condizioni di traffico elevato, di giorno, a velocità inferiori a 60 km/h, e su strade specifiche. Il conducente non può mettersi sui sedili posteriori e dormire; viene sorvegliato da una telecamera interna. Se sopraggiunge un veicolo di soccorso, i microfoni ne rilevano la sirena e il sistema chiede al conducente di intervenire. Drive Pilot sarà disponibile nei modelli Classe S ed EQS del 2024 (Engadget).

Ultimo aggiornamento: 2023/04/18 9:40.

Il 13 aprile scorso Ford ha presentato la versione britannica di BlueCruise, il suo sistema di guida assistita (non autonoma), che consente al conducente di viaggiare senza tenere le mani sul volante su specifici tratti autostradali, a velocità fino a 130 km/h, ma con l’obbligo di tenere gli occhi sulla strada, sotto la sorveglianza di una telecamera a infrarossi, e di essere pronto a intervenire.

II sistema accetta che il conducente tolga gli occhi dalla strada per un massimo di cinque secondi e chiede di rimettere le mani sul volante in prossimità di incroci, confluenze o curve strette. Se il conducente non lo fa, l’auto emette avvisi sempre più intensi, fino a dare lievi colpi di freno, e poi rallenta fino a fermarsi.

Questa facoltà di togliere le mani dal volante per periodi prolungati rende BlueCruise superiore per certi versi al ben più conosciuto sistema Autopilot di Tesla, che tuttora obbliga il conducente a tenere le mani sul volante e consente di toglierle solo per poche decine di secondi o anche meno, a seconda del modello. 

BlueCruise, inoltre, offre la sterzata collaborativa, ossia permette al conducente di sterzare (per esempio per dare margine a un ciclista o evitare una buca) senza che questo disattivi l’assistenza di guida, come avviene invece con altri sistemi “tutto o niente”, compreso Autopilot, nei quali il conducente deve agire con decisione sul volante per riprendere il controllo e poi deve riattivare manualmente l’assistenza di guida. La sterzata collaborativa non è una novità assoluta: è offerta per esempio in Europa da VW con il nome di Travel Assist.

Un altro pregio di BlueCruise è il mantenimento di corsia adattivo. Invece di tenere l’auto perfettamente centrata fra le strisce sempre e comunque, come fanno alcuni sistemi di mantenimento di corsia, BlueCruise sposta il veicolo leggermente a destra o a sinistra quando supera o affianca un altro veicolo, esattamente come fa istintivamente un buon conducente umano, aumentando così i margini di sicurezza e togliendo quella fastidiosa sensazione di eccessiva vicinanza che si prova spesso con altri assistenti di guida (dai commenti mi segnalano che anche le Tesla recenti si spostano in questo modo).

BlueCruise è già disponibile dal 2021 negli Stati Uniti e in Canada; questo annuncio è il suo debutto europeo, con la prima approvazione ministeriale (solo in UK) a togliere le mani dal volante durante la guida; è gratuito per i primi 90 giorni e poi viene offerto in abbonamento a 18 sterline al mese. Per ora è usabile esclusivamente su circa 3700 chilometri di autostrade premappate nel Regno Unito (mappa).

Gli utenti canadesi e statunitensi di BlueCruise sono circa 200.000 e hanno percorso oltre 102 milioni di chilometri a mani libere. Il sistema di Ford si è aggiudicato il primo posto nella classifica di Consumer Reports dei sistemi di assistenza alla guida, che consiglio di leggere perché è estremamente completa e informativa sui concetti di base di questi sistemi.

Questa classifica, fra l’altro, offre una rassegna dei vari nomi scelti dalle case automobilistiche per gli assistenti di guida: BlueCruise (Ford), ActiveGlide (Lincoln), SuperCruise (Chevrolet/GMC/Cadillac), Driver Assistance (Mercedes), Driving Assistance Professional (BMW), Safety Sense (Toyota), Safety System (Lexus), Travel Assist (Volkswagen), Adaptive cruise assist (Audi), Autopilot (Tesla), Highway Assist (Rivian), ProPILOT Assist (Nissan/Infiniti), Sensing (Honda), AcuraWatch (Acura), Pilot Assist (Volvo/Polestar), Highway Driving Assist (Hyundai/Kia/Genesis).

Qui c’è un video che mostra BlueCruise in funzione sulle strade statunitensi:

Questo è un video promozionale postato su Twitter da Martin Sander, general manager Model e Europe di Ford:

It’s not every day that you can say you’ve placed one foot in the future, but @Ford #BlueCruise becoming the first #handsfree driving system to receive approval for use on motorways in Great Britain is a significant step forward.

Watch my #OnTheRoad test drive below!#cooltech pic.twitter.com/4IvYfQdt7x

— Martin Sander (@MSander22) April 13, 2023

Va ricordato, come sempre, che questi sistemi sono assistenti di guida e non sostituiscono il conducente; possono al massimo affiancarlo. Sono tutti sistemi di Livello 2, secondo la classificazione SAE (automazione parziale). Ford sottolinea inoltre che in caso di incidente è comunque il conducente a essere pienamente responsabile dal punto di vista assicurativo.

Che io sappia, l’unico sistema di guida assistita attualmente disponibile che si assume la responsabilità legale in caso di incidenti è il Drive Pilot di Mercedes, che è un sistema di Livello 3 SAE e consente al conducente di togliere le mani dal volante e gli occhi dalla strada, ma funziona soltanto su tratti di strada molto specifici, solo di giorno, fuori dalle gallerie e a velocità ridotta (sotto i 60 km/h), ed è disponibile soltanto in Germania, in California e nel Nevada. Anche questo sistema, comunque, non consente pisolini o altre distrazioni consistenti, visto che dà un preavviso di soli 10 secondi prima di disattivarsi se incontra una situazione che non è in grado di gestire.

Fonti aggiuntive: BBC, Electrek, Road and Track, Electrek.

Il 20 ottobre 2016 Tesla pubblicò un video che mostrava una Tesla Model X mentre effettuava un tragitto senza alcun intervento del conducente, creando enorme scalpore mediatico. Ne scrissi anch’io all’epoca con entusiasmo. Ma il video è sostanzialmente un falso, confermato da uno dei suoi creatori in una testimonianza in tribunale.

Il video iniziava con la dicitura (in inglese) “La persona seduta al posto del conducente è presente solo per motivi legali. Non sta facendo nulla. L’auto guida da sola” (“The person in the driver’s seat is only there for legal reasons. He is not doing anything. The car is driving itself”).

Il video era questo, tuttora presente sul sito di Tesla con il titolo “Hardware per guida autonoma completa su tutte le Tesla” (“Full Self-Driving Hardware on All Teslas”):

Nel video, l’auto esce da un box di un’abitazione privata, si immette in strada, si ferma agli stop e ai semafori, gestisce sorpassi e cambi di corsia, imbocca l’uscita autostradale e conclude il proprio viaggio nel parcheggio della sede centrale di Tesla (al 3500 di Deer Creek Road, a Palo Alto, in California), scaricando il conducente e girando da sola per il parcheggio fino a trovare autonomamente un posto libero, fermandosi per lasciar passare un pedone e infine facendo manovra per posteggiare.

Ma nel corso di un processo attualmente in corso in California per la morte di Walter Huang, avvenuta nel 2018 a bordo di una Tesla schiantatasi durante l’uso del software di assistenza alla guida, la testimonianza di Ashok Elluswamy (PDF, 183 pagine), direttore del software Autopilot di Tesla e direttamente coinvolto nella realizzazione del video, ha spiegato che il video in questione era una messinscena (da pag. 71 in poi):

• quel percorso specifico era stato pre-mappato in 3D, cosa che va completamente contro il principio di una guida autonoma usabile ovunque, anche su percorsi non pre-mappati, dichiarato esplicitamente da Tesla, e Musk ha detto che le strade pre-mappate (usate da altre case costruttrici) sono “una pessima idea” e generano “un sistema estremamente fragile”;
• nonostante questo aiuto di premappatura, la ripresa mostra in realtà soltanto un tentativo riuscito dopo numerosi fallimenti e non dimostra una situazione ripetibile affidabilmente;
• durante questi tentativi precedenti, il conducente aveva dovuto intervenire ripetutamente e l’auto usata nel video era salita sul cordolo andando a sbattere contro una recinzione nel parcheggio.

Elluswamy ha dichiarato che “l’intento del video era mostrare le potenzialità del sistema” (“I believe the intent of the video was to showcase the potential of the system”, pag. 78) e “non di rappresentare accuratamente quello che era disponibile ai clienti nel 2016” ma di “descrivere quello che era possibile creare” (“the intent of the video was not to accurately portray what was available for customers in 2016. It was to portray what was possible to build the system”, pag. 79). Non usa mai la parola “staged” (“inscenato”) che è stata usata da varie fonti (per esempio Gizmodo, Reuters, The Register e Ars Technica), ma il senso tecnico è sostanzialmente quello: il video non rispecchiava affatto le capacità del software di Tesla destinato al pubblico.

Però il giorno precedente, ossia il 19 ottobre 2016, Tesla aveva pubblicato un articolo che titolava che “tutte le auto Tesla attualmente in produzione hanno hardware per la guida autonoma completa” (“All Tesla Cars Being Produced Now Have Full Self-Driving Hardware”) e ribadiva il concetto nel testo (“as of today, all Tesla vehicles produced in our factory – including Model 3 – will have the hardware needed for full self-driving capability at a safety level substantially greater than that of a human driver”).

Inoltre il video era stato interpretato, anche dai siti degli appassionati di Tesla, come una dimostrazione delle reali capacità di guida autonoma di Tesla, non come una dimostrazione di intenti. Lo avevano celebrato presentandolo per esempio come “una dimostrazione video di una Model X equipaggiata con la suite di sensori per guida autonoma più recente, che viene installata nei veicoli di Tesla adesso, mentre usa la versione più avanzata del software, che verrà distribuita agli utenti gradualmente nel corso del prossimo anno” (“a video demonstration of a Model X equipped with its latest self-driving sensor suite, which is going into Tesla’s vehicles right now, and using the most advanced version of the software, which will be pushed to owners gradually throughout the coming year”) (Fred Lambert su Electrek, 20 ottobre 2016).

Del resto, Elon Musk aveva pubblicizzato il video dichiarando che l’auto guidava “da sola (assolutamente nessun input umano) su strade urbane, autostrade e vie, poi trova un posto per parcheggiare... nel cercare un parcheggio, l’auto legge i cartelli stradali per sapere se è autorizzata a parcheggiare, ed è per questo che ha scartato il posto riservato ai disabili” (“Tesla drives itself (no human input at all) thru urban streets to highway to streets, then finds a parking spot... When searching for parking, the car reads the signs to see if it is allowed to park there, which is why it skipped the disabled spot”). 

Un altro video, più lungo e con la stessa dicitura “La persona seduta al posto del conducente è presente solo per motivi legali. Non sta facendo nulla. L’auto guida da sola”, era stato pubblicato successivamente.

Siamo nel 2023, e neanche oggi le Tesla hanno le capacità mostrate nel video. Non ce l’hanno neppure le circa 100.000 Tesla dotate del software più avanzato, il Full Self-Drive beta o FSD beta, che è disponibile solo in alcuni paesi, aumenta progressivamente di prezzo e oggi costa ben 15.000 dollari (o si può avere in abbonamento a 99 o 199 dollari al mese a seconda delle dotazioni preesistenti) in aggiunta al prezzo di listino dell’auto. Nessuna Tesla può andare a parcheggiare da sola senza nessun a bordo, come nota Elluswamy nella sua deposizione (pag. 95).

Va precisato che circolavano già, ma non presso il grande pubblico, dubbi su questo video. Li avrebbe avuti chi avesse avuto la profonda accortezza di notare che c’era un rapporto tecnico di Tesla al Department of Motor Vehicles (DMV) californiano (intitolato Disengagement of Autonomous Mode) che segnalava che l’azienda nel 2016 aveva coperto 550 miglia in modalità autonoma, con 168 “sganciamenti” (“disengagement”), ossia eventi nei quali la guida autonoma era andata in crisi e/o c’era stato un intervento del conducente. Questi eventi erano avvenuti nel periodo appena prima del rilascio del video in questione e quindi erano un sintomo dei problemi di affidabilità incontrati. Li avrebbe avuti chi avesse dato retta a un articolo del New York Times del 2021 che notava che vari dipendenti di Tesla che avevano lavorato al video avevano detto che rappresentava falsamente le capacità del sistema di guida di Tesla. Il NYT scriveva già all’epoca che il percorso era stato pre-mappato e che l’auto aveva colpito una barriera ed era stato necessario ripararla (The Register). Ma la deposizione di Elluswamy ha portato all’attenzione generale la reale natura del video. 

Finora non è emersa alcuna dichiarazione pubblica di Tesla nella quale fosse stato chiarito, all’epoca, che il video era solo un “intento” di mostrare le potenzialità future e non corrispondeva a quanto realmente disponibile a Tesla e implementabile nelle auto commerciabili. Secondo Bloomberg (copia non paywallata), in alcune mail interne aziendali Elon Musk aveva dichiarato inizialmente ai suoi sviluppatori del software FSD che avrebbe detto pubblicamente che il video mostrava un esempio di capacità future (“I will be telling the world that this is what the car *will* be able to do, not that it can do this upon receipt”), ma poi aveva dato ordine esplicito di iniziare il video con quella frase, dettata da lui personalmente, che parlava solo di auto che guidava da sola, senza alcuna indicazione della natura reale del video o di potenzialità future.

Questi sono i fatti. 

Sulla base di questi fatti, sembra ragionevole concludere che il video è oggettivamente ingannevole per il grande pubblico e quindi per l’acquirente medio di una Tesla, che vedendo quel video plausibilmente avrà pensato che acquistandone una in quel momento (nel 2016) avrebbe ottenuto un’auto già dotata di tutto l’hardware necessario per la guida autonoma (come del resto dichiarato esplicitamente da Tesla) che doveva semplicemente attendere l’approvazione e il rilascio del software già quasi pronto.

Chi ha pagato cifre ingenti per avere il Full Self-Drive beta e ancora oggi, a distanza di sei anni, non ha ancora nulla di simile a quanto sembrava imminente nel 2016 sarà comprensibilmente deluso e probabilmente si sentirà buggerato e vittima di frode in commercio: in sostanza, ha anticipato parecchi soldi a Tesla per un servizio apparentemente già pronto ma che non ha mai ricevuto. Tutto il software attuale di Tesla, compreso l’FSD beta, è infatti classificato formalmente come SAE Livello 2 e quindi la condotta del veicolo è totalmente sotto la responsabilità del conducente, che deve restare pronto a intervenire in ogni momento.

Sono anch’io un utente Tesla (ho una Model S del 2016, senza FSD), e sulla base della classificazione attuale a Livello 2 del software di Tesla (guida assistita, non autonoma), della mia esperienza e delle segnalazioni di utenti che hanno sia Autopilot (il software standard) sia FSD beta (quello più avanzato) non posso che raccomandare estrema attenzione e massima diffidenza verso questi prodotti. Sono affidabili in condizioni semplici (poco traffico, strade ben demarcate), ma falliscono in maniera imprevedibile, in situazioni che un conducente normale non considererebbe mai pericolose, e falliscono spesso senza dare al conducente il tempo di reagire e correggere. Consiglio inoltre, a chi non ha una Tesla ma se ne trova una davanti mentre guida, di mantenere abbondantemente la distanza di sicurezza per evitare tamponamenti in caso di frenata improvvisa della Tesla quando la strada è completamente libera (il cosiddetto phantom braking).

La NHTSA, l’ente statunitense per la sicurezza del traffico autostradale, ha in corso una serie di indagini sui sistemi di guida assistita di Tesla, avviate in seguito a centinaia di segnalazioni di casi di frenata senza alcun motivo, ad almeno due investimenti mortali di motociclisti e a vari tamponamenti di veicoli d’emergenza fermi lungo la strada. Inoltre il Dipartimento di Giustizia statunitense sta indagando per capire se Tesla abbia ingannato i consumatori, gli investitori e gli enti di regolamentazione facendo dichiarazioni non supportate a proposito delle capacità della sua tecnologia di assistenza ai conducenti”.

Le conseguenze di queste indagini e l’attuale comunicazione al grande pubblico della natura fittizia di quel video del 2016 mettono seriamente in dubbio la credibilità dell’azienda sul fronte della guida autonoma. Caveat emptor.

Pubblicazione iniziale: 2022/11/15 2:02. Ultimo aggiornamento: 2023/03/01 11:15.

È arrivata anche sui media italiani la notizia di un incidente mortale avvenuto in Cina alcuni giorni fa. Per come ne parla per esempio Repubblica, una Tesla Model Y avrebbe “iniziato a correre all'impazzata in strada”, come se l’auto avesse fatto tutta da sola. Lo stesso articolo descriveva inizialmente Elon Musk come un “magnate russo” [sic], come si vede nello screenshot qui accanto, quindi potete immaginare con quanta cura sia stato redatto.

Dell’incidente parla anche la Rai in un servizio che parla di una “Tesla che provoca un incidente mortale”, anche qui come se il veicolo avesse agito in totale autonomia. Ma in realtà c’era un conducente a bordo.

Né Rai né Repubblica, dopo aver mostrato il video impressionante e acchiappaclic dell’incidente, hanno ritenuto utile informare i loro lettori dei dettagli tecnici della vicenda, limitandosi a uno scarno riassunto che include il triste bilancio di due morti e tre feriti. Questa scelta lascia facilmente nel lettore l’impressione che l’auto sia impazzita e che per estensione i veicoli elettrici a guida assistita (spesso erroneamente descritti come “a guida autonoma”) siano pericolosi e incontrollabili. Provo a chiarire come stanno realmente le cose.

Ho scelto di non incorporare qui il video ma di descriverlo, perché è davvero spaventoso e non voglio attirare clic morbosi. Chi vuole esaminarlo può farlo per esempio qui oppure qui. Il video mostra l’intera sequenza dell’evento, ricostruita montando le riprese delle numerosissime telecamere di sorveglianza situate lungo il percorso dell’auto.

Nel video si vede che la Model Y dapprima accosta a bassa velocità, quasi si ferma al lato della strada, e poi ritorna in carreggiata, accelerando bruscamente e quasi investendo un ciclista, scansando con una violenta sterzata una persona in scooter e poi sfrecciando a velocità sempre più sostenuta lungo la strada rettilinea che attraversa il centro abitato, investendo in pieno un motociclista e di striscio un ciclista e poi colpendo frontalmente un furgone. La collisione la fa sbandare e concludere la propria corsa contro degli oggetti sul ciglio della strada dopo circa due chilometri e mezzo. L’intera sequenza dura una trentina di secondi.

L’incidente è avvenuto a Chaozhou, nella provincia di Guangdong, nella Cina meridionale. Il video riporta la data del 5 novembre 2022.

Nel video non si vede nessuna accensione delle luci posteriori di frenata. Un membro della famiglia del conducente (che è un uomo di 55 anni, che ha riportato delle ferite) ha dichiarato che il pedale del freno dell’auto non rispondeva e che anche quando il conducente ha cercato di mettere l’auto in Park il veicolo ha continuato la propria corsa.

Tesla, che ha i dati di telemetria dell’auto, dichiara invece (secondo Tesmanian) che non è vero che i freni non funzionavano. La telemetria, dice, indica che l’acceleratore è stato premuto a fondo e che il conducente non ha agito sul pedale del freno. Gli stessi dati indicano anche che il conducente ha premuto quattro volte il pulsante Park e che le luci di frenata si sono accese e spente brevemente. Sulle Tesla, tenere premuto a lungo il pulsante Park mentre si è in moto produce l’arresto del veicolo.

Secondo i media locali (Cnevpost; Global Times), che pubblicano altre foto dell’incidente, il conducente aveva accostato davanti al negozio di materiali da costruzione che gestisce e quando ha premuto il pedale del freno ha notato che era troppo duro per consentire di fermare completamente l’auto. Gli ultimi 1400 metri circa sarebbero stati percorsi dopo che la gomma anteriore sinistra era scoppiata. Il conducente è un ex camionista e la Tesla distrutta è la sua. La polizia locale ha escluso che il conducente fosse sotto l’effetto di alcol o farmaci.

Questi sono i fatti noti fin qui.

----

Le congetture intorno all’incidente abbondano. Molti hanno ipotizzato che si sia trattato di un malfunzionamento del sistema di guida assistita (non autonoma), il cosiddetto Autopilot, ma né il conducente né Tesla hanno dichiarato che il sistema fosse attivo. In ogni caso, l’assistenza di guida non può assolutamente comportarsi nel modo che si vede nel video. Gli sbandamenti e le accelerazioni violente che si vedono nelle immagini non sono compatibili con l’Autopilot, e comunque qualunque pressione sul pedale del freno avrebbe disattivato immediatamente l’assistenza di guida.

Un’altra ipotesi è che l’auto abbia iniziato ad accelerare per qualche suo guasto profondo e la potenza del motore abbia reso vano l’uso dei freni. Ma dal video si vede che gli stop non si sono accesi se non fugacemente, e di fatto i freni di qualunque autoveicolo sono progettati per superare anche la massima potenza del motore.

Una terza ipotesi è che qualche grave difetto nel software di gestione del veicolo abbia fatto “impazzire” la Tesla, dando massima potenza al motore e inibendo i freni. Per capire quanto uno scenario del genere sia implausibile, bisogna tenere presente tre cose:

• I freni sulle Tesla sono un sistema completamente meccanico, che funziona anche senza alimentazione elettrica semplicemente premendo il pedale apposito. Il software non ha alcun modo fisico di “inibire” i freni. Può solo dare comandi di attivazione della frenata, ma non può scavalcare il pedale del freno. Il rilascio del pedale è un meccanismo a molla: gli attuatori comandati dal software possono solo agire premendo sul pedale.
• Per l’accelerazione, il software ha una serie di controlli incrociati severissimi. Qualunque manovra che comporti per esempio accelerazioni eccessive, livelli di potenza erogata non accettabili o qualunque altra condizione anomala viene semplicemente respinta. In casi estremi, il sistema di gestione della batteria (BMS) può addirittura staccare completamente l’alimentazione elettrica dei motori tramite un fusibile pirotecnico non riattivabile.
• Tesla stessa spiegava già nel 2020 che “l’auto accelera se, e solo se, il conducente le dice di farlo, e rallenta o si ferma quando il conducente agisce sui freni... i pedali dell’acceleratore delle Model S, X e 3 hanno due sensori di posizione indipendenti, e se si verifica qualunque errore il sistema ha come default l’azzeramento della coppia del motore. Analogamente, se si agisce contemporaneamente sul pedale del freno e su quello dell’acceleratore, l’input dell’acceleratore verrà scavalcato e la coppia al motore verrà azzerata, e a prescindere dalla coppia una frenata persistente fermerà l’auto.”

La quarta ipotesi circolante (senza la minima prova) è che Tesla abbia alterato la registrazione della telemetria in qualche maniera per esonerarsi. Il problema di quest’idea è che il modo in cui sono scritte queste registrazioni (i log) è serializzato, ossia una riga dipende dal contenuto della precedente, e le registrazioni contengono moltissimi parametri ripetuti e riferimenti incrociati (l’accelerazione, per esempio, viene registrata dall’accelerometro, dai pedali, dal sensore di coppia, eccetera); ho visto personalmente questi file (della mia Tesla Model S e di altre Tesla) e sono complicatissimi da leggere anche dopo la decodifica.

Qualunque alterazione dei log sarebbe complicatissima, con effetti a cascata che la rivelerebbero, e andrebbe fatta anche sulla copia dei dati registrata localmente nella memoria dell’auto dopo che il veicolo è stato distrutto dall’incidente (o la memoria locale dovrebbe essere azzerata per “dimenticare” cosa è successo). Una strategia non impossibile, ma tecnicamente troppo onerosa e con il rischio di essere smascherati pubblicamente (come dimostrato dal Dieselgate).

Ma allora come si potrebbe spiegare quello che si vede nel video?

---

Premetto che quanto segue è semplice congettura ragionata, sulla base dei dati disponibili finora, e come tale andrà sicuramente riesaminata quando saranno disponibili gli esiti delle perizie esterne già commissionate.

A mio avviso, la spiegazione meno irragionevole è che il conducente abbia semplicemente premuto per errore l’acceleratore pensando di premere il freno e poi, vedendo che l’auto continuava ad accelerare, preso dal panico abbia continuato a premere a fondo l’acceleratore credendo di agire sul pedale del freno. So che a mente fredda questo può sembrare impossibile, ma va considerato che ogni anno negli Stati Uniti avvengono oltre 16.000 incidenti causati da conducenti che scambiano l’acceleratore per il freno, secondo dati dell’ente NHTSA del 2015. E questo avviene senza che ci siano di mezzo veicoli elettrici o sistemi di guida assistita.

In media, insomma, 43 volte al giorno un automobilista americano preme l’acceleratore al posto del freno e causa un incidente. Capita anche in Europa, come mostra per esempio questo incidente a Roma. Non si tratta di una Tesla.

Auto impazzita finisce la sua corsa su Palazzo Cimarra in via Panisperna. Nessun ferito ma un pedone ha rischiato grosso. La donna al volante e suo figlio escono dalla vettura illesi. Nel video la scena dell'incidente #INCIDENTE #Roma #sicurezza pic.twitter.com/vG8rpWwI3B

— diarioromano (@diarioromano) October 27, 2022

Gli stessi dati dell’NHTSA notano che in 40 anni di indagini sugli episodi di accelerazione improvvisa non intenzionale “non sono mai stati identificati difetti del veicolo che possano causare avarie improvvise sia dell’acceleratore sia dei freni”. La colpa è risultata sempre un errore del conducente, causato da distrazione, calzature non adeguate, cattive abitudini di posizionamento del piede sul freno che lo fa scivolare dal pedale del freno verso quello dell’acceleratore, e così via. 

Per esempio, Toyota fu al centro di una serie di casi di accelerazione improvvisa involontaria dal 2009 al 2011: le indagini appurarono che c’erano difetti nei tappetini e nei pedali che in alcune circostanze potevano facilitare errori, ma i casi esaminati risultarono essere imputabili soprattutto a un errore di azionamento dei pedali da parte del conducente. 

Tuttavia un‘intervista al conducente, pubblicata in inglese su Cnevpost.com, gli attribuisce delle dichiarazioni precise che ribadiscono la sua tesi:

• Non era al telefono.
• Quando ha accostato, ha tolto il piede dall’acceleratore e lo ha messo sul freno, ma ha avvertito che la frenata elettromagnetica rigenerativa (il “freno motore” delle auto elettriche) era differente dal solito e quindi ha iniziato a premere il freno, sentendolo duro. Ha premuto il pedale due volte, senza successo. A questo punto il veicolo stava ancora procedendo molto lentamente.
• Avvertendo che l'auto stava funzionando in modo anomalo, ha premuto il pulsante Park. È a questo punto che l’auto ha accelerato.
• Ha premuto il freno con tutte le sue forze e ha sterzato per evitare un motociclista.
• Ha tenuto il piede sul freno, sperando che riprendesse a funzionare e cercando un ostacolo contro il quale fermare la corsa del veicolo, ma a questo punto stava procedendo già a oltre 100 km/h e quindi non ha potuto fare altro che tentare di evitare gli altri occupanti della strada.
• Ha perso i sensi dopo lo schianto.
• Ha effettuato un esame del sangue appena ricoverato in ospedale.
• Il rumore di clacson che si sente nel video non è suo; aveva entrambe le mani sullo sterzo e con le dita stava premendo il pulsante Park sulla levetta che sporge dal piantone.

Se le dichiarazioni del conducente corrispondono a quanto effettivamente accaduto, restano aperte le ipotesi di un difetto intrinseco dei veicoli di questo tipo che si manifesta solo in occasioni molto rare, di una modifica effettuata o di un danno subìto inavvertitamente. Ma resta da capire come un difetto, una modifica o un danno possano avere un effetto così catastrofico e contemporaneo sul sistema di guida e sull’impianto frenante.

----

2023/03/01 11:15. Su Twitter è stata pubblicata quella che sembra essere la perizia sull’incidente. Secondo i tweet che la descrivono, l’acceleratore è stato premuto a fondo per tutto il tempo e i freni non sono stati mai azionati. Sembra la tipica situazione di errore del conducente; l’alternativa è ipotizzare che la perizia sia falsa o che Tesla abbia alterato i dati.

Tesla Model Y Chaozhou crash forensics finished
✴️accelerator pressed 100% entire time
✴️brakes were off entire time
✴️5 sec prior crash, speed 164km/h, steering wheel angle moved 25° , stability control on, speed down to 159km/h, back up to 163km/h & crash
(小特叔叔 microblog) https://t.co/AU376gBrx7 pic.twitter.com/CepuDvuR1H

— Moneyball (@MoneybaII_R) March 1, 2023

Fonti aggiuntive: Reuters, Teslarati, RSI, Jason Hughes, Electrek.

Questo articolo è disponibile anche in versione podcast audio.

Dal Giappone arriva un’idea decisamente originale per migliorare la sicurezza dei veicoli a guida autonoma. In un articolo scientifico pubblicato di recente, un gruppo di ricercatori dell’Università di Tokyo e Kyoto ha descritto i risultati incoraggianti di un esperimento in cui un veicolo è stato equipaggiato con due enormi occhi finti montati sul muso, capaci di ruotare in varie direzioni per indicare ai pedoni se sono stati “visti” dai sensori del sistema di guida.

Se questi occhi si rivolgono verso un pedone, quel pedone sa di essere stato visto; se gli occhi non si orientano nella sua direzione, il pedone ha una chiara indicazione visiva del fatto che il sistema di guida non l’ha riconosciuto.

Secondo i ricercatori, l’aggiunta degli occhi al muso del veicolo ha ridotto del 64% gli attraversamenti pericolosi della strada effettuati dalle persone in un ambiente simulato in realtà virtuale. Con sorpresa, la ricerca ha rilevato anche che gli uomini tendono a prendere decisioni più avventate e scelgono più spesso di attraversare anche quando il veicolo non ha dato segni di averli visti, mentre le donne sono molto più caute e spesso scelgono di non attraversare anche quando il veicolo sta chiaramente per fermarsi.

Se l’idea di montare degli enormi occhi sulla vostra automobile vi sembra leggermente ridicola, non siete i soli. Ma va detto che per le auto a guida autonoma gestire le persone e la loro imprevedibilità è una delle sfide tecniche più difficili, per cui questa potrebbe davvero essere una soluzione efficace per salvare delle vite in modo relativamente economico. E comico.

Fonte aggiuntiva: Gizmodo.

Maurizio Bertera sul Corriere della Sera, nella sezione a pagamento, scrive (copia permanente) che “la Polizia tedesca ha dichiarato che una persona è morta e nove sono rimaste gravemente ferite dopo che un'auto impegnata in un test di guida autonoma ha improvvisamente cambiato direzione innescando una serie di collisioni che hanno coinvolto quattro veicoli.” La polizia lo ha dichiarato, ma non è vero.

L’auto è una BMW iX elettrica, che non è dotata di guida autonoma: ha soltanto un sistema di guida assistita, nel quale il conducente rimane costantemente responsabile della condotta del veicolo. Per cui non poteva essere in corso alcuna “prova di guida autonoma”.

La polizia tedesca ha affermato inizialmente che il veicolo era un’auto elettrica di prova a guida autonoma e che non era chiaro se al momento dell’incidente fosse sotto il controllo del conducente. BMW ha smentito, sottolineando che il veicolo non era dotato di guida autonoma. L’auto, tuttavia, era contrassegnata come veicolo di test a scopo di protezione dei dati, dato che stava effettuando delle riprese video, scrive Euronews. Da qui, forse, l’equivoco. 

Il Corriere, al momento in cui scrivo, non ha ancora rettificato, nonostante sia stato avvisato che la notizia è falsa. 

Visto il bilancio tragico dell’incidente, è importantissimo ricordare che i sistemi di guida assistita possono sbagliare (e sbagliano spesso nel momento peggiore) e che la responsabilità della guida del veicolo è sempre e comunque del conducente per tutti i sistemi di questo tipo che sono classificati come SAE Livello 0, 1 e 2.

Ricordate la vicenda della Tesla Model S che ad aprile 2021 si era schiantata vicino a Houston mentre "nessuno era al volante", secondo la polizia e come scriveva Repubblica? Le due persone a bordo erano morte.

Ora la perizia tecnica del National Transportation Safety Board dimostra, sulla base dei dati recuperati dalla “scatola nera” di bordo, che c’era eccome una persona al posto di guida e che l’acceleratore era premuto praticamente a fondo (al 98,8%) e che la velocità massima registrata nei cinque secondi precedenti l’impatto è stata di 108 km/h.

Data from the module indicate that both the driver and the passenger seats were occupied, and that the seat belts were buckled when the EDR recorded the crash. The data also indicate that the driver was applying the accelerator in the time leading up to the crash; application of the accelerator pedal was found to be as high as 98.8 percent. The highest speed recorded by the EDR in the 5 seconds leading up to the crash was 67 mph.

L’Autopilot, insomma, avrà anche un nome discutibile, ma in questo caso proprio non c’entra nulla. Vediamo se i giornali che hanno pubblicato la notizia iniziale pubblicheranno la rettifica. Per ora l’articolo di Repubblica è ancora al suo posto, com’era sei mesi fa, senza alcuna menzione dei nuovi risultati della perizia. Ne salvo una copia permanente, non si sa mai che qualcuno scopra il ravvedimento operoso.

La mia indagine iniziale, con tutti i dettagli e la cronologia della vicenda, è qui.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.

Ultimo aggiornamento: 2021/08/06 12:50.

Un conducente norvegese è ancora vivo per raccontare l’incidente che non gli è capitato ieri, 30 luglio 2021, grazie alla guida assistita della sua auto (e anche a una buona dose di fortuna).

L’uomo ha perso conoscenza mentre era al volante, ma la guida assistita era attiva, e così l’auto (una Tesla Model S) non ha sbandato ed è rimasta in corsia, rallentando fino a fermarsi in una galleria e accendendo le quattro frecce. Questo ha finalmente consentito il soccorso. La polizia è arrivata cinque minuti dopo la fermata del veicolo.

Tesla owner in Norway suffers unconsciousness while driving, Tesla autopilot detects it, slows, comes to a stop so EMS can help @elonmusk @Tesla ❤️‍🩹🚑

pic.twitter.com/kl1CEeiHDi

— Austin Tesla Club (@AustinTeslaClub) July 31, 2021

Secondo questo tweet della polizia locale, il conducente, un uomo di 24 anni, era visibilmente ubriaco. È stato sottoposto a test di alcolemia e la patente gli è stata sospesa.

Maggiori dettagli sono in questo video di Vgtv.no.

Certo, il fatto che l’auto si sia fermata nella corsia di sorpasso non è affatto una situazione ottimale: senza l’intervento dei soccorritori le cose avrebbero potuto avere un esito decisamente tragico comunque. Inoltre la guida assistita e il relativo calo di attenzione potrebbero aver contribuito alla perdita di conoscenza del conducente. È anche possibile che il conducente abbia pensato che pur essendo ubriaco poteva farcela perché c’era l’assistente di guida (pensare di essere ancora in grado di guidare bene dopo aver bevuto è un ragionamento che fanno in tanti, anche senza assistente di guida). Guidare dopo aver ingerito alcolici è pericolosissimo, sempre e comunque.

Casi come questo susciteranno inevitabilmente polemiche, ma resta un fatto di base: questo ventiquattrenne è ancora vivo, non ha ucciso nessuno con la sua irresponsabile guida in stato di ebbrezza. Si spera che abbia imparato qualcosa da questo mancato incidente.

Sarebbe interessante reperire casi analoghi riguardanti sistemi di guida assistita di altre marche, ma non sembrano essercene, forse perché passano sotto silenzio mentre gli eventi che riguardano Tesla vengono fortemente disseminati sui social media.

---

C’è però un dubbio che mi piacerebbe chiarire. Stando al testo del servizio televisivo mostrato nel tweet, di cui riporto una traduzione completa nei commenti, l’auto (una Model S recente, vista la dotazione di telecamere laterali visibile nel video) è rimasta in strada, in guida assistita, per “oltre 10 chilometri” (sulla E6 in direzione di Vintebro, fermandosi nella galleria Nøstvet), e questo non è il comportamento previsto del sistema di guida, che in caso di mancanza di resistenza sul volante (ossia senza il peso delle braccia del conducente appoggiate sul volante) dapprima emette un avviso luminoso, poi un avviso acustico e infine fa rallentare l’auto fino a fermarla.

Questo è quanto risulta da esperienze di altri conducenti e quanto viene riportato nel Manuale d'uso della Model S a pag. 103-104:

Quando il sistema è attivo, il conducente deve mantenere il controllo del volante. Se il sistema non rileva le mani del conducente sul volante per un determinato periodo di tempo, una luce bianca lampeggiante viene visualizzata nella parte superiore del quadro strumenti insieme al seguente messaggio:

[immagine] Applicare una leggera forza al volante

Il Sistema di Autosterzatura rileva le mani riconoscendo la leggera resistenza mentre il volante sterza o quando il conducente sterza in modo anche molto lieve il volante, ossia senza forzarlo, semplicemente per riprendere il controllo.

NOTA: Quando vengono rilevate le mani sul volante, il messaggio scompare e il Sistema di Autosterzatura riprende il normale funzionamento.

NOTA: Contemporaneamente alla visualizzazione iniziale del messaggio, il Sistema di Autosterzatura emette un avviso acustico. 

Il sistema richiede di prestare attenzione all'area circostante e di essere sempre pronti a prendere il controllo. Se il Sistema di Autosterzatura non rileva ancora le mani sul volante, la richiesta diventa più pressante mediante un segnale acustico che aumenta gradualmente di frequenza.

Se il conducente continua a ignorare la richiesta di prendere il controllo del volante con le mani, il Sistema di Autosterzatura si disabilita per il resto del tragitto e visualizza il messaggio seguente. Se il conducente non riprende il controllo manuale dello sterzo, il sistema di Autosterzatura emette un segnale acustico continuo, accende i lampeggianti di avvertenza e rallenta il veicolo fino all'arresto completo.

[immagine] Sistema di Autosterzatura non disponibile per il resto della guida. Impugnare il volante per guidare normalmente.

Per il resto del tragitto, il conducente dovrà sterzare manualmente. Il Sistema di Autosterzatura sarà di nuovo disponibile per il tragitto successivo (dopo aver arrestato la Model S e innestato la marcia di stazionamento).

Dieci chilometri a circa 100 km/h si percorrono in circa sei minuti: un tempo molto più lungo di quello di normale intervento delle misure di sicurezza della guida assistita Tesla. In effetti l’orologio dell’auto inseguitrice segna le 5:34 e il rapporto di polizia dice che la Tesla si è fermata alle 5:40, confermando (almeno in apparenza) i sei minuti di percorrenza. Ho chiesto a conoscenti norvegesi di verificare; pubblicherò qui aggiornamenti quando ce ne saranno. Nel frattempo, prudenza.

---

Aggiornamento (2021/08/06 12:40): Grazie ai commenti qui sotto, aggiungo il video dell’Emergency Assist di Volkswagen a titolo di paragone.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.

Rilancio qui le mie asserzioni-scommessa sull’intelligenza artificiale basata solo sul riconoscimento di schemi:

1. Il machine learning è semplicemente un riconoscimento di schemi (pattern recognition) e non costituisce “intelligenza” in alcun senso significativo della parola.
2. Il riconoscimento di schemi fallisce in maniera profondamente non umana e in situazioni che un umano invece sa riconoscere in maniera assolutamente banale. Questo rende difficilissimo prevedere e gestire i fallimenti del machine learning e quindi rende pericolosa la collaborazione umano-macchina.
3. Qualunque sistema di guida autonoma o assistita basato esclusivamente sul riconoscimento degli schemi è destinato a fallire in maniera imbarazzante e potenzialmente catastrofica.
   

Hey @elonmusk you might want to have your team look into the moon tricking the autopilot system. The car thinks the moon is a yellow traffic light and wanted to keep slowing down. 🤦🏼 @Teslarati @teslaownersSV @TeslaJoy pic.twitter.com/6iPEsLAudD

— Jordan Nelson (@JordanTeslaTech) July 23, 2021

Sì, l’attuale software delle Tesla (che, ricordo, per l’ennesima volta, è un assistente di guida, non un sistema di guida autonoma) scambia la Luna, giallognola e bassa sull’orizzonte, per un impossibile semaforo giallo sospeso in cielo.

Un esempio perfetto di edge case: una situazione che si presenta molto raramente ed è assolutamente ovvia per un essere umano (che ha cognizione di come è fatto il mondo e sa che non ci sono semafori in cielo) e che pertanto difficilmente verrà contemplata nel dataset usato per addestrare il sistema di riconoscimento delle immagini.

So bene che questa versione del software è una beta e il suo uso in strada serve proprio per addestrare la versione successiva a riconoscere anche questi edge case, ma quanti edge case ci sono? Quanti ne dovremo scoprire prima di poter ritenere ragionevolmente di averli scoperti tutti? E ha senso pagare oggi 200 dollari al mese o 10.000 dollari una tantum per un prodotto del genere?

Finché il software di guida assistita sbaglia così, non me ne faccio niente di un assistente imbecille e di certo non sono disposto a mettere la mia vita nelle sue mani. Se avete un’auto con guida assistita, di qualunque marca, non fidatevi troppo.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.

Ultimo aggiornamento: 2021/11/12 1:40.

Vado subito al sodo per chi ha fretta. Faccio tre asserzioni-scommessa:

• Il machine learning è semplicemente un riconoscimento di schemi (pattern recognition) e non costituisce “intelligenza” in alcun senso significativo della parola.
• Il riconoscimento di schemi fallisce in maniera profondamente non umana e in situazioni che un umano invece sa riconoscere in maniera assolutamente banale. Questo rende difficilissimo prevedere e gestire i fallimenti del machine learning e quindi rende pericolosa la collaborazione umano-macchina.
• Qualunque sistema di guida autonoma o assistita basato esclusivamente sul riconoscimento degli schemi è destinato a fallire in maniera imbarazzante e potenzialmente catastrofica.
  

Sono asserzioni molto forti, e le faccio sapendo di non essere un esperto di questi settori ma semplicemente un loro osservatore con un pizzico di esperienza personale: se vi fidate di me, lo fate a vostro rischio e pericolo, e sono disposto a cambiare idea di fronte a smentite documentate (e francamente sarei contento di perdere questa scommessa). Però temo che ignorare queste riflessioni possa essere un grosso pericolo per molti. 

Premetto inoltre che non sto dicendo che l’intelligenza artificiale è una bufala, ma che il machine learning viene spesso spacciato per “intelligenza”. E prima di criticare, vi chiedo di leggere attentamente le parole che ho scelto con cura nel formulare le mie asserzioni-scommessa.

Provo a spiegare cosa mi ha portato a queste conclusioni provvisorie.

Prima di tutto riassumo cosa si intende per machine learning: in estrema sintesi, si danno in pasto a un software tantissimi esempi di una cosa, tantissimi esempi di cose differenti (ossia che non sono quella cosa) e lo si “premia” quando riconosce correttamente la cosa in questione. Questo apprendimento automatico può raggiungere livelli di affidabilità altissimi e in molti casi funziona egregiamente. Il riconoscimento ottico dei caratteri (OCR) e il riconoscimento vocale sono esempi di grande successo del machine learning.

Ma si può dire che un sistema di OCR sia intelligente? Capisce che sta leggendo un sonetto di Shakespeare o una mail di spam, e può quindi adeguarsi di conseguenza? È in grado di considerare il contesto e capire che magnifica e magni fica sono due letture molto differenti e potenzialmente imbarazzanti, ma che la seconda potrebbe essere valida se lo scrivente si esprime in romanesco? Un lettore realmente intelligente lo capirebbe dal contesto (e dalla sua conoscenza delle attività sessuali umane). Un OCR no. Non è intelligente, perché non ha conoscenza del mondo reale, ma conosce soltanto delle forme (le lettere) e assegna loro una probabilità di corrispondere a uno dei modelli che conosce. Non sa nulla del loro significato e quindi non può correggersi di conseguenza. E non importa quanti miliardi di campioni di lettere o di parole gli dai: non acquisirà mai la comprensione del testo.

Ogni tanto questi sistemi di riconoscimento sbagliano, ma non è un problema. Se un sistema di OCR “legge” una parola al posto di un’altra non muore nessuno. Se Alexa crede che l’abbiate chiamata, quando invece stavate pronunciando il nome della vostra spasimata Alessia durante un momento di passione, il peggio che può succedere è che la registrazione del vostro amplesso finisca nel cloud di Amazon e venga scambiata fra i dipendenti dell’azienda che fanno il monitoraggio dei campioni audio. Imbarazzante, ma probabilmente non letale.

La ragazza che si chiama Alessia è un cosiddetto edge case: un caso limite, una situazione rara che però fa sbagliare il sistema di riconoscimento.

Questi sbagli avvengono in modi strani perché l’addestratore umano, quello che insegna al software a riconoscere una forma, non riesce a calarsi nella “visione del mondo” che ha quel software e non riesce ad anticipare tutti i modi possibili nei quali potrebbe prendere un granchio e a insegnargli a riconoscere tutti questi casi limite. 

Lo spiega benissimo uno che di queste cose ne capisce a pacchi, Andrej Karpathy, direttore del reparto di intelligenza artificiale di Tesla, in questa lezione magistrale del 2018, quando mostra queste immagini:

Altri due esempi fra tanti: un’auto caricata a coda in avanti su una bisarca è un’auto in contromano?

Una bici montata di traverso sul retro di un’auto è una bici che mi sta tagliando la strada e devo quindi frenare?

Di recente su Reddit è stato pubblicato un bell’esempio di questi edge case: un camion ha dei cartelli di stop dipinti sul portellone posteriore, e il sistema di riconoscimento ottico dei cartelli di una Tesla li etichetta e li mostra come se fossero cartelli reali.

Cosa succede se il sistema di decisione dell’auto ritiene che quei cartelli siano reali e quindi inchioda in mezzo alla strada, creando la situazione perfetta per un tamponamento a catena? Ìl sistema è sufficientemente sofisticato da tenere conto del contesto e quindi “sa” che i cartelli stradali normalmente non si muovono lungo le strade, per cui rigetta il riconoscimento e lo ignora nelle sue decisioni di guida?

Un conducente umano, avendo conoscenza del mondo, non avrebbe la minima esitazione: sono cartelli dipinti sul retro di un camion, li posso tranquillamente ignorare. Un sistema di guida autonoma o assistita sarà altrettanto consapevole? E il conducente saprà anticipare questi possibili errori che lui non farebbe mai?

Beh, direte voi, dai, una cosa del genere sarà un caso raro. Poi succede questo:

Una Tesla Model 3 viaggia a 130 km/h e mostra un flusso costante di semafori che appaiono dal nulla sulla corsia del conducente. 

Un essere umano sa in un millisecondo che questo è impossibile, perché ha conoscenza del mondo e sa che i semafori non volano e non compaiono dal nulla; il sistema di guida assistita di Tesla no, perché non “sa” realmente che cosa sono i semafori nel mondo reale e quindi non “sa” che non possono apparire dal nulla a 130 km/h.

Che cosa ha causato questo clamoroso errore di riconoscimento? Un camion che trasportava semafori.

Eh dai, ma i semafori erano spenti, obietterete voi. Poi succede questo:

Questo è esattamente il tipo di errore che un conducente umano non farebbe mai e che invece un sistema di guida basato esclusivamente sul riconoscimento delle immagini farà, e farà in circostanze imprevedibili. Con conseguenze potenzialmente mortali. Se state valutando un’auto dotata di questi sistemi, pensateci bene. Se ne avete una, pensateci ancora di più.

Certo, gli umani commettono altri tipi di errori, per cui alla fine l’obiettivo non è creare un sistema di guida assolutamente infallibile, ma semplicemente uno che fallisca mediamente meno (ossia causi meno incidenti) della media dei conducenti umani.

Tutto questo vuol dire che la guida autonoma basata sul riconoscimento puro degli schemi è impossibile? No. Una soluzione potrebbe essere semplificare l’ambiente operativo (strade su misura, rigidamente normate, accessibili solo a veicoli autonomi/assistiti). Per esempio, un ascensore (che in sostanza è un treno verticale in una galleria verticale chiusa) è un sistema di “guida autonoma” affidabilissimo, che richiede pochissima “intelligenza” grazie a un ambiente operativo ipersemplificato.

Allo stesso tempo, va notato che ci sono esempi di sistemi che interagiscono egregiamente con un ambiente operativo complesso pur avendo una “intelligenza” molto limitata: le api. Con un solo milione di neuroni riescono a navigare, interagire con i fiori, comunicare con le altre api, gestire gli aggressori e avere una società complessa e organizzata (hanno persino delle “votazioni”). Noi abbiamo cento miliardi di neuroni (centomila cervelli d’ape) a testa e non riusciamo a capire come indossare una mascherina o perché. Chiaramente c’è un margine di ottimizzazione che le api sfruttano e noi no, ma è anche vero che un’ape va in crisi quando incontra l’edge case di una cosa che non esiste in natura, tipo una barriera trasparente (il vetro di una finestra).

È anche possibile che estendendo il concetto di riconoscimento degli schemi all’asse del tempo (ossia imparando a riconoscere come cambia un oggetto nel corso del tempo) ed estendendo il concetto di schema a oggetti complessi (incroci, rotatorie, attraversamenti pedonali) si riesca a ottenere risultati accettabili. Ma questo richiede un database di esempi colossale, una classificazione vastissima e una potenza di calcolo ancora più colossale. Nessuno dei sistemi attualmente in commercio ci si avvicina, come spiega bene Filip Piekniewski. Siate prudenti.

Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.