È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate qui sul sito della RSI (si apre in una finestra/scheda separata) e lo potete scaricare qui.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.

---

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

Il governo svizzero si affianca a quello tedesco, quello britannico e quello francese gettando le basi giuridiche per consentire la guida autonoma, o almeno fortemente assistita, anche in Europa. Ma nel frattempo negli Stati Uniti è stata revocata la licenza di circolare alle auto autonome di Cruise, un’azienda che gestisce una flotta di robotaxi: automobili senza conducente, nelle quali i passeggeri paganti vengono trasportati in giro per le città. C’è un problema con l’intelligenza artificiale che sta alla base di queste auto che viaggiano da sole? Stiamo per caso adottando leggi troppo permissive?

Sono Paolo Attivissimo, e vi do il benvenuto alla puntata del 27 ottobre 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica e incentrato questa settimana sullo stato dell’arte nella guida autonoma e assistita. Allacciate le cinture!

[CLIP: Audio di Johnny Cab da Atto di Forza (1990)]

[SIGLA di apertura]

Auto autonome: nuove leggi le introducono in Svizzera…

Dal mondo iper-informatizzato della guida autonoma arrivano due notizie apparentemente contraddittorie. Il 18 ottobre scorso il governo svizzero ha pubblicato un’ordinanza che prepara il terreno, dal punto di vista giuridico, per l’introduzione delle automobili a guida assistita o autonoma sulle strade nazionali. Ma intanto negli Stati Uniti, che hanno già introdotto automobili completamente autonome in alcune regioni, la licenza di operare di una delle aziende del settore, Cruise, è stata revocata dalle autorità californiane parlando di “rischio irragionevole per la sicurezza pubblica”.

A prima vista sembra che la Svizzera stia aprendo pericolosamente le strade a una tecnologia che altri paesi hanno già provato e bocciato, ma non è così.

Per chiarire come stanno realmente le cose può essere utile prima di tutto un rapido ripasso della terminologia e della situazione legale di questi veicoli. Si parla di guida autonoma quando il veicolo viaggia senza avere a bordo un conducente e sono i computer di bordo a prendere tutte le decisioni di guida; quando invece il conducente c’è e resta responsabile della condotta del veicolo, si parla di guida assistita.

Molte automobili oggi disponibili sul mercato sono dotate di sistemi di guida assistita, come per esempio la frenata d’emergenza automatica, il mantenimento di distanza dal veicolo che precede o il mantenimento di corsia; esistono anche alcune auto equipaggiate con sistemi di guida autonoma, ma finora hanno circolato in Svizzera “solo con autorizzazioni eccezionali nel quadro di esperimenti”, come nota il recentissimo Rapporto esplicativo sull’ordinanza nazionale sulla guida automatizzata. Lo stesso rapporto sottolinea un altro concetto spesso frainteso: “l’attuale situazione giuridica esclude la possibilità di utilizzare su strada i sistemi di automazione conformemente alla loro destinazione d’uso”, dice, perché “[L]a legge sulla circolazione stradale […] prescrive che il conducente debba costantemente padroneggiare il veicolo [...], il che implica nello specifico il divieto di lasciare il volante”. In altre parole, quei sistemi di guida assistita che tecnicamente consentirebbero di togliere le mani dal volante per qualche decina di secondi non sono legalmente utilizzabili in questo modo, come invece molti automobilisti credono di poter fare.

Anche quando il mantenimento di corsia è attivato e l’auto sterza da sola, insomma, allo stato attuale chi guida deve tenere le mani sul volante, deve essere costantemente pronto a intervenire, e la responsabilità della condotta del veicolo è sempre sua. La revisione della legge federale sulla circolazione stradale e questa ordinanza servono a consentire in futuro l’uso legale di assistenti di guida sempre più sofisticati, come sta già avvenendo per esempio nel Regno Unito e in Germania, dove in alcuni casi è possibile togliere le mani dal volante, tenendo però gli occhi sulla strada, ma solo su alcuni tratti autostradali e se si ha un’automobile dotata di assistenza di guida evoluta.

In ogni caso, le prodezze irresponsabili di chi pensa di poter schiacciare un pisolino o leggere il giornale mentre si fa portare dall’auto restano vietate. Anche perché questi sistemi di guida assistita o autonoma di fatto non sono ancora abbastanza maturi, capaci e affidabili tecnicamente da consentire questo tipo di prestazioni, a prescindere dal quadro legale.

L’approccio svizzero e in generale europeo, insomma, è molto prudente. Negli Stati Uniti, in Cina e in altri paesi extraeuropei, invece, circolano già sulle strade di alcune città molte auto a guida altamente assistita e anche flotte di automobili completamente autonome, usate come taxi senza conducente ed equipaggiate con una selva di sensori e computer. Le cose, però, non stanno andando molto bene.

...intanto che vengono bandite in USA? Non proprio

A San Francisco, per esempio, è già possibile da qualche mese chiamare taxi autonomi, privi di conducente e appartenenti ad aziende come Cruise e Waymo, che dopo un periodo di sperimentazione offrono ora corse a pagamento al pubblico.

Ma il 24 ottobre scorso è arrivata la notizia che il Dipartimento dei Trasporti della California [California Department of Motor Vehicles] ha sospeso la licenza di uno di questi gestori, Cruise, che usa le automobili autonome fabbricate dalla General Motors.

Nei mesi scorsi si sono verificati alcuni incidenti e disagi legati alla circolazione di questi veicoli, che si sono fermati in mezzo alla strada, sono finiti nel cemento fresco di un cantiere stradale, hanno causato ingorghi radunandosi in massa e non hanno dato la precedenza ai mezzi di soccorso, con i quali si sono anche scontrati.

Tutte cose, va detto, che fanno ogni giorno anche moltissimi conducenti umani, senza che nessuno per questo chieda di revocare a tutti gli automobilisti le loro licenze. Gli errori umani, insomma, sono tollerati; quelli dei computer su ruote no.

La licenza di Cruise è stata revocata in seguito a un incidente grave avvenuto il 2 ottobre scorso e causato da un conducente umano, che ha investito un pedone e poi è fuggito. L’investimento ha spinto il pedone nella corsia sulla quale stava viaggiando un’auto autonoma di Cruise, che ha frenato immediatamente, in modo automatico, ma non ha potuto evitare l’impatto con il malcapitato pedone finitole davanti. La persona investita è rimasta intrappolata sotto il veicolo autonomo ed è ora ricoverata con ferite traumatiche multiple.

Ma se l‘incidente è stato causato da un automobilista, cioè da un essere umano, perché è stata revocata la licenza di operare al gestore delle auto autonome?

La risposta si annida nell’annuncio di revoca e nell’ordine sospensivo pubblicati dal Dipartimento dei Trasporti californiano.

Da questi documenti risulta infatti che l’auto autonoma di Cruise, dopo aver frenato fino a fermarsi, intrappolando il pedone al di sotto del veicolo, ha iniziato a muoversi tentando di accostare. L’auto ha percorso così circa sette metri, raggiungendo una velocità di 11 chilometri orari, trascinando con sé il pedone già gravemente ferito. Un errore di comportamento del veicolo davvero grave, che però non è l’unica causa della revoca della licenza.

Infatti secondo il Dipartimento dei Trasporti, i rappresentanti di Cruise hanno mostrato alle autorità le riprese dell’investimento registrate dalle telecamere installate sull’auto autonoma, ma hanno omesso di mostrare le immagini che documentavano questa manovra di accostamento e di trascinamento della povera vittima e non hanno informato il Dipartimento dei Trasporti del fatto che quella manovra era avvenuta. Il Dipartimento dice di essere venuto a conoscenza di questa omissione soltanto grazie a una discussione con “un’altra agenzia governativa” di cui non fa il nome.

Cruise non concorda con questa ricostruzione degli eventi e osserva che se l’auto che ha investito inizialmente il pedone fosse stata autonoma anziché guidata da una persona, avrebbe rilevato ed evitato il pedone, stando alle sue simulazioni. Cruise nota inoltre che l’auto autonoma ha di fatto reagito in 460 millisecondi, cioè più rapidamente della maggior parte dei conducenti umani.

La revoca della licenza, quindi, non è stata causata solo dall’errore del veicolo: vi ha contribuito anche l’omissione di informazioni importanti da parte dei responsabili di Cruise. Mentre il conducente umano ha fatto perdere le proprie tracce, sembra che i rappresentanti dell’azienda di veicoli autonomi abbiano in un certo senso fatto qualcosa di analogo, cercando di far perdere le tracce dell’errore del proprio prodotto.

Il problema, insomma, non è solo la programmazione del software delle auto autonome, che si può sempre riscrivere e migliorare, ma è – come dire – la “programmazione” dei comportamenti dei responsabili di Cruise, che probabilmente è molto più difficile da correggere e rendere più trasparente.

[Dopo la chiusura di questo podcast è arrivata la notizia che Cruise ha sospeso le attività di guida autonoma in tutti gli Stati Uniti e ora le farà circolare soltanto con un supervisore umano a bordo (Wired)]

Nel frattempo, la concorrenza, cioè Waymo, continua a poter operare a San Francisco: segno che le autorità non sono diffidenti verso le automobili autonome in generale, ma diffidano dei responsabili umani delle aziende che le producono e che non sono adeguatamente trasparenti.

[Fonti aggiuntive: Electrek, ABC7news, Techcrunch, Techcrunch. Nota: Cruise ha pubblicato una ricerca secondo la quale i suoi veicoli autonomi sono più sicuri del conducente medio di San Francisco, ma è importante leggere attentamente i criteri della ricerca]

USA vs Europa, approcci differenti, miti da smontare

Le differenze di approccio giuridico alla guida assistita o autonoma nelle varie zone del mondo sono molto marcate, ma le esperienze acquisite in questi anni indicano alcuni princìpi universali che è utile conoscere per evitare equivoci e scelte di acquisto e uso imprudenti o addirittura illegali, suggerite da campagne di marketing a volte un po’ troppo ottimiste e poco chiare.

Per esempio, la guida autonoma di massa in ogni situazione che Elon Musk annunciava come imminente nel 2016 su Twitter per le sue Tesla continua infatti a essere imminente e il conducente di questi veicoli continua ancora oggi a essere legalmente responsabile della loro condotta e deve tenersi pronto a intervenire quando sbagliano, anche negli Stati Uniti.

Uno di questi princìpi universali è che la guida assistita e quella autonoma sono problemi informatici molto più complessi di quello che si immagina comunemente, nonostante l’impiego sempre più massiccio di intelligenza artificiale e di potenza di calcolo, perché l’ambiente in cui si svolgono queste attività è molto più vario, dinamico e ricco di situazioni imprevedibili di quello che si pensa normalmente, specialmente nel caso della guida cittadina.

Una soluzione a questi problemi è semplificare l’ambiente, e infatti i sistemi di guida assistita funzionano già ora piuttosto bene, e vengono offerti da numerose case costruttrici, specificamente sulle autostrade, dove normalmente si ha una singola direzione di marcia, le strisce delle corsie sono ben visibili e non ci sono semafori, incroci, pedoni e ciclisti. Ma basta anche lì un cantiere per mandarli in crisi.

Nel Regno Unito, per esempio, è entrato da poco in commercio il servizio di assistenza alla guida BlueCruise di Ford, nel quale il conducente resta responsabile della condotta del veicolo ma è legalmente autorizzato a togliere le mani dal volante anche per periodi prolungati e può togliere gli occhi dalla strada per qualche secondo, sorvegliato comunque da una telecamera interna che controlla costantemente la direzione del suo sguardo. Tuttavia BlueCruise funziona soltanto sulla rete autostradale di quel paese e il conducente deve tenersi sempre pronto a intervenire se si presenta una situazione che il sistema di guida assistita non è in grado di gestire.

In Germania, negli Stati Uniti e in Cina, invece, è possibile usare Drive Pilot, l’assistente di guida di Mercedes, che è una delle poche case costruttrici che si assume la responsabilità legale in caso di incidenti e offre al conducente un sistema che gli permette di togliere le mani dal volante e anche gli occhi dalla strada. Tuttavia Drive Pilot funziona soltanto su tratti autostradali molto specifici, solo di giorno, fuori dalle gallerie e a velocità ridotta (sotto i 60 km/h), e comunque non consente pennichelle o altre distrazioni importanti, visto che dà un preavviso di soli dieci secondi prima di disattivarsi se rileva una situazione che non è equipaggiato per affrontare.

Visto che si tratta di gestire oggetti che pesano due tonnellate o più, sono lanciati a velocità elevate in ambienti affollati e portano passeggeri preziosi, è comprensibile che ci sia molta prudenza tecnica e legale intorno a questi sistemi. Lasciando da parte i facili entusiasmi del marketing e degli YouTuber, è proprio il caso di dire che per ora la guida assistita e quella autonoma devono ancora fare molta strada.