Ultimo aggiornamento: 2021/11/14 9:30.

È disponibile subito il podcast di oggi de Il Disinformatico della Rete Tre della Radiotelevisione Svizzera, condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto). Questa è la versione Story, dedicata all’approfondimento di un singolo argomento. 

Questa puntata è una riedizione aggiornata e ampliata di un mio articolo di giugno 2021, che contiene informazioni di sicurezza automobilistica che credo meritino di essere ripetute e soprattutto diffuse anche a chi ascolta i podcast, magari in auto, ma non legge i blog, ora che le auto a guida assistita, specialmente le Tesla, stanno avendo un picco di vendite.

I podcast del Disinformatico di Rete Tre sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.

Buon ascolto, e se vi interessano il testo e i link alle fonti della storia di oggi, sono qui sotto!

---

Si parla tanto di intelligenza artificiale applicata alla guida autonoma, e YouTube è piena di pubblicità e dimostrazioni di come le auto più moderne siano, almeno in apparenza, in grado di viaggiare da sole. Nomi come Waymo, Cruise, Tesla annunciano l’imminenza dei robotaxi: alcune aziende già offrono il servizio a livello sperimentale. Ma questi video possono essere molto ingannevoli.

Questa è la storia di tre princìpi che possono creare un’illusione di competenza di questi robotaxi annunciati, che può portare a gravi incidenti in cui l’informatica incompresa ha un ruolo centrale, e di come le menti migliori del settore stanno cercando di risolvere questo problema.

---

Ci sono tre princìpi fondamentali per capire il motivo e il pericolo degli attuali sistemi di guida assistita, quella in cui il conducente resta comunque responsabile, e di guida autonoma, quella in cui il conducente non conduce ma è semplice passeggero passivo.

Il primo principio è questo: l’intelligenza artificiale usata per la guida autonoma o assistita, più precisamente la sua parte denominata machine learning, è semplicemente un riconoscimento di schemi e non costituisce “intelligenza” in alcun senso significativo della parola.

Secondo principio: il riconoscimento di schemi fallisce in maniera profondamente non umana e in situazioni che un umano invece sa riconoscere in maniera assolutamente banale. Questo rende difficilissimo prevedere e gestire i fallimenti del machine learning e quindi rende pericolosa la collaborazione umano-macchina.

Terzo principio: qualunque sistema di guida autonoma o assistita basato esclusivamente sul riconoscimento degli schemi è destinato a fallire in maniera imbarazzante e potenzialmente catastrofica.

Prima di spiegare i dettagli di questi tre princìpi, riassumo cosa si intende per machine learning: in estrema sintesi, si danno in pasto a un software tantissimi esempi di una cosa, tantissimi esempi di cose differenti (ossia che non sono quella cosa) e lo si “premia” quando riconosce correttamente la cosa in questione.

Questo apprendimento automatico può raggiungere livelli di affidabilità altissimi e in molti casi funziona egregiamente. Il riconoscimento ottico dei caratteri e il riconoscimento vocale sono esempi di grande successo del machine learning. 

Ma si può dire che un sistema di riconoscimento di testi sia intelligente? Capisce che sta leggendo un sonetto di Shakespeare o una mail di spam, e può quindi adeguarsi di conseguenza? È in grado di considerare il contesto e di usarlo per risolvere ambiguità?

No, perché non ha conoscenza del mondo reale; conosce soltanto delle forme (le lettere) e assegna loro una probabilità di corrispondere a uno dei modelli che conosce. Non sa nulla del loro significato e quindi non può correggersi di conseguenza. E non importa quanti miliardi di campioni di lettere o di parole gli si danno: non acquisirà mai la comprensione del testo.

Ogni tanto questi sistemi di riconoscimento sbagliano, ma non è un problema. Se un sistema di riconoscimento di testi “legge” una parola al posto di un’altra non muore nessuno. Se Alexa crede che l’abbiate chiamata, quando invece stavate pronunciando il nome della vostra spasimata Alessia durante un momento di passione, il peggio che può succedere è che la registrazione del vostro amplesso finisca nel cloud di Amazon e venga scambiata fra i dipendenti dell’azienda che fanno il monitoraggio dei campioni audio. Imbarazzante, ma probabilmente non letale.

La ragazza che si chiama Alessia è un cosiddetto edge case: un caso limite, una situazione rara che però fa sbagliare clamorosamente il sistema di riconoscimento.

Questi sbagli avvengono in modi strani, perché l’addestratore umano, quello che insegna al software a riconoscere una forma o un suono, non riesce a calarsi nella “visione del mondo” che ha quel software e non riesce ad anticipare tutti i modi possibili nei quali potrebbe prendere un granchio, e non riesce quindi a insegnargli a riconoscere tutti questi casi limite.

Lo ha spiegato benissimo uno che di queste cose ne capisce a pacchi, Andrej Karpathy. È direttore del reparto di intelligenza artificiale di Tesla, un’azienda che sta basando i propri sistemi di guida assistita (per ora) e autonoma (in futuro) sul riconoscimento visivo degli oggetti. In una sua lezione magistrale del 2018 ha mostrato due esempi fra i tanti. 

[Mi correggo rispetto a quello che dico nel podcast: gli esempi del 2018 sono quelli qui sotto; l’esempio della bici è tratto invece da una sua conferenza del 2019, linkata più avanti]

Un’auto caricata a coda in avanti su una bisarca: è un’auto in contromano?

Una bici montata di traverso sul retro di un’auto: è una bici che sta tagliando la strada al conducente, che quindi deve frenare?

Un altro esempio molto concreto di questi edge case viene successivamente pubblicato con clamore e divertimento su Reddit: un camion ha dei cartelli di stop dipinti sul portellone posteriore, e il sistema di riconoscimento ottico dei cartelli di una Tesla li etichetta e li mostra come se fossero cartelli reali.

Cosa succede se il sistema di decisione dell’auto ritiene che quei cartelli disegnati siano reali e quindi inchioda in mezzo alla strada, creando la situazione perfetta per un tamponamento a catena? 

Ìl sistema è sufficientemente sofisticato da tenere conto del contesto e quindi “sapere” che i cartelli stradali normalmente non si muovono lungo le strade, e quindi è in grado di rigettare il riconoscimento e ignorarlo nelle sue decisioni di guida?

Un conducente umano, avendo conoscenza del mondo, non avrebbe la minima esitazione: “sono chiaramente cartelli dipinti sul retro di un camion, li posso tranquillamente ignorare”. Un sistema di guida autonoma o assistita non è necessariamente altrettanto consapevole. E soprattutto il conducente potrebbe essere in difficoltà nell’anticipare questi possibili errori che lui non commetterebbe mai.

Si potrebbe pensare che incontrare un veicolo con dei cartelli stradali disegnati sul retro sia un caso raro. Ma è stato pubblicato online un altro caso ancora più bizzarro: una Tesla Model 3 viaggia a 130 km/h e mostra un flusso costante di semafori che appaiono dal nulla sulla corsia del conducente.

Che cosa ha causato questo clamoroso errore di riconoscimento? Un camion che trasportava semafori.

E non è l’unico caso segnalato dagli utenti di queste auto: altri conducenti hanno citato addirittura camion che trasportavano semafori accesi, che sono stati riconosciuti come impossibili semafori volanti dalle loro auto.

Per non parlare delle bandiere verticali della Coop, nelle quali la forma circolare delle lettere viene scambiata per quella delle luci di un semaforo.

[Ho aggiunto i due esempi seguenti, che mostrano la Luna scambiata per un semaforo e un camion il cui retro è uno schermo che mostra la strada davanti al camion stesso, dopo la chiusura della registrazione del podcast]

Think this could catch on 👌pic.twitter.com/z5SB3JrrW1

— CCTV_IDIOTS (@cctv_idiots) November 14, 2021

Questo è esattamente il tipo di errore che un conducente umano non commetterebbe mai e che invece un sistema di guida basato esclusivamente sul riconoscimento delle immagini farà, e farà in circostanze imprevedibili. Con conseguenze potenzialmente mortali. Se state valutando un’auto dotata di questi sistemi, pensateci bene. Se ne avete una, pensateci ancora di più.

Certo, gli umani commettono altri tipi di errori, per cui alla fine l’obiettivo di questi sistemi non è creare una soluzione di guida assolutamente infallibile, ma semplicemente una che fallisca mediamente meno (ossia causi meno incidenti) della media dei conducenti umani.

Ma tutto questo vuol dire che la guida autonoma basata sul riconoscimento puro degli schemi è impossibile? Non è detto.

Una soluzione potrebbe essere semplificare l’ambiente operativo, creando strade su misura, rigidamente normate, accessibili soltanto a veicoli autonomi o assistiti. Per esempio, un ascensore (che in sostanza è un treno verticale in una galleria verticale chiusa) è un sistema di “guida autonoma” affidabilissimo, che richiede pochissima “intelligenza” grazie a un ambiente operativo ipersemplificato.

Allo stesso tempo, va notato che ci sono esempi di sistemi che interagiscono egregiamente con un ambiente operativo complesso pur avendo una “intelligenza” molto limitata: le api. Con un solo milione di neuroni riescono a navigare, interagire con i fiori, comunicare con le altre api, gestire gli aggressori e avere una società complessa e organizzata. hanno persino delle “votazioni”).

Noi abbiamo cento miliardi di neuroni, cioè centomila cervelli d’ape, a testa e a volte non riusciamo a capire come indossare una mascherina o perché. Chiaramente c’è un margine di ottimizzazione che le api sfruttano e noi no, ma è anche vero che un’ape va in crisi quando incontra l’edge case di una cosa che non esiste in natura, tipo una barriera trasparente: il vetro di una finestra.

È anche possibile che estendendo il concetto di riconoscimento degli schemi all’asse del tempo (ossia imparando a riconoscere come cambia un oggetto nel corso del tempo) ed estendendo il concetto di schema a oggetti complessi come incroci, rotatorie e attraversamenti pedonali, si riesca a ottenere risultati accettabili.

[Aggiungo un esempio di tentativo di ricostruzione dell’ambiente 3D tramite riconoscimento di immagini lungo l’asse del tempo, proposto da Karpathy di Tesla nel 2019. Il video dovrebbe partire già posizionato nel momento esatto, altrimenti andate a 2:16:40]

Ma tutto questo richiede un database di esempi colossale, una classificazione vastissima e una potenza di calcolo ancora più colossale. Nessuno dei sistemi attualmente in commercio ci si avvicina. Siate prudenti e non fidatevi dei video su YouTube.