Rilancio qui le mie asserzioni-scommessa sull’intelligenza artificiale basata solo sul riconoscimento di schemi:
- Il machine learning è semplicemente un riconoscimento di schemi (pattern recognition) e non costituisce “intelligenza” in alcun senso significativo della parola.
- Il riconoscimento di schemi fallisce in maniera profondamente non umana e in situazioni che un umano invece sa riconoscere in maniera assolutamente banale. Questo rende difficilissimo prevedere e gestire i fallimenti del machine learning e quindi rende pericolosa la collaborazione umano-macchina.
-
Qualunque sistema di guida autonoma o assistita basato esclusivamente sul
riconoscimento degli schemi è destinato a fallire in maniera imbarazzante e
potenzialmente catastrofica.
Hey @elonmusk you might want to have your team look into the moon tricking the autopilot system. The car thinks the moon is a yellow traffic light and wanted to keep slowing down. 🤦🏼 @Teslarati @teslaownersSV @TeslaJoy pic.twitter.com/6iPEsLAudD
— Jordan Nelson (@JordanTeslaTech) July 23, 2021
Sì, l’attuale software delle Tesla (che, ricordo, per l’ennesima volta, è un assistente di guida, non un sistema di guida autonoma) scambia la Luna, giallognola e bassa sull’orizzonte, per un impossibile semaforo giallo sospeso in cielo.
Un esempio perfetto di edge case: una situazione che si presenta molto raramente ed è assolutamente ovvia per un essere umano (che ha cognizione di come è fatto il mondo e sa che non ci sono semafori in cielo) e che pertanto difficilmente verrà contemplata nel dataset usato per addestrare il sistema di riconoscimento delle immagini.
So bene che questa versione del software è una beta e il suo uso in
strada serve proprio per addestrare la versione successiva a riconoscere
anche questi edge case, ma quanti edge case ci sono? Quanti ne dovremo scoprire prima di poter ritenere ragionevolmente di averli scoperti tutti? E ha senso pagare oggi 200 dollari al mese o 10.000 dollari una tantum per un prodotto del genere?
Finché il software di guida assistita sbaglia così, non me ne faccio niente di un assistente imbecille e di certo non sono disposto a mettere la mia vita nelle sue mani. Se avete un’auto con guida assistita, di qualunque marca, non fidatevi troppo.
Questo articolo vi arriva gratuitamente e senza pubblicità grazie alle donazioni dei lettori. Se vi è piaciuto, potete incoraggiarmi a scrivere ancora facendo una donazione anche voi, tramite Paypal (paypal.me/disinformatico) o altri metodi.
