Questo articolo è disponibile anche in versione podcast audio.

C’è una puntata della celebre serie distopica Black Mirror, intitolata Be Right Back (Torna da me nella versione italiana), nella quale una donna subisce la perdita drammatica del proprio partner in un incidente.

Al funerale, un’amica le parla di un servizio online che raccoglie tutte le informazioni pubblicate sui social network dal defunto e tutti i suoi messaggi vocali e video e da lì crea un avatar che sullo schermo dello smartphone parla esattamente come lui e ha il suo stesso aspetto. 

Inizialmente inorridita, la donna rifiuta, ma poi… succedono cose che non racconto per non guastare la storia a chi non ha ancora visto questa puntata.

Dovrebbe essere chiaro a tutti che le storie di Black Mirror sono esempi di cosa non fare con la tecnologia, ma a quanto pare qualcuno ad Amazon ha scambiato questa serie per un manuale di istruzioni.

Pochi giorni fa, infatti, Rohit Prasad, capo ricercatore dell’intelligenza artificiale di Alexa, il celebre assistente vocale di Amazon, ha presentato in una conferenza pubblica una versione di Alexa che è in grado di imitare le voci delle persone, e l’esempio che fa sembra proprio preso di peso da Black Mirror.

“In questi tempi di pandemia perdurante” dice “così tanti di noi hanno perduto qualcuno che amiamo. Anche se l’intelligenza artificiale non può eliminare quel dolore della perdita, può certamente far durare i loro ricordi.”

A questo punto Prasad mostra un video nel quale un giovane ragazzo chiede ad Alexa di fare in modo che la nonna, che non c’è più, gli finisca di leggere Il Mago di Oz.

Alexa risponde “OK” con la sua solita voce, ma poi cambia tono e recita con la voce della nonna del ragazzo.

Già così la cosa può evocare sentimenti contrastanti, ma quello che dice poi Prasad è ancora più inquietante: la voce della nonna è stata ricreata partendo da meno di un minuto di una sua conversazione. Non servono più ampi e lunghi campioni di voce registrati accuratamente in uno studio.

Si potrebbe discutere sull’impatto emotivo di questa nuova tecnologia e chiedersi se sentire per casa la voce di una persona amata che non c’è più, ricreata artificialmente da un programma, sia davvero una consolazione o una forma di prolugamento del dolore. Ma c’è una questione molto più concreta, che va affrontata subito, mentre questa capacità di imitazione non è ancora disponibile al pubblico: se è possibile imitare facilmente la voce di una persona in questo modo per ricrearne la presenza, allora è possibile farlo, per esempio, anche per sbloccare il suo smartphone bloccato dal riconoscimento vocale o per scavalcare le cosiddette password vocali usate da alcune banche e persino dal Fisco britannico, che fino a pochi anni fa chiedeva ai contribuenti di identificarsi al telefono dicendo la frase “my voice is my password”, ossia “la mia voce è la mia password”.

No, non funziona così. Se la tua voce la possono imitare tutti, la tua password è di tutti.

Il problema è che Amazon non è l’unica azienda in grado di replicare realisticamente la voce di una persona specifica, la potenza di calcolo e il campione audio necessari diventano sempre più piccoli, e non sembra esserci alcun modo di impedire a malintenzionati di registrare la nostra voce. 

Forse è il caso di cominciare a smettere di usare sistemi di sicurezza basati sul riconoscimento vocale. E magari di passare del tempo a chiacchierare con la nonna, finché si può. 

Fonti aggiuntive: Graham Cluley, Ars Technica, The Register.

Questo articolo è disponibile anche in versione podcast.

Con tutti questi malware in giro, c’è quasi da dire le preghiere ogni volta che si sta per aprire un allegato. Il guaio è che in informatica anche la preghiera può nascondere un raggiro.

Lo sa bene Patricia Collinson, una devota ottantasettenne che vive a Hastings, nel Regno Unito, e si è trovata involontariamente al centro di un inganno informatico decisamente insolito. La figlia le ha regalato un assistente vocale, un altoparlante Alexa di Amazon, e la signora ha iniziato a usarlo con entusiasmo, soprattutto quando ha scoperto che poteva chiedere ad Alexa, semplicemente parlando, di recitare una preghiera con lei, specificamente l’Ave Maria.

Quasi tutte le mattine la signora Collinson si sedeva in poltrona e parlava ad Alexa come se fosse una persona, dicendole “Buongiorno Alexa, puoi recitare per favore l’Ave Maria?”, e Alexa eseguiva prontamente la richiesta.

Ma l’entusiasmo della signora è passato ben presto quando si è accorta, grazie alla figlia, che la solerte Alexa recitava l’Ave Maria solo per soldi. Infatti la signora, senza rendersene conto, si era abbonata a un servizio a pagamento semplicemente parlando ad Alexa.

La figlia, alla quale era intestato l’account di Alexa, se ne è accorta quando ha ricevuto una mail dalla ditta statunitense Catholic Prayers che la informava dell’attivazione di un abbonamento a pagamento sull’Alexa che lei aveva regalato alla madre. Due sterline al mese, quindi non certo un salasso, ma restava il problema che la signora Collinson aveva attivato un contratto di addebito permanente a un servizio semplicemente con la voce, senza nessuna delle normali conferme visive o cartacee che esistono negli acquisti normali.

Questa situazione potenzialmente ingannevole è stata confermata da Amazon al figlio della signora Collinson, che l’ha documentata per il giornale britannico The Guardian dove lavora: si possono fare acquisti a voce, ha confermato Amazon, “dicendo di sì a un messaggio di offerta di un prodotto, generato quando un cliente richiede direttamente il prodotto o quando il cliente risponde positivamente a un suggerimento proattivo all’interno della skill”. Le skill sono, in sostanza, l’equivalente vocale delle app. 

[nel podcast qui c’è l’audio di Alexa che offre di acquistare a voce, tratto da Voice Technology di Alessio Pomaro]

La ditta Catholic Prayers, contattata, ha ipotizzato che la signora non si sia resa conto che Alexa la stava avvisando che il servizio di preghiera era a pagamento e abbia risposto di sì a questo avviso. La ditta, fra l’altro, dice di avere circa 10.000 utenti al mese. Viene da chiedersi se esistono davvero diecimila persone consapevolmente disposte a pagare due sterline al mese per farsi dire da un altoparlante una preghiera che possono sentire gratis (per esempio tramite l’assistente vocale di Google) o se si tratta almeno in parte di persone che sono cadute nello stesso equivoco della signora Collinson.

Dato che questi assistenti vocali vengono regalati sempre più spesso a persone che non hanno competenze informatiche e non sanno cosa sia una skill o che si possano generare degli addebiti semplicemente parlando, è importante che chi fa questi regali sia ben consapevole di queste funzioni, per evitare addebiti indesiderati, e sappia come disabilitarle.

Per impedire acquisti accidentali fatti a voce con un dispositivo Alexa si può entrare nell’account che lo gestisce e selezionare, nelle impostazioni, la sezione Acquisti tramite voce. Qui si può scegliere se disattivarla completamente oppure se proteggerla con un codice segreto di quattro cifre che dovrà essere detto ad Alexa per confermare l’intenzione di acquisto. In questo modo, solo chi conosce questo codice potrà fare acquisti. Ovviamente, se il codice viene detto in presenza di altre persone non sarà più segreto.

Viene da chiedersi quanti utenti di questi assistenti vocali siano a conoscenza di queste funzioni di acquisto automatico e sappiano come impostarle correttamente. Nel frattempo, Amazon segnala con entusiasmo sulle proprie pagine promozionali che ci sono sviluppatori che hanno guadagnato 25.000 dollari in soli sei mesi vendendo agli utenti Alexa la funzione che consente all’assistente vocale di dire “Buona notte” e una frase di conforto. E lasciando da parte un momento la questione degli addebiti non intenzionali, fa tristezza pensare che ci siano persone così sole da essere disposte a pagare per farsi dire una preghiera o la buonanotte da una macchina.

• Per riesaminare tutte le cose dette volontariamente o involontariamente all’Assistente, cliccate su Gestisci attività e poi su Filtra per data e prodotto. Scegliete Assistente e poi Applica.
• In Utilizza gestione attività potete disattivare l’opzione Includi registrazioni vocali e audio per cancellare tutte le registrazioni vocali acquisite e cliccare su Gestisci attività e poi su Scegli di eliminare automaticamente. A questo punto potrete scegliere se eliminare tutto automaticamente dopo tre o diciotto mesi.