Il Disinformatico: Siri

Visualizzazione post con etichetta Siri. Mostra tutti i post

2020/07/03

Mille parole che attivano per errore gli assistenti vocali e registrano le nostre voci

Ci sono oltre mille parole o sequenze di parole che possono attivare per errore gli assistenti vocali, come Siri, Google Assistant, Alexa o Cortana, e quindi mandare ad Apple, Google, Amazon o Microsoft spezzoni delle vostre conversazioni domestiche o sul luogo di lavoro.

Questo è il risultato di uno studio, intitolato Unacceptable, where is my privacy?, realizzato da un gruppo di ricercatori della Ruhr Universität Bochum e del Max Planck Institute for Security and Privacy, che dimostrano il fenomeno con una serie di video che mostrano attivazioni errate causate da dialoghi del Trono di Spade e di Modern Family: “a letter”, “We like some privacy” (ironico), “Hey Jerry”.

Fra le altre parole o frasi che causano attivazioni errate ci sono unacceptable e election (per Alexa), OK cool (per Google Assistant), a city (per Siri), Montana (per Cortana). Sarebbe interessante fare uno studio analogo per l’italiano e per altre lingue oltre all’inglese.

Il fenomeno in sé era già noto, ma la novità è la quantità di parole comuni che possono causare queste attivazioni impreviste: è talmente elevata che è necessario presumere che qualunque conversazione fatta in presenza di un assistente vocale non sia privata. L’unico modo per risolvere questo problema è spegnere o silenziare questi assistenti, o non possederli affatto. La ricerca include le istruzioni per riascoltare, o almeno cancellare, quello che è stato registrato dall’assistente vocale e trasmesso alla rispettiva azienda.

Fonte aggiuntiva: Ars Technica.

2020/03/27

Se lavorate da casa, spegnete gli altoparlanti “smart”. Potrebbero sentire troppo

Ultimo aggiornamento: 2020/03/27 14:00.

Molti in questi giorni si trovano a dover lavorare da casa, con telefonate e videoconferenze nelle quali scambiano informazioni confidenziali. Medici, avvocati, docenti e tante altre persone devono garantire, anche in condizioni straordinarie, la riservatezza delle comunicazioni.

A parte tenere un volume di voce non troppo alto in modo da non far sentire tutto anche ai vicini e tenere fuori dalla stanza partner e bambini, che sono precauzioni piuttosto ovvie, bisogna tenere presente anche un aspetto informatico: gli altoparlanti smart, come Amazon Echo (Alexa) o Google Home, o gli assistenti vocali come Google Assistant, Siri o Cortana.

Questi altoparlanti e assistenti, infatti, hanno un microfono che può attivarsi spontaneamente, senza che siano state pronunciate le parole di attivazione, e può quindi captare le conversazioni private e trasmetterle ad Amazon o Google, dove possono essere ascoltate dai dipendenti di queste aziende.

Le attivazioni non intenzionali capitano più spesso di quello che molti immaginano. Una ricerca della Northeastern University e dell’Imperial College di Londra indica che gli utenti attivano involontariamente i loro altoparlanti “smart” da una volta e mezza fino a 19 volte al giorno.

Il consiglio è quindi di mettere in muto, o scollegare dall’alimentazione elettrica, questi altoparlanti almeno in orario di lavoro se si fanno conversazioni sensibili. Gizmodo ha preparato una guida (in inglese) su come trovare e cancellare tutto quello che viene captato dagli assistenti digitali.

2019/11/08

Cancellare la cronologia di un assistente vocale

Gli assistenti vocali memorizzano quello che diciamo loro: le nostre parole non svaniscono nel nulla ma vengono conservate. Sappiamo che questi assistenti spesso si attivano spontaneamente, senza che li abbiamo invocati, per cui spesso captano e registrano pezzi di conversazioni intime che non avevamo intenzione di condividere con Google, Apple, Amazon, Facebook o Microsoft.

Se volete riesaminare quello che hanno archiviato su di voi questi assistenti ed eventualmente cancellarlo, questo articolo di Gizmodo contiene le istruzioni dettagliate (in inglese, ma facilmente deducibili in italiano) su come procedere con quasi tutti questi assistenti vocali.

Per l’Assistente Google, per esempio, bisogna entrare nel proprio account Google visitando myaccount.google.com e cliccare su Dati e personalizzazione - Utilizza gestione attività.

Per riesaminare tutte le cose dette volontariamente o involontariamente all’Assistente, cliccate su Gestisci attività e poi su Filtra per data e prodotto. Scegliete Assistente e poi Applica.
In Utilizza gestione attività potete disattivare l’opzione Includi registrazioni vocali e audio per cancellare tutte le registrazioni vocali acquisite e cliccare su Gestisci attività e poi su Scegli di eliminare automaticamente. A questo punto potrete scegliere se eliminare tutto automaticamente dopo tre o diciotto mesi.

Invece per cancellare la cronologia vocale di Siri sui vari dispositivi (iPhone, iPad, iPod touch, Apple Watch, Apple TV, HomePod e Mac) bisogna seguire una procedura distinta per ogni singolo dispositivo.

Amazon Alexa, invece, è gestibile entrando nel proprio account Amazon, scegliendo Account e liste e poi Contenuti e dispositivi - Privacy di Alexa e Rivedi la cronologia voce. Scegliendo Intera cronologia come intervallo di date compare la possibilità di rivedere o eliminare tutto. Fra l’altro, esiste anche una scorciatoia: se si abilita in questa pagina l’opzione Abilita l'eliminazione tramite comando vocale, potete eliminare una registrazione dicendo "Alexa, elimina quello che ho appena detto" oppure eliminare tutte quelle del giorno dicendo "Alexa, elimina tutto quello che ho detto oggi."

Attivare un assistente vocale di nascosto con un laser

Siri, Alexa, Facebook Portal e Google Home, i popolari assistenti vocali, sono vulnerabili a un attacco che sembra preso di peso da un film di fantascienza: è sufficiente puntare un raggio laser modulato (anche invisibile, se negli infrarossi) su un punto preciso dei dispositivi che incorporano questi assistenti per prenderne il controllo e impartire comandi vocali silenziosi e potenzialmente pericolosi, come “acquista questo prodotto” oppure “spegni tutte le luci e sblocca la porta d’ingresso”.

Il punto preciso da colpire corrisponde ai microfoni incorporati in questi assistenti. Questi microfoni, realizzati in tecnologia MEMS (sta per Micro-ElectroMechanical Systems), sono misteriosamente sensibili alla luce laser.

I ricercatori, composti da esperti in Giappone (University of Electro-Communications, Tokyo) e presso la University of Michigan, hanno dimostrato di essere in grado di prendere il controllo di questi assistenti anche attraverso una finestra e persino stando in un altro edificio a 70 metri di distanza dal bersaglio.

L’attrezzatura necessaria non è particolarmente complicata o costosa, e l’unica difesa attualmente disponibile è piazzare i propri assistenti vocali lontano da qualunque finestra che dia sull’esterno. Oppure fare direttamente a meno di questi assistenti.

L’attacco è particolarmente interessante non solo per la sua modalità da film, ma anche perché scavalca uno dei limiti finora presenti negli attacchi informatici a questi dispositivi, ossia la necessità per il malfattore di introdursi in casa per poterli usare in modo improprio.

Gli assistenti vocali, infatti, sono concepiti per avere la massima facilità d’uso, per cui rispondono a qualunque voce e non chiedono quasi mai password di conferma prima di eseguire i comandi. Ma i loro microfoni hanno una portata che si limita al volume dell’abitazione, per cui normalmente questa assenza di protezioni non è un problema, salvo che il “malfattore” sia un membro della famiglia (un bambino, per esempio) oppure una persona invitata in casa.

Con questa tecnica, denominata Light Commands, questo limite non c’è più. I dettagli sono raccontati presso LightCommands.com.

Fonte aggiuntiva: Ars Technica.

2019/08/02

Quanto sono intimi i dettagli raccolti da Siri e ascoltati dai dipendenti Apple? Molto

Una indagine del giornale britannico The Guardian rivela quanto è vasta la rete delle persone che ascoltano quello che gli utenti di dispositivi Apple dicono a Siri, l‘assistente vocale dell’azienda: non si tratta solo di dipendenti Apple, ma anche di dipendenti di società collegate, che lavorano al controllo qualità per verificare che Siri capisca correttamente le richieste vocali. Tanta gente, e come sempre quando tante persone devono tenere un segreto, il segreto finisce a spasso.

Uno di questi dipendenti, riferisce il Guardian, ha lanciato l’allerta: Siri si attiva spessissimo anche quando l’utente non vuole interrogare questo assistente vocale. Lo fa, per esempio, ogni volta che un utente alza il polso sul quale indossa un Apple Watch: se il dispositivo sente delle voci, quelle voci vengono mandate ad Apple, che l’utente lo voglia o no. I principali colpevoli di queste attivazioni accidentali sono il Watch e l’altoparlante smart HomePod.

Il risultato è che anche se Apple anonimizza le registrazioni dissociandole dagli altri dati che raccoglie dall’utente, non è difficile identificare chi parla: basta per esempio che qualcuno dica il nome e cognome, suo o di altri, o un indirizzo, e addio anonimizzazione.

I dipendenti e subappaltatori di Apple, secondo il whistleblower intervistato dal Guardian, sentono regolarmente informazioni mediche confidenziali (conversazioni fra medici e pazienti), transazioni di spaccio di stupefacenti, e attività amorose intime. E la selezione di questo personale è spesso molto sommaria: “Non ci sono particolari controlli di affidabilità di chi ci lavora... e il ricambio è elevato.” Ma Apple, nella sua pagina sulla privacy, non spiega che ci sono suoi dipendenti, e dipendenti di aziende terze, che ascoltano quanto captato dall’assistente vocale.

L’unica opzione salvaprivacy per gli utenti Apple è disabilitare Siri: su smartphone e tablet, si va in Impostazioni - Siri e Cerca, e si disattiva Abilita “Ehi Siri” e Usa Siri quando bloccato.

2019/08/02 13:25. Poco dopo la pubblicazione iniziale di questo articolo è arrivata la notizia che Apple, come Google, ha sospeso l’ascolto da parte dei dipendenti.

2019/04/12

Se Amazon origlia, cosa fanno Google e Siri?

Se state pensando che Google potrebbe ascoltarvi come fa Amazon con il suo assistente vocale Alexa, avete indovinato. Come spiega Bloomberg, alcuni revisori possono accedere a spezzoni audio dell’Assistente Google per addestrarlo e migliorarlo, ma gli spezzoni non sono associati a informazioni personalmente identificabili e l’audio viene distorto, stando alle dichiarazioni di Google.

Se volete gestire le registrazioni vocali di Google, potete consultare le apposite istruzioni, che consentono di eliminare una singola registrazione audio oppure eliminarle tutte.

Anche Siri usa assistenti in carne ossa per verificare che questo assistente vocale abbia capito correttamente le intenzioni dell’utente. Come per Google, le registrazioni ascoltate non contengono informazioni personalmente identificabili e vengono conservate per sei mesi, tenendole associate a un identificativo generato a caso; passati i sei mesi, i dati vengono privati dell’identificativo casuale e possono essere conservati più a lungo per migliorare il riconoscimento vocale di Siri.

Apple non consente all’utente di esaminare le proprie registrazioni o di eliminarle in modo interattivo. Tuttavia è possibile far scorrere verso il basso la schermata “Come posso aiutarti?” di Siri per rivedere le richieste vocali più recenti. Inoltre andando in Impostazioni - Siri e Cerca e toccando Chiedi a Siri e privacy compare un’informativa che include questo suggerimento per cancellare completamente la propria cronologia di richieste vocali:

Puoi scegliere di disattivare Siri o Dettatura in qualsiasi momento. Per disattivare Siri, apri Impostazioni > Siri e Cerca, quindi disattiva le opzioni “Abilita Ehi Siri” e “Premi il tasto Home per Siri” o “Premi il tasto laterale per Siri”. Per disattivare Dettatura, apri Impostazioni > Generali > Tastiera, quindi disattiva “Abilita dettatura”. Se disattivi sia Siri che Dettatura, Apple cancellerà i tuoi dati utente, così come dati di input vocale recenti. I dati di input vocale meno recenti che sono stati dissociati potrebbero essere conservati per certo un periodo di tempo per migliorare le funzionalità generali di Siri, di Dettatura e della dettatura in altri prodotti e servizi Apple. Tali dati di input vocale possono includere file audio e trascrizioni di ciò che hai detto, dati diagnostici correlati, quali le specifiche hardware e del sistema operativo e le statistiche sulle prestazioni e la posizione approssimativa del dispositivo al momento della richiesta.

2018/05/18

Gli assistenti vocali danno i numeri

Un utente ha chiesto ad un’Alexa statunitense quanto fa 10³⁰⁸: è interessante notare che la sintesi vocale varia la pronuncia della parola “oh” invece di essere sempre monocorde.

Questo è quello che succede se si chiede la stessa cosa ad un’Alexa britannica, che risponde con toni leggermente languidi:

Siri, a quanto pare, è un po’ meno robotica: dice che 10³⁰⁸ è un numero di 309 cifre che inizia con 1, 0, 0, 0 e poi propone il numero per esteso sullo schermo, attingendo al motore di ricerca matematico Wolfram Alpha.

Google Assistant, invece, risponde pigramente “1.0 x 10^308”:

Mah.

2018/05/11

Ingannare Siri, Alexa, Google Assistant con comandi vocali nascosti

I dispositivi digitali dotati di riconoscimento vocale hanno una caratteristica che per molti utenti è inaspettata: “sentono” e “capiscono” in maniera molto differente da come lo facciamo noi. Di conseguenza, suoni che per noi non hanno senso, o non sono neanche udibili, possono essere usati per mandare a questi dispositivi dei comandi nascosti.

Un gruppo di studenti universitari statunitensi ha ampliato le ricerche iniziate nel 2016 e ora ha dimostrato di essere in grado di nascondere comandi vocali all’interno del rumore bianco, un particolare tipo di fruscio, simile a quello che si capta sintonizzando una radio su una frequenza dove non c’è una stazione che trasmette. L’orecchio umano sente solo fruscio, appunto, ma i sistemi di riconoscimento vocale captano i comandi e li eseguono. Nel video, un iPhone bloccato viene indotto a comporre un numero telefonico usando questa tecnica.

I ricercatori dicono di essere stati in grado di attivare Google Now per mettere il telefono in modalità aereo e di manipolare il sistema di navigazione di un’auto della Audi, di indurre uno smartphone a visitare un sito pericoloso, a fare una foto o inviare un messaggio.

Altri studiosi hanno dimostrato di poter creare frasi che al nostro orecchio sembrano dire una cosa ma che vengono interpretate in tutt’altro modo da questi dispositivi (un esempio semplice: cocaine noodles viene interpretato come OK Google), oppure canzoni che contengono messaggi “subliminali” (stavolta sul serio, non come nella leggenda metropolitana).

Questo genere di attacco è prevenibile evitando di tenere costantemente aperto il microfono dei dispositivi, cosa peraltro consigliabile anche per altre ragioni.

Cerca nel blog