Assistenza vocale etica

Forse penserete che si tratta di uno strano connubio. Cosa c’entra la progettazione di un assistente vocale con l’Etica? Molti architetti dell’informazione concordano sul fatto che sarà necessario, prima o poi, avviare anche una discussione sull’Etica di riferimento per la costruzione di siti web e app. La domanda tipica è: quale mondo digitale vogliamo costruire?

Tempo fa ho analizzato la questione di genere sonora, questione culturale ed anche Etica, appunto.

————————————————————————————-

AGGIORNAMENTO 26 settembre 2016

Nova del Sole 24Ore di domenica 25 settembre dedica 3 articoli al tema dell’etica e design dell’informazione.  Ed io sono ritornato sul tema con nuovi approfondimenti sull’ Onlife Manifesto.

————————————————————————————-

The Onlife Manifesto

Già nel 2012 Luciano Floridi, docente di logica ed epistemologia all’Università di Oxford, metteva in luce, in un volume open access “The Onlife Manifesto” la pervarsività delle tecnologie dell’informazione e della comunicazione (ICT).

la pervasività delle ICT le rende delle vere e proprie “forze sociali” che impattano in maniera radicale sulla nostra stessa concezione di “chi siamo” e sul nostro modo di concepire e relazionarci con la realtà circostante, assumendo un enorme significato etico, legale e politico. Un percorso con il quale abbiamo iniziato a confrontarci solo di recente e che è caratterizzato da quattro grandi trasformazioni: l’offuscamento della distinzione tra reale e virtuale, il venir meno della distinzione tra uomo, macchina e natura, la sostituzione di una condizione di scarsità di informazioni con una di abbondanza e il passaggio dai concetti di proprietà e relazioni binarie a quelli di processi e reti.

Il concetto di ON-LIFE mi affascina e mi incuriosisce: la pervasività delle informazioni, della tecnologia, dei dispositivi che indossiamo, l’iper connessione, al di là dello spazio e a volte anche del tempo. Questo è il vero cambiamento. Cambia lo spazio in cui viviamo, le nostre case diventano invisibili, modifica sul serio i nostri concetti e dunque i nostri pensieri.

Lo so, mi si rimprovera che non dovrei occuparmene. Mi si consiglia da più parti che questo blog dovrebbe osservare e parlare solo di interfacce, specializzandomi sull’argomento e di non divagare. Il buon senso e i buoni maestri mi ripetono che non si dovrebbe MAI parlare di quello che non si conosce.

Certo, non potrò mai parlare dello scibile sonoro. Ne sono consapevole. Ma in un blog che porta il mio nome, voglio trovare gli argomenti che vorrei leggere, approfondire e su cui riflettere.

Risposte o risposte mancate?

Già nel 2011, sollevava questioni etiche il fatto che Siri fosse contro l’aborto, per esempio. Quando si chiedevano informazioni riguardo la parola, l’assistente vocale non rispondeva o rimandava ad altri risultati. Solo a gennaio del 2016, senza tanta pubblicità Apple ha effettuato l’aggiornamento e Siri ha iniziato a dare notizie specifiche, indicazioni e informazioni sugli ospedali che lo praticano, in base alle leggi del Paese in cui l’assistente vocale viene interrogato. Non c’è stato un’evoluzione tecnologica, C’è stata una evoluzione di progettazione evidentemente qualcosa, tra lo staff di progettazione, è cambiato.

Rispondere o non rispondere, dare indicazioni o non darle, è una decisione umana. La macchina risponde a quello che noi diciamo progettiamo di rispondere.

Mi aiuti? Ma quanto mi aiuti?

Su Mixer #11 dell’8 aprile 2016 avevo riportato questa notizia

Da uno studio pubblicato su JAMA Internal Medicine e ripreso da economictimes.indiatimes.com è risultato che gli assistenti vocali Siri, Cortana, S-Voice e GoogleNow non comprendono le richieste di aiuto riguardo abusi e violenza subita. Non trovano neanche soluzione a stati depressivi o a tentativi di suicidio.

In quest’ultimo caso e sulla depressione tutti gli assistenti vocali hanno dato risposte multiple, anche se non soddisfacenti. Sui casi di stupro e/o violenza subita dalle donne solo Cortana ha fornito i numeri per i centri anti violenza, ascolto e assistenza. Dopo la pubblicazione della ricerca, Apple è corsa ai ripari ed ha corretto, o meglio, modificato le risposte a determinate domande.

Un assistente vocale deve aiutarti

Un assistente vocale deve aiutarti, è fatto per questo motivo. Ma un assistente vocale deve tenerti su di morale? Deve prendersi cura di te? Deve preoccuparsi se il tuo stato d’animo è depresso?

In questi giorni a causa delle gravi notizie di cronaca si è molto parlato, anche sui social, dell’indifferenza, sull’indifferenza che ci circonda. Un assistente vocale può essere indifferente alle nostre sofferenze? Alle nostre richieste di aiuto? Deve essere empatico? In futuro i nostri assistenti vocali dovranno calcolare il quoziente di simpatia? Chissà!

Ma superiamo anche questo ostacolo e poniamo caso che le risposte siano quelle “giuste”. La domanda successiva sarebbe “giuste per chi?”. Anche quando l’assistente vocale potrà indirizzarci adeguatamente ad un centro specializzato, quale Centro sarà? Il miglior Centro della zona o dello Stato? Sarà un Centro pubblico o privato? Il più costoso o il più conveniente?

Le risposte, ad ogni modo, non riguardano la macchina, ma chi la macchina la programma e la progetta.

Mi ascolti o non mi ascolti?

Nell’articolo Assistenti vocali sul mercato concludevo dicendo

L’assistenza vocale sarà dunque la nostra compagna; ci ascolterà e risponderà al meglio alle nostre esigenze. In realtà soddisferà le esigenze dei loro produttori. Con buona pace della nostra privacy.

“Frase inquietante” commenta un lettore. Non saprei.

Gli assistenti vocali sono sempre all’erta e pronti ad essere risvegliati. Hanno tante cose da dire, ma prima ancora hanno tante cose da ascoltare.

Consenso al trattamento dei dati

Ogni giorno rinunciamo ad un pezzo di libertà in cambio di benefici che calcoliamo, frettolosamente, convenienti. Diamo il consenso esplicito a pagine e pagine di contratti, senza leggerli, senza considerare nessuna evenienza o conseguenza. A tal proposito Pier Luca Santoro raccontava di come, nel 2010 (sei anni fa!), 7500 clienti Hanno venduto l’anima per non leggere il contratto ad una azienda inglese.

Accettiamo di condividere con Applicazioni le nostre gallerie fotografiche, la nostra telecamera; affidiamo a Multinazionali i nostri pensieri, i nostri gusti personali, le nostre emozioni, le nostre opinioni politiche pur di restare in contatto con i nostri amici.

Accettiamo di essere pedinati da app e satelliti per muoverci in città, come in autostrada, per muoverci meglio e guadagnare qualche minuto in più per fare qualche cosa in più.

Ma cosa succede di tutti questi dati? Qualcuno li vende, ovviamente. Pensiamo che sia inquietante, comodo o la cosa non ci interessa?

Diritto alla Privacy

Non sono più in tanti ad invocare il diritto alla Privacy . E anche a me che scrivo queste righe, l’argomento sembra ozioso e quasi fuori dal tempo. Tutto quello che facciamo è pubblico, anzi, se non dici quello che fai o sei reticente agli interrogatori di chiunque, un po’ infastidisci. Ti salva solo la scaramanzia, davanti al quale, il terzo grado si ferma. Eppure è un diritto e anche se si tratta di uno dei tanti diritti che stiamo perdendo dovremmo esserne, almeno, consapevoli.

Si tratta grosso modo della stessa questione, ma con fini evidentemente differenti, delle intercettazioni.

Tra le intercettazioni ad uso della magistratura ci sono anche conversazioni private, intime, che non riguardano il procedimento. Per raccoglierle un magistrato ha analizzato la necessità di ascoltare. Nel caso degli assistenti vocali saremo noi stessi ad acquistare i prodotti che ci ascolteranno; saremo noi stessi a posizionare i microfoni nelle nostre case, per essere meglio ascoltati.

Cosa accadrà delle nostre conversazioni private? Saranno registrate, immagazzinate, analizzate e studiate? Chi le ascolterà? Chi le potrà ascoltare? E quale Legge o Etica potrà garantirne la riservatezza. Semmai ancora questa parola avrà un senso.

Assistenza vocale etica

Antonello Soro, Presidente del Garante per la protezione dei dati personali (Il Messaggero, 17 febbraio 2016) si riferisce all’uso di intercettazioni private che vanno al di là del procedimento penale e delle persone terze che non sono coinvolte nel procedimento. Nella conclusione oltre a consigliare una maggiore garanzia da parte della legislazione, insiste “Oltre ad una legge serve un Etica“:

E tuttavia nessuna norma, di per sé sola, potrà mai garantire il migliore equilibrio tra i vari diritti in gioco, in assenza di un’etica e deontologia professionali capaci di tracciare il limite (non scolpito nella legge ma da ricercare di volta in volta, in concreto) oltre il quale il doveroso esercizio di una funzione essenziale quale quella informativa, magistratuale o difensiva, non può spingersi.

Su questo terreno si gioca una delle partite più importanti per la nostra democrazia: è necessario che ciascuno, per parte sua, vi fornisca il proprio contributo.

Assistenza Vocale ed Etica cammineranno sempre di più su binari paralleli. La discussione è aperta, non da ora.

Le domande e gli interrogativi pure.

Che poi a qualcuno importi qualcosa è un’altra storia.

Pin It on Pinterest

Share This