Il dubbio su Alexa, e la tecnologia che ascolta, non è assolutamente una novità, già le apprezzate smart-tv, i telefonini, la tecnologia del così detto “Internet of Things” rende intelligenti – ovvero capaci di interagire, integrarsi e imparare dai propri errori – cose che non dovrebbero esserlo.

ALEXA, COME UN MAGGIORDOMO ARTIFICIALE

Ma cos’è Alexa? È un’Intelligenza Artificiale, un assistente digitale con un altoparlante, Echo, il tutto acquistabile negli Store OnLine (su Amazon in questo caso), che prende delle decisioni al di fuori dell’intervento umano, progettata per interpretare comandi vocali e rispondere accontentando l’utente con qualcosa che si approssima il più possibile alla richiesta. Una playlist romantica? Ecco che subito scatta l’algoritmo che riconosce i generi, i precedenti ascolti, gli acquisti e desume i gusti dell’utente cercando di accontentarlo (o sorprenderlo). Siamo davanti a un qualcosa che avvicina alla sensazione di vivere in una casa intelligente (o smart home) ovvero un ambiente tecnologicamente avanzato, integrato, interagente.

ERRORI E FALLIMENTI

Ma non ci sono solo soddisfazioni e report positivi su questi nuovi dispositivi “para domotici”, esistono anche le interazioni fallite dovute al fatto che l’Intelligenza Artificiale è ancora ben lontana dalla perfezione e dunque sbaglia, non riconosce la voce correttamente e propone quello che pensa di aver capito, assegnando, forse, un punteggio di attendibilità. Il problema sorge quando, a fronte di un’impossibilità di riconoscere (e quindi soddisfare) il desiderio dell’utente, la conversazione viene resa accessibile agli operatori Amazon che ascoltano (in teoria senza poterla associare a un’identità) e cercano di risolvere l’incompetenza della IA, per addestrarla a soddisfare sempre meglio i desideri dell’utente.

Le prime avvisaglie che qualcosa di incontrollabile (per gli utenti) potesse accadere, con Alexa di Amazon, risalgono a qualche anno fa, quando dei test basati sulla reverse engeniring dimostrarono che potevano esistere delle falle nel sistema e che queste vulnerabilità potevano essere facilmente sfruttate. Fra queste:

1. possibilità di nascondere nella musica ascoltata le frequenze audio per attivare la registrazione vocale di Alexa all’insaputa dell’utente finale
2. possibilità di manipolare le così dette “skill”, le abilità della IA, creandone di nuove che però non sappiamo a oggi se possano presentare implicazioni di sicurezza (https://thehackernews.com/2018/04/amazon-alexa-hacking-skill.html)
3. basandosi su Android, Alexa è suscettibile a tutti i bug di sicurezza del sistema operativo per telefoni (usato anche nei telefonini).

UNA SPIA IN CASA

E poi esistono gli errori software. Il 21 dicembre del 2018, 1700 conversazioni sono state inviate all’utente sbagliato; in un altro caso due dipendenti hanno ascoltato una conversazione che poteva indicare una possibile violenza sessuale, intercettazione cui non è seguita una richiesta di soccorso, perché ritenuta sconveninete per le politiche di privacy. Si sa anche del caso di un giudice del New Hampshire che avrebbe chiesto al gruppo di Jeff Bezos (il multimilionario fondatore di Amazon) di consegnare le registrazioni effettuate dal dispositivo per cercare di far luce su un assassinio. Potrebbe suggerire che le conversazioni non siano poi così anonime? Ma non basta, perché in passato «una donna di Portland avrebbe scoperto di essere stata registrata mentre discuteva con il marito. Echo avrebbe “catturato” la conversazione, inviandola ad alcuni suoi contatti WhatsApp. Amazon si è giustificata dicendo che, a volte, gli smart speaker possono scambiare rumori e parole per i comandi che attivano la registrazione. È quindi molto probabile che sui server del gruppo ci sia molto di più di quanto gli utenti pensino».

MAL COMUNE MEZZO AUDIO

Alexa può sbagliare e registrare tracciati audio più o meno lunghi per errore e in questo caso gli operatori sono autorizzati a trascrivere fino a un centinaio di queste conversazioni al giorno, in modo da poterle analizzare, comprendere e archiviare l’errore, per poter quindi istruire al meglio la IA sul come soddisfare l’utente.

Amazon non è la sola a proporre sul mercato una IA in stile domotico, anche Apple e Google fanno altrettanto e adottano pratiche analoghe per istruire le loro intelligenze artificiali, analizzando e registrando gli errori, le conversazioni; e se vogliamo i desideri e le emozioni “vocali” degli utenti: soddisfatti o spiati?

Condividi: