Alexa fa parlare le persone morte

A causa della pandemia moltissime persone hanno perso prima del dovuto i propri cari. Affrontare queste perdite non è stato semplice e in diversi paesi sono stati istituiti anche programmi psicologici specifici e gratuiti. E cosa c’entra che Alexa fa parlare le persone morte con questo? Ce lo spiega Rohit Prasad, Senior Vice President di Amazon e Head Scientist per Alexa.

“La cosa che mi ha stupito maggiormente di Alexa è il rapporto di compagnia che abbiamo con essa. In questo ruolo gli attributi umani di empatia e affetto sono la chiave. Questi attributi sono diventati ancora più importanti durante questo periodo di pandemia (COVID-19), quando così tanti di noi hanno perso qualcuno che amiamo.”

E la conclusione è: “se l’Intelligenza Artificiale non può eliminare il dolore di una perdita, sicuramente può fare in modo che i loro ricordi durino più a lungo.” E come è possibile tutto questo? Sentendo ancora una volta la voce di chi abbiamo tanto amato.

Alexa, la nonna può finire di leggermi “Il mago di Oz”?

È questa la domanda con cui viene annunciata la feature, durante la conferenza MARS di Amazon tenutasi a Las Vegas il 22 giugno. Nel video di presentazione si vede un bambino chiedere ad Alexa di finire di leggere il libro che la nonna aveva cominciato, Il mago di Oz.

Alexa registra la richiesta. “Ok!” e da lì la sua voce cambia completamente: tonalità, timbro, inflessione. Non è più una voce robotica ma quella di una donna avanti con l’età che legge un racconto al suo nipotino. Il (breve) risultato è davvero impressionante.

Prasad spiega che hanno dovuto imparare a riprodurre una voce di alta qualità con “meno di un minuto di registrazione, a fronte di ore di registrazione in studio”. Un lavoro non da poco, insomma, con un pattern ben preciso. Il segreto è stato quello di trattare la questione come una conversione vocale e non come un percorso di generazione del parlato.

Alexa fa parlare le persone morte e anche gli scettici

Sui social sono insorti da subito i detrattori di questa funzionalità. E in effetti il dilemma etico e quello morale sono proprio dietro l’angolo. Immediatamente, e anche con un po’ di preoccupazione, il pensiero dei più è andato alla serie televisiva distopica “Black Mirror”. L’episodio “Torna da me”, infatti, ruotava proprio su una tecnologia comparabile. E non è che Black Mirror sia nota per mostrare un futuro roseo grazie alla tecnologia.

Twitter si è diviso in due: detrattori da una parte, sostenitori dall’altra. Ma sono i primi a cinguettare di più. “Inquietante” e “malsano” sono i termini più utilizzati nei commenti, tra i tantissimi retweet. Molti sarebbero a disagio, infatti, a sentire la voce di chi non c’è più. Senza contare che potrebbe non esserci il consenso della persona deceduta.

Per molti però non il “morboso” il problema, quanto il “pericoloso”. Se basta meno di un minuto di registrazione per riprodurre un testo letto da una voce umana, quanto sono a rischio le nostre, di voci? Con una tecnologia del genere le truffe potrebbero proliferare.

Non ci possiamo fidare nemmeno delle nostre orecchie

È questo il concetto espresso dal professore di informatica all’Arizona State University Subbarao Kambhampati: “Per quanto inquietante possa sembrare, (questa funzione Alexa) è un buon promemoria del fatto che al giorno d’oggi non possiamo fidarci delle nostre stesse orecchie. Ma prima ci abitueremo a questo concetto, meglio sarà”.

E, in effetti, Alexa non è la prima a sintetizzare delle voci umani con incredibile accuratezza, anzi. Il fenomeno in questione è noto come deepfake: la creazione di video oppure audio tramite l’Intelligenza Artificiale per simulare in maniera estremamente realistica situazioni mai avvenute.

Un esempio? Nel 2021 Val Kilmer, il Tom “Iceman” Kazansky di Top Gun, ha collaborato con l’azienda Sonantic per le registrazioni di Top Gun 2. L’IA ha ridato fedelmente la voce all’attore, che aveva perso la sua a seguito di un cancro alla gola.

Un altro esempio? I video di revenge porn che sono stati creati sovrapponendo dei visi assolutamente ignari su attori di film erotici. O quelli di fake news, in cui volti noti venivano “costretti virtualmente” a divulgare false notizie.

Per ora Amazon non ha spiegato come intende regolamentare questa funzione affinché non venga utilizzata a fini malevoli, né la data di rilascio. Però una cosa è chiara: come dice Jeff Bezos “viviamo nell’età dell’oro dell’IA”.