Ascoltare comandi partiti per errore o eseguiti in modo errato ha certamente senso, quando si sviluppa un assistente vocale, e infatti i vari programmi qualità di Siri, Alexa e Google Home non ci hanno sorpreso; più fastidioso, invece, che Facebook avesse bisogno della trascrizione di messaggi audio privati tra utenti: questo sì che dà il polso della situazione, e dei rischi che corriamo davvero.

Stando a quando rivelato da Bloomberg, “centinaia di collaboratori esterni” hanno lavorato alla trascrizione dei messaggi audio scambiati tra gli utenti su Messenger; nessuno di loro conosceva l’origine delle clip, come fossero state ottenute e soprattutto per quali ragioni fossero necessarie.

A dire della società, gli utenti coinvolti nelle trascrizioni avevano deliberatamente scelto di prendervi parte; le trascrizioni servivano ad assicurarsi che l’intelligenza artificiale di Facebook interpretasse correttamente i messaggi. Il fatto è che nessun utente era stato informato esplicitamente di questa possibilità, e ciò potrebbe introdurre problemi di natura etica.

Nella