I deepfake non viaggiano più soltanto attraverso immagini e video. Sempre più spesso indossano una voce, e proprio per questo diventano insidiosi: una telefonata che sembra arrivare da un figlio, da un nipote o da un collega può oggi essere generata artificialmente con un realismo capace di mettere in difficoltà anche chi è abituato a diffidare delle truffe online. È il terreno su cui agiscono molte tecniche di social engineering, dal phishing allo spoofing, che puntano a conquistare la fiducia della vittima per estorcerle denaro o dati personali.
Su questo fronte lavora FUN-Media, un progetto di ricerca europeo a cui ha partecipato l’Image and Sound Processing Lab del Politecnico di Milano, coordinato dai professori Paolo Bestagini e Stefano Tubaro.
Come riconoscere una voce “falsa” al telefono
Il punto di partenza, spiega Bestagini, è che le immagini e i video contraffatti vengono ormai riconosciuti con maggiore facilità, perché le persone hanno sviluppato una certa consapevolezza, mentre clonare una voce è diventato semplicissimo e i risultati risultano paradossalmente più credibili di un filmato falso. Per testarne la solidità, lo strumento è stato messo alla prova con un audio sintetico realizzato apposta, che è stato subito identificato come falso.
Come riconoscere una voce “falsa” al telefono-melablog.it
L’idea alla base non è affidarsi a un unico algoritmo, bensì costruire un intero ecosistema di rilevatori specializzati che collaborano fra loro. Lo stesso ricercatore lo descrive come un classico gioco tra guardie e ladri: i sistemi di clonazione migliorano in continuazione, e un detector efficace oggi potrebbe non esserlo già domani. Per questo il progetto schiera un vero e proprio arsenale di strumenti, ciascuno addestrato con tecniche di machine learning su grandi quantità di voci, autentiche e artificiali, estratte da parlatori di età, sesso e lingue diverse. Le tracce reali provengono spesso da audiolibri di pubblico dominio letti da professionisti.
L’aspetto più originale, però, riguarda quella che gli addetti ai lavori chiamano l’esplicabilità dei risultati. Presentarsi davanti a un giudice sostenendo che una registrazione è falsa solo perché lo afferma la macchina non avrebbe alcun valore legale, quindi i diversi rilevatori sono stati messi a punto per analizzare caratteristiche specifiche e interpretabili. Alcuni studiano l’evoluzione delle emozioni nella voce, verificando se siano coerenti con quelle di una persona reale; altri si concentrano sulla prosodia, fatta di ritmo, intonazione e cadenza; altri ancora esaminano il contenuto semantico del discorso, per individuare schemi tipici dei bot usati nelle truffe.
La prossima evoluzione prevede l’introduzione di un approccio agentico, con un’intelligenza artificiale che faccia da coordinatore dell’intero sistema, decidendo quali rilevatori attivare, in quale ordine e con quali soglie, adattandoli alla qualità del file. Lo stesso Bestagini, intanto, non nasconde il punto debole della partita: al momento è ancora più facile ingannare un detector che costruirne uno infallibile, e le registrazioni molto rumorose o i sintetizzatori commerciali più recenti continuano a mettere sotto pressione i sistemi di rilevamento. Per questo la strategia punta sulla ridondanza, con molti strumenti che lavorano in parallelo e si aggiornano di continuo.
