Da Audrey al Deep Learning: L'Epica Storia del Riconoscimento Vocale

Poche tecnologie hanno percorso una strada così tortuosa come il riconoscimento vocale. Decenni prima che chiedessimo casualmente agli smartphone il meteo, la fantascienza sognava computer parlanti – dall'equipaggio di Star Trek che conversava con la loro astronave, all'HAL 9000 in 2001: A Space Odyssey. Trasformare quella fantasia in realtà ha richiesto generazioni di ricercatori, scoperte costanti e occasionali salti di fede. La voce può sembrare magica, ma dietro di essa c'è una storia di primi esperimenti, imprese sostenute dal governo, rivoluzioni statistiche e l'ascesa del deep learning. Questo post esplora quel viaggio epoca per epoca – le tecniche chiave, le persone, le aziende e le tappe fondamentali che ci hanno portato da un goffo aggeggio vocale degli anni 1950 alla precisione quasi umana dei sistemi di IA di oggi.
Sogni Antichi e le Prime Macchine Parlanti (anni 1950–1960)
La ricerca sul riconoscimento vocale iniziò davvero negli anni 1950, anche se il desiderio di comunicare con le macchine è ancora più antico. I Bell Laboratories aprirono la strada nel 1952 creando un dispositivo chiamato affettuosamente “Audrey” (Automatic Digit Recognizer). Audrey dei Bell Labs (1952) fu una macchina pionieristica per il riconoscimento vocale in grado di riconoscere cifre pronunciate da 0 a 9 – anche se solo con una singola voce (quella del suo creatore) e utilizzando un enorme circuito analogico. Audrey era impressionante per l'epoca: raggiungeva circa il 90% di precisione con la voce del suo inventore, ma le prestazioni calavano per altri parlanti. Il sistema doveva “imparare” un po' con la voce di ogni nuovo utente ed era ben lungi dall'essere pratico – era più alto di una persona, pieno di valvole termoioniche e consumava molta energia. Tuttavia, Audrey dimostrò che una macchina poteva ascoltare il parlato umano in modo limitato, riconoscendo un vocabolario semplice (cifre da zero a nove).
La dimostrazione dello “Shoebox” di IBM (1962) presentò un primo calcolatore a comando vocale che riconosceva 16 parole pronunciate (cifre e comandi di base). Un decennio dopo Audrey, IBM presentò il suo Shoebox alla Fiera Mondiale del 1962 – un aggeggio in grado di comprendere numeri da 0 a 9 e alcune parole di controllo (“più”, “meno”, “totale”, ecc.). Lo Shoebox era essenzialmente una macchina addizionatrice a controllo vocale. In tutto il mondo, esperimenti simili stavano germogliando: ricercatori in Inghilterra, Giappone e altrove costruirono sistemi prototipo in grado di riconoscere un insieme molto limitato di sillabe o parole. Entro la fine degli anni 1960, alcuni laboratori avevano hardware in grado di riconoscere un piccolo insieme di elementi fonetici (ad esempio, una manciata di vocali e consonanti) come trampolino verso le parole.
Questi primi sistemi erano hard-wired e specifici per un compito. Generalmente funzionavano solo per parole isolate (una alla volta, con pause in mezzo), e spesso solo per l'oratore che li aveva addestrati. Alla fine degli anni 1960, un brillante giovane ricercatore di nome Raj Reddy – allora dottorando a Stanford – osò affrontare una sfida più grande: far capire a un computer il parlato continuo senza pause. Utilizzando uno dei primi computer DEC PDP-1 con speciali convertitori analogico-digitali, Reddy costruì un rudimentale riconoscitore di vocali e fu pioniere di tecniche per il riconoscimento del parlato continuo. Il suo lavoro lasciava intravedere un futuro in cui non si sarebbe dovuto…parlare…così…per farsi capire da una macchina. Tuttavia, le limitazioni tecnologiche degli anni 1950–60 erano severe: pochissimi transistor o memoria per gestire il diluvio di dati che il parlato genera, e nessun consenso ancora su come programmare una macchina per decodificare le complessità del linguaggio umano. Ma tutto ciò stava per cambiare grazie alla spinta di un nuovo sponsor: il Dipartimento della Difesa degli Stati Uniti.
Gli anni 1970: Finanziamenti Militari e la Svolta Statistica
Nel 1971, la DARPA (Defense Advanced Research Projects Agency) lanciò un audace programma quinquennale per stimolare progressi nella comprensione del parlato. L'obiettivo era ambizioso – un sistema che potesse riconoscere almeno 1,000 parole (all'incirca il vocabolario di un bambino di 3 anni) entro la metà degli anni 1970. Diverse istituzioni di alto livello, tra cui la Carnegie Mellon University (dove Raj Reddy era diventato professore), furono finanziate per esplorare approcci diversi. A quel tempo, due filosofie del riconoscimento vocale erano in competizione:
-
Template Matching: Un approccio prevedeva che il computer memorizzasse modelli registrati di parole e tentasse di abbinare i suoni vocali in arrivo a quei modelli. Poiché le persone parlano a velocità diverse, fu utilizzata una tecnica chiamata dynamic time warping per allungare o comprimere l'asse temporale dei pattern registrati per allinearli al nuovo input. Pensatelo come un gioco di abbinamento fonetico – se la forma d'onda in arrivo di "hello" sembrava una versione a velocità alterata di un "hello" memorizzato, allora veniva riconosciuta. Funzionava bene per vocabolari molto piccoli, ma faticava man mano che i vocabolari crescevano o il parlato variava.
-
IA basata su regole con conoscenza linguistica: Un altro approccio tentò di incorporare la conoscenza umana del linguaggio. I ricercatori scrissero complesse regole linguistiche – regole fonetiche per i suoni, regole lessicali per le parole, regole sintattiche per le frasi, ecc. – per guidare il riconoscimento. Il sistema avrebbe analizzato il parlato a più livelli e tentato di “indovinare” la migliore interpretazione applicando queste regole, un po' come un sistema esperto. Questo era intellettualmente attraente, poiché rispecchiava come un linguista avrebbe potuto affrontare il problema, ma era estremamente difficile costruire un insieme completo di regole per il parlato del mondo reale.
All'inizio, molti esperti credevano che solo integrando l'intelligenza linguistica si sarebbe potuto migliorare il riconoscimento vocale. Tuttavia, una intuizione fondamentale dalla teoria dell'informazione iniziò a far pendere la bilancia verso un approccio diverso. Claude Shannon, il padre della teoria dell'informazione, aveva dimostrato la prevedibilità nel linguaggio attraverso un famoso esperimento nel 1951. Fece provare a sua moglie Betty Shannon a indovinare il testo una lettera alla volta da un romanzo – una volta note alcune lettere, Betty riusciva a prevedere accuratamente molte delle lettere e parole rimanenti. Questo dimostrò che il linguaggio umano è altamente ridondante e statistico – certi suoni e parole sono molto più probabili dato il contesto di ciò che precede. Per il riconoscimento vocale, ciò significava che un computer poteva sfruttare probabilità e contesto per restringere le possibilità di ciò che una persona diceva, invece di affidarsi puramente alla corrispondenza letterale della forma d'onda o a regole create manualmente.
Abbracciare questa idea fu inizialmente controverso – sembrava “controintuitivo” per alcuni ingegneri che favorivano il ragionamento esplicito dell'IA. Ma man mano che i progetti DARPA progredivano, i metodi basati sulla statistica iniziarono a brillare. Il team della Carnegie Mellon, per esempio, costruì un sistema chiamato Harpy che raggiunse l'obiettivo del vocabolario di 1,000 parole entro il 1976. Harpy introdusse una tecnica chiamata beam search per cercare efficientemente attraverso possibili sequenze di parole e valutare quali avessero senso nel contesto. Essenzialmente, Harpy poteva riconoscere intere frasi e usare un modello linguistico (un modello statistico di sequenze di parole) per decidere tra interpretazioni ambigue dei suoni. Questo fu un enorme balzo: Harpy poteva comprendere non solo parole isolate ma il parlato continuo in frasi, limitato al suo vocabolario. Il suo lessico di 1,011 parole e la sua intelligente strategia di decodifica erano paragonabili alle capacità di un bambino piccolo – un bambino di tre anni che non si distrae mai.
Allo stesso tempo, un giovane ricercatore di nome James “Jim” Baker (e sua moglie Janet Baker) stava lavorando a un altro progetto finanziato dalla DARPA alla CMU. In 1974, svilupparono il sistema DRAGON, che fece il passo audace di utilizzare una modellazione puramente statistica per il parlato. La tesi di dottorato di Jim Baker nel 1975 introdusse l'uso dei Modelli di Markov Nascosti (HMM) per il riconoscimento vocale – un framework probabilistico che tratta i suoni del parlato come una sequenza di stati statistici. In un sistema basato su HMM, non si tenta di confrontare con precisione un modello registrato. Invece, il computer viene addestrato su dati di esempio per stimare le probabilità che certi suoni o parole si verifichino in sequenza. Se vi sembra astratto, un esempio intuitivo è: immaginate di cercare di capire il parlato attutito di un amico considerando quali parole probabilmente stia dicendo nel contesto. Gli HMM hanno fornito al riconoscimento vocale un potente modo matematico per fare proprio questo – modellare l'incertezza nei suoni e decidere la sequenza di parole più probabile. Il sistema Dragon dei coniugi Baker dimostrò che il riconoscimento del parlato continuo con ampio vocabolario era possibile con questo approccio statistico. Fu un punto di svolta: dimostrò che si poteva "insegnare" alla macchina usando dati e probabilità, invece di programmarla con infinite regole linguistiche.
Diversi altri sistemi notevoli emersero dallo sforzo DARPA degli anni 1971–76. Hearsay-II, per esempio, esplorò un'architettura ibrida a "lavagna" in cui molteplici fonti di conoscenza (fonetica acustica, sintassi, semantica, ecc.) collaboravano tutte alla decodifica del parlato, scrivendo le loro ipotesi parziali su una lavagna virtuale perché altri le perfezionassero. Fu un primo tentativo di combinare gli approcci statistici e basati sulla conoscenza – sebbene elegante, era complesso e computazionalmente pesante per l'epoca. Alla fine degli anni 1970, grazie a questi progetti, il campo aveva dimostrato che la comprensione automatica del linguaggio parlato era fattibile, almeno in domini limitati. Ma le prestazioni erano ancora lungi dall'essere perfette, e al di fuori del laboratorio questi sistemi non erano ancora pratici. Tuttavia, il palcoscenico era pronto per rapidi miglioramenti con la crescita della potenza di calcolo nei decenni successivi.
Gli anni 1980: l'ascesa dei Modelli di Markov Nascosti
Gli anni 1980 videro il riconoscimento vocale spostarsi decisamente verso i metodi statistici, in particolare i modelli di Markov nascosti. Un grande catalizzatore fu un altro ciclo di investimenti del governo statunitense nella ricerca sul parlato a partire dal 1984, unito alla creazione di dataset standard e benchmark di valutazione. Organizzazioni come il National Institute of Standards and Technology (NIST) coordinarono test annuali su database comuni, il che stimolò la competizione e progressi misurabili tra i gruppi di ricerca (presso CMU, SRI, BBN, MIT, Bell Labs e altri). Per la prima volta, tutti parlavano la stessa lingua – usando letteralmente gli stessi corpora di test – il che consentiva un confronto diretto delle tecniche e un'iterazione rapida.
Durante questo periodo, gli algoritmi Hidden Markov Model (HMM) divennero la tecnologia dominante per il riconoscimento vocale. Gli HMM si rivelarono un abbinamento perfetto per la natura sequenziale e variabile del parlato. Suddividendo le parole pronunciate in frame (minuscole fette temporali) e modellando statisticamente la probabilità dei vari suoni e delle transizioni, i sistemi basati su HMM potevano “apprendere” i pattern acustici dai dati. Altrettanto importante, potevano incorporare modelli linguistici – probabilità di sequenze di parole – per formulare ipotesi di trascrizione coerenti. Il risultato fu un grande balzo nella dimensione del vocabolario e nell'accuratezza: da poche centinaia di parole negli anni 1970 a diverse migliaia di parole verso la metà degli anni 1980. Per esempio, presso IBM, un team guidato da Fred Jelinek abbracciò pienamente l'approccio probabilistico. Svilupparono un sistema con il nome in codice Tangora, mirato alla dettatura d'ufficio, che entro il 1985 secondo quanto riportato poteva riconoscere un vocabolario di 20,000 parole usando HMM e modelli linguistici bigram/trigram. (Tangora fu opportunamente intitolata a un campione americano di velocità di battitura, sottolineando l'obiettivo di IBM di raggiungere una dettatura ad alta velocità ed efficiente.)
Nel frattempo, i coniugi Baker (Jim e Janet) lasciarono l'accademia per commercializzare le loro idee. Fondono Dragon Systems nel 1982, determinati a portare il riconoscimento vocale in prodotti reali. Un primo successo arrivò quando il software di Dragon fu concesso in licenza al PC Apricot nel 1984 – rendendo quel computer Apricot di fabbricazione britannica il primo personal computer con capacità di riconoscimento vocale integrate. Era primitivo per gli standard odierni (il sistema gestiva probabilmente un piccolo set di comandi), ma segnalò l'inizio del passaggio della tecnologia vocale dai laboratori di ricerca al mercato.
Una svolta importante alla fine degli anni '1980 fu il raggiungimento del riconoscimento indipendente dal parlante – sistemi che non dovevano più essere addestrati estensivamente sulla voce di un utente specifico. Nel 1987, Kai-Fu Lee, uno studente di dottorato sotto la guida di Raj Reddy, sviluppò CMU Sphinx, considerato il primo sistema di riconoscimento del parlato continuo indipendente dal parlante. Sphinx combinò il meglio delle innovazioni del decennio precedente: utilizzava gli algoritmi HMM dei Baker e la strategia di beam search di Harpy, ma ora un singolo sistema poteva adattarsi a molte voci senza riaddestramento individuale. Questo era cruciale; richiedere agli utenti di passare ore ad addestrare un sistema era stato un enorme ostacolo all'uso pratico. (Prima di Sphinx, alcuni sistemi richiedevano di ripetere migliaia di parole per addestrarli – una proposta difficile da vendere ai consumatori!) Con l'indipendenza dal parlante, la visione di un'interfaccia vocale generalmente utilizzabile si avvicinò molto di più. Alla fine degli anni '1980, il vocabolario dei sistemi leader era cresciuto enormemente, era possibile il parlato continuo con una complessità grammaticale moderata, e i tassi di errore continuavano a diminuire lentamente. Quella che un tempo era una grande sfida DARPA di 1,000 parole era cresciuta fino a un vocabolario di oltre 20,000 parole, e il riconoscimento si stava avvicinando ai normali ritmi del parlato umano.
Vale la pena notare che sullo sfondo degli anni '1980, alcuni ricercatori stavano sperimentando un approccio completamente diverso: le reti neurali artificiali. I primi modelli di reti neurali (come le reti neurali a ritardo temporale e le macchine di Boltzmann) furono provati su compiti vocali su piccola scala, come il riconoscimento dei fonemi, durante quest'epoca. Infatti, Geoffrey Hinton e altri svilupparono l'algoritmo di backpropagation a metà degli anni '1980, che in teoria poteva addestrare reti neurali multi-strato a classificare schemi complessi. Tuttavia, a quel tempo, le reti neurali non avevano ancora superato gli HMM regnanti. Le ragioni erano pratiche: la potenza di calcolo limitata e la scarsità di dati rendevano difficile per le reti neurali brillare al di là di piccole dimostrazioni. Come notò una storia dell'IA, le reti neurali attraversarono cicli di hype negli anni '60 e '80, ma caddero negli "inverni dell'IA" quando non riuscirono a soddisfare le aspettative con l'hardware dell'epoca. Così, per tutti gli anni '1980, l'azione nel riconoscimento del parlato rimase incentrata su modelli statistici accuratamente progettati e sull'ingegneria delle caratteristiche esperta. E quel lavoro diede i suoi frutti quando entrammo negli anni '1990 – il decennio in cui le macchine parlanti finalmente iniziarono a colpire il mercato dei consumatori.
Gli anni '1990: Dal laboratorio al consumatore (Rompere il silenzio)
All'inizio degli anni '1990, il riconoscimento vocale stava passando da argomento di ricerca di nicchia a qualcosa che poteva essere confezionato come prodotto commerciale. I personal computer erano diventati abbastanza veloci da eseguire motori vocali più semplici in tempo reale, e le aziende vedevano potenziale nel software di dettatura e nelle interfacce controllate vocalmente. La prima ondata di prodotti, tuttavia, presentava limiti significativi. Nel 1990, Dragon Systems rilasciò Dragon Dictate, acclamato come il primo prodotto di riconoscimento vocale per i consumatori. Girava su un PC di fascia alta e permetteva all'utente di inserire testo a voce… ma c'era un problema: bisognava parlare una… parola… alla… volta, facendo pause deliberate tra ogni parola. Questa modalità di “discorso discreto” era necessaria a causa della potenza di elaborazione limitata e di modelli meno avanzati – il discorso continuo era troppo difficile da gestire in tempo reale su un PC di quell'epoca. Nonostante questo stile innaturale, per alcuni utenti (soprattutto coloro che non potevano usare facilmente una tastiera) era rivoluzionario poter comporre testo a voce.
Nel corso degli anni '1990, arrivarono rapidi miglioramenti sia negli algoritmi che nell'informatica. I ricercatori affinarono i loro modelli HMM, aggiunsero migliori metodi di estrazione delle caratteristiche (come MFCC – coefficienti cepstrali in frequenza mel – che catturano le caratteristiche timbriche del parlato), e usarono corpora di addestramento più grandi. I computer, seguendo la legge di Moore, diventarono drasticamente più veloci e poterono gestire calcoli più complessi. Intorno alla metà degli anni '90, il sogno dell'input vocale continuo e naturale su un PC fu realizzato. Nel 1997, Dragon Systems lanciò Dragon NaturallySpeaking, che per la prima volta permise agli utenti di dettare in modo normale e fluido – fino a 100 parole al minuto – senza pause tra le parole. Non era perfetto (gli utenti facevano ancora un addestramento iniziale e il software funzionava meglio se si parlava chiaramente e in modo abbastanza costante), ma fu una svolta nell'usabilità. Nel suo primo anno, NaturallySpeaking fu un prodotto di grande successo, indicando una forte domanda di dettatura vocale nonostante le stranezze rimanenti. (Basta lesioni da stress ripetitivo dovute alla digitazione di lunghi documenti – ora potevi procurartele parlando al tuo computer!)
NaturallySpeaking non era da solo. IBM era stata attiva anch'essa, sfruttando la sua lunga storia nel settore. Nel 1996 IBM lanciò MedSpeak, un prodotto di riconoscimento vocale continuo pensato per i medici (per dettare note mediche) – considerato il primo sistema commerciale di riconoscimento vocale continuo per un dominio specifico. IBM seguì presto con un prodotto consumer di uso generale noto come IBM ViaVoice. Nel frattempo, Microsoft e Apple stavano anch'essi integrando il riconoscimento vocale di base nei loro sistemi operativi. Apple aveva una funzionalità chiamata PlainTalk (e un'interfaccia nota come "Speakable Items") entro la metà degli anni '90 che permetteva agli utenti di eseguire semplici comandi vocali su un Macintosh. Microsoft offriva un Speech SDK per Windows e nel 2000 integrò il riconoscimento vocale in Office XP, e successivamente in Windows stesso (Windows Vista nel 2007 veniva fornito con un riconoscimento vocale integrato migliorato). Questi sistemi integrati erano spesso capricciosi e poco utilizzati dai consumatori, ma segnalavano che il controllo vocale stava diventando una funzionalità standard piuttosto che una novità fantascientifica.
Un altro importante sviluppo degli anni 90 fu l'uso del riconoscimento vocale nella telefonia. Man mano che le linee telefoniche diventavano digitali e l'informatica diventava più economica, le aziende iniziarono a implementare servizi vocali automatizzati. Nel 1996, BellSouth (un operatore telefonico regionale) introdusse un servizio "voice portal" in cui i clienti potevano chiamare e navigare nei menu o ottenere informazioni parlando comandi. Se hai mai parlato con un albero telefonico ("Per favore dì o premi 1 per la fatturazione..."), hai sperimentato l'eredità di queste innovazioni degli anni 90. I primi sistemi telefonici avevano un vocabolario limitato (spesso solo numeri o sì/no, o un elenco fisso di opzioni), ma dimostravano che il riconoscimento vocale poteva gestire compiti come l'instradamento delle chiamate e il recupero di informazioni a mani libere. Questi sistemi di risposta vocale interattiva (IVR) si moltiplicarono, e negli anni 2000 molte aziende li utilizzavano per automatizzare il servizio clienti – a volte con frustrazione dei clienti, ma anche riducendo i tempi di attesa per le richieste di base.
Entro la fine degli anni 1990, lo stato dell'arte nel riconoscimento vocale vantava numeri impressionanti per l'epoca: dimensioni del vocabolario nell'ordine di decine di migliaia di parole, capacità di riconoscimento del parlato continuo indipendente dal parlante e tassi di errore sulle parole in costante calo. Tuttavia, l'esperienza tipica di un utente poteva comportare un'accuratezza compresa tra 80 e 95% in buone condizioni. Infatti, intorno al 2001 l'accuratezza media sul parlato generico era solo di circa 80% – il che significa che una parola su cinque veniva riconosciuta erroneamente senza parlare con cura o rileggere. Quel livello di accuratezza non era sufficiente per molte applicazioni (immaginate di dover correggere ogni quinta parola in una trascrizione), il che significava che la tecnologia vocale, pur essendo molto migliorata, non era ancora pienamente “arrivata” come interfaccia ubiqua. Restavano molte sfide: gli ambienti rumorosi mettevano in difficoltà i sistemi, così come il parlato con accento marcato o le conversazioni naturali rapide. Il sogno di un riconoscimento vocale impeccabile, a livello umano era ancora all'orizzonte. Poco sapevamo che un nuovo approccio nel decennio successivo avrebbe finalmente spinto le prestazioni a quel livello tanto sfuggente.
Gli anni 2000: Big Data e la lenta risalita verso una migliore accuratezza
Gli anni 2000 furono un po' un insieme eterogeneo per il riconoscimento vocale. Da un lato, la tecnologia divenne più ampiamente disponibile – integrata nei sistemi operativi, usata nei call center, impiegata in mercati di nicchia come la trascrizione medica. Dall'altro, il progresso sembrava incrementale. Per la maggior parte del decennio non ci furono scoperte fondamentali paragonabili all'introduzione degli HMM negli anni ’70 o ai grandi balzi negli anni ’80. Invece, costanti miglioramenti ingegneristici ridussero gradualmente i tassi di errore. Entro il 2001, come osservato, l'accuratezza tipica si aggirava intorno al 80% per la dettatura non vincolata. Portare quel numero più in alto si stava rivelando difficile con gli approcci esistenti.
Tuttavia, diverse tendenze negli anni 2000 prepararono il terreno per la rivoluzione imminente:
-
Potenza di calcolo e connettività cloud: I personal computer continuavano a diventare più veloci, ma cosa ancora più importante, a metà degli anni 2000 si assistette all'ascesa di internet e del cloud computing. Ciò significava che il riconoscimento vocale poteva essere eseguito su potenti server anziché sul dispositivo dell'utente. Invece di essere limitati dalla CPU del proprio PC domestico o dei primi smartphone, i dispositivi potevano registrare la voce, inviarla attraverso la rete e ricevere indietro il testo riconosciuto da una potente server farm. Questo offloading del calcolo fu fondamentale. Ad esempio, nel 2008 Google lanciò un servizio telefonico di informazioni gratuito chiamato GOOG-411 e poco dopo un'app per smartphone per la ricerca vocale. Quando si pronunciava una query nell'app Google, la voce veniva inviata ai datacenter di Google, dove avveniva il riconoscimento. L'approccio cloud permetteva di applicare risorse di calcolo e dataset enormi, ben oltre ciò che qualsiasi dispositivo individuale potesse gestire all'epoca.
-
Esplosione dei dati: L'altro vantaggio che aziende come Google avevano erano i dati – tantissimi dati. Nel corso degli anni 2000, Google indicizzava il web e allo stesso tempo imparava silenziosamente dal testo di miliardi di query di ricerca. Tutto quel testo – trilioni di parole – contribuiva ad addestrare modelli linguistici migliori. Alla fine degli anni 2000, il sistema di riconoscimento vocale inglese di Google era supportato da un modello linguistico che incorporava 230 miliardi di parole di query e testi del mondo reale. Ciò significava che quando si diceva qualcosa di ambiguo, il sistema aveva un'enorme conoscenza statistica di quali frasi o sequenze di parole fossero probabili. Ad esempio, "sa" che "New York" è molto più comune di "gnue fork", quindi anche se l'acustica è un po' poco chiara, il modello linguistico lo guida verso l'interpretazione corretta. Questo approccio big data iniziò a dare al riconoscimento vocale un notevole miglioramento in accuratezza durante compiti come la ricerca vocale, dove il contesto e la probabilità contano molto.
-
Dispositivi mobili e assistenti vocali: alla fine del decennio emerse un nuovo paradigma: la voce come interfaccia per i telefoni cellulari. I primi smartphone e PDA avevano schermi piccoli e pulsanti minuscoli, quindi l'input vocale era attraente. L'iPhone di Apple (2007) ha reso popolare lo smartphone moderno e, non molto tempo dopo, la voce è arrivata di conseguenza. Nel 2011, Apple ha introdotto Siri, l'assistente vocale controllato sull'iPhone. Siri non solo poteva riconoscere il parlato, ma anche interpretare l'intento dell'utente (grazie alle tecniche di comprensione del linguaggio naturale) ed eseguire attività come inviare messaggi o recuperare informazioni. Siri fu rapidamente seguito dall'assistente vocale di Google e infine da Alexa di Amazon nel 2014 (che viveva nell'Echo, uno smart speaker autonomo). Improvvisamente, parlare a una macchina passò da attività di nicchia a esperienza consumer mainstream: milioni di persone chiedevano indicazioni ai loro telefoni o chiedevano ai loro smart speaker di riprodurre musica. Questa impennata di utilizzo negli anni 2010 fornì ancora più dati, creando un circolo virtuoso: più utenti che parlavano significava più dati per migliorare i sistemi, che a loro volta li rendevano più accurati e utili, attraendo ancora più utenti.
Alla fine degli anni 2000, il riconoscimento vocale era indubbiamente migliorato, ma la vera svolta doveva ancora arrivare. Molti nel settore sentivano che il progresso si era stabilizzato con le tecniche esistenti (HMM con caratteristiche e modelli linguistici accuratamente progettati). I tassi di errore erano bloccati nell'intervallo 10–20% per i compiti difficili. C'era la sensazione che potesse essere necessario un approccio fondamentalmente nuovo per raggiungere quell'ultimo miglio delle prestazioni a livello umano. Come si è scoperto, i semi di quel nuovo approccio erano già stati piantati, sotto forma di reti neurali profonde, che stavano per fare uno spettacolare ritorno negli anni 2010.
La prima rivoluzione del deep learning (anni 2010): le reti neurali contrattaccano
L'anno 2009 è spesso citato come un punto di svolta nel riconoscimento vocale. Dopo anni di letargo, i modelli di rete neurale fecero un ritorno fragoroso, questa volta armati di una potenza di calcolo e di volumi di dati molto maggiori rispetto agli anni 1980. Un team di ricercatori guidato da Geoffrey Hinton dimostrò che una nuova generazione di reti neurali profonde (DNN) poteva superare significativamente i vecchi metodi nei compiti di riconoscimento vocale. Ci riuscirono usando il deep learning: reti neurali con molti strati di neuroni artificiali, addestrate su dataset molto grandi. Come superarono i limiti precedenti? In termini semplici, tre cose erano cambiate:
-
Pre-addestramento non supervisionato: Hinton e colleghi introdussero un modo per "pre-addestrare" le reti profonde uno strato alla volta utilizzando le Macchine di Boltzmann Ristrette (RBM) – insegnando essenzialmente a ciascuno strato di estrarre caratteristiche utili dai dati audio prima di mettere a punto l'intera rete. In 2009, dimostrarono che impilare queste RBM poteva produrre miglioramenti drastici nell'accuratezza del parlato. Questo astuto trucco di addestramento aiutò a risolvere il problema di come addestrare efficacemente reti molto profonde (che in precedenza era molto difficile a causa di problemi come la scomparsa del gradiente).
-
Più dati: In 2010, c'erano molti più dati audio digitali disponibili per l'addestramento – ore e ore di parlato trascritto da progetti, archivi e dal web. Il deep learning prospera con i big data. Più esempi la rete può usare per apprendere, meglio può ottimizzare i suoi molti parametri. Questa disponibilità di dati era qualcosa che i pionieri negli anni '80 semplicemente non avevano.
-
Maggiore potenza di calcolo (soprattutto GPU): Gli anni 2010 videro un'esplosione nell'uso delle unità di elaborazione grafica (GPU) per il calcolo general-purpose. Le GPU si rivelarono eccellenti per il tipo di calcoli paralleli e ad alta intensità di matrici che le reti neurali richiedono. Ciò significava che quello che negli anni '90 richiedeva settimane su una CPU poteva essere fatto in ore su un cluster di GPU entro 2010. Come disse un'analisi, la combinazione di algoritmi migliorati, enormi dati di addestramento e processori potenti permise al deep learning di diventare finalmente praticabile su scala industriale.
L'impatto sul riconoscimento del parlato fu immediato e profondo. Invece di progettare meticolosamente caratteristiche come gli MFCC, i ricercatori potevano alimentare spettrogrammi audio relativamente grezzi in una rete neurale profonda, e la rete avrebbe appreso le proprie caratteristiche – sottili rappresentazioni dei suoni del parlato ottimizzate per il riconoscimento. Questi modelli profondi iniziarono a superare i tradizionali sistemi HMM con modelli a miscela gaussiana con un margine considerevole. In alcuni casi, i tassi di errore diminuirono di 20–30% in modo relativo da un giorno all'altro quando si passava a un modello acustico basato su DNN.
Intorno al 2012, sia Microsoft che Google avevano implementato reti neurali profonde nei loro sistemi di riconoscimento vocale in produzione per attività come la ricerca vocale. I risultati erano tangibili per gli utenti – improvvisamente il tuo smartphone o il software di dettatura era molto migliore nel comprenderti. I ricercatori di Microsoft riferirono che il passaggio a una rete neurale profonda per la modellazione acustica aveva quasi dimezzato il loro tasso di errore su un benchmark impegnativo. Allo stesso modo Google notò un salto significativo di precisione nell'input vocale di Android in quel periodo, grazie alle DNN. I vecchi sistemi HMM non furono completamente scartati – inizialmente, la ricetta più efficace era un approccio ibrido: usare una DNN per stimare le probabilità dei fonemi (unità sonore di base) dall'audio, e alimentarle in un framework HMM che imponeva ancora la sequenza temporale e si collegava a un modello linguistico. Questo approccio ibrido DNN-HMM dominò la prima metà degli anni 2010 e fu implementato in praticamente ogni grande servizio vocale.
I numeri raccontano la storia. Intorno al 2015, i tassi di errore a livello di parola (WER) su test standard come Switchboard (un corpus di conversazioni telefoniche reali) si avvicinavano a una cifra singola. Nel 2016, IBM annunciò di aver raggiunto un WER del 6.9%, un minimo record per l'epoca. Solo un anno dopo, Microsoft riferì di aver raggiunto il 5.9%, che secondo loro era all'incirca alla pari con i trascrittori umani professionisti (per quel test). Poco dopo, IBM rispose con il 5.5%, e poi Microsoft e altri lo portarono ancora più in basso. Entro il 2017, Microsoft aveva raggiunto circa il 5.1% di errore – raggiungendo essenzialmente quella che chiamarono la "parità umana" nel riconoscimento del parlato conversazionale. E Google non era molto indietro; un rapporto Internet Trends del 2017 mostrò che il sistema vocale di Google raggiungeva circa il 95% di precisione, che equivale all'incirca al tasso di errore di un ascoltatore umano che trascrive il parlato quotidiano. In meno di un decennio, il deep learning aveva ridotto drasticamente il tasso di errore dal problematico intervallo ~20% fino a ~5%. Questo fu un risultato storico – finalmente, usare il riconoscimento vocale poteva essere affidabile quanto inviare il proprio audio a un trascrittore umano (in determinati scenari).
Entro il 2017, i sistemi di riconoscimento vocale avevano raggiunto circa il 95% di precisione sui test di benchmark – all'incirca equivalente alla precisione dei trascrittori umani in condizioni simili. Questo rapido miglioramento, visibile nel tasso di errore in calo (più alto è peggio) sul grafico, fu guidato dall'avvento delle reti neurali profonde.
L’effetto di questa svolta non fu solo accademico – fu percepito dai consumatori. Improvvisamente, le interfacce vocali passarono da goffe e soggette a errori a genuinamente utili. Fu il periodo in cui Alexa di Amazon, l’Assistente di Google, Cortana di Microsoft e il migliorato Siri di Apple si contendevano tutti la supremazia. Questi assistenti non sarebbero stati sostenibili pochi anni prima con tassi di errore più elevati; entro il 2016 erano abbastanza buoni che milioni di persone iniziarono a fare affidamento su di essi per le attività quotidiane. È significativo che entro la fine degli anni 2010, parlare con le macchine divenne normale. Le auto avevano il controllo vocale, gli smartphone ti incoraggiavano a dettare i messaggi, e servizi come l’auto-trascrizione dei messaggi vocali o dei video divennero più accurati e convenienti. Il riconoscimento vocale era ufficialmente ovunque.
Tuttavia, la storia del deep learning non finì con quelle prime DNN. I ricercatori continuarono a innovare, spingendo i confini di ciò che i sistemi di riconoscimento vocale potevano fare.
L’era moderna: modelli end-to-end e oltre
Dopo il successo iniziale dei sistemi ibridi DNN-HMM, il campo del riconoscimento vocale si mosse verso approcci di deep learning ancora più integrati. Invece di avere moduli separati (modello acustico, dizionario di pronuncia, modello linguistico) avvitati insieme, i ricercatori si chiesero: Possiamo addestrare un’unica grande rete neurale a mappare direttamente le forme d’onda vocali in trascrizioni testuali? La risposta, alla fine, fu sì – questi sono noti come modelli di riconoscimento vocale end-to-end. A partire circa dal 2014, una raffica di ricerche dimostrò che l’addestramento end-to-end non era solo possibile, ma poteva eguagliare le prestazioni delle vecchie pipeline, dati dati a sufficienza.
Uno dei primi metodi end-to-end utilizzava un approccio chiamato Connectionist Temporal Classification (CTC), pionierizzato da Alex Graves. CTC permetteva a una RNN (rete neurale ricorrente) di apprendere da sola gli allineamenti tra audio e testo di output, senza bisogno di dati di addestramento pre-segmentati. Nel 2014, Graves e colleghi dimostrarono una RNN basata su CTC che poteva trascrivere il parlato in caratteri direttamente. In essenza, la rete imparava ad “ascoltare” e compitare la frase un carattere alla volta, gestendo internamente le lunghezze variabili e la temporizzazione. Tuttavia, i primi modelli CTC avevano un difetto: assumevano l’indipendenza tra i caratteri di output, il che significava che si affidavano ancora a un modello linguistico esterno per correggere l’output finale (per garantire che la frase avesse senso). A volte facevano errori di ortografia buffi o producevano un testo senza senso senza quell’aiuto extra.
Il passo successivo arrivò con i modelli sequence-to-sequence basati sull'attenzione. In 2016, ricercatori provenienti dal mondo accademico e industriale (ad esempio presso Carnegie Mellon, Google Brain e l'Università di Montreal) introdussero sistemi con un'architettura encoder-decoder che utilizzava un meccanismo di attenzione. Battezzato appropriatamente “Listen, Attend and Spell”, questo approccio prevedeva una rete encoder che digeriva l'audio in ingresso in una rappresentazione di caratteristiche di alto livello, e poi una rete decoder che presta attenzione all'output dell'encoder e genera i caratteri del testo uno alla volta – di fatto “compitando” il parlato riconosciuto. Il meccanismo di attenzione permetteva al modello di concentrarsi dinamicamente su diverse parti dell'audio mentre produceva ogni carattere, il che è un po' come un trascrittore umano che ascolta e scrive simultaneamente, tenendo traccia della posizione. Questi modelli basati sull'attenzione non richiedevano un lessico di pronuncia separato o un modello linguistico; teoricamente potevano apprendere tutto dalla mappatura diretta audio-testo. Entro la fine del 2016, tali modelli avevano eguagliato e persino superato i sistemi basati su CTC su alcuni benchmark. E, cosa importante, un modello end-to-end è più semplice da distribuire – non è necessario, ad esempio, portare un modello linguistico n-gram da 5 GB sul proprio telefono. Ciò rese praticabile per la prima volta pensare al riconoscimento vocale on-device, allettante per la privacy e l'uso offline.
Da allora, abbiamo assistito a continui perfezionamenti: varianti come i RNN-Transducers (che combinano idee di CTC e attenzione), e l'adozione di architetture neurali più recenti come le Reti Neurali Convoluzionali (CNN) e i Transformer per il parlato. Ad esempio, nel 2019 NVIDIA annunciò modelli end-to-end (con nomi accattivanti come Jasper e QuartzNet) fortemente ottimizzati con strati CNN, raggiungendo tassi di errore di parola intorno a 3% su alcuni set di test. Tali numeri si stanno avvicinando al punto in cui gli ultimi errori potrebbero persino essere dovuti al fatto che la trascrizione umana conteneva errori! Inoltre, modelli basati su transformer con self-attention (famosi per aver rivoluzionato l'elaborazione del testo) sono stati applicati al parlato con grande successo, fornendoci sistemi più veloci e persino più accurati negli anni 2020.
Un'altra tendenza moderna è lo sfruttamento dell'apprendimento non supervisionato e semi-supervisionato. Sistemi recenti come wav2vec 2.0 di Facebook (per citare un esempio) possono apprendere da audio non etichettato ascoltando essenzialmente milioni di ore di parlato senza trascrizioni e apprendendo la struttura del suono. Poi, con una quantità minore di dati etichettati, vengono messi a punto per eseguire la trascrizione. Questo affronta un problema chiave: la maggior parte delle lingue del mondo non dispone di enormi dataset trascritti su cui addestrarsi. L'apprendimento auto-supervisionato e il transfer learning consentono a un modello addestrato su una lingua (o su audio generico) di essere adattato a un'altra lingua o a un dominio speciale con molti meno dati. Questo è cruciale per diffondere il riconoscimento vocale di alta qualità oltre le lingue principali e in più applicazioni.
Oggi, il riconoscimento vocale è davvero una parte della vita quotidiana. È nelle nostre tasche, nelle nostre cucine, nelle nostre auto e persino ci risponde. Gli assistenti virtuali lo usano per impostare timer e rispondere a domande; il software di dettatura trascrive riunioni e note dei medici; i bot del servizio clienti smistano le chiamate; i dispositivi a controllo vocale abbondano. L'approccio del deep learning ha reso il riconoscimento sia ultra-accurato che in tempo reale. Molti sistemi ora funzionano interamente sul dispositivo (senza bisogno di internet) per velocità e privacy, mentre altri usano il cloud per gestire l'elaborazione pesante e migliorare continuamente. In effetti, i moderni servizi vocali basati su cloud spesso svolgono un duplice ruolo: servono l'utente convertendo il parlato in testo, e allo stesso tempo imparano dall'utente (in modo anonimo) aggiungendo quel frammento di audio e il suo risultato a dati di addestramento in continua crescita. Ogni volta che usi la dettatura vocale o parli con Alexa, c'è una buona probabilità che quei dati stiano aiutando a perfezionare i modelli dietro le quinte. In un certo senso, i riconoscitori vocali di oggi non finiscono mai di imparare – migliorano un pochino con ogni voce che ascoltano, proprio come un essere umano che acquisisce esperienza.
Naturalmente, la ricerca non è finita. Nonostante progressi incredibili, le sfide rimangono. Il linguaggio umano è meravigliosamente diverso, e l'IA a volte fatica con questo. Forti accenti regionali o dialetti possono ancora confondere un sistema che non è stato addestrato su di essi. Il rumore di fondo e le situazioni con più parlanti (come trascrivere una vivace conversazione a cena) sono ancora scenari difficili. E mentre un pugno di lingue principali (inglese, mandarino, spagnolo, ecc.) godono di un riconoscimento quasi all'avanguardia, ci sono migliaia di lingue (e molti più dialetti) per le quali un buon riconoscimento vocale non è ancora disponibile. La prossima frontiera è estendere la tecnologia a tutte le persone e a tutte le lingue, possibilmente costruendo dataset più inclusivi o usando tecniche di apprendimento cross-linguistico.
Tuttavia, la traiettoria del riconoscimento vocale offre ampie ragioni per essere ottimisti. Nell'arco di 70+ anni siamo passati da una macchina che a malapena riconosceva dieci cifre isolate a un software in grado di trascrivere il parlato fluente con una precisione del 95–99% in tempo reale. Ogni epoca si è costruita sulla precedente: i primi inventori dimostrarono che il parlato poteva essere catturato; l'era DARPA introdusse la potenza della modellazione probabilistica; gli anni 1980 consolidarono gli algoritmi statistici su larga scala; gli anni 1990 lo resero accessibile ai consumatori; e gli anni 2010 inaugurarono le macchine che apprendono che hanno finalmente decifrato il codice delle prestazioni a livello umano. È una storia di innovazione persistente, con progressi che spesso avvengono a singhiozzo – lenti decenni di ricerca seguiti da improvvisi balzi quando l'informatica o gli algoritmi si sono allineati.
Da Audrey a Siri, dalle parole isolate a intere conversazioni, il riconoscimento vocale si è evoluto in una tecnologia matura e indispensabile. E continua a evolversi – man mano che i nostri dispositivi continuano ad ascoltare (e speriamo, capire), l'esperienza migliora bit dopo bit. Potremmo non avere ancora il computer completamente conversazionale dell'Enterprise di Star Trek, ma siamo più vicini che mai. Come ha giustamente osservato un esperto, i sistemi vocali basati sull'IA di oggi sono "dinamici e creativi quanto lo sono le lingue umane stesse", imparando e adattandosi continuamente mentre parliamo con loro. In altre parole, la storia del riconoscimento vocale è lungi dall'essere conclusa – ma che storia è stata finora.
Ulteriori letture e fonti
-
Computer History Museum. "Timeline of Speech Recognition Milestones" (Articolo)
-
Pierce, J.R. "Whither Speech Recognition?" – The Journal of the Acoustical Society of America (1969)
-
Zhou, B. "Speech Recognition: From Research to Practice" – Stanford EE 292C Lecture Notes (2017)
-
Jelinek, F. "Statistical Methods for Speech Recognition" – MIT Press (1997)
-
Schmidhuber, J. "Deep Learning in Neural Networks: An Overview" – Neural Networks (2015)
-
IBM Archives. "IBM Shoebox: Voice-Activated Calculator Demo" (Historical exhibit)
-
Rabiner, L. & Juang, B.H. "Fundamentals of Speech Recognition" – Prentice Hall (1993)
-
Meeker, M. "Internet Trends Report" – Kleiner Perkins (2017)
-
Norvig, P. "On Chomsky and the Two Cultures of Statistical Learning" – The Atlantic (2011)
-
Hinton, G. et al. "A Fast Learning Algorithm for Deep Belief Nets" – Neural Computation (2006)
-
Glass, J. "A Historical Perspective of Speech Recognition" – MIT Spoken Language Systems (2003)
-
Hannun, A. et al. "Deep Speech: Scaling up End-to-end Speech Recognition" (arXiv paper, 2014)
-
LeCun, Y., Bengio, Y., & Hinton, G. "Deep Learning" – Nature (2015)
-
Hinton, G. et al. "Deep Belief Networks for Acoustic Modeling" (PDF paper, 2012)
