蘋果推出降噪語言模型DLM 用于糾正ASR系統(tǒng)中的錯(cuò)誤

　　蘋果最近推出了一項(xiàng)新的技術(shù)創(chuàng)新，去噪語言模型(DLM)，通過大量合成數(shù)據(jù)的訓(xùn)練，取得了超越以往的成就，實(shí)現(xiàn)了自動(dòng)語音識別(ASR)領(lǐng)域的最新性能水平。

　　這項(xiàng)技術(shù)的核心在于使用文本轉(zhuǎn)語音(TTS)系統(tǒng)創(chuàng)建音頻，并將其輸入ASR系統(tǒng)，通過這種方式產(chǎn)生了嘈雜的假設(shè)，與原始文本進(jìn)行配對，從而訓(xùn)練DLM。該方法的關(guān)鍵要素包括升級的模型和數(shù)據(jù)、多說話人TTS系統(tǒng)、各種噪聲增強(qiáng)策略以及新的解碼技術(shù)。

　　研究顯示，單個(gè)DLM可以應(yīng)用于不同的ASR系統(tǒng)，其性能顯著優(yōu)于傳統(tǒng)的基于語言模型(LM)的集束搜索重新評分方法。這一突破意味著精心設(shè)計(jì)的糾錯(cuò)模型可以取代傳統(tǒng)的LM，將ASR系統(tǒng)的準(zhǔn)確率提升到一個(gè)新的高度。尤其值得注意的是，DLM在LibriSpeech上實(shí)現(xiàn)了1.5%的字錯(cuò)誤率(WER)，這是不使用外部音頻數(shù)據(jù)時(shí)報(bào)告的最佳數(shù)字之一，證明了其卓越性能。

　　然而，DLM面臨的挑戰(zhàn)之一是需要大量的監(jiān)督訓(xùn)練示例，而這在典型的ASR數(shù)據(jù)集中是有限的。為了解決這一問題，DLM采用了使用TTS系統(tǒng)生成合成音頻的方法，從而擴(kuò)展了訓(xùn)練數(shù)據(jù)集的規(guī)模。這種創(chuàng)新性的做法為DLM的性能提升提供了更廣闊的空間，使其在ASR領(lǐng)域引領(lǐng)潮流。