Cartesia發(fā)布低延遲語音生成模型Sonic 要復(fù)刻ChatGPT實(shí)時語音聊天？

　　Cartesia 發(fā)布了一個名為 Sonic 的低延遲語音生成模型，該模型以其快速的推理速度和超低的延遲引起了廣泛關(guān)注。Sonic 的延遲僅為135毫秒，能夠生成具有逼真情感和表達(dá)能力的語音。用戶只需提供10秒的錄音，Sonic 即可模仿說話者的韻律、語調(diào)和聲音特征，并且可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音和速度。

　　Sonic模型特點(diǎn):

　　超低延遲:模型的延遲僅為135毫秒，這意味著它可以實(shí)時生成語音，非常適合聊天應(yīng)用。

　　情感表達(dá):Sonic能夠展現(xiàn)出人類的情感和表達(dá)能力，使對話更加自然和富有表現(xiàn)力。

　　快速模仿:僅需10秒的錄音，Sonic就能模仿說話者的韻律、語調(diào)和聲音特征。

　　可調(diào)節(jié)參數(shù):用戶可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音等參數(shù)，定制化語音輸出。

　　Cartesia 的目標(biāo)是打造能夠在任何設(shè)備上長期運(yùn)行的實(shí)時智能系統(tǒng)。為此，他們引入了創(chuàng)新的“狀態(tài)空間模型”(SSM)架構(gòu)，用于構(gòu)建下一代基礎(chǔ)模型。SSM 模型能夠處理任意大小的語境，并且可以原生地實(shí)時處理各種形式的模態(tài)。Cartesia 的創(chuàng)始人 Albert 和 Karan 在過去四年中共同開發(fā)了 SSM，這是一種更高效的 AI 模型構(gòu)建方法，能夠像人類一樣流式傳輸信息。

　　在實(shí)時對話型 AI 的開發(fā)方面，Cartesia 已經(jīng)取得了初步進(jìn)展。他們正在研發(fā)一個具有長期記憶、能夠?qū)崟r對話的 AI 計(jì)算平臺，該平臺可以解決復(fù)雜問題，為用戶帶來全新的體驗(yàn)。低延遲是構(gòu)建實(shí)時智能的一大挑戰(zhàn)，模型需要在接收到輸入時立即做出響應(yīng)。通過新的 SSM 架構(gòu)，Cartesia 提高了高分辨率模態(tài)(如音頻和視頻)的生成效率和低延遲性能。實(shí)驗(yàn)表明，與廣泛使用的 Transformer 模型相比，他們的模型在質(zhì)量、推理速度、吞吐量和延遲方面都有顯著改進(jìn)。

　　使用 SSM 架構(gòu)，Cartesia 訓(xùn)練了 Sonic 語音模型，該模型能以135毫秒的延遲生成高質(zhì)量、逼真的語音。為了實(shí)現(xiàn)低延遲和高吞吐量，他們優(yōu)化了 SSM 推理系統(tǒng)，從而以更低的成本提供高質(zhì)量的模型。Sonic 已經(jīng)發(fā)布，并提供了一個 Web Playground 和低延遲 API。用戶可以在 Playground 中使用多樣化的語音庫進(jìn)行應(yīng)用程序開發(fā)，包括客戶支持、娛樂和內(nèi)容創(chuàng)作，還支持即時克隆和語音設(shè)計(jì)(如調(diào)節(jié)速度和情感)。用戶也可以通過 API 訪問這些功能。

　　Cartesia 的下一個目標(biāo)是在未來一年內(nèi)實(shí)現(xiàn)原生多模態(tài)的實(shí)時智能，不僅局限于音頻領(lǐng)域。他們希望能夠?qū)崿F(xiàn)對任何形式的模態(tài)進(jìn)行即時理解和生成，進(jìn)一步推動實(shí)時智能的發(fā)展。