Cartesia 發(fā)布了一個名為 Sonic 的低延遲語音生成模型,該模型以其快速的推理速度和超低的延遲引起了廣泛關(guān)注。Sonic 的延遲僅為135毫秒,能夠生成具有逼真情感和表達能力的語音。用戶只需提供10秒的錄音,Sonic 即可模仿說話者的韻律、語調(diào)和聲音特征,并且可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音和速度。
Sonic模型特點:
超低延遲:模型的延遲僅為135毫秒,這意味著它可以實時生成語音,非常適合聊天應(yīng)用。
情感表達:Sonic能夠展現(xiàn)出人類的情感和表達能力,使對話更加自然和富有表現(xiàn)力。
快速模仿:僅需10秒的錄音,Sonic就能模仿說話者的韻律、語調(diào)和聲音特征。
可調(diào)節(jié)參數(shù):用戶可以調(diào)節(jié)音調(diào)、速度、情感、發(fā)音等參數(shù),定制化語音輸出。
Cartesia 的目標(biāo)是打造能夠在任何設(shè)備上長期運行的實時智能系統(tǒng)。為此,他們引入了創(chuàng)新的“狀態(tài)空間模型”(SSM)架構(gòu),用于構(gòu)建下一代基礎(chǔ)模型。SSM 模型能夠處理任意大小的語境,并且可以原生地實時處理各種形式的模態(tài)。Cartesia 的創(chuàng)始人 Albert 和 Karan 在過去四年中共同開發(fā)了 SSM,這是一種更高效的 AI 模型構(gòu)建方法,能夠像人類一樣流式傳輸信息。
在實時對話型 AI 的開發(fā)方面,Cartesia 已經(jīng)取得了初步進展。他們正在研發(fā)一個具有長期記憶、能夠?qū)崟r對話的 AI 計算平臺,該平臺可以解決復(fù)雜問題,為用戶帶來全新的體驗。低延遲是構(gòu)建實時智能的一大挑戰(zhàn),模型需要在接收到輸入時立即做出響應(yīng)。通過新的 SSM 架構(gòu),Cartesia 提高了高分辨率模態(tài)(如音頻和視頻)的生成效率和低延遲性能。實驗表明,與廣泛使用的 Transformer 模型相比,他們的模型在質(zhì)量、推理速度、吞吐量和延遲方面都有顯著改進。
使用 SSM 架構(gòu),Cartesia 訓(xùn)練了 Sonic 語音模型,該模型能以135毫秒的延遲生成高質(zhì)量、逼真的語音。為了實現(xiàn)低延遲和高吞吐量,他們優(yōu)化了 SSM 推理系統(tǒng),從而以更低的成本提供高質(zhì)量的模型。Sonic 已經(jīng)發(fā)布,并提供了一個 Web Playground 和低延遲 API。用戶可以在 Playground 中使用多樣化的語音庫進行應(yīng)用程序開發(fā),包括客戶支持、娛樂和內(nèi)容創(chuàng)作,還支持即時克隆和語音設(shè)計(如調(diào)節(jié)速度和情感)。用戶也可以通過 API 訪問這些功能。
Cartesia 的下一個目標(biāo)是在未來一年內(nèi)實現(xiàn)原生多模態(tài)的實時智能,不僅局限于音頻領(lǐng)域。他們希望能夠?qū)崿F(xiàn)對任何形式的模態(tài)進行即時理解和生成,進一步推動實時智能的發(fā)展。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強大影響力。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。