最近,多所知名大學(xué)和研究機(jī)構(gòu)的研究人員共同提出了 EMAGE 框架,旨在從音頻和掩碼手勢生成全身人類手勢。
EMAGE技術(shù)能實現(xiàn)輸入音頻生成全身動作,包括頭部、嘴型、身體、手部和整體運(yùn)動,跟之前Meta的audio2photoreal很像。用戶只要上傳音頻(小于60秒),然后點(diǎn)擊提交,輸出結(jié)果將在輸出中呈現(xiàn)3分鐘。
他們引入了新的全面共話數(shù)據(jù)集 BEATX,該數(shù)據(jù)集結(jié)合了 MoShed SMPLX 身體和 FLAME 頭部參數(shù),進(jìn)一步提高了建模質(zhì)量,特別是對頭部、頸部和手指動作的建模。EMAGE 在訓(xùn)練過程中利用了掩碼手勢的先驗信息,以提高推斷性能。該框架包括一個 Masked Audio Gesture Transformer,有助于聯(lián)合訓(xùn)練音頻到手勢生成和掩碼手勢重建,有效地編碼音頻和身體手勢提示。從掩碼手勢中編碼的身體提示隨后分別用于生成面部和身體動作。
此外,EMAGE 自適應(yīng)地合并了音頻的節(jié)奏和內(nèi)容的語音特征,并利用了四個組合 VQ-VAE 來增強(qiáng)結(jié)果的保真度和多樣性。實驗證明,EMAGE 具有最先進(jìn)的性能,能夠生成具有完整的、音頻同步的整體手勢。
EMAGE 技術(shù)的問世將在各個領(lǐng)域產(chǎn)生深遠(yuǎn)影響,其中包括但不限于教育、醫(yī)療、娛樂等領(lǐng)域。研究團(tuán)隊表示,他們的代碼和數(shù)據(jù)集已經(jīng)公開提供,供學(xué)術(shù)和工業(yè)界使用。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。