AnimatableDreamer：2D視頻素材一鍵轉(zhuǎn)換成4D動(dòng)態(tài)立體模型

　　1月19日 消息:目前內(nèi)容產(chǎn)業(yè)的數(shù)據(jù)積累在3D 模型和4D 動(dòng)畫(huà)等方面仍較為薄弱。為了滿足即將到來(lái)的多維沉浸式體驗(yàn)，清華系創(chuàng)業(yè)團(tuán)隊(duì)生數(shù)科技近期聯(lián)合清華大學(xué)、同濟(jì)大學(xué)等高校推出了全球首個(gè)基于「骨骼動(dòng)畫(huà)」的4D 動(dòng)畫(huà)生成框架「AnimatableDreamer」。

　　這一框架能夠直接將2D 視頻素材一鍵轉(zhuǎn)換成動(dòng)態(tài)立體模型，同時(shí)支持通過(guò)文字輸入進(jìn)行個(gè)性化角色生成。簡(jiǎn)單的說(shuō)，「AnimatableDreamer」的提出直接打通文本到4D 骨骼動(dòng)畫(huà)的生成，建模、貼圖、骨骼綁定、動(dòng)作驅(qū)動(dòng)。輸入自然語(yǔ)言描述，自動(dòng)輸出立體動(dòng)畫(huà)視頻，普通人也能直接上手，輕松定制動(dòng)畫(huà)內(nèi)容。以下為生成的動(dòng)物模型:

　　傳統(tǒng)的制作立體動(dòng)畫(huà)流程需要經(jīng)過(guò)復(fù)雜的3D 建模、貼圖渲染、骨骼綁定和動(dòng)畫(huà)制作等步驟，效率低且成本高昂。而「AnimatableDreamer」可以自動(dòng)提取視頻中目標(biāo)對(duì)象的骨骼動(dòng)作，并通過(guò)文本描述將該對(duì)象轉(zhuǎn)換為任意的帶骨骼動(dòng)畫(huà)模型。這一過(guò)程不受模版限制，支持任意視頻長(zhǎng)度和任意類(lèi)型的動(dòng)作，并且導(dǎo)出的動(dòng)態(tài)立體模型能夠在任意3D 環(huán)境中進(jìn)行渲染。

　　該團(tuán)隊(duì)創(chuàng)新地提出了規(guī)范得分蒸餾策略(Canonical Score Distillation，簡(jiǎn)稱(chēng) CSD)，實(shí)現(xiàn)了文本到4D 骨骼動(dòng)畫(huà)的生成。通過(guò)在相機(jī)空間中對(duì)不同幀及不同視角的3D 模型進(jìn)行渲染和降噪，并將梯度回傳至規(guī)范空間中進(jìn)行蒸餾，「AnimatableDreamer」能夠生成具有高度時(shí)間一致性和幾何合理性的模型。無(wú)論是在有限視角還是大幅度運(yùn)動(dòng)的場(chǎng)景中，該框架都能自動(dòng)補(bǔ)全畫(huà)面信息，實(shí)現(xiàn)較好的生成質(zhì)量。

　　「AnimatableDreamer」的推出將大大降低3D、4D 數(shù)字內(nèi)容的生產(chǎn)難度，豐富交互體驗(yàn)，并讓每個(gè)人都能夠進(jìn)行創(chuàng)意內(nèi)容的生成和編輯。未來(lái)，用戶可以在虛擬世界中快速搭建自定義的數(shù)字空間，打造個(gè)性化的交互體驗(yàn)。而對(duì)于游戲開(kāi)發(fā)和影視動(dòng)畫(huà)等領(lǐng)域的3D 建模和動(dòng)畫(huà)制作流程來(lái)說(shuō)，這一技術(shù)有望帶來(lái)更高的效率。

　　清華系創(chuàng)業(yè)團(tuán)隊(duì)生數(shù)科技在不到一年的時(shí)間里推出了多個(gè)產(chǎn)品，包括3D 資產(chǎn)創(chuàng)建工具 VoxCraft 和4D 骨骼動(dòng)畫(huà)生成框架「AnimatableDreamer」。這些技術(shù)的創(chuàng)新能力將為未來(lái)的多維數(shù)字體驗(yàn)和人機(jī)交互帶來(lái)更多可能性，從而開(kāi)啟全新的內(nèi)容娛樂(lè)與消費(fèi)模式。