AnimatableDreamer：2D視頻素材一鍵轉換成4D動態(tài)立體模型

　　1月19日 消息:目前內容產業(yè)的數(shù)據積累在3D 模型和4D 動畫等方面仍較為薄弱。為了滿足即將到來的多維沉浸式體驗，清華系創(chuàng)業(yè)團隊生數(shù)科技近期聯(lián)合清華大學、同濟大學等高校推出了全球首個基于「骨骼動畫」的4D 動畫生成框架「AnimatableDreamer」。

　　這一框架能夠直接將2D 視頻素材一鍵轉換成動態(tài)立體模型，同時支持通過文字輸入進行個性化角色生成。簡單的說，「AnimatableDreamer」的提出直接打通文本到4D 骨骼動畫的生成，建模、貼圖、骨骼綁定、動作驅動。輸入自然語言描述，自動輸出立體動畫視頻，普通人也能直接上手，輕松定制動畫內容。以下為生成的動物模型:

　　傳統(tǒng)的制作立體動畫流程需要經過復雜的3D 建模、貼圖渲染、骨骼綁定和動畫制作等步驟，效率低且成本高昂。而「AnimatableDreamer」可以自動提取視頻中目標對象的骨骼動作，并通過文本描述將該對象轉換為任意的帶骨骼動畫模型。這一過程不受模版限制，支持任意視頻長度和任意類型的動作，并且導出的動態(tài)立體模型能夠在任意3D 環(huán)境中進行渲染。

　　該團隊創(chuàng)新地提出了規(guī)范得分蒸餾策略(Canonical Score Distillation，簡稱 CSD)，實現(xiàn)了文本到4D 骨骼動畫的生成。通過在相機空間中對不同幀及不同視角的3D 模型進行渲染和降噪，并將梯度回傳至規(guī)范空間中進行蒸餾，「AnimatableDreamer」能夠生成具有高度時間一致性和幾何合理性的模型。無論是在有限視角還是大幅度運動的場景中，該框架都能自動補全畫面信息，實現(xiàn)較好的生成質量。

　　「AnimatableDreamer」的推出將大大降低3D、4D 數(shù)字內容的生產難度，豐富交互體驗，并讓每個人都能夠進行創(chuàng)意內容的生成和編輯。未來，用戶可以在虛擬世界中快速搭建自定義的數(shù)字空間，打造個性化的交互體驗。而對于游戲開發(fā)和影視動畫等領域的3D 建模和動畫制作流程來說，這一技術有望帶來更高的效率。

　　清華系創(chuàng)業(yè)團隊生數(shù)科技在不到一年的時間里推出了多個產品，包括3D 資產創(chuàng)建工具 VoxCraft 和4D 骨骼動畫生成框架「AnimatableDreamer」。這些技術的創(chuàng)新能力將為未來的多維數(shù)字體驗和人機交互帶來更多可能性，從而開啟全新的內容娛樂與消費模式。