北大團(tuán)隊發(fā)起復(fù)現(xiàn)Sora計劃“Open Sora” AnimateDiff大神響應(yīng)

　　3月4日 消息:北大團(tuán)隊聯(lián)合兔展啟動了復(fù)現(xiàn)Sora的計劃，該項目名為Open Sora。這一舉措的背后是資源有限的情況下，團(tuán)隊希望匯集開源社區(qū)的力量，以盡可能完成復(fù)現(xiàn)工作。

　　項目的核心團(tuán)隊由北大信息工程學(xué)院助理教授袁粒和北大計算機(jī)學(xué)院教授田永鴻等領(lǐng)導(dǎo)，共有13名成員。除了團(tuán)隊成員外，北大校友和AnimateDiff貢獻(xiàn)者等也積極響應(yīng)，并有人表示愿意提供高質(zhì)量的數(shù)據(jù)集。

　　關(guān)于Sora的復(fù)現(xiàn)技術(shù)細(xì)節(jié)已經(jīng)公布，項目框架包括三個主要部分:Video VQ-VAE、Denoising Diffusion Transformer和Condition Encoder。

　　為了解決Sora視頻的可變長寬比問題，團(tuán)隊采用了上海AI Lab提出的FiT技術(shù)，實(shí)施了一種動態(tài)掩碼策略。同時，團(tuán)隊還通過位置插值來處理可變分辨率，并使用Video VQ-VAE來支持可變時長的視頻處理。團(tuán)隊已經(jīng)初步實(shí)現(xiàn)了三個功能，并在項目主頁上提供了兩個demo，展示了10秒和18秒視頻的重建效果。

　　盡管已經(jīng)取得了一些進(jìn)展，但團(tuán)隊面臨著諸多挑戰(zhàn)。目前的訓(xùn)練是在8個A100-80G上進(jìn)行的，但仍然遠(yuǎn)遠(yuǎn)不夠，而且需要更多的數(shù)據(jù)和GPU進(jìn)行訓(xùn)練。團(tuán)隊已經(jīng)完成了一些任務(wù)，包括采樣腳本和在embeddings上添加類條件，但仍有一些待辦事項需要完成。

　　項目的領(lǐng)銜者之一是袁粒，他是北大信息工程學(xué)院的助理教授，曾獲得福布斯30歲以下亞洲杰出人物榜單的榮譽(yù)。另一位領(lǐng)銜者是田永鴻，他是北京大學(xué)博雅特聘教授，擁有豐富的科研經(jīng)驗和榮譽(yù)。

　　關(guān)于誰能率先發(fā)布中文版Sora的問題，目前仍然是一個未解之謎。在業(yè)內(nèi)，有傳言稱字節(jié)可能會成為首個發(fā)布中文版Sora的公司。盡管有一些AI模型類似于Sora，比如最近出現(xiàn)的Boximator和Dreamina，但它們與Sora仍存在一定差距。然而，這個問題的答案還有待時間的揭曉。