騰訊開源人像照片生成視頻模型V-Express

　　騰訊公司開源了一款創(chuàng)新的模型V-Express，它能夠使用人像照片生成視頻。這一技術(shù)通過一系列逐步丟棄的操作來平衡不同控制信號(hào)，使得音頻等較弱的信號(hào)得以有效利用，實(shí)現(xiàn)對(duì)姿態(tài)、輸入圖像和音頻的綜合控制。

　　作者團(tuán)隊(duì)表示，在會(huì)說話的人臉生成任務(wù)中，當(dāng)目標(biāo)視頻與參考角色不是同一個(gè)人時(shí)，選擇與參考人臉姿勢(shì)更相似的目標(biāo)視頻將能獲得更好的效果。目前，該模型在英語上的表現(xiàn)較為出色，但對(duì)其他語言的適應(yīng)性和表現(xiàn)尚未經(jīng)過詳細(xì)測(cè)試。

　　V-Express模型的開源，為肖像視頻生成領(lǐng)域帶來了新的發(fā)展機(jī)遇。在這一領(lǐng)域，使用單個(gè)圖像生成視頻的方法正變得日益流行。這通常涉及到使用生成模型增強(qiáng)適配器來實(shí)現(xiàn)受控生成，其中控制信號(hào)可能包括文本、音頻、圖像參考、姿勢(shì)、深度圖等。V-Express通過漸進(jìn)式的丟棄操作，解決了弱信號(hào)在強(qiáng)信號(hào)干擾下難以發(fā)揮作用的問題，尤其是在音頻信號(hào)常常被姿勢(shì)和原始圖像等強(qiáng)信號(hào)掩蓋的情況下。

　　實(shí)驗(yàn)結(jié)果顯示，V-Express能夠有效生成受音頻控制的肖像視頻，這在以往的研究中是一個(gè)難以實(shí)現(xiàn)的突破。V-Express方法的逐步丟棄操作，不僅有效實(shí)現(xiàn)了對(duì)弱條件的控制，而且為多條件生成提供了新的可能性和思路。

　　V-Express模型為肖像視頻生成領(lǐng)域帶來了創(chuàng)新的思路和方法，通過平衡不同強(qiáng)度的控制信號(hào)，成功實(shí)現(xiàn)了受音頻控制的視頻生成。這一成果不僅具有重要的理論和實(shí)踐意義，而且為未來的多條件生成提供了新的路徑。騰訊表示，將繼續(xù)深入研究V-Express方法，并探索其在更廣泛領(lǐng)域的應(yīng)用，以促進(jìn)肖像視頻生成領(lǐng)域的進(jìn)一步發(fā)展。