DreamMat：根據(jù)文字描述生成高質(zhì)量基于物理渲染的材質(zhì)

　　近期研究取得突破，通過2D 擴(kuò)散模型在未紋理的原始網(wǎng)格上生成外觀。然而，這些方法生成 RGB 紋理時(shí)往往包含不必要的固定陰影效果，在下游應(yīng)用中導(dǎo)致渲染效果不真實(shí)。與其只生成 RGB 紋理，生成物理渲染(PBR)材質(zhì)可能是一個(gè)更有前景的解決方案。然而，直接從2D 擴(kuò)散模型提取 PBR 材質(zhì)參數(shù)仍然存在材質(zhì)分解不正確的問題，例如在反照率中固定的陰影效果。

　　效果展示視頻如下：

　　DreamMat 應(yīng)運(yùn)而生，致力于解決上述問題，通過文字描述生成高質(zhì)量 PBR(基于物理渲染) 材質(zhì)。發(fā)現(xiàn)大規(guī)模2D 擴(kuò)散模型只能訓(xùn)練生成最終著色顏色，導(dǎo)致在提取過程中材質(zhì)分解不足的問題。

　　為了解決這個(gè)問題，其大致流程為，首先通過微調(diào)新的光照感知2D 擴(kuò)散模型，使其根據(jù)給定光照環(huán)境條件，生成特定光照條件下的著色結(jié)果。然后，在材質(zhì)提取過程中應(yīng)用相同的環(huán)境光，DreamMat 可以生成高質(zhì)量的 PBR (基于物理的渲染)材質(zhì)，不僅與給定的幾何一致，而且在反照率中不包含任何固定的陰影效果。

　　大量實(shí)驗(yàn)表明，通過這種方法生成的材質(zhì)對(duì)用戶更具吸引力，并在渲染質(zhì)量上顯著優(yōu)于基準(zhǔn)方法，適用于游戲和電影制作等下游任務(wù)。