字節(jié)跳動(dòng)與曠視合作發(fā)布HiDiffusion，SD生成速度更快，圖片質(zhì)量更高

　　近年來，字節(jié)跳動(dòng)在技術(shù)創(chuàng)新方面表現(xiàn)活躍，其與曠視科技的合作成果——HiDiffusion技術(shù)，近日引起業(yè)界廣泛關(guān)注。這一新技術(shù)只需一行代碼，便能顯著提升SD(擴(kuò)散模型)生成圖像的分辨率和生成速度，允許圖像生成的分辨率高達(dá)4096×4096，同時(shí)將圖像生成速度提高1.5至6倍。值得一提的是，HiDiffusion不僅支持所有SD模型，也兼容SD模型的下游模型，如Playground。

　　在詳細(xì)介紹中，我們了解到，當(dāng)直接使用已訓(xùn)練好的圖像擴(kuò)散模型嘗試生成更高分辨率的圖像時(shí)，常會(huì)遇到圖像中對(duì)象不合理重復(fù)的問題，且圖像生成時(shí)間會(huì)大幅增加。研究發(fā)現(xiàn)，這種對(duì)象重復(fù)問題主要由U-Net模型深層中的特征重復(fù)導(dǎo)致，而圖像生成時(shí)間增長(zhǎng)則主要是由于U-Net中一個(gè)自機(jī)制注意力的動(dòng)畫操作所致。

　　為了解決這些問題，字節(jié)跳動(dòng)和曠視推出了新的高分辨率生成框架——HiDiffusion。該框架包含一個(gè)稱為認(rèn)知分辨率U-Net(RAU-Net)的模塊，能夠動(dòng)態(tài)調(diào)整特征圖尺寸，有效避免了圖像中的對(duì)象重復(fù)現(xiàn)象。此外，HiDiffusion還采用了一種優(yōu)化后的窗口注意力機(jī)制，稱為修改版本升降窗多頭自注意力(MSW-MSA)，顯著減少了計(jì)算量。

　　通過將HiDiffusion應(yīng)用于各種預(yù)訓(xùn)練的擴(kuò)散模型，不僅可以將圖像生成的分辨率提高至4096×4096，而且能將圖像生成速度提升1.5至6倍。廣泛的實(shí)驗(yàn)驗(yàn)證表明，這一方法不僅解決了對(duì)象重復(fù)和高計(jì)算負(fù)擔(dān)的問題，而且在生成高分辨率圖像的任務(wù)上取得了卓越的效果。