在文本到音樂合成領(lǐng)域,生成內(nèi)容的質(zhì)量一直在提高,但對音樂方面的可控性仍未得到探索。新加坡科技與設(shè)計大學(xué)和倫敦瑪麗女王大學(xué)的研究人員提出了一個名為 Mustango 的解決方案,它擴(kuò)展了 Tango 文本到音頻模型,旨在通過豐富的說明來控制生成的音樂,這些說明包含與和弦、節(jié)拍、速度和鍵相關(guān)的具體指令。
研究人員將 Mustango 介紹為一種基于擴(kuò)散模型的音樂領(lǐng)域知識啟發(fā)的文本到音樂系統(tǒng)。他們強(qiáng)調(diào)了從擴(kuò)散模型直接生成音樂所面臨的獨(dú)特挑戰(zhàn),強(qiáng)調(diào)了在與條件文本對齊和音樂性之間取得平衡的需求。Mustango 使音樂家、制作人和音效設(shè)計師能夠根據(jù)特定條件(如和弦進(jìn)行、速度和鍵選擇)創(chuàng)建音樂片段。
作為 Mustango 的一部分,研究人員提出了 MuNet,即音樂領(lǐng)域知識啟發(fā)的 UNet 子模塊。MuNet 將音樂專用功能與從文本提示中預(yù)測的功能集成到擴(kuò)散去噪過程中。為了克服現(xiàn)有帶有音樂和文本說明的開放數(shù)據(jù)集的有限可用性,研究人員引入了一種新穎的數(shù)據(jù)增強(qiáng)方法。該方法涉及改變音樂音頻的和諧、節(jié)奏和動態(tài)方面,并使用音樂信息檢索方法提取音樂特征,然后將這些特征附加到現(xiàn)有的文本描述中,從而得到 MusicBench 數(shù)據(jù)集。
MusicBench 數(shù)據(jù)集包含超過52,000個實(shí)例,通過將節(jié)拍、下拍位置、基本和弦進(jìn)行、鍵和速度添加到原始文本描述中,豐富了數(shù)據(jù)集。研究人員進(jìn)行了廣泛的實(shí)驗(yàn),證明了 Mustango 在音樂質(zhì)量方面達(dá)到了最新的水平。他們強(qiáng)調(diào)了 Mustango 通過音樂專用文本提示的可控性,展示了在捕捉多個數(shù)據(jù)集中所需的和弦、節(jié)拍、鍵和速度方面的出色性能。他們評估了這些預(yù)測器在沒有控制句子的情況下的適應(yīng)能力,并觀察到 Mustango 在這種情況下的表現(xiàn)優(yōu)于 Tango,表明控制預(yù)測器不會影響性能。
實(shí)驗(yàn)包括與 Tango 和 Mustango 的變體等基線的比較,證明了所提出的數(shù)據(jù)增強(qiáng)方法在提高性能方面的有效性。從頭開始訓(xùn)練的 Mustango 被認(rèn)為是表現(xiàn)最好的模型,在音頻質(zhì)量、節(jié)奏存在和諧等方面超過了 Tango 和其他變體。Mustango 擁有14億個參數(shù),比 Tango 多得多。
研究人員將 Mustango 作為文本到音樂合成領(lǐng)域的重要進(jìn)展。他們解決了現(xiàn)有系統(tǒng)中的可控性差距,并通過廣泛的實(shí)驗(yàn)證明了他們提出的方法的有效性。Mustango 不僅實(shí)現(xiàn)了最新的音樂質(zhì)量,還提供了增強(qiáng)的可控性,為該領(lǐng)域的發(fā)展做出了寶貴的貢獻(xiàn)。研究人員發(fā)布了 MusicBench 數(shù)據(jù)集,為未來的文本到音樂合成研究提供了資源。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。