• 首頁 > 云計算頻道 > 大模型

    MusicMagus:基于擴散模型,實現(xiàn)文本精準編輯音樂片段

    2024年02月26日 10:21:40   來源:站長之家

      音樂生成技術(shù)一直是一個迷人的領(lǐng)域,將創(chuàng)造力與技術(shù)相結(jié)合,產(chǎn)生與人類情感共鳴的作品。這個過程涉及生成與通過文本描述傳達的特定主題或情感相符的音樂。盡管從文本中生成音樂取得了顯著進展,但一個重要的挑戰(zhàn)仍然存在:如何編輯生成的音樂,以改進或修改特定元素而不必從頭開始。這項任務(wù)涉及對音樂屬性進行精細調(diào)整,如更改樂器的聲音或整體情緒,而不影響其核心結(jié)構(gòu)。

      模型主要分為自回歸(AR)和基于擴散的類別。AR模型在推理時間較長的代價下產(chǎn)生更長、更高質(zhì)量的音頻,而擴散模型在生成擴展序列方面表現(xiàn)卓越,盡管存在一些挑戰(zhàn)。創(chuàng)新的MagNet模型合并了AR和擴散的優(yōu)勢,優(yōu)化了質(zhì)量和效率。MusicMagus通過借助先進的擴散模型,實現(xiàn)對特定音樂屬性的精確修改,同時保持原始構(gòu)成的完整性。

      MusicMagus通過復雜的方法和對數(shù)據(jù)集的創(chuàng)新使用展示了其卓越的音樂編輯和細化能力。該系統(tǒng)的支柱是基于AudioLDM2模型的,該模型利用變分自動編碼器(VAE)框架將音樂音頻譜圖壓縮到潛在空間。然后,通過操作這個空間來生成或編輯基于文本描述的音樂,彌合了文本輸入和音樂輸出之間的差距。MusicMagus的編輯機制利用預訓練的擴散模型的潛在能力,這是一種顯著提高編輯準確性和靈活性的新方法。

      研究人員進行了大量實驗證明了MusicMagus的有效性,包括音色和風格轉(zhuǎn)移等關(guān)鍵任務(wù),將其性能與AudioLDM2、Transplayer和MusicGen等已建立的基線進行比較。

      這些比較分析以使用CLAP相似性和Chromagram相似性等指標進行客觀評估,以及使用整體質(zhì)量(OVL)、相關(guān)性(REL)和結(jié)構(gòu)一致性(CON)等指標進行主觀評估。結(jié)果顯示MusicMagus在CLAP相似性得分上提高了0.33,Chromagram相似性為0.77,表明在保持音樂語義完整性和結(jié)構(gòu)一致性方面取得了顯著進展。在這些實驗中使用的數(shù)據(jù)集,包括用于音色轉(zhuǎn)移任務(wù)的POP909和MAESTRO,在展示MusicMagus在改變音樂語義的能力方面起到了至關(guān)重要的作用,同時保留原始構(gòu)成的精髓。

      MusicMagus引入了一種先進的文本到音樂編輯框架,能夠在保持構(gòu)成完整性的同時操縱特定的音樂方面。盡管它在處理多樂器音樂生成、可編輯性與保真度權(quán)衡以及在進行重大更改時保持結(jié)構(gòu)方面面臨一些挑戰(zhàn),但它標志著音樂編輯技術(shù)的重大進步。盡管在處理長序列方面存在一些局限性,并且受限于16kHz的采樣率,但MusicMagus在風格和音色轉(zhuǎn)移方面取得了顯著進展,展示了其創(chuàng)新的音樂編輯方法。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。