當(dāng)?shù)貢r間 9 月 4 日,據(jù)《福布斯》報道,牛津大學(xué)的伊利亞 舒梅洛夫博士和他的團隊發(fā)現(xiàn),當(dāng)生成式 AI 軟件僅依賴于由 AI 生成的內(nèi)容時,回答的質(zhì)量開始惡化。這項研究已經(jīng)發(fā)表在《自然》雜志上。
在最初的兩次查詢后,答案逐漸偏離準確性,到第五次時,質(zhì)量顯著下降,到了第九次連續(xù)查詢時,回答已完全退化為無意義的胡言亂語。研究人員將這種生成式 AI 內(nèi)容的循環(huán)過度使用稱為“模型崩潰”,即 AI 在不斷污染自己的訓(xùn)練集后,輸出的內(nèi)容逐漸偏離現(xiàn)實,最終變得毫無價值。
舒梅洛夫表示:“令人驚訝的是,模型崩潰發(fā)生得如此迅速且難以察覺。最初,它會影響到少數(shù)數(shù)據(jù)—— 那些代表性不足的數(shù)據(jù)。接著,它會影響輸出的多樣性,導(dǎo)致差異性減少。有時,你會觀察到對多數(shù)數(shù)據(jù)的微小改進,但這種改進掩蓋了少數(shù)數(shù)據(jù)表現(xiàn)的惡化。模型崩潰可能帶來嚴重后果。”
研究人員通過一種方法確定了“模型崩潰”現(xiàn)象的存在:使用一個預(yù)訓(xùn)練的 AI 驅(qū)動的維基百科,然后讓 AI 模型基于自己生成的內(nèi)容進行更新。受污染數(shù)據(jù)的影響逐漸導(dǎo)致原本的訓(xùn)練集被侵蝕,輸出的信息也隨之變得難以理解。例如,在第九次查詢循環(huán)后,研究中的維基百科條目從關(guān)于 14 世紀英國教堂尖頂的內(nèi)容滑稽地變成了一篇關(guān)于各種顏色的短尾兔子的論文。
報道稱,根據(jù)亞馬遜網(wǎng)絡(luò)服務(wù)(Amazon Web Services)團隊在 6 月發(fā)布的另一項研究,大約 57% 的網(wǎng)絡(luò)文本都經(jīng)過了 AI 算法的翻譯。如果互聯(lián)網(wǎng)上的人類生成數(shù)據(jù)迅速被 AI 過濾內(nèi)容覆蓋,且舒梅洛夫的研究發(fā)現(xiàn)屬實,那么 AI 可能正在“自我毀滅”—— 并同時“毀滅”互聯(lián)網(wǎng)。
研究得出結(jié)論,要實現(xiàn) AI 的長期可持續(xù)發(fā)展,唯一方法是確保其能夠訪問現(xiàn)有的非 AI 生成內(nèi)容,并持續(xù)引入新的人工生成內(nèi)容。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。