AI“數(shù)據(jù)荒”怎么辦？微軟、谷歌等公司正使用“合成數(shù)據(jù)”訓(xùn)練AI

　　人工智能聊天機(jī)器人的背后需要海量高質(zhì)量數(shù)據(jù)作為支撐。傳統(tǒng)上，人工智能系統(tǒng)依賴于從各種網(wǎng)絡(luò)來源(如文章、書籍和在線評論)中提取的大量數(shù)據(jù)來理解用戶的查詢并生成響應(yīng)。

　　長期以來，如何獲取更多的高質(zhì)量數(shù)據(jù)成為人工智能公司的一大挑戰(zhàn)。由于數(shù)據(jù)在互聯(lián)網(wǎng)上的可用性是有限的，這促使人工智能公司正尋求一種替代解決方案——合成數(shù)據(jù)(Synthetic data)。

　　合成數(shù)據(jù)，即人工智能系統(tǒng)生成的人工數(shù)據(jù)�？萍脊�司通過利用自己的人工智能模型，生成合成數(shù)據(jù)(這也被認(rèn)為是虛假數(shù)據(jù))，然后將這些數(shù)據(jù)用以訓(xùn)練其系統(tǒng)的未來迭代。

　　談及合成數(shù)據(jù)是如何生成的，其過程包括為人工智能模型設(shè)置特定參數(shù)和提示以創(chuàng)建內(nèi)容，這種方法可以更精確地控制用于訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)。

　　例如，微軟的研究人員向人工智能模型列出了四歲孩子能夠理解的3000個詞匯，然后，他們要求該模型使用詞匯表中的一個名詞、一個動詞和一個形容詞來創(chuàng)造一個兒童故事。通過幾天時間內(nèi)數(shù)百萬次的重復(fù)提示，模型最終產(chǎn)生了數(shù)百萬個短篇故事。

　　雖然計(jì)算中的合成數(shù)據(jù)并不是一個新概念，但生成式人工智能的興起促進(jìn)了大規(guī)模創(chuàng)建更高質(zhì)量的合成數(shù)據(jù)。

　　人工智能初創(chuàng)公司Anthropic首席執(zhí)行官Dario Amodei將這種方法稱為“無限數(shù)據(jù)生成引擎”，旨在避免與傳統(tǒng)數(shù)據(jù)采集方法相關(guān)的一些版權(quán)、隱私等問題。

　　現(xiàn)有用例與分歧觀點(diǎn)

　　目前，Meta、谷歌和微軟等主要人工智能公司已經(jīng)開始使用合成數(shù)據(jù)開發(fā)高級模型，包括聊天機(jī)器人和語言處理器。

　　例如，Anthropic使用合成數(shù)據(jù)為其聊天機(jī)器人Claude提供動力;谷歌DeepMind則使用這種方法來訓(xùn)練能夠解決復(fù)雜幾何問題的模型;與此同時，微軟已經(jīng)公開了使用合成數(shù)據(jù)開發(fā)的小型語言模型。

　　有支持者認(rèn)為，如果適當(dāng)實(shí)施，合成數(shù)據(jù)可以產(chǎn)生準(zhǔn)確可靠的模型。

　　然而，一些人工智能專家對與合成數(shù)據(jù)相關(guān)的風(fēng)險(xiǎn)表示擔(dān)憂。著名大學(xué)的研究人員觀察到了“模型崩潰”的例子，即在合成數(shù)據(jù)上訓(xùn)練的人工智能模型出現(xiàn)了不可逆轉(zhuǎn)的缺陷，并產(chǎn)生了荒謬的輸出。此外，有人擔(dān)心合成數(shù)據(jù)可能會加劇數(shù)據(jù)集的偏差和錯誤。

　　劍橋大學(xué)博士Zakhar Shumaylov在一封電子郵件中寫道，”如果處理得當(dāng)，合成數(shù)據(jù)會很有用。然而，對于如何才能處理得當(dāng)，目前還沒有明確的答案;有些偏見對于人類來說可能很難察覺。”

　　此外，圍繞對合成數(shù)據(jù)的依賴存在一場哲學(xué)辯論，人們對人工智能的本質(zhì)提出了質(zhì)疑——如若使用機(jī)器合成的數(shù)據(jù)，那么人工智能是否還是模仿人類智能的機(jī)器?

　　斯坦福大學(xué)教授Percy Liang強(qiáng)調(diào)了將真正的人類智能融入數(shù)據(jù)生成過程的重要性，并強(qiáng)調(diào)了大規(guī)模創(chuàng)建合成數(shù)據(jù)的復(fù)雜性。他認(rèn)為，“合成數(shù)據(jù)不是真實(shí)的數(shù)據(jù)，就像你做夢登上了珠穆朗瑪峰并不是真正登頂了一樣。”

　　目前對于生成合成數(shù)據(jù)的最佳做法尚未達(dá)成共識，這突出表明需要在這一領(lǐng)域進(jìn)一步研究和發(fā)展。隨著該領(lǐng)域的不斷發(fā)展，人工智能研究人員和領(lǐng)域?qū)＜抑�間的合作對于充分利用人工智能開發(fā)合成數(shù)據(jù)的潛力至關(guān)重要。