下單前先比價不花冤枉錢 同款圖書京東價低于抖音6折日媒感慨中國電動汽車/智駕遙遙領(lǐng)先:本田、日產(chǎn)、三菱合并也沒戲消委會吹風機品質(zhì)檢測結(jié)果揭曉 徠芬獨占鰲頭 共話新質(zhì)營銷力,2024梅花數(shù)據(jù)峰會圓滿落幕索尼影像專業(yè)服務 PRO Support 升級,成為會員至少需注冊 2 臺 α 全畫幅相機、3 支 G 大師鏡頭消息稱vivo加碼電池軍備競賽:6500mAh 旗艦機+7500mAh中端機寶馬M8雙門轎跑車明年年初將停產(chǎn),后續(xù)無2026款車型比亞迪:2025 款漢家族車型城市領(lǐng)航智駕功能開啟內(nèi)測雷神預告2025年首次出席CES 將發(fā)布三款不同技術(shù)原理智能眼鏡realme真我全球首發(fā)聯(lián)發(fā)科天璣 8400 耐玩戰(zhàn)神共創(chuàng)計劃iQOO Z9 Turbo長續(xù)航版手機被曝電池加大到6400mAh,搭驍龍 8s Gen 3處理器普及放緩 銷量大跌:曝保時捷將重新評估電動汽車計劃來京東參與榮耀Magic7 RSR 保時捷設計預售 享365天只換不修國補期間電視迎來換機潮,最暢銷MiniLED品牌花落誰家?美團旗下微信社群團購業(yè)務“團買買”宣布年底停運消息稱微軟正與第三方廠商洽談,試圖合作推出Xbox游戲掌機設備在海外,要再造一個京東物流?消息稱蘋果正為AirPods開發(fā)多項健康功能,包括心率監(jiān)測和溫度感應一加 Ace 5系列將搭載全新游戲助手:大幅提升游戲體驗東芝全部業(yè)務實現(xiàn)盈利,退市裁員重組后終于賺錢
  • 首頁 > 企業(yè)IT頻道 > 人工智能

    科技云報道:ChatGPT的勝利,宣告知識圖譜的消亡?

    2023年05月24日 15:53:28   來源:科技云報道

      科技云報道原創(chuàng)。

      過去10年,知識圖譜可謂是最接近“人工智能”的概念。業(yè)內(nèi)普遍認為,知識圖譜的概念最先是由谷歌于2012年正式提出,主要用來支撐下一代搜索和在線廣告業(yè)務。

      此后,這項技術(shù)迅速火爆,被國內(nèi)外多家搜索引擎公司所采用,如:美國的微軟必應,中國的百度、搜狗等,都在短短的一年內(nèi)紛紛宣布了各自的“知識圖譜”產(chǎn)品,足以看出這項革新對整個搜索引擎界的整體影響。

      但這項技術(shù)的應用并不僅拘泥于搜索引擎領(lǐng)域范圍。由于讓人工智能具備了認知能力和邏輯能力,知識圖譜進而實現(xiàn)了智能分析、智能搜索、人機交互、個性化推薦等場景應用,成為互聯(lián)網(wǎng)知識驅(qū)動的智能應用的基礎(chǔ)設施。

      可以說知識圖譜與大數(shù)據(jù)和深度學習一起,成為推動互聯(lián)網(wǎng)和人工智能發(fā)展的核心驅(qū)動力之一。

      然而,ChatGPT的橫空出世讓整個AI界都沸騰了。

      ChatGPT帶來的震撼在于,它不用借助知識圖譜就可以很好地解決用戶對話知識問答相關(guān)的任務,具有非常強大的理解能力、流暢的對話能力和上下文的刻畫能力。

      更重要的是,它將原來基于特定任務的模型變成了一個統(tǒng)一的、基于提示的、任務無關(guān)的模型,可以去嘗試解決非常復雜或困難的、人類參與很多的任務。

      這也讓AI界認知產(chǎn)生了分化,有觀點認為有了ChatGPT這種大語言模型后,知識圖譜完全沒有存在的意義,甚至有的公司已經(jīng)徹底拋棄了知識圖譜路線。

      那么,在大模型時代,知識圖譜真的要消亡了嗎?

      知識圖譜vs大語言模型

      在討論這個問題之前,先來了解一下知識圖譜和大語言模型的異同。

      知識圖譜從字面上看,可以拆分為知識+圖譜,這樣就可以理解:將需要的知識數(shù)據(jù)(結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù))以圖譜的形式進行展示,這種簡單的過程也是知識圖譜的構(gòu)建過程。

      知識圖譜通常包含實體、關(guān)系和屬性三個要素,例如人名、國家、語言等實體,以及人口、首都、官方語言等關(guān)系和屬性。它可以根據(jù)圖譜中定義的關(guān)系提供精確且邏輯一致的答案,因此對于信息檢索、問答和結(jié)構(gòu)化數(shù)據(jù)推理等任務特別有用。

      大語言模型是基于深度學習和神經(jīng)網(wǎng)絡,像GPT-4這樣的大語言模型是在大量文本數(shù)據(jù)上進行訓練,以學習模式、上下文以及單詞和短語之間的關(guān)系。

      它們可以生成類似人類的文本、回答問題、提供建議以及執(zhí)行其他自然語言任務,還可以很好地處理模棱兩可和不完整的信息,并且處理廣泛的主題。

      不難發(fā)現(xiàn),兩者在知識的學習、分析、推理方面有著類似的功能,但卻各有優(yōu)劣勢。

      知識圖譜通常需要手動或半自動構(gòu)建,是一種非常耗時耗人力的工作,隨著知識的不斷擴展和變化,知識圖譜也需要不斷更新;

      同時,它的作用僅限于圖譜編碼中的知識范圍,這使得它在處理模棱兩可或不完整的信息時準確率較低。

      但它的優(yōu)勢在于準確的知識庫,對于事實性的、專業(yè)性的知識有著非常高的準確度。

      相反,專業(yè)知識在大模型訓練語料里占比非常少,這也使得ChatGPT等語言大模型生成的內(nèi)容的可靠性和真實性備受質(zhì)疑。

      它無法將真實與想象、真實與虛構(gòu)分開,這種現(xiàn)象甚至促使創(chuàng)造了一個新術(shù)語:人工智能幻覺,維基百科將其定義為“人工智能的自信反應,其訓練數(shù)據(jù)似乎沒有合理性”。

      同時,語言大模型需要大量的計算能力和資源來進行訓練和微調(diào),其花費的時間和成本也不容小覷。

      目前,語言大模型只在通用領(lǐng)域給出了較為驚艷的表現(xiàn),至于在知識圖譜廣泛應用的垂直領(lǐng)域,語言大模型暫時未顯示出領(lǐng)先的一面。

      知識圖譜退場為時尚早

      正因為語言大模型暫時還無法解決事實準確性、可信度、可追溯等問題,知識圖譜的存在就非常有意義。

      知識圖譜或者類似的知識庫、知識引擎,能夠為大模型提供準確的知識,它可以被用來通知、聚焦、過濾和控制生成式人工智能,增強大模型響應的智能和可靠性,使其更適合關(guān)鍵任務。

      當大模型真正落地到工業(yè)應用時,也需要有知識圖譜對專業(yè)領(lǐng)域知識的支撐,至少短期來看是非常需要的。

      因此,我們也可以說,知識圖譜的構(gòu)建原來有各種各樣的構(gòu)建方式,現(xiàn)在又多了一種構(gòu)建方式——用大模型去輔助整個知識圖譜構(gòu)建,通過大量語料和大數(shù)據(jù)的學習,通過Prompt去進行知識的激發(fā)。

      同時知識圖譜反過來也能夠去推動大模型Prompt工程里的相關(guān)工作,融入到大模型的訓練中,使得生成更可控,更準確。同時,知識圖譜也可以提供很多額外的語義信息,幫助大模型的知識推理做得更好。

      所以從本質(zhì)上看,大語言模型出現(xiàn)后,并不是將知識圖譜消滅了,而是可以發(fā)揮知識圖譜和大模型這兩種技術(shù)的優(yōu)勢:在需要可控知識或可控邏輯的時候,知識圖譜會發(fā)揮更大作用;在需要更自由的交互任務理解和生成時,大模型發(fā)揮更好的作用。

      結(jié)合這兩種方法的優(yōu)勢,可以產(chǎn)生更強大和有效的自然語言處理系統(tǒng)。

      知識圖譜與大語言模型的結(jié)合

      那么,知識圖譜如何與大語言模型相結(jié)合呢?

      有意思的是,ChatGPT給出了將知識圖譜集成到大語言模型中的幾種方法:

      使用知識圖譜數(shù)據(jù)進行預訓練

      將知識圖譜中的知識注入到大語言模型的預訓練階段,可以幫助大模型學習實體與其屬性之間的關(guān)系?梢酝ㄟ^將知識圖譜三元組(主語、謂語、賓語)轉(zhuǎn)換為自然語言句子并將它們添加到訓練語料庫中來完成。

      使用基于圖的目標進行微調(diào)

      在預訓練之后,使用基于圖的目標對特定任務的模型進行微調(diào),可以幫助大模型學習使用圖中編碼的知識進行推理和推理。這可能涉及將自然語言查詢轉(zhuǎn)換為基于圖形的查詢,以及開發(fā)將基于圖形的推理與基于文本的推理相結(jié)合的方法。

      例如,可以對模型進行微調(diào),以預測圖形中缺失的實體或關(guān)系,這可以提高其對底層結(jié)構(gòu)的理解。

      改進實體鏈接和消除歧義

      增強模型識別文本中的實體并將其鏈接到知識圖譜中相應節(jié)點的能力。這可以通過在訓練或微調(diào)期間結(jié)合高級實體鏈接和消除歧義技術(shù)來實現(xiàn)。

      集成圖嵌入

      圖嵌入是一種用于將圖中的節(jié)點、邊或整個子圖轉(zhuǎn)換為連續(xù)向量或低維表示的技術(shù),機器學習算法可以更輕松地處理這些向量或低維表示。

      圖嵌入在知識工程的上下文中特別有用,因為它可以幫助將知識圖譜中的結(jié)構(gòu)化信息轉(zhuǎn)換為可以更容易地與機器學習算法(尤其是神經(jīng)網(wǎng)絡)集成的格式。

      使用圖神經(jīng)網(wǎng)絡或其他圖表示學習方法學習,并可用于豐富模型對實體及其關(guān)系的理解。

      推理時查詢知識圖譜

      當模型遇到需要精確、結(jié)構(gòu)化知識的問題或任務時,可以查詢知識圖譜獲取相關(guān)信息。這可以通過將自然語言查詢轉(zhuǎn)換為基于圖形的查詢(例如,使用SPARQL),然后使用檢索到的信息來回答問題或執(zhí)行任務來完成。

      知識圖譜引導生成

      將大語言模型的生成能力與知識圖譜中的結(jié)構(gòu)化信息相結(jié)合,可以生成更準確、更相關(guān)的文本。例如,在生成實體的摘要或描述時,模型可以對知識圖譜中的信息進行優(yōu)先級排序,以確保事實的正確性。

      混合模型

      開發(fā)包含基于圖和基于神經(jīng)網(wǎng)絡的組件的混合模型,可以利用這兩種方法的優(yōu)勢。例如,圖神經(jīng)網(wǎng)絡(GNN)可用于學習圖結(jié)構(gòu)數(shù)據(jù)的潛在表示,然后可以將其與大語言模型集成以執(zhí)行自然語言處理任務。

      鼓勵可解釋性和可解釋性

      開發(fā)允許大語言模型基于知識圖譜為其推理和預測生成解釋的方法。這可以幫助用戶了解模型如何利用知識圖譜中的結(jié)構(gòu)化信息,并有助于調(diào)試和優(yōu)化模型。

      結(jié)語

      技術(shù)的浪潮總是洶涌而至,在新的技術(shù)革新來臨之際,我們更應該客觀看待新舊技術(shù)的優(yōu)劣,而不是沖動地去擁抱新技術(shù),拋棄現(xiàn)有成熟技術(shù)。

      對于知識圖譜來說,大模型的出現(xiàn)并不是一個沖擊,恰恰是給了知識圖譜一個新的生長空間。當我們將大模型與自身優(yōu)勢的行業(yè)應用去深度結(jié)合,形成數(shù)據(jù)和算法的持續(xù)迭代,必將看到更好的結(jié)果持續(xù)涌現(xiàn)。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應用,“區(qū)塊鏈+政務服務”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。