谷歌新研究成果:讓大語言模型理解「圖的語言」，性能提升60%

　　近日，谷歌在ICLR2024上推出了一項(xiàng)重大成果:他們成功讓大型語言模型(LLMs)學(xué)會理解「圖的語言」，性能提升了高達(dá)60%。這項(xiàng)研究解決了LLMs在處理圖形問題上的瓶頸，開啟了圖形數(shù)據(jù)與文本表示之間的新篇章。

　　圖形結(jié)構(gòu)作為信息組織的一種重要方式，在計算機(jī)科學(xué)領(lǐng)域中無處不在。然而，由于LLMs主要在常規(guī)文本上訓(xùn)練，缺乏對圖形結(jié)構(gòu)的理解，這使得將圖形轉(zhuǎn)換為LLMs可理解的文本成為一項(xiàng)復(fù)雜的任務(wù)。谷歌團(tuán)隊(duì)通過設(shè)計GraphQA基準(zhǔn)測試，旨在評估LLMs針對特定圖形問題的能力，并創(chuàng)造了一種讓LLMs能夠解決圖形相關(guān)問題的方式，從而顯著提高了LLMs在圖形任務(wù)上的表現(xiàn)。

　　研究團(tuán)隊(duì)采用了多種方法將圖形編碼為文本，并將文本與問題反饋給LLMs進(jìn)行處理。通過調(diào)查節(jié)點(diǎn)編碼和邊緣編碼等關(guān)鍵問題，他們成功地改善了LLMs在圖形問題上的性能。實(shí)驗(yàn)結(jié)果顯示，選擇合適的編碼方式對LLMs的準(zhǔn)確度有顯著影響，而在圖形推理任務(wù)中，規(guī)模更大的模型表現(xiàn)更好，但對于某些特定任務(wù)，模型規(guī)模并不是唯一的關(guān)鍵因素。

　　此外，研究團(tuán)隊(duì)還發(fā)現(xiàn)圖的結(jié)構(gòu)對LLMs的性能有著重要影響。在不同的圖形任務(wù)中，LLMs的表現(xiàn)受到圖形結(jié)構(gòu)的影響，而提供一些混合樣本可以幫助LLMs適應(yīng)不同類型的圖形結(jié)構(gòu)，從而提高性能。

　　這項(xiàng)研究為解決LLMs在圖形問題上的挑戰(zhàn)提供了新的思路和方法。通過合理地將圖形數(shù)據(jù)轉(zhuǎn)換為文本表示，并結(jié)合適當(dāng)?shù)木幋a方式和任務(wù)類型，谷歌團(tuán)隊(duì)成功提升了LLMs在圖形任務(wù)上的性能，為未來更深入的研究和應(yīng)用打下了基礎(chǔ)。