谷歌新研究成果:讓大語(yǔ)言模型理解「圖的語(yǔ)言」，性能提升60%

　　近日，谷歌在ICLR2024上推出了一項(xiàng)重大成果:他們成功讓大型語(yǔ)言模型(LLMs)學(xué)會(huì)理解「圖的語(yǔ)言」，性能提升了高達(dá)60%。這項(xiàng)研究解決了LLMs在處理圖形問(wèn)題上的瓶頸，開(kāi)啟了圖形數(shù)據(jù)與文本表示之間的新篇章。

　　圖形結(jié)構(gòu)作為信息組織的一種重要方式，在計(jì)算機(jī)科學(xué)領(lǐng)域中無(wú)處不在。然而，由于LLMs主要在常規(guī)文本上訓(xùn)練，缺乏對(duì)圖形結(jié)構(gòu)的理解，這使得將圖形轉(zhuǎn)換為L(zhǎng)LMs可理解的文本成為一項(xiàng)復(fù)雜的任務(wù)。谷歌團(tuán)隊(duì)通過(guò)設(shè)計(jì)GraphQA基準(zhǔn)測(cè)試，旨在評(píng)估LLMs針對(duì)特定圖形問(wèn)題的能力，并創(chuàng)造了一種讓LLMs能夠解決圖形相關(guān)問(wèn)題的方式，從而顯著提高了LLMs在圖形任務(wù)上的表現(xiàn)。

　　研究團(tuán)隊(duì)采用了多種方法將圖形編碼為文本，并將文本與問(wèn)題反饋給LLMs進(jìn)行處理。通過(guò)調(diào)查節(jié)點(diǎn)編碼和邊緣編碼等關(guān)鍵問(wèn)題，他們成功地改善了LLMs在圖形問(wèn)題上的性能。實(shí)驗(yàn)結(jié)果顯示，選擇合適的編碼方式對(duì)LLMs的準(zhǔn)確度有顯著影響，而在圖形推理任務(wù)中，規(guī)模更大的模型表現(xiàn)更好，但對(duì)于某些特定任務(wù)，模型規(guī)模并不是唯一的關(guān)鍵因素。

　　此外，研究團(tuán)隊(duì)還發(fā)現(xiàn)圖的結(jié)構(gòu)對(duì)LLMs的性能有著重要影響。在不同的圖形任務(wù)中，LLMs的表現(xiàn)受到圖形結(jié)構(gòu)的影響，而提供一些混合樣本可以幫助LLMs適應(yīng)不同類型的圖形結(jié)構(gòu)，從而提高性能。

　　這項(xiàng)研究為解決LLMs在圖形問(wèn)題上的挑戰(zhàn)提供了新的思路和方法。通過(guò)合理地將圖形數(shù)據(jù)轉(zhuǎn)換為文本表示，并結(jié)合適當(dāng)?shù)木幋a方式和任務(wù)類型，谷歌團(tuán)隊(duì)成功提升了LLMs在圖形任務(wù)上的性能，為未來(lái)更深入的研究和應(yīng)用打下了基礎(chǔ)。