Midjourney生成能力驚人 但研究發(fā)現(xiàn)它并不理解自己生成的東西

　　近年來，生成式 AI模型如GPT-4和Midjourney引發(fā)了全球關(guān)注，它們展現(xiàn)了驚人的生成能力，能夠以令人信服的質(zhì)量輸出文本和視覺內(nèi)容。然而，與此同時，人們也開始關(guān)注這些模型是否能夠理解它們所生成的內(nèi)容。這引發(fā)了一個有趣的問題，即AI能否理解自己生成的東西。

　　一項最新的研究指出，生成式AI模型存在一個悖論，即它們的生成能力似乎比理解能力更為出色。研究者通過對比實驗發(fā)現(xiàn)，這些模型在生成任務(wù)上往往能與人類相媲美甚至勝過人類，但在理解生成內(nèi)容方面表現(xiàn)不及人類。這一發(fā)現(xiàn)引發(fā)了對模型的能力配置與人類的智能配置之間的不一致性的討論。

　　具體來說，研究者通過兩種實驗設(shè)置來檢驗生成模型的理解能力。第一種是選擇性實驗，即模型在同一任務(wù)的判別版本中選擇正確回復的能力。第二種是詢問性實驗，即模型在回答與生成內(nèi)容相關(guān)的問題時的準確性。結(jié)果表明，模型在選擇性實驗中表現(xiàn)良好，但在詢問性實驗中經(jīng)常出現(xiàn)錯誤，這表明其理解能力低于人類。

　　這一研究的意義在于，它揭示了模型的生成能力與理解能力之間的不一致性，即模型可以創(chuàng)造內(nèi)容但無法完全理解。這意味著現(xiàn)有的智能概念可能無法直接應用于AI，盡管它們在許多方面似乎模仿了人類智能。因此，研究者呼吁在深入研究人工智能和認知時要謹慎，因為看似專家級的類人輸出可能掩蓋了非人類的機制。

　　綜上所述，生成式AI悖論強調(diào)了一個有趣的概念，即AI模型可以創(chuàng)造出自己可能無法完全理解的內(nèi)容。這個悖論對人工智能的未來發(fā)展提出了一些重要的問題，強調(diào)了理解的局限性以及生成能力的強大。它為AI研究提供了一個新的視角，鼓勵將模型作為人類智能的有趣對立面來研究，而不是簡單地將其視為平行的對立面。