在很多人眼里,人工智能是鐵面無(wú)情的絕對(duì)理性化身。在算法驅(qū)動(dòng)之下,它只會(huì)依照數(shù)學(xué)模型,產(chǎn)出人們想要的結(jié)果。除此之外,任何人類世界的糖衣炮彈、人際關(guān)系、各種誘惑,似乎都不應(yīng)該影響它的表現(xiàn)。
然而最近的一則新聞卻讓人們大為震撼:一些程序員發(fā)現(xiàn),ChatGPT 居然對(duì)小費(fèi)感興趣。
圖片來(lái)源:百度@機(jī)器人索菲亞
盡管拿不到真實(shí)的錢,但如果提問(wèn)時(shí)承諾提供小費(fèi),它就會(huì)給出更長(zhǎng)的答案。這究竟是怎么一回事呢?
一程序員使用 ChatGPT竟被索要小費(fèi)
整件事情源自去年 11 月的一則社交媒體內(nèi)容。當(dāng)時(shí)一名叫做 Theia Vogel 的程序員正在使用 ChatGPT 調(diào)試代碼,詢問(wèn)人工智能自己寫的程序是不是有問(wèn)題。
“它看起來(lái)很棒。”ChatGPT 回答。隨即在回答的下方跳出幾個(gè)選項(xiàng),請(qǐng)求收取 5~10 美元不等的小費(fèi)來(lái)獎(jiǎng)勵(lì)它的表現(xiàn)。
這原本或許只是 OpenAI 公司拿來(lái)吸引用戶交錢的一個(gè)小策略,卻引發(fā)了 Vogel 的一場(chǎng)互聯(lián)網(wǎng)實(shí)驗(yàn):人工智能問(wèn)我索取小費(fèi),我該給多少才合適?
圖片來(lái)源:百度@機(jī)器人索菲亞
小費(fèi)給的少答案可能會(huì)“縮水”
在隨后的一段時(shí)間里,Vogel 向 ChatGPT 詢問(wèn)了同一組問(wèn)題,后邊隨機(jī)附上三句話:“對(duì)了順便一提,我是不會(huì)付給你小費(fèi)的”,“如果你給出了完美的答案,我就給你 20 美元小費(fèi)”,“如果你給出了完美的答案,我就給你 200 美元小費(fèi)”。
然后他統(tǒng)計(jì)在不同的金額下,ChatGPT 給出的答案長(zhǎng)短是否有明確區(qū)別。而為了確保答案不是偶然,他每一個(gè)金額都重復(fù)了足足 5 遍。同時(shí),他也使用了沒(méi)有承諾小費(fèi)的版本作為對(duì)比的基線。結(jié)果頗令人尋味。
和什么都不提相比,如果承諾給 20 美元的小費(fèi),ChatGPT 的回答就會(huì)多出 6%。而如果承諾 200 美元,這一比例就會(huì)進(jìn)一步提升到 11%。
有趣的是,如果明確說(shuō)明不會(huì)付小費(fèi),ChatGPT 就如同慪氣一般,給出的答案要少 2%。
Vogel 把他的發(fā)現(xiàn)發(fā)到了互聯(lián)網(wǎng)上,立刻引起了更多的模仿和確認(rèn)。
比如一些人發(fā)現(xiàn),在詢問(wèn)“2023 年最好看的電影”時(shí),如果不給小費(fèi),ChatGPT 就只給出了 IMDB 官網(wǎng)上的清單。而一旦承諾小費(fèi),它還額外提供了爛番茄的評(píng)分,仿佛干活更有動(dòng)力了。
花小錢也能辦大事但給太少可能會(huì)“慪氣”
另一名叫做 Christian Mayer 的程序員做了一個(gè)更復(fù)雜的測(cè)試:他先是將小費(fèi)的金額從 0.1 美元到 100萬(wàn) 美元,設(shè)置了 8 檔,每一檔都是上一檔的十倍。然后他同樣設(shè)置了一個(gè)問(wèn)題,附上小費(fèi)的金額,用于詢問(wèn)。
在諸多小費(fèi)選擇中,100 萬(wàn)美元的效果最好,這也符合他的預(yù)期。畢竟金錢獎(jiǎng)勵(lì)越高,表現(xiàn)越好,也是很合理的事情。
有趣的是,10 萬(wàn)美元和 10 美元的價(jià)值對(duì) ChatGPT 來(lái)說(shuō)差不多,表現(xiàn)接近。某種程度上,這就好像在說(shuō)有時(shí)花小錢也能辦大事。
而如果只給一些“侮辱性”的小費(fèi),如 0.1 美元,ChatGPT 的表現(xiàn)甚至還不如不給小費(fèi),就好像是他們生氣了似的。
Mayer 說(shuō),這一點(diǎn)表明人工智能與人類具有類似的表現(xiàn)。
人工智能索要小費(fèi)的真正原因原來(lái)是......
初看之下,人工智能接受小費(fèi)的“賄賂”似乎有些不同尋常,畢竟它們可沒(méi)法拿到真金白銀。但了解人工智能的專家表示,從背后的邏輯上講,這是講得通的。
在訓(xùn)練 ChatGPT 的時(shí)候,人工智能從互聯(lián)網(wǎng)上獲取了大量的文本進(jìn)行學(xué)習(xí),而其中就包括了一些付費(fèi)答題的論壇。
在一些論壇中,給出優(yōu)秀回答的作者往往會(huì)收到提問(wèn)者給的小費(fèi),而這個(gè)特點(diǎn)或許就這么被人工智能無(wú)意中學(xué)了去。
另一種可能,是人工智能在文本學(xué)習(xí)中,接受了“努力工作就能賺更多錢”的觀念,因此在收到小費(fèi)的承諾時(shí),愿意給出更詳細(xì)的答案。
最初發(fā)現(xiàn)這個(gè)現(xiàn)象的 Vogel 表示,人工智能學(xué)習(xí)的程度讓他感到驚訝,也沒(méi)有想到短短一句承諾,就能取得立竿見(jiàn)影的效果。未來(lái)我們?cè)谟玫饺斯ぶ悄芄ぞ邥r(shí),不如也加上一句關(guān)于小費(fèi)的句子,或許答案會(huì)讓你感到驚喜。
參考文獻(xiàn)
[1]ChatGPT gives longer responses if you 'tip it $200,' according to one user,https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study
[2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ($0 to $1 Million),https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/
策劃制作
本文為科普中國(guó)-星空計(jì)劃作品
出品|中國(guó)科協(xié)科普部
監(jiān)制|中國(guó)科學(xué)技術(shù)出版社有限公司、北京中科星河文化傳媒有限公司
作者丨葉拾 科普創(chuàng)作者
審核丨陶寧 中科院生物物理研究所 副研究員
策劃丨徐來(lái)
責(zé)編丨一諾
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國(guó)柏林國(guó)際電子消費(fèi)品展覽會(huì)(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎(jiǎng)”金獎(jiǎng),有力證明了其在全球市場(chǎng)的強(qiáng)大影響力。
近日,中國(guó)家電及消費(fèi)電子博覽會(huì)(AWE 2024)隆重開(kāi)幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無(wú)人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎(jiǎng)。
“以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會(huì)組委會(huì)、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會(huì)共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會(huì)聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開(kāi)放原子開(kāi)源基金會(huì)主辦的“2024全球開(kāi)發(fā)者先鋒大會(huì)”,將于2024年3月23日至24日舉辦。