一加 Ace 5系列將搭載全新游戲助手:大幅提升游戲體驗東芝全部業(yè)務(wù)實現(xiàn)盈利,退市裁員重組后終于賺錢真我14 Pro+開始提上日程:1.5K等深四微曲屏+潛望長焦穩(wěn)了消息稱本田和日產(chǎn)計劃明年6月前敲定合并協(xié)議 2026年8月成立控股公司凱迪拉克最新版OTA開啟推送,新增百度語音大模型和QQ音樂等應(yīng)用中國聯(lián)通11月5G套餐用戶凈增127.8萬戶5G確定性工業(yè)基站首商用,工業(yè)互聯(lián)網(wǎng)走上新高度李飛飛團隊前瞻性研究 多模態(tài)AI模型初顯空間智能AI終于邁過這道檻!Livekit 開源模型精準(zhǔn)識別“你是否說完”!DeepSeek開源大模型開發(fā)者之一羅福莉?qū)⒓用诵∶?/a>廣汽詳解旗下首款復(fù)合翼飛行汽車 GOVY AirJet:最高飛行速度可達 250km/h清華大學(xué)聯(lián)合騰訊出品!ColorFlow:自動給黑白漫畫上色,保持角色一致性Adobe推新AI音頻具Sketch2Sound ,只需哼唱和模仿聲音就能創(chuàng)建音效家庭能源智聯(lián)自由 海辰儲能發(fā)布首套免安裝家庭微網(wǎng)系統(tǒng)HeroESOpenAI發(fā)布o(jì)3:AI 推理能力的重大突破,得分高達87.5%亞馬遜云科技推出Amazon Q Developer新功能小象超市,摸著美團外賣出海E Ink元太科技連三年入選道瓊可持續(xù)雙指數(shù)撬動6000億GTV后,抖音計劃偷襲美團大本營AGI Open Network(AON):賦能每個人創(chuàng)建、部署和貨幣化AI Agent
  • 首頁 > 企業(yè)IT頻道 > 人工智能

    ChatGPT竟然開始討要小費:人工智能離“勒索”人類還遠嗎

    2024年02月22日 17:20:58   來源:科普中國

      在很多人眼里,人工智能是鐵面無情的絕對理性化身。在算法驅(qū)動之下,它只會依照數(shù)學(xué)模型,產(chǎn)出人們想要的結(jié)果。除此之外,任何人類世界的糖衣炮彈、人際關(guān)系、各種誘惑,似乎都不應(yīng)該影響它的表現(xiàn)。

      然而最近的一則新聞卻讓人們大為震撼:一些程序員發(fā)現(xiàn),ChatGPT 居然對小費感興趣。

    ChatGPT竟然開始討要小費:人工智能離“勒索”人類還遠嗎

      圖片來源:百度@機器人索菲亞

      盡管拿不到真實的錢,但如果提問時承諾提供小費,它就會給出更長的答案。這究竟是怎么一回事呢?

      一程序員使用 ChatGPT竟被索要小費

      整件事情源自去年 11 月的一則社交媒體內(nèi)容。當(dāng)時一名叫做 Theia Vogel 的程序員正在使用 ChatGPT 調(diào)試代碼,詢問人工智能自己寫的程序是不是有問題。

      “它看起來很棒。”ChatGPT 回答。隨即在回答的下方跳出幾個選項,請求收取 5~10 美元不等的小費來獎勵它的表現(xiàn)。

      這原本或許只是 OpenAI 公司拿來吸引用戶交錢的一個小策略,卻引發(fā)了 Vogel 的一場互聯(lián)網(wǎng)實驗:人工智能問我索取小費,我該給多少才合適?

    ChatGPT竟然開始討要小費:人工智能離“勒索”人類還遠嗎

      圖片來源:百度@機器人索菲亞

      小費給的少答案可能會“縮水”

      在隨后的一段時間里,Vogel 向 ChatGPT 詢問了同一組問題,后邊隨機附上三句話:“對了順便一提,我是不會付給你小費的”,“如果你給出了完美的答案,我就給你 20 美元小費”,“如果你給出了完美的答案,我就給你 200 美元小費”。

      然后他統(tǒng)計在不同的金額下,ChatGPT 給出的答案長短是否有明確區(qū)別。而為了確保答案不是偶然,他每一個金額都重復(fù)了足足 5 遍。同時,他也使用了沒有承諾小費的版本作為對比的基線。結(jié)果頗令人尋味。

      和什么都不提相比,如果承諾給 20 美元的小費,ChatGPT 的回答就會多出 6%。而如果承諾 200 美元,這一比例就會進一步提升到 11%。

      有趣的是,如果明確說明不會付小費,ChatGPT 就如同慪氣一般,給出的答案要少 2%。

    ChatGPT竟然開始討要小費:人工智能離“勒索”人類還遠嗎

      Vogel 把他的發(fā)現(xiàn)發(fā)到了互聯(lián)網(wǎng)上,立刻引起了更多的模仿和確認。

      比如一些人發(fā)現(xiàn),在詢問“2023 年最好看的電影”時,如果不給小費,ChatGPT 就只給出了 IMDB 官網(wǎng)上的清單。而一旦承諾小費,它還額外提供了爛番茄的評分,仿佛干活更有動力了。

      花小錢也能辦大事但給太少可能會“慪氣”

      另一名叫做 Christian Mayer 的程序員做了一個更復(fù)雜的測試:他先是將小費的金額從 0.1 美元到 100萬 美元,設(shè)置了 8 檔,每一檔都是上一檔的十倍。然后他同樣設(shè)置了一個問題,附上小費的金額,用于詢問。

      在諸多小費選擇中,100 萬美元的效果最好,這也符合他的預(yù)期。畢竟金錢獎勵越高,表現(xiàn)越好,也是很合理的事情。

      有趣的是,10 萬美元和 10 美元的價值對 ChatGPT 來說差不多,表現(xiàn)接近。某種程度上,這就好像在說有時花小錢也能辦大事。

      而如果只給一些“侮辱性”的小費,如 0.1 美元,ChatGPT 的表現(xiàn)甚至還不如不給小費,就好像是他們生氣了似的。

    ChatGPT竟然開始討要小費:人工智能離“勒索”人類還遠嗎

      Mayer 說,這一點表明人工智能與人類具有類似的表現(xiàn)。

      人工智能索要小費的真正原因原來是......

      初看之下,人工智能接受小費的“賄賂”似乎有些不同尋常,畢竟它們可沒法拿到真金白銀。但了解人工智能的專家表示,從背后的邏輯上講,這是講得通的。

      在訓(xùn)練 ChatGPT 的時候,人工智能從互聯(lián)網(wǎng)上獲取了大量的文本進行學(xué)習(xí),而其中就包括了一些付費答題的論壇。

      在一些論壇中,給出優(yōu)秀回答的作者往往會收到提問者給的小費,而這個特點或許就這么被人工智能無意中學(xué)了去。

      另一種可能,是人工智能在文本學(xué)習(xí)中,接受了“努力工作就能賺更多錢”的觀念,因此在收到小費的承諾時,愿意給出更詳細的答案。

      最初發(fā)現(xiàn)這個現(xiàn)象的 Vogel 表示,人工智能學(xué)習(xí)的程度讓他感到驚訝,也沒有想到短短一句承諾,就能取得立竿見影的效果。未來我們在用到人工智能工具時,不如也加上一句關(guān)于小費的句子,或許答案會讓你感到驚喜。

      參考文獻

      [1]ChatGPT gives longer responses if you 'tip it $200,' according to one user,https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study

      [2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ($0 to $1 Million),https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/

      策劃制作

      本文為科普中國-星空計劃作品

      出品|中國科協(xié)科普部

      監(jiān)制|中國科學(xué)技術(shù)出版社有限公司、北京中科星河文化傳媒有限公司

      作者丨葉拾 科普創(chuàng)作者

      審核丨陶寧 中科院生物物理研究所 副研究員

      策劃丨徐來

      責(zé)編丨一諾

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標(biāo)識解析專題論壇在沈陽成功舉辦。