• 首頁 > 云計算頻道 > 大模型

    OpenAI神秘模型「草莓」兩周內上線?數(shù)學推理暴漲,月收費200刀已有人付費

    2024年09月11日 15:32:44   來源:新智元公眾號

      就在剛剛,The Information曝出:OpenAI的草莓將于兩周內上線!收費疑似200刀一個月,最大的特色就是比其他模型多思考10到20秒。然而因為「狼來了」太多回,網(wǎng)友們忍不住吐槽:OpenAI現(xiàn)在就是個炒作公司。

      最新消息,「草莓」將在兩周內發(fā)布!

      這一消息由外媒The Information曝出,據(jù)稱是兩位已經測試過草莓模型的人士透露的。

      發(fā)布時間比此前報道的秋季要早。

      草莓跟其他模型的最大區(qū)別是啥呢?

      答案是,更智能,但更慢、更貴。

      而知名爆料人Jimmy Apples的說法是,一個模型(可能被稱為GPT-4.5)預計會在十月發(fā)布。

      與此同時,GPT-5很可能會在12月發(fā)布,但保險起見,說2025年第一或第二季度發(fā)布,是比較穩(wěn)妥的。

      在9月3日,Jimmy Apple還曾經艾特Sam Altman,戲謔地問道:「我耳邊的低語是真的嗎?我們終于要在十月做一些事了嗎?」

      根據(jù)Jimmy Apple的說法,需要耐心的時代已經過去,現(xiàn)在,我們迎來了發(fā)布的季節(jié)。

      而AI大V「數(shù)字生命卡茲克」表示,自己的朋友發(fā)現(xiàn)ChatGPT Pro會員已經上線了,售價200美元每月。

      他們推測,ChatGPT Pro會員,或許就是為即將上線的草莓而準備的。

      不過根據(jù)此前的爆料,草莓本身的目的,似乎是為OpenAI的下一代大模型獵戶座生成更高質量數(shù)據(jù)。

      因此也有人說,我們不必對草莓抱以過高期待。

      草莓,比我們預期的更早?

      據(jù)悉,兩位已經測試過草莓模型的人士透露,OpenAI計劃在兩周內將其作為ChatGPT服務的一部分發(fā)布。

      而在原先,The Information報道的發(fā)布時間是在秋季。

      這一次,報道中透露了一些新細節(jié)。

      首先,雖然草莓是ChatGPT的一部分,但它是一個獨立的產品。

      目前還不清楚它將如何推出,一種可能是將其包含這種驅動ChatGPT的AI模型的下拉菜單中,根據(jù)兩位人士的說法。

      這就會讓草莓跟常規(guī)的服務有很大不同。

      第二點,草莓和其他對話式AI最大的區(qū)別,就是它在響應之前會思考10到20秒,然后才回答問題。

      多個網(wǎng)友現(xiàn)身說法,表示自己上周發(fā)現(xiàn)ChatGPT返回某個響應時需要10秒才能加載,或許OpenAI已經在進行a/b測試了。

      第三點,草莓的初始版本目前只能接收和生成文本,而不能處理圖像,這也就意味著,它尚未像OpenAI的其他模型一樣實現(xiàn)多模態(tài)功能。

      因為如今發(fā)布的大多數(shù)LLM都是多模態(tài)的,這個缺陷對比之下就很顯著。

      最后,就是定價問題了。

      現(xiàn)在OpenAI的聊天機器人有免費的,也有分等級的訂閱價格。

      草莓可能會有低價位和高價位的兩檔,前者會有速率限制,并且限制用戶每小時的最大消息數(shù)量;而更高價位的版本,響應的速度也會更快。

      這種安排,當然也是希望讓更多用戶為新模型付費,就像此前OpenAI限制ChatGPT免費用戶消息數(shù)量一樣。

      草莓會怎樣收費呢?

      根據(jù)The Information此前的爆料,每月50、75、200、2000刀似乎都有可能。

      一位知情人士稱,在OpenAI早期的內部討論中,訂閱價格曾高達每月2000美元,但并未最終確定

      如今看來,200美元/月的定價應該是沒跑了。

      來源:數(shù)字生命卡茲克

      The Information還預測,目前為ChatGPT付費(每月20美元)的客戶,會比免費用戶更早訪問首個草莓模型。

      處理復雜問題更拿手

      據(jù)悉,草莓會比GPT-4o更擅長復雜的問題,或多步驟查詢。

      目前,如果用戶想在ChatGPT中得到理想的答案,往往還需要輸入各種格外的prompt。

      比如用「連貫思維提示」,讓ChatGPT通過中間推理步驟來得出答案。

      而草莓可能會避免這種麻煩,讓用戶一步得到結果。

      這也就意味著,草莓不僅在數(shù)學和編碼問題上會更好,還會更擅長主觀的商業(yè)任務,比如頭腦風暴一個產品營銷策略。

      爆料人表示,草莓的思考步驟,會避免它出錯。

      而多思考的那十秒到二十秒,會讓它更可能知道,何時要向客戶詢問后續(xù)問題,來完成對他們的解答。

      多思考20秒是雞肋?

      然而兩位人士透露,OpenAI還需要再解決一些問題。

      比如,理論上講,草莓應該能夠在用戶提出簡單問題時,跳過其思考步驟。然而在實際應用中,模型并不總是這樣。

      它可能會錯誤地花費過多時間,來回答那些其他OpenAI模型很快就能回答的問題。

      用過草莓模型的人抱怨說,跟GPT-4o相比,草莓的回復只是稍稍更好一些,但并沒有好到值得用戶去等10到20秒。

      另外,OpenAI希望迎合用戶的這一特定偏好:在回答新問題前,草莓會記住并且整合與用戶先前的聊天記錄。

      這個細節(jié)非常重要,比如如果用戶希望軟件代碼以某種格式書寫的時候,這種能力就非常有用。

      然而令人沮喪的是,草莓并不總是能做到這一點。

      網(wǎng)友吐槽:還要擠多久?

      冷知識:距離OpenAI發(fā)布GPT-4,已經過去了一年零六個月。而新模型的影子,至今還沒看到。

      OpenAI的草莓,來來回回炒作了好幾遍。狼來了的故事來了太多次,網(wǎng)友們都快麻了。

      別家都是要發(fā)模型就干脆利落地發(fā),只有它把同一個話題來回來去地炒,就是不發(fā)真東西。

      奧特曼之前曬出花園里的草莓照,就曾一度引起軒然大波,然而最終卻無事發(fā)生,這種「謎語人」的操作難免令人生厭。

      現(xiàn)在提起OpenAI,很多群眾的第一反應就是——

      沒錯,它已經逐漸淪為「炒作」的代名詞。

      更有網(wǎng)友做出梗圖,調侃道:OpenAI發(fā)布新模型的姿勢是這樣的——

      這樣的——

      以及這樣的——

      本來在大模型領域,OpenAI是遙遙領先的領導者。但如今,競爭者們早已后來居上了。

      上個月,谷歌就推出了AI語音助手 ,能夠靈活處理用戶的突然中斷和話題變化。

      要知道,OpenAI在五月就首發(fā)了「Her」的功能,然而這個語音助手GPT-4o Voice隨后卻推遲了發(fā)布,原因是OpenAI在提高安全措施,確保模型拒絕不當內容。

      如今正值草莓模型的發(fā)布前期,可能OpenAI也在做類似的準備。

      而最令人失望的一點其實是,跟前兩年的如火如荼相比,今年OpenAI的發(fā)展似乎已經停滯了。

      與此同時,模型的計算量、參數(shù)大小、數(shù)據(jù)集大小,都紛紛遭遇瓶頸,開源模型和閉源模型的能力也在逐漸縮小。

      是不是因為沒有不夠的GPU,所以我們現(xiàn)在依然離AGI如此遙遠?

      如何破局?用RL

      打破瓶頸的方法,如今各家都走到了同一路徑——Self-play RL。

      在LLM領域,自我博弈理論看起來就像是AI反饋

      Claude3.5就是基于Self-play RL做出的,因此代碼能力強到突出。

      而我們都知道,草莓有一個重要作用,就是給下一代大模型合成數(shù)據(jù),這里面有個前提,就是它同樣是基于新范式Self-play做出的。

      很多LLM的弱點就在推理能力上,而有些初創(chuàng)公司為了提高它們的推理能力,就采用了一種廉價的技巧,將問題分解為更小的步驟,盡管這些方法速度慢且成本高昂。

      AlphaGo就是通過Self-play學習,擊敗了李世石

      在草莓中,我們也看到了類似的思路。

      用Self-play RL去驗證,自然就能讓草莓的數(shù)學和代碼能力上飛速暴漲。

      同樣,付出的代價就是極高的推理成本,導致它又貴、又慢。

      但得到的結果,是極高的智能,或許啟發(fā)我們通往AGI的路線,就靠草莓這種思路了。

      說起來,「草莓之父」,其實就是已經離職了的OpenAI的首席科學家Ilya Sutskever。

      據(jù)悉,OpenAI的一些人認為Q*可能是OpenAI在AGI上取得的一個突破

      在Ilya離職之前,OpenAI的研究人員Jakub Pachocki和Szymon Sidor,在Ilya的工作基礎上開發(fā)了一個新的數(shù)學求解模型Q*。

      據(jù)稱,Q*解決的此前從未見過的數(shù)學題。

      Ilya做出的突破,使OpenAI不再受限于獲取足夠的高質量數(shù)據(jù)來訓練新模型,而這,正是開發(fā)下一代模型的主要障礙。

      另外,在去年Q*的前期準備中,OpenAI研究人員開發(fā)了一種被稱為「測試時計算」的概念變體,目的是提升LLM的問題解決能力。

      這樣,LLM就會花更多時間考慮被要求執(zhí)行的命令,或問題的各個部分。

      當時,Ilya發(fā)表了一篇與這項工作相關的博客,展示了模型如何解決了數(shù)個極有難度的數(shù)學問題。

      比如在下面這道題中,GPT-4成功執(zhí)行了一系列復雜的多項式分解。

      基于這類技術做出的草莓,雖然更貴、更慢,但數(shù)學和推理的進步無疑是驚人的。

      或許對于普通用戶,它未必是一個更值得付費的產品。

      但對于需要高階能力的場景,草莓會更有發(fā)揮的余地。

      大佬猜測:谷歌DeepMind論文疑似揭示方法

      有趣的是,Menlo風投負責人、前谷歌搜索工程師Debarghya Das發(fā)推稱:Google DeepMind在最近一篇論文中提出的方法,可能就是OpenAI在Strawberry上用的。

      論文提出,讓LLM進行更多的「測試時計算」(test-time computation),對于構建能在開放語境下操作、能實現(xiàn)自我提升的agent,是關鍵的一步

      而這篇論文就重點研究了擴展「推理期計算」(inference-time computation)這個問題。

      如果允許LLM使用固定但非平凡量的推理期計算,它在應對具有挑戰(zhàn)性的提示詞時,可以有多少性能提升?

      這個問題不僅影響LLM的可實現(xiàn)性能,還關系到LLM預訓練的未來,以及如何在推理計算和預訓練計算之間進行權衡。

      為了回答這個問題,研究團隊分析了擴展測試時計算的兩種主要機制:(1)針對密集的、基于過程的驗證器獎勵模型進行搜索;(2)根據(jù)測試時得到的提示詞,自適應更新模型對響應的分布。

      結果顯示,在這兩種情況下,對測試時計算的不同擴展方法的有效性,很大程度上取決于提示詞的難度。

      基于此,研究團隊提出了一種「計算最優(yōu)」擴展策略——通過為每個提示詞自適應地分配測試時計算,使測試時計算的擴展的效率提高4倍以上。

      另外,在FLOPs一致的評估中,對于那些較小的基礎模型已取得一定程度非平凡成功率的問題,測試時計算可以使其超越規(guī)模大14倍的模型。

      不過,網(wǎng)友們對這一猜測并不認可。

      Topology首席執(zhí)行官Aidan McLaughlin表示,谷歌DeepMind探討的是最佳N采樣和蒙特卡洛樹搜索(MCTS)。

      而「草莓」可能會是一個具有特殊token(回溯、規(guī)劃等)的深度混合模型。它可能會通過人類數(shù)據(jù)標注者和來自易于驗證領域(如數(shù)學/編程)的強化學習進行訓練。

      另一位網(wǎng)友也提出疑問——「草莓」不是一個神經符號模型嗎?

      對此,Deedy解釋道:「根據(jù)網(wǎng)上的這些信息和傳聞:『草莓』將通過在響應空間中使用搜索技術來改進推理,其推理時間計算為10到20秒!

      而這,正是這項研究所解釋的內容。

      文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。

    即時

    TCL實業(yè)榮獲IFA2024多項大獎,展示全球科技創(chuàng)新力量

    近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術、產品設計及應用方面的創(chuàng)新變革,全球領先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產品設計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強大影響力。

    新聞

    敢闖技術無人區(qū) TCL實業(yè)斬獲多項AWE 2024艾普蘭獎

    近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術和新品亮相,以敢為精神勇闖技術無人區(qū),斬獲四項AWE 2024艾普蘭大獎。

    企業(yè)IT

    重慶創(chuàng)新公積金應用,“區(qū)塊鏈+政務服務”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    “純臻4K 視界煥新”——愛普生4K 3LCD 激光工程投影

    2024年3月12日,由愛普生舉辦的主題為“純臻4K 視界煥新”新品發(fā)布會在上海盛大舉行。

    研究

    2024全球開發(fā)者先鋒大會即將開幕

    由世界人工智能大會組委會、上海市經信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導,由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。