2024 AI年度報告發(fā)布，附十大預(yù)測：人形機器人熱度下降，英偉達維持霸主地位

　　AI技術(shù)日新月異，像Netflix這樣的大公司已經(jīng)開始用AI制作特效，而新的AI模型也在游戲和科學(xué)研究中超越了人類。未來一年，我們可能會看到?jīng)]有編程技能的人也能創(chuàng)造熱門應(yīng)用，甚至AI創(chuàng)作的歌曲也可能登上音樂排行榜前十。

　　AI發(fā)展之勢迅猛，從技術(shù)、政策到產(chǎn)品風(fēng)險，相比從前都有了很大變化。

　　最近，State of AI發(fā)布了2024產(chǎn)業(yè)報告，也是調(diào)研團隊發(fā)布的第七份年度報告，從研究進展、行業(yè)局勢、現(xiàn)有政策、安全問題、未來預(yù)測等角度出發(fā)，對人工智能行業(yè)的現(xiàn)狀和預(yù)期進行了深度分析。

　　1. 前沿實驗室的性能開始趨同，專有模型的優(yōu)勢逐漸消失，GPT-4與其他模型之間的差距正在縮小。OpenAI的o1模型再次讓實驗室在排行榜上名列前茅，但還能持續(xù)多久呢?

　　2. 規(guī)劃和推理在大型語言模型(LLM)研究中占據(jù)了優(yōu)先地位，各公司正在探索將LLM與強化學(xué)習(xí)、進化算法和自我改進相結(jié)合，以解鎖未來的智能體應(yīng)用。

　　3. 基礎(chǔ)模型展示了它們突破語言的能力，支持跨數(shù)學(xué)、生物學(xué)、基因組學(xué)、物理科學(xué)和神經(jīng)科學(xué)的多模態(tài)研究。

　　4. 美國對中國實驗室實施的制裁對其生產(chǎn)高性能模型的能力影響有限，因為庫存、獲批硬件、走私和云訪問的結(jié)合使國內(nèi)能夠構(gòu)建高性能的(V)LLM，但國內(nèi)的半導(dǎo)體產(chǎn)業(yè)發(fā)展仍然較為混亂。

　　5. 因為上市公司經(jīng)歷了人工智能曝光的牛市，人工智能公司的企業(yè)價值已達到9萬億美元。對私營人工智能公司的投資也有所增加，但盡管美國出現(xiàn)了GenAI巨額融資，增幅卻小了一個數(shù)量級。

　　6. 一些人工智能公司開始產(chǎn)生可觀的收入，包括基礎(chǔ)模型構(gòu)建者和從事視頻和音頻生成的初創(chuàng)公司。然而，隨著模型作為企業(yè)搶占市場的一部分而變得更便宜，圍繞長期可持續(xù)性的疑問仍未得到解答。

　　7. 偽收購成為人工智能公司的一條出路，因為一些公司難以找到可行的商業(yè)模式，因為保持技術(shù)領(lǐng)先的成本很高。

　　8. OpenAI未遂的政變之后，關(guān)于存在風(fēng)險的討論已經(jīng)降溫。然而，研究人員一直在深化人們對潛在模型漏洞和濫用的了解，并提出了可能的修復(fù)措施和保障措施。

　　研究進展

　　1. 前沿實驗室的性能正在趨同，但OpenAI在推出o1后保持了其領(lǐng)先地位，規(guī)劃和推理成為主要的研究前沿。

　　2. 基礎(chǔ)模型展示了它們超越語言的能力，多模態(tài)研究推動了數(shù)學(xué)、生物學(xué)、基因組學(xué)、物理科學(xué)和神經(jīng)科學(xué)的發(fā)展。

　　3. 美國的制裁并沒有阻止中國的大型語言模型(V)LLM在社區(qū)排行榜上的崛起。

　　行業(yè)局勢

　　1. 英偉達(NVIDIA)仍是全球最強大的公司之一，享受著市值達到3萬億美元的輝煌時刻，而監(jiān)管機構(gòu)也正在調(diào)查生成式人工智能(GenAI)內(nèi)部的權(quán)力集中問題。

　　2. 更成熟的GenAI公司帶來了數(shù)十億美元的收入，而初創(chuàng)公司開始在視頻和音頻生成等領(lǐng)域獲得關(guān)注。盡管公司開始從模型轉(zhuǎn)向產(chǎn)品，但圍繞定價和可持續(xù)性長期問題仍未解決。

　　3. 在公開市場的牛市推動下，人工智能公司的市值達到了9萬億美元，而私營公司的投資水平也在健康增長。

　　計算需求的現(xiàn)實迫使大型科技公司面對擴張的現(xiàn)實世界物理限制和排放目標。與此同時，政府自身在建設(shè)能力方面的嘗試仍在落后。

　　預(yù)期人工智能對選舉、就業(yè)和其他敏感領(lǐng)域的影響尚未實現(xiàn)。

　　安全問題

　　1. 隨著之前警告我們?nèi)祟悳缃^即將到來的公司需要增加企業(yè)銷售和消費者應(yīng)用程序的使用，從安全轉(zhuǎn)向加速的氛圍發(fā)生了變化。

　　2. 世界各地的政府模仿英國在人工智能安全方面建立國家能力，成立研究所并研究關(guān)鍵國家基礎(chǔ)設(shè)施的潛在漏洞。

　　3. 每一個提出的破解「修復(fù)」方案都失敗了，研究人員開始關(guān)注更復(fù)雜、長期的攻擊。

　　2025十大預(yù)測

　　預(yù)測覆蓋了人工智能領(lǐng)域的各個方面，從大型投資到無代碼應(yīng)用的興起，再到數(shù)據(jù)隱私和人工智能法規(guī)的實施，甚至還涉及了開源技術(shù)的競爭、市場領(lǐng)導(dǎo)者的挑戰(zhàn)、人形機器人的發(fā)展趨勢。

　　1. 一個主權(quán)國家向美國的大型人工智能實驗室投資超過100億美元，引發(fā)國家安全審查。

　　2. 一個完全沒有編碼能力的人創(chuàng)建的應(yīng)用或網(wǎng)站走紅，比如進入蘋果應(yīng)用商店前100名。

　　3. 前沿實驗室在案件開始審判后，對數(shù)據(jù)收集的實踐方式發(fā)生了重大轉(zhuǎn)變。

　　4. 早期歐盟人工智能法案的實施結(jié)果比預(yù)期的要寬松，立法者可能會擔(dān)心他們做得太過分了。

　　5. 開源的OpenAI o1替代品在一系列推理基準測試中實現(xiàn)超越。

　　6. 挑戰(zhàn)者未能在英偉達的市場地位上取得任何有意義的突破。

　　7. 由于公司難以實現(xiàn)產(chǎn)品市場契合，對人形機器人的投資水平將下降。

　　8. 蘋果在設(shè)備上的研究取得了強勁的成果，加速了圍繞個人設(shè)備上人工智能的勢頭。

　　9. 由人工智能科學(xué)家生成的研究論文被一個主要的機器學(xué)習(xí)會議或研討會接受。

　　10. 一個以「生成式人工智能」為元素互動的視頻游戲?qū)�會取得突破性地位�?/p>

　　2023年度報告預(yù)測結(jié)果

　　正確預(yù)測

　　1. 好萊塢級別的制作公司開始使用生成式人工智能來制作視覺特效。

　　證據(jù):雖然大部分效果還不理想，但生成式人工智能視覺特效已經(jīng)在Netflix和HBO的作品中出現(xiàn)。

　　2. 美國聯(lián)邦貿(mào)易委員會(FTC)或英國競爭與市場管理局(CMA)基于競爭理由調(diào)查微軟/OpenAI的交易。

　　證據(jù):兩個監(jiān)管機構(gòu)都在調(diào)查合作伙伴關(guān)系。

　　3. 在全球人工智能治理方面，進展非常有限，會超出高層次的主動承諾(high-level voluntary commitments)。

　　證據(jù):是的，來自布萊切利和首爾峰會的承諾仍然是自愿和高層次的。

　　4. 一首由人工智能創(chuàng)作的歌曲進入公告牌Hot100前10名或Spotify2024年熱門榜單。

　　證據(jù):歌曲「Heart on My Sleeve」就是例子，也可以看到一首由人工智能創(chuàng)作的歌曲在德國中位列第27名，并保持了幾天。

　　5. 隨著推理工作負載和成本的顯著增長，一家大型人工智能公司(例如OpenAI)收購或建立了一個專注于推理的人工智能芯片公司。

　　證據(jù):據(jù)報道Sam Altman正在籌集大量資金來實現(xiàn)，而谷歌、亞馬遜、Meta和微軟等公司也在繼續(xù)構(gòu)建和改進他們自己的人工智能芯片。

　　錯誤預(yù)測

　　1. 有生成式人工智能媒體公司因其在2024年美國選舉期間的濫用行為受到調(diào)查。

　　解釋:目前還沒有，但讓子彈飛一會。

　　2. 自我改進的人工智能智能體在復(fù)雜環(huán)境中(例如AAA級游戲、工具使用、科學(xué)探索)超越了現(xiàn)有技術(shù)的最高水平。

　　解釋:還沒有，盡管在開放性方面有一些比較有前景的工作，如在游戲上的強勁表現(xiàn)。

　　3. 科技IPO市場解凍，至少看到一家以人工智能為重點的公司上市(例如DBRX)。

　　解釋:雖然the Magnificent Seven公司已經(jīng)獲得了強勁的增長，但私營公司仍在等待市場穩(wěn)定;人工智能芯片公司Cerebras已經(jīng)申請IPO。

　　4. 在生成式人工智能的擴展熱潮中，有一個團隊花費超過10億美元來訓(xùn)練一個大規(guī)模模型。

　　解釋:還沒有完全達到，可以等明年再看看。

　　5. 金融機構(gòu)推出GPU債務(wù)基金，以取代風(fēng)險投資股權(quán)美元用于計算資金。

　　解釋:還沒有，一些風(fēng)險投資基金傳聞提供GPU以換取股權(quán)，但還沒見過有人走上債務(wù)路線。