擊敗GPT-4的那群人

　　很少有人注意到 Claude3兼顧安全的努力以及背后深刻動(dòng)機(jī)。還有他們客戶群體的特點(diǎn)。

　　Claude3繪制的它自己，在社交媒體上廣為流傳。

　　GPT-4結(jié)束了“獨(dú)孤求敗”的日子。

　　前幾天，OpenAI 最大的競(jìng)爭(zhēng)對(duì)手 Anthropic 發(fā)布了新一代 AI 大模型系列 —— Claude3。該系列包含三個(gè)“杯型”，按能力由弱到強(qiáng)(價(jià)格由低到高)排列分別是 Claude3Haiku、Claude3Sonnet 和 Claude3Opus。

　　其中，能力最強(qiáng)的 Opus 在多項(xiàng)基準(zhǔn)測(cè)試中得分都超過(guò)了 GPT-4和 Gemini1.0Ultra，在數(shù)學(xué)、編程、多語(yǔ)言理解、視覺(jué)等多個(gè)維度樹(shù)立了新的行業(yè)基準(zhǔn)。

　　Anthropic 表示，Claude3Opus 擁有人類本科生水平的知識(shí)。

　　這兩天各種體驗(yàn)案例洶涌而至，贊嘆聲絡(luò)繹不絕。除了聰明，很少有人提及與其他競(jìng)爭(zhēng)對(duì)手相比，Claude 的另一個(gè)重要優(yōu)勢(shì)——它不太可能說(shuō)出有害的話，部分原因是它有一種名為“憲法 AI ”的訓(xùn)練技術(shù):

　　先給模型頒布一份“憲法”，然后告訴它盡可能遵循這些原則。“憲法”條款來(lái)源比較多元——從聯(lián)合國(guó)人權(quán)宣言到社交媒體社區(qū)規(guī)則，還包括 Anthropic 自己定的規(guī)則。然后使用第二個(gè) AI 模型來(lái)評(píng)估第一個(gè)模型的“合憲程度”，在必要時(shí)對(duì)其進(jìn)行糾正。

　　盡管如此，他們?nèi)匀粫?huì)在發(fā)布前夜感到緊張和高壓。去年夏天， Claude2發(fā)布前夜，一群表情焦躁的工程師不斷討論發(fā)布當(dāng)天可能出現(xiàn)的各種問(wèn)題。如果新用戶的激增壓倒了公司的服務(wù)器怎么辦?如果模型不小心威脅或騷擾別人，造成(微軟必應(yīng)式)的公關(guān)難題怎么辦?

　　在一間會(huì)議室里，Anthropic CEO Dario Amodei 也在仔細(xì)研究自己心中的潛在災(zāi)難清單，他總是會(huì)擔(dān)心這個(gè)模型會(huì)不會(huì)做一些大家沒(méi)有注意到的可怕事情?

　　當(dāng)時(shí)，他們花了幾個(gè)月才將 Claude2推出去，部分原因是公司的紅隊(duì)成員不斷想出新的方法，讓它可能變得危險(xiǎn)。

　　某種意義上，這種對(duì) AI 的擔(dān)憂正是 Anthropic 存在的原因。這是由一群前 OpenAI 員工于2021年創(chuàng)立的公司，由于越來(lái)越擔(dān)心 OpenAI 變得過(guò)于商業(yè)化，他們宣布分拆出去、組建自己的 AI 企業(yè)，稱為“ AI 安全實(shí)驗(yàn)室”。

　　CEO Dario Amodei 今年41歲，是普林斯頓大學(xué)畢業(yè)的物理學(xué)家，曾領(lǐng)導(dǎo)開(kāi)發(fā) GPT-2和 GPT-3的 OpenAI 團(tuán)隊(duì)。他的妹妹 Daniela Amodei 今年36歲，曾負(fù)責(zé)監(jiān)督 OpenAI 的政策和安全團(tuán)隊(duì)，也是公司總裁。

　　幾位聯(lián)合創(chuàng)始人研究了所謂的“神經(jīng)網(wǎng)絡(luò)縮放定律”—— 依據(jù)其揭示的數(shù)學(xué)相關(guān)性，AI 研究人員可以根據(jù)其訓(xùn)練的數(shù)據(jù)量和算力來(lái)預(yù)測(cè) AI 模型能力。他們?cè)?OpenAI 就發(fā)現(xiàn)，只需為模型提供更多數(shù)據(jù)并添加更多算力，就能讓模型更智能，而無(wú)需對(duì)底層架構(gòu)進(jìn)行重大更改。他們也擔(dān)心，如果這些機(jī)構(gòu)繼續(xù)制造越來(lái)越大的模型，很快會(huì)達(dá)到一個(gè)危險(xiǎn)的臨界點(diǎn)。

　　起初，他們考慮使用其他公司的 AI 模型進(jìn)行安全研究。但很快發(fā)現(xiàn)此路不通，搞尖端的安全研究得有自己的基礎(chǔ)模型(費(fèi)曼學(xué)習(xí)法?)，這又帶來(lái)一個(gè)更為現(xiàn)實(shí)的難題——怎么籌錢購(gòu)買貴得要死的 GPU?

　　權(quán)衡下來(lái)，他們決定將 Anthropic 變成一家公益企業(yè)( a public benefit corporation )。根據(jù)當(dāng)?shù)胤�律，這種新企業(yè)形態(tài)將使他們能夠兼顧利潤(rùn)和社會(huì)責(zé)任(所謂的初心)。他們把自家 LLM 命名為 Claude ， 被賦予樂(lè)于助人、無(wú)害和誠(chéng)實(shí)的使命。

　　“沒(méi)有一個(gè)主流 AI 實(shí)驗(yàn)會(huì)像 Anthropic 那樣完整體現(xiàn)出有效利他主義。”《紐約時(shí)報(bào)》在去年的一篇報(bào)道中評(píng)價(jià)說(shuō)。

　　對(duì)于有效利他主義者而言，一個(gè)很重要的目標(biāo)就是改善這個(gè)世界，而且做到越有效率越好。這意味著他們會(huì)透過(guò)理性分析、衡量狀況，確保手中資源能夠發(fā)揮最大效益，以實(shí)現(xiàn)目標(biāo)。

　　《紐約時(shí)報(bào)》記者發(fā)現(xiàn)，公司的許多早期員工都是有效利他主義者，大部分啟動(dòng)資金也來(lái)自有效利他主義陣營(yíng)里一群富有的科技高管，其中包括 Facebook 聯(lián)合創(chuàng)始人 Dustin Moskovitz、 Skype 聯(lián)合創(chuàng)始人 Jaan Tallinn。2022年，Anthropic 收到了 Sam Bankman-Fried 的支票——失敗的加密貨幣交易所 FT X 創(chuàng)始人，在他的帝國(guó)崩潰之前，他向 Anthropic 投資了5億多美元。

　　Anthropic 對(duì)安全的癡迷對(duì)公司的形象有好處(特別是對(duì)立法者和監(jiān)管者而言)，但也被質(zhì)疑放慢了模型進(jìn)化速度，影響模型表現(xiàn)。

　　最早的 Claude 就比較沉悶和愛(ài)說(shuō)教，在一些眾籌的人類評(píng)估榜單上，Claude2還沒(méi) Claude 評(píng)級(jí)高，雖然 Claude2更安全。不過(guò)，Claude3在兼顧安全護(hù)欄和用戶體驗(yàn)上要比前輩做得更好。Anthropic表示，靠近安全護(hù)欄但實(shí)際無(wú)害卻被 Claude3拒絕的 Prompts 大概有10%，而 Claude2.1有25%。

　　由此，同樣注重安全的企業(yè)用戶也順理成章地成為他們的主要客戶——出售給大公司，或?qū)⒋竽Ｐ妥兂衫麧?rùn)豐厚的訂閱產(chǎn)品，這與專注消費(fèi)者市場(chǎng) Infection AI、Character AI 甚至 Open AI 等對(duì)手有所不同。兩位了解其財(cái)務(wù)狀況的人士告訴《紐約時(shí)報(bào)》，該公司去年月收入約為800萬(wàn)美元，預(yù)計(jì)今年將增長(zhǎng)約8倍。

　　Claude 的客戶包括科技公司Gitlab、Notion、Quora 和Saleforce(也是Anthropic 的投資人);金融巨頭橋水基金、SAP 以及商業(yè)研究門戶網(wǎng)絡(luò) LexisNexis、SK 電信和全美最佳癌癥醫(yī)院之一丹娜-法伯癌癥中心。

　　Claude3也更多考慮了企業(yè)用戶。比如，Claude3Opus 主要瞄準(zhǔn)那些需要從事非常前沿的復(fù)雜數(shù)據(jù)分析、生物醫(yī)學(xué)研究的企業(yè)。Sonnet 便宜了很多，用于更為常見(jiàn)的應(yīng)用，比如大型數(shù)據(jù)的存儲(chǔ)與搜索、銷售預(yù)測(cè)和代碼生成。Haiku 最便宜， 主要用與客戶實(shí)時(shí)交流，比如物流查庫(kù)存、內(nèi)容審核。

　　最近，Anthropic 又以184億美元的估值籌集了7.5億美元(至此，他們?cè)谝荒陜?nèi)獲得了73億美元的融資)，計(jì)劃在未來(lái)幾個(gè)月增加代碼解釋、搜索和資源引用等功能。

　　斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授 Percy Liang 曾表示“贊賞 Anthropic 對(duì) AI 安全的承諾”，但也擔(dān)心該公司會(huì)陷入商業(yè)壓力，要求發(fā)布更大、更危險(xiǎn)的模型。Dario Amodei對(duì)于這些擔(dān)憂的回應(yīng)是，想要與 OpenAI 和其他頂級(jí)實(shí)驗(yàn)室競(jìng)爭(zhēng)的主要原因不是為了賺錢，而是為了更好地進(jìn)行安全研究。

　　他們相信他們正在采取正確的預(yù)防措施，最終，他們希望他們對(duì)安全的癡迷能在硅谷更廣泛地流行起來(lái)。“我們希望會(huì)有一場(chǎng)安全競(jìng)賽，”Anthropic 聯(lián)合創(chuàng)始人之一 Ben Mann 去年在接受《紐約時(shí)報(bào)》采訪時(shí)曾說(shuō)。“我希望不同的公司會(huì)說(shuō)，'我們的模型是最安全的。然后另一家公司會(huì)說(shuō)，'不，我們的模型是最安全的。”