史無前例：向來封閉的蘋果開源了！

　　作者丨Vandana Nair

　　編譯丨諾亞

　　蘋果在AI上的推進(jìn)向來謹(jǐn)慎得近乎保守。不過近來一些消息表明，蘋果也在悄悄干大事。

　　兩個月前，當(dāng)蘋果公司研發(fā)生成式人工智能工具和聊天機(jī)器人的消息傳出時，積極的市場情緒將蘋果公司的股價推至198.23美元的創(chuàng)紀(jì)錄高點(diǎn)，漲幅為2.3%。然而，除了蘋果公司在其LLM中使用Ajax以及員工內(nèi)部將其命名為AppleGPT之外，沒有公布關(guān)于該模型的其他細(xì)節(jié)。

　　根據(jù)The Information最近的報告，蘋果正在訓(xùn)練Ajax GPT，訓(xùn)練參數(shù)超過2000億，傳聞中比GPT-3.5更強(qiáng)大。更令人驚奇的是，蘋果做了一件以前從未做過的事情——在GitHub上開源它的代碼!

　　1、史無前例的舉動

　　今年7月，蘋果在GitHub上謹(jǐn)慎地上傳了AXLearn的代碼，讓公眾可以使用它來訓(xùn)練他們自己的大語言模型，而無需從頭開始。

　　AXLearn是蘋果公司在過去一年中為訓(xùn)練Ajax GPT而開發(fā)的內(nèi)部軟件，是一個機(jī)器學(xué)習(xí)框架。它可以作為快速訓(xùn)練機(jī)器學(xué)習(xí)模型的預(yù)構(gòu)建工具。Ajax是由Google研究人員創(chuàng)建的開源框架JAX衍生而來的，AXLearn的一些組件是專門為優(yōu)化Google TPU而設(shè)計的。

　　雖然蘋果可能在創(chuàng)新解決方案方面遙遙領(lǐng)先，但它也有把公司的優(yōu)先事項放在其他任何事情之前的糟糕一面。蘋果一直以培養(yǎng)封閉源代碼環(huán)境而臭名昭著。他們的技術(shù)和代碼都沒有向公眾開放。

　　當(dāng)大型科技公司發(fā)布優(yōu)秀的開源模型，如Meta的lama-2、Anthropic的Claude-2、Falcon、Vicuna等時，蘋果總是堅持他們傳統(tǒng)的保密路線，OpenAI也在遵循這一路線。蘋果的封閉源代碼做法受到科技界的批評，稱該公司受益于大型科技公司發(fā)布的研究成果，但從不給予任何回報。

　　蘋果決定將其培訓(xùn)軟件AXLearn開源，這是跨出其保密策略的重要一步。此舉可以促進(jìn)人工智能研究界的合作和創(chuàng)新，并反映出人工智能發(fā)展的更廣泛的開放趨勢。

　　雖然蘋果決定在GitHub上發(fā)布代碼的確切動機(jī)尚未披露，但很明顯，該公司每天在人工智能開發(fā)上投入數(shù)百萬美元的巨額投資，反映了它在人工智能競賽中積極參與競爭的決心。

　　有趣的是，上個月該公司在中國香港申請了“AXLearn”商標(biāo)。

　　2、向谷歌文化看齊

　　蘋果的人工智能負(fù)責(zé)人John Giannandrea和對話式AI Foundational Model團(tuán)隊的負(fù)責(zé)人龐若鳴都曾在谷歌任職，他們都帶來了豐富的經(jīng)驗。

　　Giannandrea帶來了他的愿景，即讓蘋果變得像谷歌一樣，讓員工有更多的自由進(jìn)行各種研究、發(fā)表論文和探索創(chuàng)新想法。蘋果之前在這些領(lǐng)域的限制阻礙了人才的增長和招聘。

　　據(jù)報道，蘋果還從谷歌和Meta的人工智能平臺團(tuán)隊中挖了不少人才過來。在過去的兩年里，在GitHub上AXLearn的18位貢獻(xiàn)者中，至少有7位曾在谷歌或Meta工作過。蘋果可能已經(jīng)調(diào)整了通過研究社區(qū)培養(yǎng)人才的方法，這使得開源成為正確的前進(jìn)道路。

　　3、破譯線索

　　綜合現(xiàn)有信息來看，蘋果似乎已經(jīng)組建了兩個新的團(tuán)隊，來研究語言和圖像模型。蘋果最近的人工智能研究報告暗示，將開發(fā)能夠生成圖像、視頻和3D場景的軟件，同時這也意味著其正在研究可以處理文本、圖像和視頻的多模態(tài)人工智能。

　　然而，將LLM整合到蘋果產(chǎn)品中仍然存在不確定性。蘋果一直傾向于將其新軟件安裝在其設(shè)備上，但將一個需要更多存儲空間和計算能力的2000億參數(shù)LLM集成到iPhone上是不合理的。該公司可能會開發(fā)用于手機(jī)集成的較小型號，或者該型號將用于其他用途，其細(xì)節(jié)仍難以捉摸。

　　原文鏈接：

　　https://analyticsindiamag.com/apple-springs-a-surprise-embraces-open-source-training-method/