將AI帶入企業(yè) 紅帽選擇了“開源”和“混合”

　　6月20日消息，在言必談AI的當(dāng)下，如何把握AI發(fā)展機遇?在2024紅帽媒體Open講話活動上，紅帽全球副總裁兼大中華區(qū)總裁曹衡康對外闡述了紅帽在生成式AI與大模型領(lǐng)域的最新理念和舉措。

　　在解讀紅帽在AI發(fā)展路線上的看法時，曹衡康著重強調(diào)了兩點：AI必須是開源的，AI應(yīng)該在混合云上做。

　　曹衡康解釋稱，開源閉源之間并沒有對錯之分，但在封閉體系下，生態(tài)的壟斷和安全隱患已初具端倪。相較之下，開源由于受到整個開源社區(qū)的監(jiān)督，能夠更好地應(yīng)對安全問題。同時，開源能夠降低企業(yè)擁有核心技術(shù)的門檻，讓開發(fā)者參與到模型貢獻當(dāng)中，提升效率和性能。

　　“未來，AI既會有開源，也會有閉源，但紅帽絕對是開源的。”曹衡康說到，“開源精神是紅帽文化的核心，也是紅帽在AI領(lǐng)域取得成功的關(guān)鍵。”

　　關(guān)于混合云，曹衡康提到，AI從開發(fā)到運行都并非僅能在云上操作，筆記本甚至智能手機都可以實現(xiàn)建模開發(fā)。因此，AI應(yīng)該拿到混合云上來操作。

　　這主要有三方面原因：一是能夠最大化利用資源;二是可以提升效率;三則是安全問題，因為很多的模型可能很多企業(yè)是本身自己企業(yè)內(nèi)部用的，假如放到“云”上面會有一些安全問題。

　　紅帽大中華區(qū)解決方案架構(gòu)部高級總監(jiān)王慧慧進一步補充稱，將混合模式落到AI項目上其實并不難理解。比如某企業(yè)建模時可在數(shù)據(jù)中心搭建，培訓(xùn)時可在公有云上訓(xùn)練，推理時甚至可以在公司產(chǎn)線上的某一臺風(fēng)控設(shè)備上進行。而企業(yè)若要“單打獨斗”實現(xiàn)這些操作，還需解決構(gòu)建AI基礎(chǔ)架構(gòu)、保證協(xié)作效率、進行模型調(diào)優(yōu)、開發(fā)AI應(yīng)用、促進模型與應(yīng)用間的高效交互等問題。

　　如何以開源的方式將AI帶入企業(yè)?紅帽此前已經(jīng)宣布了一系列與AI相關(guān)的創(chuàng)新，包括RHEL AI、OpenShift AI和Lightspeed等，并與NVIDIA等合作伙伴在混合云和AI領(lǐng)域展開合作。

　　曹衡康表示，紅帽不做硬件，不做應(yīng)用，而是在兩者之間提供領(lǐng)先的AI平臺，幫助企業(yè)安全高效地部署和管理AI模型、應(yīng)用;構(gòu)建AI基礎(chǔ)設(shè)施層，為企業(yè)提供安全的可擴展基礎(chǔ)設(shè)施和自動化。

　　對于在中國的發(fā)展策略，曹衡康表示，紅帽將配合國家戰(zhàn)略，加速企業(yè)智能制造升級，同時賦能與融合國內(nèi)AI生態(tài)，加速AI在全行業(yè)的應(yīng)用。

　　以下為與曹衡康、王慧慧、紅帽大中華區(qū)市場總監(jiān)趙文斌的部分對話實錄：

　　問：混合AI是一個什么樣的概念?

　　曹衡康：從開發(fā)來講，開發(fā)就不需要一定在“云”上開發(fā)、我可以在筆記本建模、開發(fā)。運行的時候可以在“云上、云下”，在我“私有云”、筆記本、甚至是手機上都可以運行，就是從“建模”跟“運行”都是一樣。還有就是混合模式，找出最適合的計算方式�？赡芪以谟嬎愕臅r候，只要前提是數(shù)據(jù)、客戶愿不愿意把數(shù)據(jù)放在公有云上面。當(dāng)我在整個運行當(dāng)中找出一個最優(yōu)化的方式計算，因為GPU不夠、又耗電，我就找出最優(yōu)化的方式把這個東西、這個應(yīng)用整個執(zhí)行出來。

　　王慧慧：它既可以被部署在公有云上、也可以私有云上，也可以一個私有化的數(shù)據(jù)中心或者某個設(shè)備上都可以。舉一個比較簡單的例子：同樣一個AI項目或者AI應(yīng)用，建模的時候可以在數(shù)據(jù)中心里面建，訓(xùn)練的時候可以在公有云上訓(xùn)練，最后做推理的時候可以在產(chǎn)線上的某一臺工控設(shè)備上面去做推理，同樣的一套AI。也就是說，這個AI項目本身的不同階段可以用不同的環(huán)境。

　　為什么這樣做?因為我們支持的就是一個混合環(huán)境，只不過你每一次在使用的時候你覺得你的資源在哪邊，你用什么方面覺得是安全的。你不希望你推理時候個人數(shù)據(jù)去公有云上，那你就放在自己的數(shù)據(jù)中心去做、都可以。

　　問：為什么我們現(xiàn)在談AI、大模型，大家都在關(guān)注GPU、不關(guān)注其它層面，根本原因是什么?

　　曹衡康：其實算力講“白”了、做的事情本身是最簡單的，比如最核心的運算可能就是矩陣乘。現(xiàn)在的大模型訓(xùn)練本質(zhì)上做的是一個大力出奇跡的事情，是需要大量的快速的做這些矩陣乘的運算，GPU資源可能就成為瓶頸。

　　問：大家都相信“大力出奇跡”，覺得基礎(chǔ)設(shè)施到位了，可能就能產(chǎn)生一些應(yīng)用。但現(xiàn)實是，大家可能對于AI做事并沒有太大的信心、做什么也沒有看到。

　　曹衡康：目前AI的發(fā)展還比較早期，可能首先要解決有無問題，因此我們看到在GPU，AI Infrastructure等方面，大家比較關(guān)注，順便提一句，紅帽是能夠幫助您快速構(gòu)建AI Infrastructure軟件的一家公司。 在AI的應(yīng)用和如何變現(xiàn)方面，整個行業(yè)都還需要探索，大模型本身目前還有一些問題，比如幻覺，所以對于AI做事，既要有信心，同時也應(yīng)看到技術(shù)發(fā)展目前的局限性。

　　趙文斌：大家都看“算力、平臺、模型”�，F(xiàn)在開源的模型很多、開發(fā)平臺相對來講也有一些開源或者一些選擇，只是短期的一個焦點問題就是算力、因為相對緊張。這是一個現(xiàn)實的問題，所以關(guān)注度高。但是這是一個發(fā)展階段的初級階段的問題。“大力出奇跡”沒問題，大模型是不是可以針對行業(yè)企業(yè)有小模型，用更小的算力就可以解決你的生產(chǎn)和應(yīng)用的問題。其實市場的解決方法很多，只是因為大家對這個市場還是早期、還沒有看清楚，短期突出的是算力緊張的問題。我覺得隨著大家的研究更深入或者更多的工具、更多廠商的這些方案更清楚，我覺得這個問題相對會被平滑地過渡過去。只是這樣的一個過程。

　　王慧慧：我們?nèi)绻�看AI這件事的話，AI其實存在很久了。最近這么火是因為生成式AI、大模型把它炒熱的，實際上企業(yè)AI落地的應(yīng)用去年、前年都有了。在我看來AI至少有四個方面的問題是值得所有從業(yè)者、媒體朋友們一起討論的：

　　1.基礎(chǔ)架構(gòu)。就是所謂的算力平臺，GPU的問題。

　　2.算法和模型的問題。我們其實并沒有人很多地去探討“算法”和“模型”，可能是因為這個很難被廣大的聽眾們和觀眾們能夠理解。比方說我們今天說：Lab是個算法，很難去解釋這個事情。

　　3.數(shù)據(jù)。數(shù)據(jù)其實因為考慮到合規(guī)的問題，每個國家、每個地方都有數(shù)據(jù)合規(guī)的問題，以及數(shù)據(jù)隱私的問題，其實這也是AI相關(guān)的領(lǐng)域。

　　4.AI本身的應(yīng)用場景的問題�，F(xiàn)在我覺得AI應(yīng)用本身場景的問題，每一個企業(yè)都在摸索中。我們現(xiàn)在看到大量的生成式AI，就是ChatGPT給我們沖擊太大了。國內(nèi)也有很多大語言模型，例如：文心一言什么的，你問它個問題、它就回答了。但是這些不是企業(yè)級的AI應(yīng)用，企業(yè)級的AI應(yīng)用才是真正的為企業(yè)創(chuàng)造生產(chǎn)力的一個內(nèi)容。什么樣的企業(yè)級的AI應(yīng)用真的能夠做到新質(zhì)生產(chǎn)力呢?就是用更少的投入得到更多的產(chǎn)出，這個其實是一個更值得探討的問題，而且我們中國這么多的企業(yè)、這么多的不同的各行各業(yè)的企業(yè)，我是很堅信企業(yè)級的AI應(yīng)用在中國一定會發(fā)展得特別迅速，只是現(xiàn)在大家好像還沒有開始探討這件事。(周小白)