紅帽重磅發(fā)布RHEL AI 1.3版：支持Granite LLM與英特爾Gaudi 3

　　紅帽公司近日發(fā)布了其企業(yè)級 Linux 人工智能平臺 RHEL AI 的最新版本1.3，該版本新增了對 IBM Granite 大型語言模型(LLM)的支持，并預覽了對 Intel Gaudi3加速器的支持。這一更新為紅帽的服務合作伙伴和系統(tǒng)集成商帶來了更多的機會，幫助企業(yè)更有效地探索和整合人工智能應用。

　　紅帽 AI 業(yè)務部門副總裁兼總經(jīng)理喬・費爾南德斯表示，服務合作伙伴和系統(tǒng)集成商在幫助公司實現(xiàn)不同的應用案例方面扮演著重要角色。他指出，生成式人工智能的復雜性使得這些合作伙伴能夠為客戶提供更具成本效益的解決方案。紅帽旨在通過使用更小的模型來降低成本，簡化將模型與客戶數(shù)據(jù)和用例集成的復雜性，并提供靈活性，以便在混合環(huán)境中部署這些模型。

　　RHEL AI1.3版專為企業(yè)應用開發(fā)、測試和運行生成式人工智能模型而設計。此次更新包括對 IBM 開源許可的 Granite 大語言模型的支持，同時還利用開源技術進行數(shù)據(jù)準備。用戶可以通過與 IBM 共同開發(fā)的 InstructLab 模型對齊項目，利用這些組件創(chuàng)建可打包的、可啟動的 RHEL 映像，以便在混合云中進行單獨服務器的部署。

　　新版本支持 Granite3.08b 英文語言用例，并提供了開發(fā)者預覽，用戶可以體驗該模型的非英語語言、代碼生成和函數(shù)調(diào)用能力，后續(xù)版本將全面支持這些功能。此外，RHEL AI 還支持 IBM 研究院的 Docling 開源項目，能夠?qū)⒊Ｒ娢臋n格式轉(zhuǎn)換為 Markdown、JSON 等格式，以便用于生成式人工智能應用和訓練。新版本具備上下文感知的分塊能力，能夠考慮文檔的結(jié)構(gòu)和語義元素，旨在提高生成式人工智能的響應質(zhì)量。

　　此次發(fā)布還增加了對 Intel Gaudi3加速器的技術預覽支持，用戶可以在實時處理中并行處理多個請求，并在處理過程中動態(tài)調(diào)整 LLM 參數(shù)。未來的 RHEL AI 版本將進一步支持 Docling 的更多文檔格式，集成增強檢索生成管道以及 InstructLab 知識調(diào)優(yōu)功能。