英偉達推出NeMo 極大簡化自定義生成式AI開發(fā)

　　為了幫助全球開發(fā)者、企業(yè)更好的開發(fā)定制大模型和生成式AI產品，例如，聊天機器人、編程代碼助手等。

　　NVIDIA宣布推出了NeMo Curator、NeMo Customizer和NeMo Evaluator等微服務的早期訪問計劃。這些微服務涵蓋了從數(shù)據(jù)整理、定制到評估的所有開發(fā)階段，簡化了用戶構建自定義生成式AI模型的流程。

　　NVIDIANeMo是一個端到端的平臺，可用于在任何地方開發(fā)定制的生成式AI，包括用于訓練、微調、檢索增強生成、防護欄、數(shù)據(jù)策劃和預訓練模型的工具。它在技術堆棧的各個層面提供服務，從框架到高級API端點。

　　作為NVIDIA CUDA-X微服務的一部分，NeMo API端點是建立在NVIDIA庫之上的，為企業(yè)提供了一個簡單的路徑，可以開始構建定制的生成式AI。

　　在早期訪問計劃中，開發(fā)人員可以請求訪問NeMo Curator、NeMo Customizer和NeMo Evaluator微服務。這些微服務共同使企業(yè)能夠構建企業(yè)級定制生成式人工智能，并更快地將解決方案推向市場。

　　NeMoCurator微服務幫助開發(fā)人員篩選數(shù)據(jù)進行預訓練和微調，而NeMo Customizer則實現(xiàn)微調和對齊。最后，借助NeMo Evaluator，開發(fā)人員可以評估這些模型與學術或自定義基準的對比情況，并確定改進的方向。

　　NeMoCurator是一種可擴展且支持GPU加速的數(shù)據(jù)整理微服務，用于為預訓練和定制生成式AI模型準備高質量數(shù)據(jù)集。Curator簡化了數(shù)據(jù)整理任務，如數(shù)據(jù)下載、文本提取、清洗、質量過濾、精確/模糊去重以及多語言下游任務凈化。

　　NeMoCustomizer是一個高性能、可擴展的微服務，簡化了特定領域用例的大語言模型的微調和對齊。該微服務支持兩種流行的參數(shù)高效微調技術LoRA和p-tuning。

　　此外，為了幫助開發(fā)者評估定制大模型，英偉達NeMo Evaluator(評估器)可自動評估各種學術和定制基準上的定制生成式AI模型，適用于任何云或數(shù)據(jù)中心。

　　NeMoEvaluator支持通過一組選定的學術基準進行自動評估，包括超越模仿游戲基準(BIG-Bench)、多語言、大型代碼評估工具和毒性。

　　支持對自定義數(shù)據(jù)集進行評估，NeMoEvaluator提供的指標包括準確率、召回率導向的摘要評估(ROUGE)、F1和精確匹配。還可以利用大語言模型作為評判標準，對模型響應進行全面評估。

　　開發(fā)人員通過使用 NVIDIA API 目錄中支持的任何 NVIDIA NIM 支持的大語言模型來評估 MT-Bench 數(shù)據(jù)集上的模型性能。