OpenAI針對API客戶引入更多企業(yè)級AI功能，與Meta的Llama 3競爭

　　盡管Meta的新型Llama3迅速成為使用最廣泛和定制程度最高的巨型語言模型(LLMs)排行榜榜首，但率先開啟生成式人工智能時(shí)代的競爭對手OpenAI卻通過為其GPT-4Turbo LLM和其他模型之上構(gòu)建和編程引入新的企業(yè)級功能來擺脫競爭。

　　OpenAI今天宣布了其面向API客戶的企業(yè)級功能的擴(kuò)展，進(jìn)一步豐富了其助手API，并引入了一些旨在增強(qiáng)安全性和管理控制權(quán)以及更有效地控制成本的新工具。

　　Private Link 和增強(qiáng)的安全功能

　　重大安全升級之一是引入 Private Link，這是一種安全方法，可以使 Microsoft 的 Azure 云服務(wù)與 OpenAI 之間進(jìn)行直接通信，OpenAI 表示這有助于“減少通過 API 發(fā)送的客戶數(shù)據(jù)和查詢暴露給開放互聯(lián)網(wǎng)”。

　　此舉補(bǔ)充了現(xiàn)有的安全堆棧，該堆棧包括 SOC2Type II 認(rèn)證、單點(diǎn)登錄 (SSO)、靜止?fàn)顟B(tài)下的 AES-256數(shù)據(jù)加密、傳輸中的 TLS1.2加密和基于角色的訪問控制。

　　此外，OpenAI 還引入了原生多因素身份驗(yàn)證 (MFA) 來加強(qiáng)訪問控制，以符合不斷增長的合規(guī)性需求。

　　對于需要 HIPAA 合規(guī)的醫(yī)療保健公司，OpenAI 繼續(xù)提供商業(yè)伙伴協(xié)議以及針對符合條件的 API 客戶的零數(shù)據(jù)保留政策。

　　升級后的助手API 可處理500倍以上的文件

　　OpenAI 最不為人知但最重要的企業(yè)產(chǎn)品之一是其助手 API，它允許企業(yè)部署他們訓(xùn)練過的自定義微調(diào)模型，并通過檢索增強(qiáng)型生成 (RAG) 調(diào)用特定文檔，以便在其自己的應(yīng)用程序中提供對話式助理。

　　例如，電子商務(wù)公司 Klarna 今年早些時(shí)候吹噓其由 OpenAI 助手 API 制作的 AI 助手如何能夠完成700名全職人類代理的工作，重復(fù)查詢減少了25%，解決時(shí)間幾乎減少了82%(從11分鐘減少到2分鐘)。

　　OpenAI 現(xiàn)在已升級助手 API，包括增強(qiáng)的文件檢索功能，其中包含新的“file_search”功能，該功能可以每個(gè)助手處理多達(dá)10，000個(gè)文件。

　　這代表比以前的20個(gè)文件限制增加了500倍，并增加了并行查詢、改進(jìn)的重新排序和查詢重寫等附加功能。

　　此外，API 現(xiàn)在支持實(shí)時(shí)對話響應(yīng)的流式傳輸，這意味著諸如 GPT-4Turbo 或 GPT-3.5Turbo 之類的 AI 模型將盡所能生成令牌，而無需等待完整響應(yīng)。

　　它進(jìn)一步集成了用于更好文件管理的新“vector_store”對象，并提供了對令牌使用的更細(xì)粒度控制，以幫助有效控制成本。

　　Projects使企業(yè)能夠控制和劃分對特定任務(wù)和分配的訪問權(quán)限

　　名為“Projects”的新功能通過允許組織在項(xiàng)目級別管理角色和 API 密鑰，從而改善了管理監(jiān)督。

　　此功能允許企業(yè)客戶設(shè)置權(quán)限范圍、控制可用模型并設(shè)置基于使用量的限制以避免意外成本 - 這些改進(jìn)承諾將大大簡化項(xiàng)目管理。

　　基本上，他們可以將 AI 模型的微調(diào)版本甚至普通版本隔離到一組特定的任務(wù)或文檔，并允許特定的人員處理其中每一個(gè)。

　　因此，如果您公司的一個(gè)團(tuán)隊(duì)使用一套面向公眾的文檔，另一個(gè)團(tuán)隊(duì)使用一套機(jī)密或內(nèi)部文檔，那么您可以在 OpenAI 的 API 中為每個(gè)團(tuán)隊(duì)分配一個(gè)單獨(dú)的項(xiàng)目，并且這兩個(gè)團(tuán)隊(duì)都可以使用 AI 模型來處理這些文檔，而不會(huì)混合或危及后者。