盡管Meta的新型Llama3迅速成為使用最廣泛和定制程度最高的巨型語言模型(LLMs)排行榜榜首,但率先開啟生成式人工智能時代的競爭對手OpenAI卻通過為其GPT-4Turbo LLM和其他模型之上構(gòu)建和編程引入新的企業(yè)級功能來擺脫競爭。
OpenAI今天宣布了其面向API客戶的企業(yè)級功能的擴(kuò)展,進(jìn)一步豐富了其助手API,并引入了一些旨在增強(qiáng)安全性和管理控制權(quán)以及更有效地控制成本的新工具。
Private Link 和增強(qiáng)的安全功能
重大安全升級之一是引入 Private Link,這是一種安全方法,可以使 Microsoft 的 Azure 云服務(wù)與 OpenAI 之間進(jìn)行直接通信,OpenAI 表示這有助于“減少通過 API 發(fā)送的客戶數(shù)據(jù)和查詢暴露給開放互聯(lián)網(wǎng)”。
此舉補(bǔ)充了現(xiàn)有的安全堆棧,該堆棧包括 SOC2Type II 認(rèn)證、單點(diǎn)登錄 (SSO)、靜止?fàn)顟B(tài)下的 AES-256數(shù)據(jù)加密、傳輸中的 TLS1.2加密和基于角色的訪問控制。
此外,OpenAI 還引入了原生多因素身份驗(yàn)證 (MFA) 來加強(qiáng)訪問控制,以符合不斷增長的合規(guī)性需求。
對于需要 HIPAA 合規(guī)的醫(yī)療保健公司,OpenAI 繼續(xù)提供商業(yè)伙伴協(xié)議以及針對符合條件的 API 客戶的零數(shù)據(jù)保留政策。
升級后的助手API 可處理500倍以上的文件
OpenAI 最不為人知但最重要的企業(yè)產(chǎn)品之一是其助手 API,它允許企業(yè)部署他們訓(xùn)練過的自定義微調(diào)模型,并通過檢索增強(qiáng)型生成 (RAG) 調(diào)用特定文檔,以便在其自己的應(yīng)用程序中提供對話式助理。
例如,電子商務(wù)公司 Klarna 今年早些時候吹噓其由 OpenAI 助手 API 制作的 AI 助手如何能夠完成700名全職人類代理的工作,重復(fù)查詢減少了25%,解決時間幾乎減少了82%(從11分鐘減少到2分鐘)。
OpenAI 現(xiàn)在已升級助手 API,包括增強(qiáng)的文件檢索功能,其中包含新的“file_search”功能,該功能可以每個助手處理多達(dá)10,000個文件。
這代表比以前的20個文件限制增加了500倍,并增加了并行查詢、改進(jìn)的重新排序和查詢重寫等附加功能。
此外,API 現(xiàn)在支持實(shí)時對話響應(yīng)的流式傳輸,這意味著諸如 GPT-4Turbo 或 GPT-3.5Turbo 之類的 AI 模型將盡所能生成令牌,而無需等待完整響應(yīng)。
它進(jìn)一步集成了用于更好文件管理的新“vector_store”對象,并提供了對令牌使用的更細(xì)粒度控制,以幫助有效控制成本。
Projects使企業(yè)能夠控制和劃分對特定任務(wù)和分配的訪問權(quán)限
名為“Projects”的新功能通過允許組織在項(xiàng)目級別管理角色和 API 密鑰,從而改善了管理監(jiān)督。
此功能允許企業(yè)客戶設(shè)置權(quán)限范圍、控制可用模型并設(shè)置基于使用量的限制以避免意外成本 - 這些改進(jìn)承諾將大大簡化項(xiàng)目管理。
基本上,他們可以將 AI 模型的微調(diào)版本甚至普通版本隔離到一組特定的任務(wù)或文檔,并允許特定的人員處理其中每一個。
因此,如果您公司的一個團(tuán)隊(duì)使用一套面向公眾的文檔,另一個團(tuán)隊(duì)使用一套機(jī)密或內(nèi)部文檔,那么您可以在 OpenAI 的 API 中為每個團(tuán)隊(duì)分配一個單獨(dú)的項(xiàng)目,并且這兩個團(tuán)隊(duì)都可以使用 AI 模型來處理這些文檔,而不會混合或危及后者。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。