安恒信息范淵在烏鎮(zhèn)峰會談AI：以工具視之、以工具用之、以工具治理之

　　11月21日，2024 年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能負責任開發(fā)與應用論壇舉行。安恒信息董事長范淵發(fā)表《人工智能技術與應用的安全可靠和健康發(fā)展》主題演講。在范淵看來，新一代人工智能技術，不僅僅是人機交互體驗、協(xié)作的革命，更是專家經(jīng)驗傳承的一次變革。在網(wǎng)絡安全、數(shù)據(jù)安全領域，AI正在重構安全工作協(xié)同關系，助力安全產(chǎn)業(yè)發(fā)展和行業(yè)應用價值化呈現(xiàn)，引發(fā)行業(yè)質(zhì)變。我們應該以工具視之、以工具用之、以工具治理之。

　　范淵指出，安恒信息依托多年來積累的技術和實踐經(jīng)驗，做了諸多有益探索。

　　一方面，智能體+安全運營，可以實現(xiàn)運營工作提質(zhì)增效。2023年8月，恒腦安全垂域大模型首次發(fā)布后，在杭州亞運會期間投入實戰(zhàn)應用，憑借“精準”和“高效”的雙重優(yōu)勢，恒腦的自動化研判機制顯著提升告警分析效率，進一步降低了人力投入。依靠安全大模型和智能體的賦能，安恒信息惡意軟件檢測迅速實現(xiàn)了行業(yè)領先，在國家計算機網(wǎng)絡應急技術處理協(xié)調(diào)中心公布的 2024 年人工智能技術賦能網(wǎng)絡安全應用測試結果中，安恒信息在惡意軟件檢測場景排名第一。

　　另一方面，智能體+數(shù)據(jù)安全，可以實現(xiàn)安全與業(yè)務的完美融合。例如，數(shù)據(jù)分類分級借助 AI 對行業(yè)和業(yè)務特性的理解，將數(shù)據(jù)分類分級效率提升30倍，并在政府、運營商、教育、醫(yī)療、企業(yè)、金融、交通、公安、煙草等行業(yè)實現(xiàn)全面覆蓋，彰顯出AI 在數(shù)據(jù)安全領域的強大力量。

　　范淵還強調(diào)，人工智能是引領這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，具有溢出帶動性很強的“頭雁”效應。當前，鼓勵人工智能創(chuàng)新發(fā)展仍是第一要務。但隨著 AI 技術深入場景，安全事件頻發(fā)，例如大模型敏感數(shù)據(jù)泄露、歧視內(nèi)容輸出、虛假內(nèi)容生成等風險問題等。如何能夠讓人工智能的發(fā)展始終沿著我們希望的軌道前進?軌道的微調(diào)、軌道的預判、軌道的規(guī)則變得非常關鍵。因此，在加速技術應用“虛實共進”，變“Chat”為“Product”的同時，要確保人工智能安全、可靠、可控。

　　為此，安恒信息創(chuàng)新性提出人工智能領域的安全治理實踐路徑。首先是做好隱私計算。數(shù)據(jù)是大模型的燃料，隱私計算是數(shù)據(jù)的安全閥門。安恒恒隱·隱私計算平臺首批獲得了中國信通院面向大模型的可信執(zhí)行環(huán)境產(chǎn)品專項測試證書，為數(shù)據(jù)的“可用不可見，可訓不可見”提供實踐途徑。

　　其次，加快建立人工智能安全監(jiān)管和評估體系。例如，恒腦智鑒，基于五大核心大模型風險檢測能力，采用精細化風險評估方法，配備多種檢測手段和大量測試用例，構建了AI基礎設施、模型算法、應用服務的全鏈路風險評估體系，可覆蓋了12大類、40多個不同類型、2000多種不同的風險。

　　最后，范淵提出，面向未來，安恒信息將持續(xù)開展大模型安全研究，致力于讓模型可控、不越界。期待各方以開放和包容的心態(tài)迎接新技術的到來，肩負起引導其健康發(fā)展的重任，共同探索AI與人類的命運共同體，確保技術進步能夠促進社會的發(fā)展進步，真正實現(xiàn)“人機”和諧共存的美好愿景。