不會錯過大模型的vivo，要先做好AI安全

　　9月8日消息，“百模大戰(zhàn)”進行的如火如荼，手機廠商也紛紛來分一杯羹。

　　繼華為、小米、OPPO等廠商之后，vivo的自研大模型也悄然亮相，8月中旬出現(xiàn)在了C-Eval(大語言模型的多層次多學科中文評估套件)排行榜上，以64.4的平均成績位列第五。

　　大模型對手機廠商來說，是一塊“必爭之地”，僅更智能的手機助手這一點，就讓廠商們難以拒絕，并不斷布局和投入應用。

　　不過，新技術的應用必然也會帶來新的風險，不久前，在2023 亞馬遜云科技 re:Inforce 中國站活動上，vivo 首席安全官(CSO)魯京輝表示，他們看到生成式人工智能首先被應用最好的就是欺詐，vivo已經識別出來深度合成的欺詐行為。

　　黑灰產是一個長期的話題，中國移動互聯(lián)網生態(tài)的全部產值大概是10萬億，其中有20%到30%最后進入了黑灰產的池。尤其近兩年來，行業(yè)從業(yè)務驅動數(shù)據(jù)轉變成為數(shù)據(jù)驅動業(yè)務，讓黑灰產的形態(tài)變得更加復雜。

　　在人工智能時代，數(shù)據(jù)是基礎設施，手機又承載了各式各樣的服務，要推動人工智能行業(yè)的健康、有序、可持續(xù)發(fā)展，手機廠商就必須重視數(shù)據(jù)安全和個人信息保護。

　　在AIGC時代，作為一個手機廠商必須要做的事情是什么?魯京輝認為，作為一個終端廠商，對生成式人工智能的應用是兩方面：第一個是對自身內部提效的使用，第二個是要構建相關的生成式人工智能的產品和服務去服務用戶。

　　“不管是基于Cloud based這種大模型的交互和人工智能的一些服務產品，還是剛才提到的端側，我們都在做相應的工作。而且我們不僅是做一個簡單的大語言模型的服務提供，還要在基于大語言模型服務提供的同時，做好端側的內容過濾和生成內容的審核工作。” 魯京輝說道。

　　說到AI和安全的關系，過去一般在說兩個維度，一個是AI for Security，一個是Security for AI。病毒識別就是典型的AI for Security，隱私數(shù)據(jù)端側處理時也會有很多AI相關的技術，比如隱私計算、聯(lián)邦學習。vivo的“1001個小技巧”，背后也有很多是跟AI For Security相關的。

　　而Security for AI，一個核心點是，過去的一些安全防護手段，在新的AI時代下不太好用了，要與時俱進有一些新的技術手段去針對。

　　魯京輝提出來生成式人工智能要解決四個方面的問題：

　　要解決內生安全的問題;

　　要解決內容安全的問題;

　　要解決運行安全的問題;

　　要解決合規(guī)性的問題。

　　對于內生安全的問題，核心是要做好相應管理的基線、管理的流程/制度/規(guī)范/工具支撐，從數(shù)據(jù)源頭做到可控，保證數(shù)據(jù)是無毒無害的，有相關的技術要去支撐保證。

　　魯京輝介紹，vivo主要是做好作為一個智能手機廠商，在提供生成式人工智能服務的時候必須做好的工作，其他的有些是通過合作伙伴，包括亞馬遜云科技這樣的云服務廠商來共同來構建。“因為單純一個廠商，是無法構建一個健康、有序的生成式人工智能生態(tài)的。”

　　在采訪中，魯京輝強調到：“我們一定不會缺席生成式人工智能這場盛宴的，但是我們希望不是去宣傳，而是希望真正給用戶提供相應的生成式人工智能產品和服務的同時，一定要做好本分的安全和合規(guī)性的工作。”