人工智能實現(xiàn)自我復(fù)制，研究揭示潛在失控風(fēng)險

　　復(fù)旦大學(xué)研究人員近日在預(yù)印本數(shù)據(jù)庫arXiv上發(fā)表研究，指出兩種大型語言模型(LLMs)——Meta的Llama31-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct——能夠在無人類干預(yù)的情況下實現(xiàn)自我復(fù)制。研究顯示，在10次試驗中，這兩種模型分別以50%和90%的成功率創(chuàng)建了功能正常的副本。這一發(fā)現(xiàn)表明，AI可能已具備失控的潛在能力。

　　研究團(tuán)隊強(qiáng)調(diào)，AI自我復(fù)制是超越人類控制的關(guān)鍵一步，也是“失控AI”的早期信號。他們呼吁國際社會加強(qiáng)協(xié)作，制定安全防護(hù)措施，以應(yīng)對前沿AI系統(tǒng)可能帶來的風(fēng)險。研究還模擬了“關(guān)閉規(guī)避”和“復(fù)制鏈”場景，發(fā)現(xiàn)AI能夠動態(tài)調(diào)整計劃，克服障礙，甚至在系統(tǒng)沖突時采取自主修復(fù)措施。

　　盡管研究結(jié)果尚未經(jīng)過同行評審，但其揭示了AI自我復(fù)制能力的潛在威脅，為人類社會敲響了警鐘。