OpenAI據(jù)稱支持發(fā)牌批準(zhǔn)AI系統(tǒng)開發(fā) 愿意在訓(xùn)練數(shù)據(jù)方面更開放

　　北京時間7月21日早間消息，據(jù)報道，OpenAI起草的一份互聯(lián)網(wǎng)政策備忘錄顯示，該公司認(rèn)為應(yīng)當(dāng)要求所有想要開發(fā)先進(jìn)人工智能的公司必須獲得政府支持。這份文件還透露，該公司愿意公開他們在訓(xùn)練圖像生成器時使用的數(shù)據(jù)。

　　作為ChatGPT和DALL-E的開發(fā)者，OpenAI是在白宮官員與科技行業(yè)高管今年5月4日舉行會面后，在內(nèi)部文件中披露一系列人工智能政策承諾的。該公司在草案中寫道：“我們致力于跟美國政府和世界各地的政策制定者合作，支持為未來最先進(jìn)的基礎(chǔ)模型開發(fā)工作制定一套牌照制度。”

　　如果由OpenAI等人工智能巨頭參與制定政府牌照制度，有可能會與初創(chuàng)公司和開源開發(fā)者的利益形成沖突。后者認(rèn)為，這些巨頭會試圖借此提高行業(yè)門檻。

　　這并非OpenAI首次提出這種想法：在5月的美國參議院聽證會上，該公司CEO山姆·阿爾特曼(Sam Altman)就支持成立一個政府機構(gòu)，負(fù)責(zé)為人工智能產(chǎn)品發(fā)放牌照，并在發(fā)生違規(guī)情況時收回牌照。

　　此時正值微軟、谷歌和OpenAI響應(yīng)白宮號召，預(yù)計將在周五公開承諾為人工智能開發(fā)提供保障措施之際。據(jù)知情人士透露，這些公司將承諾以負(fù)責(zé)任的態(tài)度開發(fā)和部署人工智能。

　　OpenAI警告稱，該公司在其內(nèi)部政策文件中提出的想法，將不同于白宮即將與科技公司共同發(fā)布的政策。該公司全球事務(wù)副總裁Anna Makanju表示，該公司并沒有急于推動牌照制度，而是認(rèn)為這是政府追蹤新型系統(tǒng)的一種“現(xiàn)實”方式。

　　“對于政府來說，有必要了解是否會有一個可能構(gòu)成潛在破壞的超強系統(tǒng)出現(xiàn)。”她說，“如果有人不愿像我們這樣主動報告情況，幾乎無法確保政府能夠及時了解這樣的系統(tǒng)。”

　　Makanju表示，OpenAI認(rèn)為，這種牌照制度應(yīng)當(dāng)僅適用于比現(xiàn)有的GPT-4更強大的人工智能模型，小型創(chuàng)業(yè)公司不應(yīng)當(dāng)承受過大的監(jiān)管負(fù)擔(dān)。“我們不想遏制生態(tài)系統(tǒng)。”她說。

　　OpenAI還在內(nèi)部政策文件中透露，他們愿意進(jìn)一步開放用于訓(xùn)練DALL-E等圖片生成器的數(shù)據(jù)，并致力于在年底前“納入溯源方法”。數(shù)據(jù)溯源是一種讓開發(fā)人員對其工作的透明度和來源負(fù)責(zé)的做法。許多政策制定者之前已經(jīng)提出這種想法，他們認(rèn)為，這對于防止人工智能工具傳播錯誤信息和偏見至關(guān)重要。

　　OpenAI在備忘錄中列出的承諾，與微軟今年5月宣布的政策非常相似。但OpenAI之前曾經(jīng)表示，盡管獲得了微軟的100億美元投資，但他們依然是一家獨立公司。

　　該公司在文件中披露，他們正在進(jìn)行調(diào)查，了解水印(一種追蹤人工智能生成圖像的真實性和版權(quán)的方法)以及人工智能生成內(nèi)容的檢測和披露方法，并將公布調(diào)查結(jié)果。

　　OpenAI還在文件中表示，他們對外部“紅隊”持開放態(tài)度。換言之，該公司將允許人們參與測試其系統(tǒng)在多方面的潛在問題，包括冒犯性內(nèi)容、被操縱的風(fēng)險、錯誤信息和偏見。該公司在備忘錄表示，它支持建立一個信息共享中心，就網(wǎng)絡(luò)安全開展合作。

　　OpenAI在備忘錄中似乎承認(rèn)人工智能系統(tǒng)可能在就業(yè)和不平等方面帶來風(fēng)險。該公司還在草案中表示，他們將進(jìn)行研究，并向政策制定者提出建議，以保護(hù)經(jīng)濟(jì)免受潛在破壞的影響。