OpenAI據(jù)稱支持發(fā)牌批準(zhǔn)AI系統(tǒng)開發(fā) 愿意在訓(xùn)練數(shù)據(jù)方面更開放

　　北京時(shí)間7月21日早間消息，據(jù)報(bào)道，OpenAI起草的一份互聯(lián)網(wǎng)政策備忘錄顯示，該公司認(rèn)為應(yīng)當(dāng)要求所有想要開發(fā)先進(jìn)人工智能的公司必須獲得政府支持。這份文件還透露，該公司愿意公開他們?cè)谟?xùn)練圖像生成器時(shí)使用的數(shù)據(jù)。

　　作為ChatGPT和DALL-E的開發(fā)者，OpenAI是在白宮官員與科技行業(yè)高管今年5月4日舉行會(huì)面后，在內(nèi)部文件中披露一系列人工智能政策承諾的。該公司在草案中寫道：“我們致力于跟美國(guó)政府和世界各地的政策制定者合作，支持為未來最先進(jìn)的基礎(chǔ)模型開發(fā)工作制定一套牌照制度。”

　　如果由OpenAI等人工智能巨頭參與制定政府牌照制度，有可能會(huì)與初創(chuàng)公司和開源開發(fā)者的利益形成沖突。后者認(rèn)為，這些巨頭會(huì)試圖借此提高行業(yè)門檻。

　　這并非OpenAI首次提出這種想法：在5月的美國(guó)參議院聽證會(huì)上，該公司CEO山姆·阿爾特曼(Sam Altman)就支持成立一個(gè)政府機(jī)構(gòu)，負(fù)責(zé)為人工智能產(chǎn)品發(fā)放牌照，并在發(fā)生違規(guī)情況時(shí)收回牌照。

　　此時(shí)正值微軟、谷歌和OpenAI響應(yīng)白宮號(hào)召，預(yù)計(jì)將在周五公開承諾為人工智能開發(fā)提供保障措施之際。據(jù)知情人士透露，這些公司將承諾以負(fù)責(zé)任的態(tài)度開發(fā)和部署人工智能。

　　OpenAI警告稱，該公司在其內(nèi)部政策文件中提出的想法，將不同于白宮即將與科技公司共同發(fā)布的政策。該公司全球事務(wù)副總裁Anna Makanju表示，該公司并沒有急于推動(dòng)牌照制度，而是認(rèn)為這是政府追蹤新型系統(tǒng)的一種“現(xiàn)實(shí)”方式。

　　“對(duì)于政府來說，有必要了解是否會(huì)有一個(gè)可能構(gòu)成潛在破壞的超強(qiáng)系統(tǒng)出現(xiàn)。”她說，“如果有人不愿像我們這樣主動(dòng)報(bào)告情況，幾乎無法確保政府能夠及時(shí)了解這樣的系統(tǒng)。”

　　Makanju表示，OpenAI認(rèn)為，這種牌照制度應(yīng)當(dāng)僅適用于比現(xiàn)有的GPT-4更強(qiáng)大的人工智能模型，小型創(chuàng)業(yè)公司不應(yīng)當(dāng)承受過大的監(jiān)管負(fù)擔(dān)。“我們不想遏制生態(tài)系統(tǒng)。”她說。

　　OpenAI還在內(nèi)部政策文件中透露，他們?cè)敢膺M(jìn)一步開放用于訓(xùn)練DALL-E等圖片生成器的數(shù)據(jù)，并致力于在年底前“納入溯源方法”。數(shù)據(jù)溯源是一種讓開發(fā)人員對(duì)其工作的透明度和來源負(fù)責(zé)的做法。許多政策制定者之前已經(jīng)提出這種想法，他們認(rèn)為，這對(duì)于防止人工智能工具傳播錯(cuò)誤信息和偏見至關(guān)重要。

　　OpenAI在備忘錄中列出的承諾，與微軟今年5月宣布的政策非常相似。但OpenAI之前曾經(jīng)表示，盡管獲得了微軟的100億美元投資，但他們依然是一家獨(dú)立公司。

　　該公司在文件中披露，他們正在進(jìn)行調(diào)查，了解水印(一種追蹤人工智能生成圖像的真實(shí)性和版權(quán)的方法)以及人工智能生成內(nèi)容的檢測(cè)和披露方法，并將公布調(diào)查結(jié)果。

　　OpenAI還在文件中表示，他們對(duì)外部“紅隊(duì)”持開放態(tài)度。換言之，該公司將允許人們參與測(cè)試其系統(tǒng)在多方面的潛在問題，包括冒犯性內(nèi)容、被操縱的風(fēng)險(xiǎn)、錯(cuò)誤信息和偏見。該公司在備忘錄表示，它支持建立一個(gè)信息共享中心，就網(wǎng)絡(luò)安全開展合作。

　　OpenAI在備忘錄中似乎承認(rèn)人工智能系統(tǒng)可能在就業(yè)和不平等方面帶來風(fēng)險(xiǎn)。該公司還在草案中表示，他們將進(jìn)行研究，并向政策制定者提出建議，以保護(hù)經(jīng)濟(jì)免受潛在破壞的影響。