OpenAI推出DALL·E 3識別器、媒體管理器

　　5月8日，OpenAI在官網(wǎng)宣布，將推出面向其文生圖模型DALL·E3的內(nèi)容識別器，以及一個媒體管理器。

　　隨著ChatGPT、DALL·E3等生成式AI產(chǎn)品被大量應(yīng)用在實際業(yè)務(wù)中，人們越來越難分辨AI和人類創(chuàng)建內(nèi)容的區(qū)別，這個識別器可以幫助開發(fā)人員快速識別內(nèi)容的真假。

　　目前，OpenAI已經(jīng)開放了DALL·E3識別器的API，開發(fā)人員從今天開始至7月31日可申請試用。OpenAI會在8月31日之前公布獲取使用權(quán)限的名單。

　　這個媒體管理器主要是面向媒體行業(yè)、內(nèi)容創(chuàng)作者的產(chǎn)品，幫助控制自己的知識產(chǎn)權(quán)內(nèi)容是否會被OpenAI搜集用于訓(xùn)練AI模型。

　　AI生成的內(nèi)容真假難辨

　　由于DALL·E3等大模型生成的圖片能達(dá)到以假亂真的效果，例如，AI合成的斯威夫特色情照片被瘋傳。

　　早在今年2月7日，OpenAI宣布在DALL·E3生成的圖片中嵌入了 C2PA的元數(shù)據(jù)，以防止圖片被非法亂用。即將發(fā)布的文生視頻模型Sora，也會集成C2PA元數(shù)據(jù)。

　　C2PA是一種開放數(shù)據(jù)標(biāo)準(zhǔn)，允許出版商、企業(yè)、開發(fā)者等，通過元數(shù)據(jù)來跟蹤和驗證數(shù)字內(nèi)容，例如，圖片、視頻、文檔等，最初來源、真實性和完整性等。

　　但這些還遠(yuǎn)遠(yuǎn)不夠，因為可以通過技術(shù)手段去除這些元數(shù)據(jù)，使得人們在視覺上還是無法分辨。所以，OpenAI開發(fā)了這款內(nèi)容識別器幫助開發(fā)人員、用戶來識別內(nèi)容真假。

　　OpenAI表示，即便對AI生成的圖片進(jìn)行壓縮、裁剪、更改飽和度/顏色、去除水印、改變形狀等各種常規(guī)操作，識別器的準(zhǔn)確率仍高達(dá)98%。

　　此外，AI生成語音的造假能力比文本、圖片、視頻高出好幾倍，并且已經(jīng)有人被AI語音詐騙過錢財。

　　OpenAI還開發(fā)了一種音頻水印，將其集成在自定義語音模型 Voice Engine中，目前處于產(chǎn)品預(yù)覽階段。

　　媒體管理器，保護(hù)知識產(chǎn)權(quán)

　　前不久，《紐約日報》、《芝加哥論壇報》、《奧蘭多前哨報》、《水星報》等8家知名媒體聯(lián)名狀告OpenAI，在沒有獲取授權(quán)的情況下使用其文章訓(xùn)練AI模型。而谷歌也因為非法搜集數(shù)據(jù)，同樣被起訴過。

　　目前，OpenAI用于訓(xùn)練AI模型的數(shù)據(jù)主要有兩個渠道:第一個，付費(fèi)知識產(chǎn)權(quán)渠道，例如，OpenAI與《金融時報》、《世界報》、Prisa Media、Axel Springer等媒體簽訂的數(shù)據(jù)合作協(xié)議，每年支付他們上千萬歐元以獲取使用數(shù)據(jù)的權(quán)利。

　　第二個，公開渠道，這包括大量的開源數(shù)據(jù)集和通過爬蟲獲取到的數(shù)據(jù)。爬蟲在抓取的過程中可能會非法搜集一些知名網(wǎng)站的數(shù)據(jù)，就會出現(xiàn)那8家媒體狀告OpenAI的情況。

　　因此，OpenAI正在開發(fā)一款“媒體管理器”，可以輕松管理知識產(chǎn)權(quán)內(nèi)容，哪些可以被AI搜集，哪些不可以。預(yù)計該產(chǎn)品將在2025年之前發(fā)布。

　　OpenAI最近還對ChatGPT生成的內(nèi)容加上了原始網(wǎng)站鏈接，例如，達(dá)拉斯最適合午夜約會的5家餐廳。ChatGPT會在回答的每一條內(nèi)容上加上餐廳的官網(wǎng)地址。

　　一方面，可以保護(hù)知識產(chǎn)權(quán)增加內(nèi)容的可信度;另一方面，正在為其推出的搜索引擎做鋪墊，可以像谷歌搜索那樣列出所有答案的原始鏈接。