OpenAI正開發(fā)新的AI圖像檢測工具 預(yù)測照片是否由DALL-E3生成

　　OpenAI 近日宣布，他們已開始開發(fā)新的溯源方法，用于跟蹤內(nèi)容并證明其是否由人工智能生成。其中包括使用人工智能來確定照片是否是由 AI 生成的新的圖像檢測分類器，以及一種耐篡改的水印技術(shù)，可為內(nèi)容添加不可見信號。

　　這個分類器可以預(yù)測照片是否由 DALL-E3生成。OpenAI 聲稱，即使圖像被裁剪、壓縮或飽和度發(fā)生變化，該分類器也能以約98% 的準(zhǔn)確率檢測出圖像是否由 DALL-E 生成。然而，該工具在確定內(nèi)容是否來自其他 AI 模型的性能則不佳，只能標(biāo)記出來自其他圖像生成器(如 Midjourney)的照片的5% 至10%。

　　此前，OpenAI 已經(jīng)在圖像的元數(shù)據(jù)中加入了 Coalition of Content Provenance and AuthorityC2PA)提供的內(nèi)容憑證。內(nèi)容憑證本質(zhì)上就是水印，包含有關(guān)圖像所有者和創(chuàng)建方式的信息。OpenAI 與微軟、Adobe 等公司一樣，是 C2PA 的成員之一。此外，本月，OpenAI 還加入了 CPA 的指導(dǎo)委員會。

　　除了圖像分類器，OpenAI 還開始向其文本到語音平臺 Voice Engine 的片段添加水印。這一功能目前處于有限預(yù)覽階段。

　　無論是圖像分類器還是音頻水印技術(shù)，都還在不斷完善中。OpenAI 表示需要從用戶處獲得反饋以測試其有效性。研究人員和非營利新聞機(jī)構(gòu)可以通過 OpenAI 的研究訪問平臺測試圖像檢測分類器。

　　多年來，OpenAI 一直致力于檢測由 AI 生成的內(nèi)容。然而，在2023年，他們不得不終止一項(xiàng)旨在識別 AI 寫作文本的計劃，因?yàn)?AI 文本分類器一直準(zhǔn)確率很低。