OpenAI 一直在就何時(shí)發(fā)布一款工具,用于確定一張圖像是否由 DALL-E 3 生成,OpenAI 的生成式人工智能藝術(shù)模型,進(jìn)行了廣泛的「討論和辯論」。但這家初創(chuàng)公司并不打算在短期內(nèi)做出決定。
這是根據(jù)本周在電話采訪中與 TechCrunch 交談的 OpenAI 研究員 Sandhini Agarwal 的說法。她負(fù)責(zé)安全和政策,她表示,盡管分類器工具的準(zhǔn)確性「非常好」——至少根據(jù)她的估計(jì)——但尚未達(dá)到 OpenAI 的質(zhì)量門檻。
Agarwal 表示:「考慮到它做出的決定可能會(huì)嚴(yán)重影響照片,比如一件作品是否被視為由藝術(shù)家繪制,或者是否不真實(shí)且具有誤導(dǎo)性,因此推出一個(gè)有點(diǎn)不可靠的工具是一個(gè)問題!
OpenAI 對(duì)該工具的目標(biāo)準(zhǔn)確性似乎非常高。OpenAI 首席技術(shù)官 Mira Murati 在 WSJ 的 Tech Live 會(huì)議上表示,這款分類器在確定未經(jīng)修改的照片是否是由 DALL-E 3 生成的方面是「99%」可靠的。也許目標(biāo)是 100%;Agarwal 沒有明確表示。
與 TechCrunch 分享的 OpenAI 博客草稿揭示了一個(gè)有趣的細(xì)節(jié):
「[分類器] 在圖像經(jīng)歷了常見類型的修改,如裁剪、調(diào)整大小、JPEG 壓縮,或者在生成的圖像的小部分上疊加文本或真實(shí)圖像的剪貼時(shí),仍然保持超過 95% 的準(zhǔn)確性。」
OpenAI 的猶豫可能與圍繞其先前的公共分類器工具的爭議有關(guān),該工具旨在檢測不僅來自 OpenAI 模型,還來自第三方供應(yīng)商發(fā)布的生成文本。OpenAI 撤回了 AI 編寫的文本檢測器,因?yàn)槠洹傅蜏?zhǔn)確率」受到廣泛批評(píng)。
Agarwal 暗示 OpenAI 還關(guān)注人工智能生成圖像到底由什么構(gòu)成的哲學(xué)問題。顯然,由 DALL-E 3 從頭生成的藝術(shù)作品是符合條件的。但是,對(duì)于經(jīng)過多輪編輯、與其他圖像合并,然后經(jīng)過幾輪后處理濾鏡的 DALL-E 3 生成的圖像,應(yīng)該如何劃分就不太清楚了。
Agarwal 表示:「在那一點(diǎn)上,這個(gè)圖像應(yīng)該被視為 AI 生成的東西還是不是?現(xiàn)在,我們正在嘗試解決這個(gè)問題,我們真的希望聽到那些將受到這種分類器工具重大影響的藝術(shù)家和其他人的意見!
不僅 OpenAI,許多組織正在研究為生成媒體水印和檢測技術(shù),因?yàn)槿斯ぶ悄苌疃葌卧觳粩嘣黾印?/p>
DeepMind 最近提出了一種規(guī)范,SynthID,用于標(biāo)記以人眼看不見的方式生成的 AI 圖像,但可以被專門的檢測器發(fā)現(xiàn)。法國初創(chuàng)公司 Imatag,于 2020 年推出了一款聲稱不受調(diào)整大小、裁剪、編輯或壓縮圖像影響的水印工具,類似于 SynthID。另一家公司 Steg.AI 使用 AI 模型應(yīng)用可以經(jīng)受調(diào)整大小和其他編輯的水印。
問題在于,該行業(yè)尚未就單一的水印或檢測標(biāo)準(zhǔn)達(dá)成共識(shí)。即使達(dá)成共識(shí),也不能保證水印——以及檢測器——不會(huì)被打敗。
Agarwal 被問及 OpenAI 的圖像分類器是否支持檢測使用其他非 OpenAI 生成工具創(chuàng)建的圖像。她不承諾這一點(diǎn),但確實(shí)說過——這取決于目前存在的圖像分類器工具的接受程度——這是 OpenAI 會(huì)考慮探索的一條途徑。
Agarwal 表示:「目前 [分類器] 僅適用于 DALL-E 3,因?yàn)閺募夹g(shù)上講,這是一個(gè)更容易解決的問題!顾f:「[通用檢測器] 并不是我們目前正在做的事情... 但根據(jù) [分類器工具] 的發(fā)展,我不是說我們永遠(yuǎn)不會(huì)這樣做!
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(huì)(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎(jiǎng)”金獎(jiǎng),有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(huì)(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎(jiǎng)。
“以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會(huì)組委會(huì)、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會(huì)共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會(huì)聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會(huì)主辦的“2024全球開發(fā)者先鋒大會(huì)”,將于2024年3月23日至24日舉辦。