OpenAI圖像檢測(cè)工具曝光，CTO：AI生成的99%都能認(rèn)出

　　本文來(lái)自于微信公眾號(hào) 量子位 (ID:QbitAI)，作者:豐色。

　　OpenAI要出手AI圖像識(shí)別了。

　　最新消息，他們公司正在開(kāi)發(fā)一種檢測(cè)工具。

　　根據(jù)首席技術(shù)官M(fèi)ira Murat透露:

　　該工具精度非常高，正確率可達(dá)99%。

　　目前已進(jìn)入內(nèi)部測(cè)試流程中，很快將公開(kāi)發(fā)布。

　　不得不說(shuō)，這個(gè)準(zhǔn)確率還是讓人有點(diǎn)期待的，畢竟之前OpenAI在AI文本檢測(cè)上的努力可是以“26%的正確率”慘敗告終。

　　AI內(nèi)容檢測(cè)，不簡(jiǎn)單

　　OpenAI在AI內(nèi)容檢測(cè)領(lǐng)域早有布局。

　　今年1月，他們就發(fā)布過(guò)一款A(yù)I文本檢測(cè)器，用于區(qū)分AI和人類生成的內(nèi)容，防止AI文本被濫用。

　　然而7月份該工具就黯然退場(chǎng):沒(méi)有任何公告，頁(yè)面直接404。

　　究其原因，還是正確率太低了，“和瞎猜差不多”。

　　根據(jù)OpenAI自己公布的數(shù)據(jù):

　　它只能正確識(shí)別26%的AI生成文本，同時(shí)冤枉9%的人類編寫(xiě)文本。

　　在此次匆忙收?qǐng)鲋�后，OpenAI表示會(huì)吸收用戶反饋努力改善，并研究更有效的文本來(lái)源技術(shù)。

　　同時(shí)，他們還宣布:判斷圖片、音視頻是否由AI生成的工具也要搞起來(lái)。

　　如今，隨著DALL-E3的問(wèn)世以及Midjourney等同類工具的不斷迭代，AI繪畫(huà)能力越來(lái)越強(qiáng)。

　　最大的擔(dān)憂就是用于偽造全球范圍內(nèi)的假新聞圖片。

　　比如reddit上就有一張AI偽造的“2001年卡斯卡迪亞9.1級(jí)地震及海嘯”的“現(xiàn)場(chǎng)”，超過(guò)1.2k網(wǎng)友點(diǎn)贊。

　　相比AI文本檢測(cè)工具，AI畫(huà)圖檢測(cè)工具的開(kāi)發(fā)顯然更為緊迫(大概是因?yàn)?ldquo;沒(méi)人在意演講稿是自己寫(xiě)的還是秘書(shū)寫(xiě)的”，但“有圖有真相”的內(nèi)容很難不讓一些人相信)。

　　不過(guò)，正如OpenAI的AI文本檢測(cè)工具下線時(shí)，有網(wǎng)友就指出:

　　同時(shí)開(kāi)發(fā)生成和檢測(cè)工具本身就是矛盾的。

　　如果一邊做的好就意味著另一邊沒(méi)做好，同時(shí)還有可能存在利益沖突。

　　比較直接的思路是交給第三方。

　　但此前第三方在AI文本上的表現(xiàn)也并不好。

　　而就技術(shù)本身來(lái)說(shuō)，另一個(gè)還算可行的辦法是在AI生成內(nèi)容之時(shí)就藏下水印。

　　谷歌就是這么做的。

　　日前(今年8月底)，谷歌已經(jīng)在OpenAI之前推出了一款A(yù)I圖片檢測(cè)技術(shù):

　　SynthID。

　　它目前與谷歌的文生圖模型Imagen合作，讓模型生成的每一張圖像都嵌入一個(gè)“這是AI生成的的元數(shù)據(jù)標(biāo)識(shí)”——

　　即使圖像被進(jìn)行了裁剪、添加濾鏡、更改顏色甚至有損壓縮等一系列修改，也不會(huì)影響識(shí)別。

　　在內(nèi)部測(cè)試中，SynthID準(zhǔn)確識(shí)別出了大量經(jīng)過(guò)編輯的AI圖像，但具體的準(zhǔn)確率并未透露。

　　不知道OpenAI即將發(fā)布的工具將采用何種技術(shù)，并且能否成為市面上精度最高的那一個(gè)。

　　奧特曼回應(yīng)“造芯計(jì)劃”

　　以上消息源自于OpenAI CTO與奧特曼本周在《華爾街日?qǐng)?bào)》舉行的Tech Live會(huì)議上發(fā)表的講話。

　　會(huì)上，倆人還透露了OpenAI的更多消息。

　　比如下一代大模型可能就快推出了。

　　叫啥沒(méi)透露，但今年7月OpenAI確實(shí)就已經(jīng)申請(qǐng)了GPT-5商標(biāo)。

　　有人關(guān)心“GPT-5”的準(zhǔn)確性，問(wèn)它是否能夠不會(huì)再產(chǎn)生錯(cuò)誤或虛假內(nèi)容。

　　對(duì)此，CTO的態(tài)度比較謹(jǐn)慎，只是表示“maybe”。

　　她解釋道:

　　我們?cè)贕PT-4的幻覺(jué)問(wèn)題上取得了很大進(jìn)展，但這還沒(méi)有達(dá)到我們需要的目標(biāo)。

　　奧特曼則談及了“造芯計(jì)劃”。

　　從他的原話來(lái)看，并沒(méi)有“實(shí)錘”，但也留下了無(wú)限遐想空間:

　　如果按照默認(rèn)路徑我們肯定不會(huì)這么做，但我永遠(yuǎn)不會(huì)排除這種可能性。

　　相比“造芯計(jì)劃”，奧特曼對(duì)于造手機(jī)傳言則回復(fù)得相當(dāng)干脆。

　　今年9月，蘋(píng)果前首席設(shè)計(jì)官Jony Ive(在蘋(píng)果工作了27年)被曝與OpenAI接洽，有消息人士稱奧特曼要開(kāi)發(fā)一種硬件設(shè)備，提供一種與AI交互更自然和直觀的方式，可稱為“AI屆的iPhone”。

　　現(xiàn)在，他告訴大伙:

　　我自己都還不確定要做什么呢，只是有一些模糊的想法。

　　以及:

　　任何AI設(shè)備都不會(huì)蓋過(guò)iPhone的受歡迎程度，我也沒(méi)有興趣與任何智能手機(jī)展開(kāi)競(jìng)爭(zhēng)。