E Ink元太科技連三年入選道瓊可持續(xù)雙指數(shù)撬動6000億GTV后,抖音計劃偷襲美團大本營AGI Open Network(AON):賦能每個人創(chuàng)建、部署和貨幣化AI Agent貸款利率史上最低了嗎?東融教你看懂歷年啥水平“客服來電”有詐?抖音客服上線“驗證助手”助用戶識別詐騙OpenAI新模型GPT-5研發(fā)未達(dá)預(yù)期:成本高昂 效果不佳曝天馬打入果鏈:為蘋果HomePod供應(yīng)LCD屏 每塊屏僅10美元曝OPPO或首發(fā)新款天璣次旗艦芯片 兩大子品牌Q2發(fā)力諾基亞攜手阿聯(lián)酋運營商e&,展示全球首個固網(wǎng)游戲端到端網(wǎng)絡(luò)切片方案零下25℃制熱26℃!海爾水暖通黑科技亮相冰雪大世界三星沒放棄曲面屏開發(fā)!最新專利曝光暗示有望回歸三大運營商11月成績單:用戶數(shù)據(jù)增幅放緩打造下一個英偉達(dá),孫正義的2026芯片計劃曝光瞭望2025全球6G技術(shù)發(fā)展趨勢AI時代云安全新范式,暢捷通智能守護(hù)小微企業(yè)安全上云百川智能發(fā)布全鏈路領(lǐng)域增強金融大模型 Baichuan4-Finance年末家電消費觀察:品質(zhì)生活類產(chǎn)品熱賣,將持續(xù)迎來剛需式普及?GPT-5研發(fā)受阻:OpenAI 新一代模型難見突破性進(jìn)展新一代語言模型ModernBERT發(fā)布,RAG等任務(wù)處理速度快四倍、成本低新研究顯示:Anthropic 的 Claude AI 在合作能力上領(lǐng)先于 OpenAI 和谷歌模型
  • 首頁 > 云計算頻道 > 大模型

    OpenAI 就其 DALL-E 3 人工智能生成圖像檢測工具發(fā)表猶豫立場

    2023年10月20日 10:50:09   來源:站長之家

      OpenAI 一直在就何時發(fā)布一款工具,用于確定一張圖像是否由 DALL-E 3 生成,OpenAI 的生成式人工智能藝術(shù)模型,進(jìn)行了廣泛的「討論和辯論」。但這家初創(chuàng)公司并不打算在短期內(nèi)做出決定。

      這是根據(jù)本周在電話采訪中與 TechCrunch 交談的 OpenAI 研究員 Sandhini Agarwal 的說法。她負(fù)責(zé)安全和政策,她表示,盡管分類器工具的準(zhǔn)確性「非常好」——至少根據(jù)她的估計——但尚未達(dá)到 OpenAI 的質(zhì)量門檻。

      Agarwal 表示:「考慮到它做出的決定可能會嚴(yán)重影響照片,比如一件作品是否被視為由藝術(shù)家繪制,或者是否不真實且具有誤導(dǎo)性,因此推出一個有點不可靠的工具是一個問題!

      OpenAI 對該工具的目標(biāo)準(zhǔn)確性似乎非常高。OpenAI 首席技術(shù)官 Mira Murati 在 WSJ 的 Tech Live 會議上表示,這款分類器在確定未經(jīng)修改的照片是否是由 DALL-E 3 生成的方面是「99%」可靠的。也許目標(biāo)是 100%;Agarwal 沒有明確表示。

      與 TechCrunch 分享的 OpenAI 博客草稿揭示了一個有趣的細(xì)節(jié):

      「[分類器] 在圖像經(jīng)歷了常見類型的修改,如裁剪、調(diào)整大小、JPEG 壓縮,或者在生成的圖像的小部分上疊加文本或真實圖像的剪貼時,仍然保持超過 95% 的準(zhǔn)確性。

      OpenAI 的猶豫可能與圍繞其先前的公共分類器工具的爭議有關(guān),該工具旨在檢測不僅來自 OpenAI 模型,還來自第三方供應(yīng)商發(fā)布的生成文本。OpenAI 撤回了 AI 編寫的文本檢測器,因為其「低準(zhǔn)確率」受到廣泛批評。

      Agarwal 暗示 OpenAI 還關(guān)注人工智能生成圖像到底由什么構(gòu)成的哲學(xué)問題。顯然,由 DALL-E 3 從頭生成的藝術(shù)作品是符合條件的。但是,對于經(jīng)過多輪編輯、與其他圖像合并,然后經(jīng)過幾輪后處理濾鏡的 DALL-E 3 生成的圖像,應(yīng)該如何劃分就不太清楚了。

      Agarwal 表示:「在那一點上,這個圖像應(yīng)該被視為 AI 生成的東西還是不是?現(xiàn)在,我們正在嘗試解決這個問題,我們真的希望聽到那些將受到這種分類器工具重大影響的藝術(shù)家和其他人的意見!

      不僅 OpenAI,許多組織正在研究為生成媒體水印和檢測技術(shù),因為人工智能深度偽造不斷增加。

      DeepMind 最近提出了一種規(guī)范,SynthID,用于標(biāo)記以人眼看不見的方式生成的 AI 圖像,但可以被專門的檢測器發(fā)現(xiàn)。法國初創(chuàng)公司 Imatag,于 2020 年推出了一款聲稱不受調(diào)整大小、裁剪、編輯或壓縮圖像影響的水印工具,類似于 SynthID。另一家公司 Steg.AI 使用 AI 模型應(yīng)用可以經(jīng)受調(diào)整大小和其他編輯的水印。

      問題在于,該行業(yè)尚未就單一的水印或檢測標(biāo)準(zhǔn)達(dá)成共識。即使達(dá)成共識,也不能保證水印——以及檢測器——不會被打敗。

      Agarwal 被問及 OpenAI 的圖像分類器是否支持檢測使用其他非 OpenAI 生成工具創(chuàng)建的圖像。她不承諾這一點,但確實說過——這取決于目前存在的圖像分類器工具的接受程度——這是 OpenAI 會考慮探索的一條途徑。

      Agarwal 表示:「目前 [分類器] 僅適用于 DALL-E 3,因為從技術(shù)上講,這是一個更容易解決的問題!顾f:「[通用檢測器] 并不是我們目前正在做的事情... 但根據(jù) [分類器工具] 的發(fā)展,我不是說我們永遠(yuǎn)不會這樣做。」

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標(biāo)識解析專題論壇在沈陽成功舉辦。