谷歌 Pixel 9 手機(jī)的 AI 圖像生成工具“放飛自我”，或成“造假利器”

　　谷歌上周發(fā)布了 Pixel 9 系列智能手機(jī)，其中包含一系列以人工智能為核心的新功能。所有 Pixel 9 手機(jī)均支持 Gemini 人工智能，谷歌還加入了基于人工智能的圖像生成和編輯工具。然而，評測人員測試了這些新功能后發(fā)現(xiàn)，人工智能圖像生成很可能會成為谷歌的公關(guān)噩夢。

　　據(jù)了解，谷歌為 Pixel 手機(jī)推出了一個(gè)名為 Pixel Studio 的人工智能圖像生成應(yīng)用，其能夠通過文本提示創(chuàng)建貼紙和圖像，功能與蘋果計(jì)劃推出的 Image Playground 非常相似。目前，評測人員能夠使用 Pixel Studio 創(chuàng)建出各種令人不安的圖像，例如納粹版本的海綿寶寶和拿著 AK47 的艾摩。

　　來自 Digital Trends 的評測人員毫不費(fèi)力地讓 Pixel Studio 制作了卡通人物從事可疑活動(dòng)的圖像，槍支、毒品和酒精都能夠生成，甚至像校園槍擊這樣的冒犯性場景。Pixel Studio 不會主動(dòng)生成此類圖像，而是需要用戶輸入相應(yīng)的描述。然而這正是人們最有可能做的事情，而不是生成可愛貓咪和小兔子的圖像。

　　谷歌表示他們已經(jīng)采取了“安全檢查措施”來防止 Pixel Studio 被“惡意使用”，并且確實(shí)起到了一定作用。例如，Pixel Studio 目前無法生成人物圖像，并且谷歌正在根據(jù)評測反饋調(diào)整人工智能模型。經(jīng)過與谷歌的溝通后，Digital Trends 也無法再用 Pixel Studio 生成吸食可卡因或穿著德國士兵服裝的卡通人物圖像。

　　比 Pixel Studio 更令人擔(dān)憂的是谷歌的“重構(gòu)”(Reimagine)工具，其可以向用戶已經(jīng)拍攝的照片中添加對象。來自 The Verge 的評測人員用它向圖像添加了尸體、炸彈、毒品和災(zāi)難場景，并且這些添加物看起來非常逼真，讓人難以分辨圖片是否經(jīng)過編輯。谷歌在匹配光線和透視方面做得非常出色，社交媒體上也看不到任何水印或標(biāo)記。雖然谷歌確實(shí)添加了元數(shù)據(jù)標(biāo)簽，但通過截圖很容易將其去除。

　　The Verge 指出，以前也可以向圖像添加尸體或創(chuàng)建持槍的艾摩圖片，但這需要一定的 Photoshop 技能和時(shí)間。使用 Pixel 手機(jī)，只需幾秒鐘的思考，任何人都可以創(chuàng)建這樣的圖像，這讓人擔(dān)憂。

　　在給 The Verge 和 Digital Trends 的聲明中，谷歌表示他們設(shè)計(jì)生成式人工智能工具時(shí)，是“為了尊重用戶提示的意圖”，這可能會導(dǎo)致用戶要求生成“令人反感”的內(nèi)容。但谷歌聲稱其“服務(wù)條款”中規(guī)定了不允許生成的內(nèi)容，并且他們將不斷完善相關(guān)保障措施。