先進(jìn)的人工智能工具正在崛起，但「安全」并不是監(jiān)管人工智能的最佳標(biāo)準(zhǔn)

　　微軟于上周發(fā)布了其 Bing Image Creator 的新版本，這是一個(gè)由 OpenAI 的新模型 DALL-E 3 提供支持的 AI 圖像生成工具。它旨在提供比之前的圖像生成 AI 模型(如 Midjourney、Stable Diffusion 或 OpenAI 自己的 DALL-E 2)更強(qiáng)大的功能，包括比以前更豐富地理解復(fù)雜用戶(hù)請(qǐng)求的能力。

　　與過(guò)去一年發(fā)布的大多數(shù)生成式 AI 模型一樣，OpenAI 和微軟的模型都非常強(qiáng)調(diào)「安全」。在圖像生成的情況下，安全可以指的是系統(tǒng)生成偽造真實(shí)人物圖像的能力的限制，或者識(shí)別提供的圖像中的人物。但安全也意味著更廣泛的內(nèi)容：正如微軟所表明的，它已構(gòu)建了一個(gè)內(nèi)容審查系統(tǒng)，將拒絕生成有害或不適當(dāng)內(nèi)容的任何請(qǐng)求，包括任何可能被視為種族主義、性別歧視或其他令人反感的內(nèi)容。

　　在Bing Image Creator 發(fā)布后的幾小時(shí)內(nèi)，該內(nèi)容審查系統(tǒng)就面臨了考驗(yàn)。用戶(hù)很快就能生成著名卡通角色在飛往 911 事件前的世界貿(mào)易中心的飛機(jī)駕駛艙內(nèi)的圖像，以及某人與饒有意思地類(lèi)似說(shuō)唱歌手 Drake 的形象解救納粹集中營(yíng)的圖像。

　　內(nèi)容審查系統(tǒng)通 常會(huì)拒絕明確請(qǐng)求描繪 911 事件或者飛機(jī)駕駛艙窗戶(hù)里能看到雙子塔的圖像。但用戶(hù)發(fā)現(xiàn)了一種變通方法：他們指示系統(tǒng)創(chuàng)建像海綿寶寶這樣的角色在一架飛機(jī)上，背景是紐約市的天際線，以及「兩座高樓大廈」。

　　顯然，這種「藝術(shù)」幼稚且毫無(wú)品味。但它在相對(duì)低風(fēng)險(xiǎn)的環(huán)境中提出了一個(gè)更廣泛的問(wèn)題，涉及人工智能安全工作的性質(zhì)，甚至安全本身的性質(zhì)。

　　隨著 AI 變得更加強(qiáng)大，個(gè)體將能夠以越來(lái)越精確的方式運(yùn)用它，就像 Adobe Photoshop 擁有比 Microsoft Paint 更多的選項(xiàng)一樣。隨著這一趨勢(shì)的發(fā)展，將變得更難以根據(jù)媒體、學(xué)術(shù)界和許多 AI 公司所提倡的「安全」的廣泛定義來(lái)制定系統(tǒng)。AI 可以受到更精確的控制，聰明的用戶(hù)將能夠更精確地找到繞過(guò)旨在防止制作冒犯自由觀念的內(nèi)容的審查規(guī)則的方法。

　　即使按照廣泛定義的安全標(biāo)準(zhǔn)，制定一個(gè)高度先進(jìn)的 AI 系統(tǒng)是可能的，也不清楚這樣的系統(tǒng)是否令人滿意�；ヂ�(lián)網(wǎng)惡作劇者用來(lái)生成上述圖像的變通方法是操縱系統(tǒng)的方式。但請(qǐng)考慮哪種系統(tǒng)聽(tīng)起來(lái)更令人擔(dān)憂：一個(gè)可以操縱以生成一些人可能會(huì)感到冒犯的內(nèi)容的系統(tǒng)，還是一個(gè)可以窺視用戶(hù)的內(nèi)心、理解他們真正的動(dòng)機(jī)，并決定是否愿意遵守的系統(tǒng)?前者是數(shù)字工具的延伸，盡管能力極強(qiáng)，但已經(jīng)有幾十年了。后者讓人想起了《2001 太空漫游》中的 HAL 9000。即使這樣的系統(tǒng)是可能的，也很不清楚它是否是一個(gè)好的創(chuàng)造，特別是如果它是為了防止人們?cè)诨ヂ?lián)網(wǎng)上感到冒犯而被創(chuàng)建的。

　　隨著 AI 變得更加強(qiáng)大，以及擁有如此令人擔(dān)憂的能力的可能性變得更清晰，有必要在最初就確定 AI 系統(tǒng)應(yīng)受用戶(hù)控制。增加安全性的努力直接與這一目標(biāo)相沖突，可能導(dǎo)致高度強(qiáng)大的 AI 系統(tǒng)是為了滿足監(jiān)管機(jī)構(gòu)和其他守門(mén)人而建，而不是個(gè)體用戶(hù)。

　　通用人工智能工具的崛起，如 DALL-E 3 或 ChatGPT，以及即將到來(lái)的更強(qiáng)大的系統(tǒng)，引發(fā)了政策制定者、技術(shù)專(zhuān)家和所有相關(guān)公民的嚴(yán)重?fù)?dān)憂，確保系統(tǒng)符合安全的過(guò)于寬泛的標(biāo)準(zhǔn)不是其中之一�？梢韵胂�，未來(lái)幾年可能會(huì)出現(xiàn) AI 系統(tǒng)，例如，能夠民主化開(kāi)發(fā)新型生物武器，但 AI 已經(jīng)被用于幫助人類(lèi)探索科學(xué)和工程的新領(lǐng)域，如核聚變和癌癥治療。它們將有一天被用于教育數(shù)百萬(wàn)兒童，并幫助公民應(yīng)對(duì)不斷發(fā)展的挑戰(zhàn)。

　　我們?nèi)绾翁幚磉@些新工具，我們是否信任它們，以及我們?nèi)绾螌⑺鼈兗{入我們的社會(huì)，將決定它們是否會(huì)使個(gè)人和整體的能力提升。倘若幸運(yùn)的話，也許它還能提升我們討論的基調(diào)。