大西洋月刊： 人工智能將如何重新重塑人類社會秩序

　　耶魯大學(xué)社會科學(xué)與自然科學(xué)教授尼古拉斯·克里斯塔基斯(Nicholas Christakis)在即將于4月出版的《大西洋月刊》上撰文稱，人工智能技術(shù)不僅會給我們帶來便利，還有可能在悄無聲息間影響人類社會的基本秩序。

　　以下為文章全文：

　　數(shù)十年來，人們一直在擔(dān)心機(jī)器人可能會通過何種方式改變我們的生活。這也成為各種科幻小說熱衷的主題。20世紀(jì)40年代，人類與人工智能之間的廣泛互動似乎還遙遙無期，但艾薩克·阿西莫夫(Isaac Asimov)卻在那時提出了著名的“機(jī)器人三大定律”，旨在防止機(jī)器人傷害我們。

　　第一條是：“機(jī)器人不得傷害人類，且應(yīng)確保人類不受傷害。”它的根源在于，認(rèn)為機(jī)器人會通過直接互動對人類產(chǎn)生影響。

　　回想一下經(jīng)典的科幻電影：C-3PO和R2-D2與義軍同盟合作，在《星球大戰(zhàn)》中挫敗帝國;或者《2001太空漫游》里的HAL 9000以及《機(jī)械姬》里面的Ava都策劃謀殺它們假意服從的主人。

　　雖然這些作品都充滿想象力，但卻并沒有把重點(diǎn)放在人工智能更廣泛、更重要的社會影響上——人工智能可以對人類之間的互動方式產(chǎn)生具體影響。

　　當(dāng)然，激進(jìn)的創(chuàng)新之前也曾經(jīng)徹底改變過人類共同生活的方式。5000到1萬年前，城市的出現(xiàn)導(dǎo)致游牧民族減少，人口密度增加。無論是作為個體還是集體，我們都適應(yīng)了這種狀況(例如，這些新的環(huán)境更有可能引發(fā)傳染病，而我們已經(jīng)進(jìn)化出相應(yīng)的抵抗力)。最近，包括印刷機(jī)、電話和互聯(lián)網(wǎng)在內(nèi)的技術(shù)發(fā)明徹底改變了我們存儲和傳播信息的方式。

　　然而，雖然這些創(chuàng)新十分重要，但卻并未徹底改變?nèi)祟惖幕�本行為，而這些基本行為也構(gòu)成了我所謂的“社會套件”：這是我們歷經(jīng)數(shù)十萬年進(jìn)化出來的一系列關(guān)鍵能力，包括愛情、友誼、合作和教學(xué)。無論生活在城市還是農(nóng)村，也無論是否使用現(xiàn)代科技，這些特征的基本輪廓在全世界范圍內(nèi)都高度一致。

　　但在我們中間加入人工智能可能會帶來更大的破壞。特別是當(dāng)機(jī)器的外觀和行為與我們相似，并深入地滲透到我們生活時，它們可能會改變我們之間戀愛或交友的方式——不光是影響我們與相關(guān)機(jī)器之間的直接互動，還會影響我們?nèi)祟惐舜酥�間的互動。

　　實(shí)驗(yàn)帶來的啟示

　　我在耶魯大學(xué)的實(shí)驗(yàn)室里做了一些實(shí)驗(yàn)，跟我的同事對這種效應(yīng)如何發(fā)揮作用展開探索。在其中一項(xiàng)實(shí)驗(yàn)中，我們讓一小群人與人形機(jī)器人一起在虛擬世界中鋪設(shè)鐵軌。每組由三個人組成，他們跟一個藍(lán)白兩色組成的小型機(jī)器人圍坐在一張方桌四周，使用平板電腦工作。

　　我們通過程序讓這個機(jī)器人偶爾犯一些錯誤，而且會承認(rèn)自己的錯誤：“對不起，伙計們，我這輪犯了錯誤。”它調(diào)皮地說，“我知道這可能很難相信，但機(jī)器人也會犯錯。”

　　事實(shí)證明，這個笨拙且懂得懺悔的機(jī)器人通過改善人類之間的溝通，幫助團(tuán)隊(duì)提升了表現(xiàn)。他們變得更加放松，也更加健談，不僅會安慰犯錯的同伴，還會經(jīng)常在一起開懷大笑。與之相比，對照組的機(jī)器人只會冷冰冰地闡述信息，在團(tuán)隊(duì)合作方面顯得遜色不少。

　　在另一個虛擬實(shí)驗(yàn)中，我們將4000個人類受試者分成大約20個組，并在組內(nèi)為每個人分配“朋友”;這些友誼形成了一個社交網(wǎng)絡(luò)。這些小組之后都領(lǐng)到一項(xiàng)任務(wù)：每個人必須在三種顏色中選擇一種，但每個人選擇的顏色都不能與其社交網(wǎng)絡(luò)中指定的朋友的顏色相同。

　　受試者不知道的是，一些小組包含的機(jī)器人會因?yàn)閮?nèi)置的程序而故意偶爾犯錯。與這些機(jī)器人直接接觸的人類變得更加靈活，并且會主動避免那些可能對某個人有效，但卻對整個小組無效的解決方案。更重要的是，由此產(chǎn)生的靈活性遍布整個社交網(wǎng)絡(luò)，甚至?xí)�影響那些與機(jī)器人沒有直接聯(lián)系的人。

　　因此，這些容易犯錯的機(jī)器人所在的小組，整體表現(xiàn)總是優(yōu)于不會犯錯的機(jī)器人所在的小組。換句話說，機(jī)器人能幫助人類來幫助他們自己。

　　這兩項(xiàng)研究都表明，在我稱之為“混合系統(tǒng)”的地方，也就是人類與機(jī)器人展開社交互動的地方，正確地部署人工智能可以改善人類彼此之間的關(guān)系。其他研究結(jié)果也印證了這一點(diǎn)。例如，政治學(xué)家凱文·芒格(Kevin Munger)下令某種機(jī)器人在人們通過互聯(lián)網(wǎng)向其他人發(fā)送種族主義言論之后，對此進(jìn)行干預(yù)。

　　他發(fā)現(xiàn)，在某些情況下，如果機(jī)器人只是簡單地提醒肇事者，他們的攻擊目標(biāo)是一個人，此人的感情可能受到傷害，就可以令這名肇事者在一個多月的時間內(nèi)減少種族主義言論。

　　但是，在我們的社交環(huán)境中加入人工智能，也會降低我們的行為效率和道德水準(zhǔn)。在另一個實(shí)驗(yàn)中，我們希望探索人工智能如何影響“公地悲劇”。這個概念指的是，每個人的自私行為匯總起來可能對我們的共同利益構(gòu)成破壞。

　　在實(shí)驗(yàn)中，我們向幾千名受試者提供資金，以供他們在好幾輪網(wǎng)絡(luò)游戲中使用。在每一輪中，受試者被告知可以保留他們的錢，也可以將一部分或全部的錢捐贈給鄰居。如果他們捐款，我們會捐出同樣的金額，使他們的鄰居收到的錢增加一倍。

　　在游戲初期，三分之二的玩家采取了無私的行為。畢竟，他們意識到在一輪游戲中對鄰居慷慨捐贈，就可能促使鄰居在下一輪游戲中對自己慷慨捐贈，從而建立互惠的規(guī)范。

　　但從自私和短視的角度出發(fā)，最好的結(jié)果其實(shí)是留下錢不捐，等著鄰居給自己捐錢。在這個實(shí)驗(yàn)中，我們發(fā)現(xiàn)只要添加一些冒充人類玩家的自私機(jī)器人，就能推動整個小組采取相似的行為。最終，人類玩家完全停止了合作。于是，機(jī)器人把一群慷慨大方的人變成了自私自利的混蛋。

　　我們來思考一下這項(xiàng)發(fā)現(xiàn)的含義。合作是人類這個物種的一項(xiàng)關(guān)鍵特征，對社會生活至關(guān)重要。信任和慷慨也是成功群體區(qū)別于不成功群體的關(guān)鍵特征。如果每個人為了幫助自己所在的群體而展開投入和犧牲，大家都會受益。然而，當(dāng)這種行為模式被打破時，公共物品的概念就會消失，每個人都會受到損害。人工智能可能會極大地降低我們的合作能力，這是一件非常令人擔(dān)憂的事情。

　　現(xiàn)實(shí)生活的例子

　　事實(shí)上，現(xiàn)在已經(jīng)有一些真實(shí)例子讓我們領(lǐng)教了人工智能如何在實(shí)驗(yàn)室之外敗壞人類之間的關(guān)系。一項(xiàng)在2016年美國總統(tǒng)大選前針對570萬Twitter用戶進(jìn)行的研究發(fā)現(xiàn)，一些俄羅斯帳號(其中有一些由機(jī)器人操縱)經(jīng)常通過跟非惡意帳號相似的方式轉(zhuǎn)發(fā)信息，對保守派用戶產(chǎn)生的影響尤其明顯。

　　通過利用人類善于合作和好為人師的特征——這也是社交套件的兩個特征——機(jī)器人甚至影響了沒有與之直接互動的人，令美國的選舉出現(xiàn)兩極分化。

　　簡單的人工智能所產(chǎn)生的其他社會影響每天都在我們周圍發(fā)生。父母們看著他們的孩子咆哮著向Alexa或Siri這樣的數(shù)字助理發(fā)出粗暴的命令，他們開始擔(dān)心這種粗魯行為會影響孩子們待人接物的方式，或者擔(dān)心孩子與人工智能的關(guān)系會干擾甚至取代人際關(guān)系。

　　不久前，麻省理工學(xué)院的科技和社會學(xué)專家謝里·特克爾(Sherry Turkle)，在給他的兒子買了一臺玩具機(jī)器人后對《大西洋月刊》說，兒童成長過程中的同伴如果是人工智能，而不是人類，那么他們可能就會缺乏同理心。

　　隨著數(shù)字助理無處不在，我們已經(jīng)習(xí)慣于跟它們交談，就好像它們也有感情一樣。茱蒂絲·舒勒維茨(Judith Shulevitz)去年曾經(jīng)闡述過我們中的一些人是如何開始將它們視為知己，甚至把它們當(dāng)做朋友和治療師。

　　舒勒維茨本人說，她向谷歌助手透露了一些連她的丈夫都不知道的事情。如果我們在與設(shè)備密切交談時感覺越來越舒服，那么人類之間的婚姻和友誼會發(fā)生什么變化?

　　由于商業(yè)需要，設(shè)計師和程序員通常會開發(fā)各種能夠讓我們感覺更好的設(shè)備，但卻可能無法幫助我們自我反思或思考痛苦的事實(shí)。隨著人工智能滲透到我們的生活之中，我們必須面對這樣一種可能性：它會阻礙我們的情緒，抑制人與人之間的深層關(guān)系，導(dǎo)致我們不再那么設(shè)身處地為別人著想，甚至變得更加膚淺和自戀。

　　所有這一切，最終可能以我們意想不到的方式改變?nèi)祟惿鐣�，我們甚至需要將它�?dāng)做一種政體來對待。我們是否希望讓機(jī)器影響孩子的善良天性?我們是否希望機(jī)器影響成年人的性行為?

　　英國德蒙福特大學(xué)人類學(xué)家凱瑟琳·理查森(Kathleen Richardson)更擔(dān)心后一個問題。作為“反對性愛機(jī)器人運(yùn)動”的主席——沒錯，性愛機(jī)器人已經(jīng)成為一種初級現(xiàn)象，所以為反對它們而掀起的運(yùn)動不算杞人憂天——她警告說，這種機(jī)器人們將會令人們喪失人性，并可能導(dǎo)致用戶退出真正的親密關(guān)系。我們甚至可能不再單純把機(jī)器人當(dāng)成滿足性欲的工具，還會以同樣的態(tài)度對待他人。

　　其他觀察家認(rèn)為，機(jī)器人可以從根本上改善人類之間的性行為。在2007年出版的《跟機(jī)器人談戀愛滾床單》(Love and Sex With Robots)一書中，從反傳統(tǒng)的國際象棋大師變身商人的大衛(wèi)·萊維(David Levy)考慮了“具有情感吸引力和性誘惑力的機(jī)器人”所帶來的積極影響。他認(rèn)為有些人會更喜歡機(jī)器人配偶，而非人類伴侶(事實(shí)上，去年已經(jīng)有一名日本人與人工智能全息影像“結(jié)婚”)。

　　性愛機(jī)器人不會傳播性病，也不會意外懷孕。它們可以為寡廉鮮恥的實(shí)驗(yàn)和實(shí)踐提供各種機(jī)會——從而幫助人類成為“大師級情人”。有基于此，再考慮其他因素的影響，萊維認(rèn)為與機(jī)器人發(fā)生性行為是道德的，在某些情況下甚至是理所當(dāng)然的。

　　事實(shí)上，對于我們大多數(shù)人而言，在遭遇這種跟親密關(guān)系有關(guān)的人工智能難題之前，應(yīng)該還是會率先遇到更為日常的挑戰(zhàn)。畢竟，無人駕駛汽車的時代已經(jīng)到來。這些車輛有望大大減少困擾人類駕駛員的疲勞和分心問題，從而防止事故發(fā)生。但是它們會對人類產(chǎn)生哪些其他影響呢?

　　駕駛是一種非常現(xiàn)代的社交互動，需要高水平的合作和社會協(xié)調(diào)。我擔(dān)心的是，無人駕駛汽車會剝奪我們鍛煉這些能力的機(jī)會，導(dǎo)致我們的能力萎縮。

　　這些車輛不僅會通過程序來承擔(dān)駕駛職責(zé)，從而篡奪人類做出道德判斷的權(quán)利(例如，當(dāng)碰撞不可避免時，哪個行人會被撞擊)，還會影響沒有根它們直接接觸的人類。例如，當(dāng)駕駛員以穩(wěn)定不變的速度與自動駕駛車輛共同行駛一段時間后，可能會精神松懈，注意力渙散。

　　因此，當(dāng)他們駛?cè)胫挥腥祟愸{駛員的高速公路后，就更有可能發(fā)生事故。另外，經(jīng)驗(yàn)可能表明，與完全遵守交通法規(guī)的自動駕駛車輛一起駕駛，實(shí)際上可以提高人類駕駛員的表現(xiàn)。

　　無論如何，我們都會肆無忌憚地開發(fā)各種新型人工智能，而不會首先考慮這些社會溢出效應(yīng)——我們也經(jīng)常稱之為外部性。我們在管理人工智能對車外人員產(chǎn)生的漣漪效應(yīng)時，也投入了足夠的努力和獨(dú)創(chuàng)性，就像開發(fā)無人駕駛汽車的硬件和軟件一樣。畢竟，剎車燈之所以設(shè)計在車尾，主要不是為了你自身的利益，更多地是考慮到你身后其他人的利益。

　　新的社會契約

　　1985年，就在阿西莫夫制定“機(jī)器人三大定律”40年后，他又增加一條：機(jī)器人不可從事任何傷害人性的事情。但他在如何評估這種傷害時卻陷入掙扎。“人類是一個具體的對象，”他后來寫道，“可以估計和判斷一個人的受傷情況。而人性卻是抽象的。”

　　如果集中精力關(guān)注社會溢出效應(yīng)，或許可以有所幫助。其他領(lǐng)域的溢出效應(yīng)推動了法律法規(guī)的建設(shè)和民主監(jiān)督的健全。無論是涉及污染水源的公司，還是在辦公樓里散布二手煙的煙民，一旦某些人的行為開始影響其他人，社會就可能會介入。

　　由于人工智能對人與人之間的互動會產(chǎn)生嚴(yán)重而深遠(yuǎn)的影響，而且速度快、范圍廣，我們必須系統(tǒng)地調(diào)查可能出現(xiàn)的二階效應(yīng)，并討論如何才能代表共同利益對其展開監(jiān)管。

　　已經(jīng)有各種各樣的研究人員和從業(yè)人員(包括計算機(jī)科學(xué)家、工程師、動物學(xué)家和社會科學(xué)家)開始齊心協(xié)力發(fā)展“機(jī)器行為”學(xué)科，希望將我們對人工智能的理解建立在一個更健全的理論和技術(shù)基礎(chǔ)之上。這個學(xué)科并不僅僅將機(jī)器人視做人造物體，而是將其視為一種新的社會行動者。

　　這方面的研究非常迫切。在不久的將來，內(nèi)置人工智能的機(jī)器可以通過編程或獨(dú)立學(xué)習(xí)(我們將賦予它們這種能力)，展示出與在我們看來非常奇怪的智力和行為。

　　我們需要快速區(qū)分哪些只是看上去古怪，哪些是實(shí)實(shí)在在的威脅。關(guān)于人工智能，我們最關(guān)心的是它可能影響人類社會生活的核心元素，也就是那些讓我們這個物種得以繁衍生息的特征。

　　啟蒙運(yùn)動哲學(xué)家托馬斯·霍布斯(Thomas Hobbes)認(rèn)為，人類需要一份集體契約來阻止我們變得雜亂無章。他錯了。早在我們組建政府之前，進(jìn)化就為人類提供了一套社會套件，讓我們能夠和平而有效地生活在一起。在人工智能尚未誕生的世界里，通過基因遺傳的愛情、友誼、合作和教學(xué)能力不斷幫助我們共同生活。

　　不幸的是，人類沒有進(jìn)化出與機(jī)器人共同生存的天賦能力。因此，我們必須采取措施，避免它們在與我們共處的過程中造成破壞。隨著人工智能更深入地影響我們的生活，我們可能還需要建立一種新的社會契約——只不過，這次的契約對象是機(jī)器，而不是其他人類。