OpenAI 聯(lián)合創(chuàng)始人警告未來(lái) AI 可能超越人類(lèi)智慧：人類(lèi)可能成為人工智能的一部分

　　OpenAI聯(lián)合創(chuàng)始人 Ilya Sutskever 表示，當(dāng)未來(lái)超級(jí)智能機(jī)器崛起時(shí)，人類(lèi)可能會(huì)選擇與人工智能融合。他甚至可能是第一個(gè)這樣做的人。

　　OpenAI聯(lián)合創(chuàng)始人 Ilya Sutskever 最近提出了一個(gè)引人注目的理論，他認(rèn)為未來(lái)超智能機(jī)器崛起時(shí)，人類(lèi)可能會(huì)選擇與 AI 融合。

　　在與 MIT Technology Review 的交談中，Sutskever 描述了我們應(yīng)如何為可能超越人類(lèi)智慧的機(jī)器做好準(zhǔn)備。他提到這些超智能機(jī)器將「看到我們看不到的東西」。

　　這種思想促使他與 OpenAI 的科學(xué)家 Jan Leike 共同組建了一個(gè)團(tuán)隊(duì)，專(zhuān)注于確保 AI 模型僅按照人類(lèi)的要求執(zhí)行，而不會(huì)做出超出指令的行為。他們?yōu)檫@個(gè)過(guò)程命名為「超對(duì)齊」(Superalignment)，也就是應(yīng)用于超智能的「對(duì)齊」。

　　Sutskever 強(qiáng)調(diào)，保持超智能的檢查非常重要，但這是一個(gè)「未解決的問(wèn)題」，并不是很多研究人員正在討論或工作的領(lǐng)域�！革@然，我們必須確保任何人構(gòu)建的超智能不會(huì)失控�！�

　　在解決了失控 AI 的問(wèn)題后，Sutskever 認(rèn)為未來(lái)人類(lèi)可能會(huì)選擇與 AI 融合。雖然他承認(rèn)這個(gè)想法在今天可能看起來(lái)「瘋狂」，但在未來(lái)可能會(huì)成為現(xiàn)實(shí)。

　　他說(shuō)：「許多人會(huì)選擇成為部分 AI。起初，只有最大膽、最富冒險(xiǎn)精神的人會(huì)嘗試這樣做。也許其他人會(huì)跟隨，或者不會(huì)�！�

　　在與采訪(fǎng)者告別時(shí)，Sutskever 甚至表示，他可能會(huì)成為首批接受成為部分 AI 的人之一。

　　Sutskever 不是唯一警告 AI 可能超越人類(lèi)智慧的專(zhuān)家。本月早些時(shí)候，被認(rèn)為是 AI 三位教父之一的 Geoffrey Hinton 在接受 CBS News 60 Minutes 采訪(fǎng)時(shí)表示，未來(lái) 5 至 20 年內(nèi)，新興技術(shù)可能會(huì)對(duì)人類(lèi)構(gòu)成威脅。

　　Hinton 指出，我們可能會(huì)首次面臨比我們更聰明的「事物」，并警告未來(lái) AI 可能會(huì)操縱人類(lèi)。

　　他說(shuō)：「它們將能夠操縱人類(lèi)，對(duì)吧?而且，由于它們從所有的小說(shuō)、馬基雅維利(意大利的政治學(xué)家、哲學(xué)家、歷史學(xué)家、政治家、外交官。他是意大利文藝復(fù)興時(shí)期的重要人物，被稱(chēng)為『近代政治學(xué)之父』，在政治哲學(xué)領(lǐng)域具代表性，他所著的《君主論》一書(shū)提出了現(xiàn)實(shí)主義的政治理論，其中『政治無(wú)道德』的權(quán)術(shù)思想，被人稱(chēng)為「馬基雅維利主義」。)的所有書(shū)籍和所有的政治詭計(jì)中學(xué)到了東西，它們會(huì)非常擅長(zhǎng)說(shuō)服人們。它們會(huì)知道如何做。」

　　隨著 AI 技術(shù)的飛速發(fā)展，專(zhuān)家的警告提醒了我們，應(yīng)在推動(dòng)技術(shù)進(jìn)步的同時(shí)，也要深刻認(rèn)識(shí)到潛在的風(fēng)險(xiǎn)，并尋求可能的解決方案。