OpenAI CEO 日前透露 短期內(nèi)并未規(guī)劃 GPT-5

　　繼此前在今年 3 月 29 日，圖靈獎得主 Yoshua Bengio、推特 CEO 馬斯克等多位業(yè)界和學(xué)界人士聯(lián)署公開信，呼吁所有人工智能實驗室立即暫停訓(xùn)練比 GPT-4 更為強大的人工智能系統(tǒng)、暫停至少 6 個月，以便制定和實施安全協(xié)議后。近日在麻省理工學(xué)院舉行的一個討論商業(yè)和人工智能的活動中，OpenAI 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Sam Altman 對這一事件以及 GPT-4 后續(xù)研發(fā)等問題進行了回應(yīng)。

　　Sam Altman 指出，他也認(rèn)為人工智能確實存在重大的安全挑戰(zhàn)，隨著大模型的能力越來越強，與之對應(yīng)的安全措施確實需要增加。據(jù)他透露，GPT-4 便是在訓(xùn)練完成后六個月才發(fā)布，期間公司對其進行了大量安全性方面的研究，并接受了外部審核。Sam Altman 表示，" 自從我們發(fā)布 GPT-4 以后，一切都很不錯。"

　　事實上，此前在今年早些時候，Sam Altman 就曾不止一次承認(rèn)人工智能技術(shù)讓他 " 有點害怕 "。并且他還認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展，人類可能面臨著前所未有的挑戰(zhàn)和風(fēng)險。

　　但 Sam Altman 也認(rèn)為，馬斯克等人呼吁將人工智能研發(fā)工作暫停 6 個月的公開信 " 缺少大部分技術(shù)細(xì)節(jié)，無法了解需要暫停的地方 "，而且暫停訓(xùn)練并非人工智能安全問題的解決之道。

　　就在此次活動舉行的的當(dāng)天，OpenAI 公司總裁兼聯(lián)合創(chuàng)始人 Greg Brockman 還發(fā)布一段長文，強調(diào)公司對大模型安全問題的重視。他表示，" 我們計劃繼續(xù)加強我們就安全問題采取的措施，更積極地面對安全性問題，要比很多用戶想的更積極。"

　　此外 Sam Altman 還指出，這封公開信的早期版本曾聲稱 OpenAI 目前正在訓(xùn)練 GPT-5，但這是謠傳，" 我們現(xiàn)在沒有訓(xùn)練，也短期內(nèi)不會訓(xùn)練 GPT-5 ……所以從這個意義上說，這封信有點兒愚蠢 "。

　　但同時他也透露，目前該公司正在拓展 GPT-4 的能力，并表示，" 我們正在 GPT-4 之上做其他事情，我認(rèn)為這些都涉及到安全問題，這些問題在信中被完全忽略了 "。

　　此外 Sam Altman 還提及，目前人工智能相關(guān)監(jiān)管的一個重要挑戰(zhàn)是難以衡量和跟蹤進展。具體來說，有編號的版本產(chǎn)品只是為了強調(diào)技術(shù)的明確發(fā)展，但并不能說明具體的技術(shù)進步程度，這實際上只是一種 " 營銷工具 "，例如 iPhone 35 要比 iPhone 34 好。

　　Sam Altman 還表示，目前大語言模型的規(guī)�？赡苷�在接近極限，而且大語言模型并不是規(guī)模越大越好，" 人們太關(guān)注參數(shù)數(shù)量了，我認(rèn)為最重要的是提升性能 "。