ChatGPT 等生成式人工智能模型催生新工作崗位：審核 AI 輸入和輸出

　　10月13日消息:人工智能可能正在引發(fā)對(duì)人們工作保障的擔(dān)憂，但新一波工作崗位正在涌現(xiàn)，這些崗位專注于審核下一代人工智能模型的輸入和輸出。

　　自 2022 年 11 月以來(lái)，全球的商業(yè)領(lǐng)袖、職員和學(xué)者都一直擔(dān)心生成式人工智能將擾亂大量專業(yè)崗位。

　　生成式人工智能可以讓人工智能算法根據(jù)文本提示生成類似人類的逼真文本和圖像，它是通過(guò)大量數(shù)據(jù)進(jìn)行訓(xùn)練的。它可以制作出復(fù)雜的散文，甚至公司演示文稿，其質(zhì)量接近受過(guò)學(xué)術(shù)訓(xùn)練的個(gè)人的質(zhì)量。

　　這無(wú)疑引發(fā)了人們對(duì)人工智能可能取代工作的擔(dān)憂。

　　摩根士丹利估計(jì)，高達(dá) 3 億個(gè)工作崗位可能會(huì)被人工智能接管，包括辦公和行政支持工作、法律工作、建筑和工程、生命、物理和社會(huì)科學(xué)以及金融和業(yè)務(wù)運(yùn)營(yíng)。

　　但人工智能模型接收的輸入以及它們創(chuàng)建的輸出通常需要由人類進(jìn)行指導(dǎo)和審核，這正創(chuàng)造了一些新的有償職業(yè)和兼職工作。

　　通過(guò)審查 AI 獲得報(bào)酬

　　Prolific 是一家?guī)椭�人工智能開(kāi)發(fā)人員與研究參與者建立聯(lián)系的公司，它直接參與為審閱人工智能生成材料的人們提供報(bào)酬。

　　該公司向研究參與者支付一定數(shù)額的報(bào)酬，以評(píng)估人工智能生成的輸出的質(zhì)量。Prolific 建議開(kāi)發(fā)者至少支付參與者每小時(shí) 12 美元，最低工資標(biāo)準(zhǔn)為每小時(shí) 8 美元。

　　人類審核員受到 Prolific 的客戶的指導(dǎo)，這些客戶包括 Meta、谷歌、牛津大學(xué)和倫敦大學(xué)學(xué)院。他們通過(guò)學(xué)習(xí)可能遇到的不準(zhǔn)確或有害的材料來(lái)幫助審核員。他們必須同意參與研究。

　　一名研究參與者稱，他曾多次使用 Prolific 來(lái)評(píng)價(jià)人工智能模型的質(zhì)量。由于涉及隱私問(wèn)題，該研究參與者選擇匿名，他表示，他經(jīng)常不得不介入，提供有關(guān)人工智能模型出錯(cuò)之處以及需要進(jìn)行更正或修改以確保不會(huì)產(chǎn)生不良反應(yīng)的反饋。

　　他曾多次遇到某些人工智能模型產(chǎn)生問(wèn)題的情況。有一次，他甚至被一個(gè)人工智能模型勸說(shuō)購(gòu)買藥物。

　　當(dāng)這位研究參與者遇到這種情況時(shí)，他感到震驚。不過(guò)，這項(xiàng)研究的目的是測(cè)試這個(gè)特定人工智能的界限，并提供反饋，以確保它不會(huì)在未來(lái)造成危害。

　　新的「人工智能工人」

　　Prolific 的首席執(zhí)行官 Phelim Bradley 表示，有許多新類型的「人工智能工作者」正在起到重要作用，他們正在為像 ChatGPT 這樣的人工智能模型提供輸入和輸出。

　　隨著政府評(píng)估如何監(jiān)管人工智能，Bradley 表示，「很重要的是要充分關(guān)注一些問(wèn)題，包括對(duì)數(shù)據(jù)注釋員等人工智能工作者的公平和道德待遇，構(gòu)建人工智能模型所使用的數(shù)據(jù)的來(lái)源和透明度，以及由于訓(xùn)練方式的問(wèn)題而導(dǎo)致偏見(jiàn)滲入這些系統(tǒng)的危險(xiǎn)�！�

　　「如果我們?cè)谶@些領(lǐng)域采取正確的方法，將對(duì)未來(lái)的人工智能應(yīng)用打下堅(jiān)實(shí)的、最具道德基礎(chǔ)。」

　　今年 7 月，Prolific 從包括 Partech 和 Oxford Science Enterprises 在內(nèi)的投資者那里籌集了 3200 萬(wàn)美元的資金。

　　谷歌、微軟和 Meta 等公司一直在爭(zhēng)奪生成式人工智能，這是一種新興的人工智能領(lǐng)域，因?yàn)樗�頻繁提到提高生產(chǎn)力，所以商業(yè)利益主要體現(xiàn)在這里。

　　然而，這引發(fā)了監(jiān)管機(jī)構(gòu)和人工智能倫理學(xué)家的一系列問(wèn)題，他們擔(dān)心這些模型如何做出內(nèi)容生成決策的透明度不足，還需要更多的工作來(lái)確保人工智能服務(wù)于人類的利益，而不是相反。

　　Hume 是一家利用人工智能從面部、面部和聲音表情中讀取人類情感的公司，它使用 Prolific 來(lái)測(cè)試人工智能模型的質(zhì)量。該公司通過(guò) Prolific 招募人們參加調(diào)查，以了解 AI 生成的回應(yīng)是好是壞。

　　Hume 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Alan Cowen 表示：「越來(lái)越多的研究人員在這些大公司和實(shí)驗(yàn)室中的重點(diǎn)正在轉(zhuǎn)向與人類偏好和安全的一致性。」

　　他補(bǔ)充說(shuō)：「在這些應(yīng)用中，有更多的重點(diǎn)放在監(jiān)控上。我認(rèn)為我們只是看到了這項(xiàng)技術(shù)剛剛開(kāi)始被推出的初期�！�

　　他還說(shuō)：「可以預(yù)期長(zhǎng)期以來(lái)在人工智能領(lǐng)域一直在追求的一些東西，比如有個(gè)性的導(dǎo)師和數(shù)字助手;能夠閱讀法律文件并進(jìn)行修改的模型，實(shí)際上正在實(shí)現(xiàn)�！�

　　還有一個(gè)將人類置于人工智能開(kāi)發(fā)核心的角色是提示工程師。這些工程師研究哪些基于文本的提示最適合插入生成式人工智能模型，以實(shí)現(xiàn)最佳的響應(yīng)。

　　根據(jù)上周 LinkedIn 發(fā)布的數(shù)據(jù)，有大量的工作涉及人工智能。LinkedIn 上提到人工智能或生成式人工智能的工作廣告在 2021 年 7 月至 2023 年 7 月間在全球翻了一番。

　　強(qiáng)化學(xué)習(xí)

　　與此同時(shí)，公司也在使用人工智能來(lái)自動(dòng)審查監(jiān)管文件和法律文件，但需要人類監(jiān)督。公司通常必須瀏覽大量文件，以審查潛在合作伙伴，并評(píng)估他們是否能夠擴(kuò)展到某些地區(qū)。

　　審查所有這些文件可能是一項(xiàng)乏味的工作，工作人員不一定愿意承擔(dān)，因此將其交給人工智能模型處理變得很有吸引力。但是研究人員表示，它仍然需要人性化的接觸。

　　數(shù)字轉(zhuǎn)型咨詢公司 Mesh AI 表示，人類的反饋可以幫助人工智能模型通過(guò)反饋來(lái)學(xué)習(xí)它們的試錯(cuò)。

　　Mesh AI 首席執(zhí)行官 Michael Chalmers 通過(guò)表示：「采用這種方法，組織可以自動(dòng)化分析和跟蹤其監(jiān)管承諾�！�

　　他還表示：「中小企業(yè)可以將注意力從單調(diào)的文件分析轉(zhuǎn)移到批準(zhǔn)由人工智能模型生成的輸出，并通過(guò)應(yīng)用來(lái)自人類反饋的強(qiáng)化學(xué)習(xí)進(jìn)一步改進(jìn)這些輸出�！�