“AI筆替”入法，管得住學(xué)術(shù)不端嗎？

　　文 ｜ 《中國科學(xué)報》 記者 王昊昊

　　面世不到一年的ChatGPT，引發(fā)了大模型時代變革，在掀起又一波人工智能(AI)浪潮的同時，也帶來了泄漏隱私、引發(fā)“飯碗焦慮”、暗藏侵權(quán)風(fēng)險等一系列問題。

　　ChatGPT以及百度文心一言、訊飛星火認(rèn)知大模型等的出現(xiàn)，標(biāo)志著人工智能進(jìn)入新發(fā)展階段。但與此同時，《科學(xué)》《自然》等期刊紛紛發(fā)文，指出人工智能威脅著科學(xué)的透明度。多國教育部門也紛紛出臺政策，禁止在學(xué)校使用ChatGPT。

　　在我國，學(xué)位法草案不久前提請十四屆全國人大常委會第五次會議初次審議。草案對學(xué)位獲得者利用人工智能代寫學(xué)位論文等行為，明確了相應(yīng)的法律責(zé)任：經(jīng)學(xué)位評定委員會審議決定由學(xué)位授予單位撤銷學(xué)位證書。然而，在實(shí)際操作中，利用人工智能代寫學(xué)位論文這類學(xué)術(shù)不端行為如何查證?這些學(xué)術(shù)不端行為和適度運(yùn)用人工智能的尺度標(biāo)準(zhǔn)又如何界定?

　　現(xiàn)狀：

　　在“混亂”中慌忙應(yīng)對

　　ChatGPT已面世大半年，它對學(xué)術(shù)界和教育界究竟產(chǎn)生了怎樣的影響?

　　今年1月，美國某網(wǎng)站發(fā)文稱，ChatGPT才出現(xiàn)兩個月，就已造成了難以言喻的混亂�！吨袊�科學(xué)報》記者梳理發(fā)現(xiàn)，學(xué)術(shù)界和高校更多的是在眼花繚亂的應(yīng)用場景出現(xiàn)后，才出臺政策，倉促“應(yīng)戰(zhàn)”。

　　在學(xué)術(shù)界，今年1月，《科學(xué)》主編索普以社論形式發(fā)文稱，ChatGPT已成為一種文化轟動，對科學(xué)界和學(xué)術(shù)界造成嚴(yán)重影響，并表示人們在最近的研究中發(fā)現(xiàn)，大量由ChatGPT創(chuàng)建的論文摘要被提交給學(xué)術(shù)審稿人。

　　索普說，《科學(xué)》正在更新編輯規(guī)則，強(qiáng)調(diào)不能在作品中使用由ChatGPT(或任何其他人工智能工具)生成的文本、數(shù)字、圖像或圖形。他特別強(qiáng)調(diào)，人工智能程序不能成為作者。

　　包括《自然》《細(xì)胞》《柳葉刀》等在內(nèi)的諸多科學(xué)類期刊也都發(fā)布了大體一致的規(guī)則。

　　高校受到的影響似乎更大。

　　今年初，美國斯坦福大學(xué)的一項(xiàng)非正式民意調(diào)查顯示，該校有大量學(xué)生已經(jīng)在期末考試中使用了ChatGPT。同時，《福布斯》發(fā)文稱，89%的學(xué)生承認(rèn)使用ChatGPT做家庭作業(yè)，其中48%的學(xué)生承認(rèn)使用ChatGPT進(jìn)行家庭測試或測驗(yàn)，53%的學(xué)生用它寫了一篇論文，22%的學(xué)生用它寫了一篇論文的大綱。有72%的大學(xué)生認(rèn)為ChatGPT應(yīng)在他們的大學(xué)網(wǎng)絡(luò)中被禁用。

　　“在稱贊ChatGPT功能強(qiáng)大的背后，人們應(yīng)看到其給學(xué)術(shù)界帶來的焦慮與恐慌。”中國人民大學(xué)首都發(fā)展與戰(zhàn)略研究院副院長郭英劍表示，美國一些高校已將新技術(shù)納入學(xué)術(shù)誠信中。華盛頓大學(xué)和佛蒙特大學(xué)等已經(jīng)修改了它們的學(xué)術(shù)誠信策略，將使用ChatGPT等人工智能工具納入剽竊等學(xué)術(shù)不端范圍。

　　對此，郭英劍表示，人工智能造成的剽竊行為在當(dāng)下的學(xué)術(shù)規(guī)則中很難得到證明。這一系列的負(fù)面影響開始讓人們思考，是否應(yīng)該在學(xué)術(shù)界和高校禁用ChatGPT?

　　擔(dān)憂：

　　怕學(xué)生喪失獨(dú)立思考能力

　　“高�；�?qū)W術(shù)界全面禁止人工智能產(chǎn)品是不可能的，也是逆歷史潮流的。”長沙理工大學(xué)教授劉小春表示，應(yīng)引導(dǎo)學(xué)生正確認(rèn)識和使用人工智能產(chǎn)品而非禁止。決定能否使用人工智能輔助的關(guān)鍵，應(yīng)是判斷其相關(guān)產(chǎn)品是否涉及受教育者創(chuàng)新能力的培養(yǎng)。

　　湖南大學(xué)法學(xué)院副院長蔣海松舉例說，ChatGPT已成為教育領(lǐng)域的強(qiáng)大工具，并帶來顛覆性影響，尤其對他所在的傳統(tǒng)法律教育等領(lǐng)域的沖擊更大。

　　ChatGPT的母公司OpenAI表示，GPT-4在律師資格考試(UBE)中可擊敗90%的考生。在網(wǎng)上輸入“ChatGPT會取代哪些崗位”的熱門詞條中，法律工作者高居榜首。

　　“即便如此，人為禁止ChatGPT是毫無意義的，也會喪失學(xué)術(shù)進(jìn)步的機(jī)遇。”蔣海松表示，是否禁用人工智能產(chǎn)品不能一概而論，要積極面對新技術(shù)運(yùn)用帶來的機(jī)遇與挑戰(zhàn)，引導(dǎo)學(xué)生正確看待科技，并加大規(guī)制力度，將其在教育與學(xué)術(shù)研究中可能產(chǎn)生的風(fēng)險盡可能降低。

　　那么，科研人員和教師使用人工智能產(chǎn)品的過程中有何疑慮?《中國科學(xué)報》記者在采訪發(fā)現(xiàn)，教師的擔(dān)憂集中在過多使用可能導(dǎo)致學(xué)生喪失獨(dú)立思考能力。

　　“我對ChatGPT的出現(xiàn)持完全支持態(tài)度，平時使用較多，我的不少學(xué)生也在用。”郭英劍表示，ChatGPT的功能確實(shí)很強(qiáng)大，但他很擔(dān)心學(xué)生經(jīng)常使用會產(chǎn)生依賴，導(dǎo)致其缺乏思辨性，這對學(xué)生的寫作能力培養(yǎng)等會很不利。

　　郭英劍認(rèn)為，ChatGPT等人工智能產(chǎn)品的出現(xiàn)，就像是算盤時代開始出現(xiàn)了計(jì)算器，或者馬車時代出現(xiàn)了機(jī)動車。這種革命性變化是任何人都阻擋不住的。應(yīng)允許并支持學(xué)生從積極方面使用人工智能產(chǎn)品。

　　至于學(xué)生的態(tài)度，北京理工大學(xué)宇航學(xué)院博士生蔣量受訪時表示，科研中，ChatGPT可作為一種工具輔助開展相關(guān)工作，但研究生仍應(yīng)以自身獨(dú)立思考為主。人工智能可提高學(xué)習(xí)效率，但不能作為學(xué)習(xí)主體。“有必要在研究生培養(yǎng)過程中限制ChatGPT的使用。”

　　“我們會較頻繁地用ChatGPT，我發(fā)現(xiàn)它更像有點(diǎn)‘小聰明’的學(xué)生，產(chǎn)生的信息不一定準(zhǔn)確，但在邏輯上可能是對的。”蔣量表示，未來人工智能在搜集信息方面的優(yōu)勢會愈加明顯，關(guān)鍵是規(guī)范此類工具的使用，使其能更好地幫助人們學(xué)習(xí)和思考，又不直接替代人學(xué)習(xí)和思考。

　　據(jù)蔣海松觀察，理工科學(xué)生對ChatGPT的使用更多，也有學(xué)生用它完成部分作業(yè)。“關(guān)鍵是在使用過程中堅(jiān)持自主思考，保持警覺與謹(jǐn)慎、合理合規(guī)使用，同時要加強(qiáng)信息素養(yǎng)的培養(yǎng)，接受人工智能相關(guān)知識的學(xué)習(xí)和培訓(xùn)。”

　　中國人民大學(xué)哲學(xué)院教授劉永謀表示，目前大語言模型對教育的沖擊才剛剛顯現(xiàn)，未來會愈演愈烈。就已經(jīng)暴露的跡象看，生成式人工智能將對就業(yè)、教育、信息安全等領(lǐng)域帶來極大挑戰(zhàn)，這些領(lǐng)域都與教育相關(guān)。人工智能新產(chǎn)品對人文社科類學(xué)科的教學(xué)科研以及文科類就業(yè)崗位沖擊將會巨大，如以ChatGPT為代表的自然語言處理技術(shù)擅長各種文字、翻譯、信息匯總和編程等工作。

　　“未來，學(xué)生將生活在人工智能輔助的環(huán)境中，因此不該在學(xué)校和學(xué)術(shù)界禁用相關(guān)產(chǎn)品，否則培養(yǎng)出來的學(xué)生就會落后于社會。”劉永謀表示，對于學(xué)生和教師運(yùn)用人工智能產(chǎn)品幫助其學(xué)習(xí)和研究，學(xué)校和學(xué)術(shù)界應(yīng)制定細(xì)致的指導(dǎo)意見，對于哪些用法被允許、哪些需要禁止作出詳細(xì)規(guī)定和建議。這些規(guī)定和建議要堅(jiān)持通行的學(xué)術(shù)道德原則指導(dǎo)，又要考慮不阻礙創(chuàng)新效率的提高。

　　未來：

　　界定尺度和標(biāo)準(zhǔn)

　　學(xué)位法草案對利用人工智能代寫學(xué)位論文等行為規(guī)定了相應(yīng)的法律責(zé)任。那么。此前用人工智能產(chǎn)品寫論文會觸犯法律嗎?有沒有相關(guān)法律規(guī)定?

　　對此，蔣海松表示，利用人工智能寫學(xué)位論文本質(zhì)上屬于學(xué)術(shù)不端行為�，F(xiàn)行法律法規(guī)框架下，用ChatGPT等語言大模型寫論文的行為同樣違法。

　　他介紹，人工智能作為“筆替”創(chuàng)作的文章可擬制為“他人代寫的范疇”，被歸類為學(xué)術(shù)不端的范疇。根據(jù)2016年頒布的《高等學(xué)校預(yù)防與處理學(xué)術(shù)不端行為辦法》規(guī)定，相關(guān)責(zé)任人會受到通報批評、終止或者撤銷相關(guān)科研項(xiàng)目、撤銷學(xué)術(shù)獎勵或者榮譽(yù)稱號、辭退或解聘等處罰。

　　此次提請審議的學(xué)位法草案明確，已經(jīng)獲得學(xué)位者在獲得學(xué)位過程中存在學(xué)位論文或?qū)嵺`成果抄襲、剽竊、偽造、數(shù)據(jù)造假、人工智能代寫等學(xué)術(shù)不端行為的，經(jīng)學(xué)位評定委員會審議決定，由學(xué)位授予單位撤銷學(xué)位證書。

　　“需要注意的是，草案打擊的是人工智能代寫這種學(xué)術(shù)不端行為，而不是指人工智能的適度運(yùn)用。但代寫和適度運(yùn)用的尺度及標(biāo)準(zhǔn)如何界定和劃分目前仍是難題，要結(jié)合答辯教師、學(xué)術(shù)評定委員會等的判定。”蔣海松表示。

　　至于學(xué)位法草案能否管得住學(xué)術(shù)不端等行為，劉小春認(rèn)為，這取決于是否擁有相應(yīng)的技術(shù)能力檢測學(xué)位論文是否采用了人工智能創(chuàng)作。劃清楚“人工智能輔助”和“人工智能主導(dǎo)創(chuàng)作”的界線也十分重要。人類已經(jīng)進(jìn)入可以高效率、高質(zhì)量獲取知識的年代，在常規(guī)的文獻(xiàn)綜述、文獻(xiàn)檢索與分析能力方面，人工智能將超過人類，因此這些環(huán)節(jié)草案應(yīng)予以考慮、詳細(xì)規(guī)定。

　　他進(jìn)一步建議，在論文寫作過程中，非創(chuàng)造與創(chuàng)新類的知識匯總和梳理工作可以允許使用人工智能輔助創(chuàng)作，但必需作明確備注;涉及論文創(chuàng)新思想和核心內(nèi)容部分的工作，不允許使用人工智能輔助，經(jīng)技術(shù)鑒定一旦認(rèn)定，應(yīng)按照學(xué)術(shù)不端行為處理。

　　“依照目前國際上的通行做法，以及我對國內(nèi)高校的觀察，要在學(xué)位法草案中對人工智能引發(fā)的學(xué)術(shù)不端等做出具有法律意義上的詳細(xì)規(guī)范是很難的。”郭英劍表示，禁止使用人工智能代寫學(xué)位論文看似是剛性規(guī)定，但具體操作中會很難查證，無論是人還是機(jī)器代寫論文，只要做得隱蔽，都很難被發(fā)現(xiàn)。

　　郭英劍表示，應(yīng)考慮到很多人工智能產(chǎn)品已真實(shí)存在，它們正快速成為人們?nèi)粘Ｊ褂玫墓ぞ�。同時，這些產(chǎn)品對寫作的重大影響與沖擊還剛剛開始，目前國際高等教育界對此基本上都處于束手無策的狀態(tài)。部分高校的禁令并不能真正達(dá)到效果，更多高校除制定簡單的宏觀規(guī)定外，都還處在觀望狀態(tài)。

　　為此，郭英劍建議，在禁止人工智能代寫論文相關(guān)立法中，將人工智能與學(xué)位論文的關(guān)系單列出來作為一項(xiàng)加以規(guī)范，以示其重要，讓人們充分認(rèn)識到人工智能對學(xué)術(shù)的深刻影響;提出一個指導(dǎo)性規(guī)范意見，待未來時機(jī)成熟可以再做更加詳細(xì)的修訂。