“以子之矛，攻子之盾”的困境讓學(xué)術(shù)界備受困擾：AI工具，究竟是幫助人類(lèi)省事，還是“思維毒藥”？
“太難了！好不容易通過(guò)了論文查重，沒(méi)想到AI檢測(cè)成為了新的‘大考’?！苯衲戤厴I(yè)季，不少高校畢業(yè)生在網(wǎng)上分享經(jīng)歷：辛苦寫(xiě)的論文，被系統(tǒng)判定“AI率超標(biāo)”。
眼下，不少高校為了防止AI代寫(xiě)畢業(yè)論文，在原有查重檢測(cè)的基礎(chǔ)上，增加了AIGC檢測(cè)（人工智能生成內(nèi)容檢測(cè)）的要求。于是，部分學(xué)生購(gòu)買(mǎi)AI工具，試圖用魔法打敗魔法，卻發(fā)現(xiàn)“雖然AI率下來(lái)了，讀起來(lái)卻像白開(kāi)水，被導(dǎo)師批評(píng)邏輯不通，退回重改。”
不僅學(xué)生為此苦惱，大學(xué)教授也對(duì)AI審稿表達(dá)不滿(mǎn)。日前，資深環(huán)境科學(xué)家、韓國(guó)忠南大學(xué)教授洪成進(jìn)在《泰晤士高等教育》撰文吐槽，其團(tuán)隊(duì)論文疑因AI工具生成的評(píng)審意見(jiàn)被拒稿。
在A(yíng)I大模型高歌猛進(jìn)之時(shí)，AI工具已成為不少高校師生的重要研究工具。同時(shí)，它也被用到高校和學(xué)術(shù)期刊的審稿、檢測(cè)環(huán)節(jié)中。一時(shí)間，“以子之矛，攻子之盾”的困境讓學(xué)術(shù)界備受困擾：AI工具，究竟是幫助人類(lèi)省事，還是“思維毒藥”？引導(dǎo)大學(xué)生合理使用AI工具，大學(xué)該怎么辦？為此，記者采訪(fǎng)了相關(guān)專(zhuān)家。
AIGC檢測(cè)，讓不少大學(xué)生叫苦不迭
斯坦福大學(xué)一項(xiàng)研究顯示，超過(guò)半數(shù)的研究生承認(rèn)用AI撰寫(xiě)“非核心”論文章節(jié)。有學(xué)者擔(dān)憂(yōu)：當(dāng)學(xué)生用AI寫(xiě)作業(yè)、審稿人用AI生成報(bào)告，知識(shí)界的批判性思維或?qū)⒓w退化。甚至有人認(rèn)為，證明自己是人類(lèi)而非AI，或?qū)⒊蔀橐婚T(mén)新的大學(xué)生“必修課”。
某985高校一位從事AI方向研究的博士生坦言，課題組的同學(xué)在研究和寫(xiě)作中，使用AI的頻率高達(dá)100%?！皬倪x題思路、完成初稿到后期語(yǔ)言潤(rùn)色，我們都在使用AI，可以說(shuō)已滲入論文生成的每個(gè)環(huán)節(jié)?！?/span>
不過(guò)，也有大學(xué)生在使用過(guò)程中遭遇“AI幻覺(jué)”?！癆I會(huì)編出不存在的學(xué)者、論文，如果不是我特意去搜索，根本不會(huì)發(fā)現(xiàn)，這里面隱藏這么多坑?！痹谛４髮W(xué)生伊一（化名）就曾多次遭遇“AI幻覺(jué)”陷阱。近期，一項(xiàng)面向全國(guó)各地大學(xué)生的問(wèn)卷調(diào)查顯示，97.%受訪(fǎng)大學(xué)遇到過(guò)AI提供錯(cuò)誤或虛假信息的情況。
在論文查重環(huán)節(jié)，AIGC檢測(cè)也讓不少學(xué)生叫苦不迭。有學(xué)生“吐槽”說(shuō)，他的一篇論文經(jīng)導(dǎo)師指點(diǎn)修改后，AI率不減反增，從10%飆升到80%。
要知道，AIGC檢測(cè)也挺費(fèi)錢(qián)。以知網(wǎng)為例，AIGC檢測(cè)單價(jià)為2元/千字符，維普的檢測(cè)價(jià)格按篇計(jì)算，每篇20到38元不等。受訪(fǎng)學(xué)生直言，一篇文章往往在多個(gè)平臺(tái)檢測(cè)比對(duì)數(shù)據(jù)才能放心，為此花上幾百元并不出奇。
經(jīng)典文本被判AI生成？典型的場(chǎng)景錯(cuò)用！
那么，AIGC檢測(cè)結(jié)果權(quán)威嗎？有網(wǎng)友將朱自清的《荷塘月色》、劉慈欣的《流浪地球》上傳到檢測(cè)平臺(tái)，意外發(fā)現(xiàn)這些文章也被“蓋章”為AI生成，疑似度分別高達(dá)62.88%和52.88%。那么，這是否意味著AIGC檢測(cè)翻車(chē)了？
“大模型的運(yùn)作思路和人腦類(lèi)似，就是將知識(shí)存儲(chǔ)起來(lái)，再根據(jù)已有知識(shí)做出推測(cè)和判斷?！鄙虾Ｘ?cái)經(jīng)大學(xué)計(jì)算機(jī)與人工智能學(xué)院副教授崔萬(wàn)云直言，目前大模型在一些答題場(chǎng)景的準(zhǔn)確率和反應(yīng)時(shí)間方面已領(lǐng)先人類(lèi)，但模型無(wú)法和真實(shí)世界完全對(duì)齊，要確保大模型答案永不出錯(cuò)并不現(xiàn)實(shí)，“合理的‘出錯(cuò)’也是大模型能力的一部分。”
華東師范大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院青年研究員周杰分析，當(dāng)前市面上的許多大模型在設(shè)計(jì)之初就以更好地服務(wù)人類(lèi)為目標(biāo)，旨在快速提供能夠滿(mǎn)足大多數(shù)用戶(hù)需求的答案。因此，當(dāng)面對(duì)超出其理解或處理能力的問(wèn)題時(shí)，大模型可能會(huì)基于已有知識(shí)的概率分布“冒險(xiǎn)”作答，而這恰恰也體現(xiàn)了模型在一定程度上的創(chuàng)造力。
由此談及被大學(xué)生們口誅筆伐的AIGC檢測(cè)，崔萬(wàn)云和周杰兩位學(xué)者均認(rèn)為，盡管大模型的準(zhǔn)確率、AIGC檢測(cè)有一定誤差，但目前相關(guān)工具已比較成熟。
據(jù)知網(wǎng)官方解釋?zhuān)珹IGC檢測(cè)基于預(yù)訓(xùn)練大語(yǔ)言模型算法邏輯，從語(yǔ)言模式和語(yǔ)義邏輯兩條鏈路，用AI對(duì)抗AIGC；維普AIGC率檢測(cè)系統(tǒng)則是通過(guò)對(duì)文本的詞匯、語(yǔ)法、語(yǔ)義等多方面特征進(jìn)行分析，構(gòu)建復(fù)雜的模型來(lái)識(shí)別AI生成的內(nèi)容。
“目前市面上主流的AIGC檢測(cè)工具大概率是根據(jù)數(shù)據(jù)庫(kù)中已有的文章，做分類(lèi)模型，將檢測(cè)文章輸入，進(jìn)而根據(jù)語(yǔ)言風(fēng)格、寫(xiě)作習(xí)慣區(qū)分AI生成和人為寫(xiě)作?！贝奕f(wàn)云舉例，機(jī)器寫(xiě)作中經(jīng)常用到首先、其次、再次，還會(huì)大量使用排比和比喻。如果文中出現(xiàn)了上述表達(dá)，很可能被判定為AI寫(xiě)作。
他直言，雖然有學(xué)生被“誤傷”，但大部分顯示超標(biāo)的論文，確實(shí)因?yàn)檫^(guò)度使用AI生成而被發(fā)現(xiàn)。并且，AIGC檢測(cè)工具使用場(chǎng)景并非針對(duì)過(guò)去的經(jīng)典文本，網(wǎng)友拿一些經(jīng)典的文章給AI“過(guò)眼”，其實(shí)是屬于場(chǎng)景錯(cuò)用。
警惕把AI當(dāng)大腦，建立學(xué)術(shù)誠(chéng)信很重要
在網(wǎng)絡(luò)上，針對(duì)AI工具的討伐依舊激烈。有人質(zhì)疑，高校、期刊為何要將其引入，成為學(xué)生畢業(yè)論文評(píng)審的硬性要求？也有人稱(chēng)，“人類(lèi)需要向機(jī)器自證身份，簡(jiǎn)直倒反天罡！”更有人疾呼，“AI看似提高了寫(xiě)作底線(xiàn)，但潛藏著機(jī)器決定人的表達(dá)上限的風(fēng)險(xiǎn)?！?/span>
對(duì)此，崔萬(wàn)云直言，學(xué)生掌握并使用AI工具并無(wú)不妥，關(guān)鍵在于如何更好地把握“度”。比如，在報(bào)告寫(xiě)作、文獻(xiàn)翻譯和文本潤(rùn)色方面，學(xué)生使用AI工具可以大大提升效率。但需要警惕的是，部分學(xué)生把AI當(dāng)作大腦，習(xí)慣了直接得到答案，不假思索地搬用，甚至捏造實(shí)驗(yàn)數(shù)據(jù)。從這個(gè)角度來(lái)看，為了保證學(xué)術(shù)誠(chéng)信，高校將AI率檢測(cè)作為畢業(yè)參考有其合理性，但不能作為唯一的評(píng)判標(biāo)準(zhǔn)。“畢竟，真正決定論文價(jià)值的不是論文的文筆，抑或是含AI率的數(shù)值，而是其中凝結(jié)的思考深度與創(chuàng)新性實(shí)驗(yàn)發(fā)現(xiàn)?！?/span>
“AI時(shí)代必須強(qiáng)化學(xué)生AI素養(yǎng)、樹(shù)立學(xué)術(shù)誠(chéng)信意識(shí)?！蓖瑵?jì)大學(xué)教育評(píng)估研究中心主任樊秀娣認(rèn)為，引導(dǎo)學(xué)生合規(guī)使用AI工具，指導(dǎo)老師的作用至關(guān)重要?！爱?dāng)前，重形式、輕內(nèi)容的學(xué)術(shù)浮躁之風(fēng)屢見(jiàn)不鮮，部分高校教師對(duì)學(xué)生疏于指導(dǎo)。試想一下，如果導(dǎo)師和學(xué)生頻繁接觸，從選題到實(shí)驗(yàn)、成文過(guò)程層層把關(guān)，又怎會(huì)輕易出現(xiàn)抄襲AI的情況？！”
她還建議，高校要嚴(yán)格畢業(yè)論文答辯環(huán)節(jié)?！昂芏鄷r(shí)候，高校畢業(yè)論文答辯現(xiàn)場(chǎng)只有‘答’，沒(méi)有‘辯’?！狈沔氛J(rèn)為，如果評(píng)審老師可以就學(xué)生的某個(gè)學(xué)術(shù)問(wèn)題銳利提問(wèn)，且學(xué)生言之有物，就可以證明文章核心觀(guān)點(diǎn)來(lái)自學(xué)生本人；相反，如果全程言之無(wú)物，那就不應(yīng)讓學(xué)生通過(guò)答辯。
閱讀原文
記者丨文匯報(bào) 吳金嬌
來(lái)源丨上觀(guān)新聞
編輯丨王藍(lán)萱
編審丨戴琪
更多閱讀：
文匯報(bào) | 當(dāng)人工智能成為學(xué)術(shù)研究、論文查重工具，“以子之矛攻子之盾”困境正侵?jǐn)_大學(xué)——向AI自證是人：新一代大學(xué)生“必修課”？
