“探問(wèn)AI參與科研的邊界”系列報(bào)道之二

　　AI時(shí)代，我們需要什么樣的學(xué)術(shù)規(guī)范

　　編者按

　　從想點(diǎn)子，到做實(shí)驗(yàn)、寫論文，AI正深度介入科學(xué)研究的全過(guò)程。但效率提升的背后，原創(chuàng)歸屬、數(shù)據(jù)“美化”、實(shí)驗(yàn)“缺席”、信息泄露、論文審核等問(wèn)題接踵而至，科研誠(chéng)信和學(xué)術(shù)規(guī)范面臨重新審視。

　　本期邀請(qǐng)五位一線科研人員，分享AI給他們帶來(lái)的變化和思考。從他們的講述里，我們可以讀到一個(gè)共同的希冀：AI時(shí)代，我們需要建立新的學(xué)術(shù)規(guī)范。

AI生成的科研點(diǎn)子到底歸誰(shuí)

講述人：南京航空航天大學(xué)物理學(xué)院副研究員 曹水艷

　　這些年，我一直從事微納光子學(xué)及相關(guān)交叉領(lǐng)域的研究，圍繞二維材料、微納光學(xué)器件、光電探測(cè)與光信息調(diào)控方向開展理論和實(shí)驗(yàn)探索。人工智能進(jìn)入科研之后，我和研究生們也越來(lái)越頻繁地使用大模型。查閱文獻(xiàn)、梳理研究進(jìn)展、比較技術(shù)路線，甚至討論一個(gè)新的器件結(jié)構(gòu)是否值得嘗試，AI都能很快給出答案。有時(shí)，我也會(huì)直接問(wèn)AI：“這個(gè)方向還能怎么創(chuàng)新？”幾秒鐘后，它可能就會(huì)列出五六個(gè)“科研點(diǎn)子”：換一種二維材料、引入新的光場(chǎng)調(diào)控自由度、把偏振和光電探測(cè)結(jié)合起來(lái)，或者進(jìn)一步拓展到光邏輯、信息編碼等功能。單看文字，其中一些點(diǎn)子甚至頗有啟發(fā)性。

　　于是，一個(gè)以前很少遇到的問(wèn)題出現(xiàn)了：如果科研構(gòu)想、創(chuàng)新思路甚至選題框架最初來(lái)自AI，當(dāng)它們最終形成論文、專利等科研成果時(shí)，該如何認(rèn)定原創(chuàng)歸屬，又該如何界定科研人員與AI的貢獻(xiàn)邊界？

　　在我看來(lái)，至少?gòu)淖约旱奈⒓{光子學(xué)研究經(jīng)歷來(lái)看，僅僅根據(jù)一個(gè)科研點(diǎn)子最初由誰(shuí)提出，就判斷其最終成果的原創(chuàng)歸屬情況，是把科學(xué)創(chuàng)新理解得過(guò)于簡(jiǎn)單了。我們做微納光子學(xué)研究，經(jīng)常從一個(gè)最初的器件構(gòu)想開始。比如，在二維材料光電器件上引入微納結(jié)構(gòu)，通過(guò)結(jié)構(gòu)設(shè)計(jì)改變局域光場(chǎng)，再利用二維材料的光電響應(yīng)實(shí)現(xiàn)新的探測(cè)或調(diào)控功能。

　　類似的點(diǎn)子，現(xiàn)在完全可以讓AI一次生成十幾個(gè)。但AI生成一個(gè)“看起來(lái)新穎”的點(diǎn)子，與真正完成一項(xiàng)原創(chuàng)研究之間，還有很大的距離。一些科研點(diǎn)子乍看很有啟發(fā)，但真正進(jìn)行理論分析和數(shù)值模擬后，就會(huì)發(fā)現(xiàn)并不可行：有的是忽略了必要的邊界條件；有的是采用的材料參數(shù)脫離實(shí)際；有的是理論上存在某種效應(yīng)，但信號(hào)量級(jí)小到實(shí)驗(yàn)難以測(cè)量；還有一些所謂的“創(chuàng)新”，進(jìn)一步檢索文獻(xiàn)才發(fā)現(xiàn)近期已有類似工作，其原創(chuàng)性本身就需要重新審視。

　　我越來(lái)越覺(jué)得，AI能夠生成的是科研點(diǎn)子，而不是已經(jīng)成立的科學(xué)創(chuàng)新。一個(gè)科研點(diǎn)子是否真正具有創(chuàng)新價(jià)值，還需要研究者結(jié)合已有研究，通過(guò)文獻(xiàn)檢索、理論分析、數(shù)值模擬乃至實(shí)驗(yàn)驗(yàn)證，不斷檢驗(yàn)其原創(chuàng)性和科學(xué)可行性。以微納光子學(xué)研究為例，一個(gè)器件在理論計(jì)算中可能表現(xiàn)出非常理想的光譜、調(diào)制深度或偏振響應(yīng)，但真正制備出來(lái)以后，材料厚度、加工誤差、電極接觸等因素都可能使實(shí)驗(yàn)結(jié)果與最初設(shè)想存在很大差異，甚至直接否定最初的構(gòu)想。

　　而在這一過(guò)程中，新的科學(xué)問(wèn)題也可能隨之出現(xiàn)。AI也許參與了最初構(gòu)想的生成，但在判斷原創(chuàng)歸屬時(shí)，不應(yīng)只看“誰(shuí)先提出了這個(gè)想法”，更應(yīng)關(guān)注在成果形成過(guò)程中，誰(shuí)作出了關(guān)鍵的科學(xué)判斷，誰(shuí)完成了實(shí)質(zhì)性的創(chuàng)造性工作。這或許才是厘清科研人員與AI貢獻(xiàn)邊界的關(guān)鍵。

　　這一判斷也延伸到成果署名和知識(shí)產(chǎn)權(quán)。即使AI參與了最初研究思路的生成，也不能簡(jiǎn)單據(jù)此認(rèn)為AI應(yīng)成為論文作者或?qū)＠l(fā)明人。最終形成的科學(xué)認(rèn)識(shí)或技術(shù)方案，凝結(jié)的是研究者持續(xù)判斷、驗(yàn)證和創(chuàng)造的結(jié)果。更重要的是，科研成果不僅意味著“貢獻(xiàn)”，也意味著“責(zé)任”。論文發(fā)表后，如果理論推導(dǎo)存在錯(cuò)誤、實(shí)驗(yàn)結(jié)果無(wú)法重復(fù)，最終需要科研人員作出解釋；面對(duì)同行質(zhì)疑，也不能以“這個(gè)科研點(diǎn)子是AI生成的”來(lái)逃避責(zé)任。最終站在成果后面、對(duì)成果負(fù)責(zé)的，仍然是科研人員。

　　未來(lái)，一個(gè)科學(xué)構(gòu)想很可能產(chǎn)生于反復(fù)的人機(jī)交互，“最初的點(diǎn)子來(lái)自誰(shuí)”或許越來(lái)越難追溯，但點(diǎn)子的來(lái)源并不能簡(jiǎn)單等同于成果的原創(chuàng)歸屬。

AI“美化”數(shù)據(jù)帶來(lái)隱形造假

講述人：西安交通大學(xué)電信學(xué)部副教授 劉曉明

　　我的研究方向?yàn)闀r(shí)空異常檢測(cè)與人工智能生成內(nèi)容(AIGC)檢測(cè)，研究工作可分為兩部分：其一為訓(xùn)練模型從數(shù)據(jù)中識(shí)別異常，其二為判別文本、圖像、視頻是否由AI生成。兩個(gè)研究方向共同的核心前提均為數(shù)據(jù)真實(shí)性。近年擔(dān)任學(xué)術(shù)期刊審稿人期間，我頻繁收到方法、圖表、指標(biāo)均無(wú)明顯問(wèn)題，但數(shù)據(jù)真實(shí)性存疑的投稿。

　　最早引起我警覺(jué)的是一篇時(shí)空異常檢測(cè)方向的投稿：作者采用某城市路網(wǎng)流量數(shù)據(jù)開展研究，所得結(jié)果的曲線平滑度接近教科書示例。但業(yè)內(nèi)皆知，真實(shí)交通流量序列必然存在波動(dòng)，傳感器誤差、時(shí)鐘偏差、交通管制、天氣變化等各類因素均會(huì)改變路網(wǎng)特征。我要求作者提供原始采樣頻率與缺失值處理方式，對(duì)方未作出正面回應(yīng)。

　　傳統(tǒng)數(shù)據(jù)不端行為以篡改真實(shí)數(shù)據(jù)為主，往往會(huì)留下痕跡；當(dāng)前更為常見(jiàn)的情形，是真實(shí)數(shù)據(jù)經(jīng)AI“重建”——經(jīng)過(guò)去噪、補(bǔ)全缺失、平滑跳變處理后，單個(gè)數(shù)據(jù)點(diǎn)看似合理，整體分布卻已無(wú)法反映真實(shí)狀況。

　　如果說(shuō)第一類是數(shù)據(jù)層面的“化妝”，第二類則出現(xiàn)在實(shí)驗(yàn)設(shè)計(jì)層面，且更為普遍：部分投稿中的異常檢測(cè)模型F1指標(biāo)(一種性能評(píng)估指標(biāo)，取值范圍為0~1，越接近1表示模型越好)高達(dá)0.99，在多個(gè)公開基準(zhǔn)數(shù)據(jù)集上全面超越現(xiàn)有方法。我在核查時(shí)重點(diǎn)關(guān)注三點(diǎn)：訓(xùn)練集與測(cè)試集如何劃分、是否報(bào)告多次隨機(jī)運(yùn)行結(jié)果、是否完成消融實(shí)驗(yàn)。一些投稿經(jīng)不住追問(wèn)。此類問(wèn)題未必出自主觀惡意，多因研究者對(duì)研究規(guī)范認(rèn)知不足，但AI工具客觀上降低了“無(wú)意識(shí)違規(guī)”的門檻，也使審稿人更難區(qū)分疏忽與蓄意造假。

　　前兩類尚且屬于方法失范，第三類則直接動(dòng)搖研究的合法性，也是最令我憂心的問(wèn)題。AIGC檢測(cè)模型的訓(xùn)練需要大量真實(shí)人類創(chuàng)作內(nèi)容作為負(fù)樣本。我曾審閱一篇投稿，作者聲稱采集了某平臺(tái)真實(shí)用戶內(nèi)容，但文本風(fēng)格、標(biāo)點(diǎn)習(xí)慣、錯(cuò)別字分布高度一致，符合AI批量生成的典型特征。退回修改后作者承認(rèn)，為擴(kuò)充數(shù)據(jù)集，其使用大模型合成了部分樣本，且未在文章說(shuō)明中標(biāo)注。其中荒誕之處在于：該研究的目標(biāo)是識(shí)別AI生成內(nèi)容，訓(xùn)練數(shù)據(jù)卻來(lái)自AI，指標(biāo)再高也不過(guò)是自循環(huán)驗(yàn)證。

　　我的博士生導(dǎo)師管曉宏院士常說(shuō)，研究要從物理世界來(lái)、回物理世界去，模型的可用性取決于真實(shí)工況下的運(yùn)行穩(wěn)定性。在電力系統(tǒng)中，一個(gè)被平滑處理掉的異常點(diǎn)，便可能對(duì)應(yīng)一起未被發(fā)現(xiàn)的安全事故。共事多年的沈超教授也提出，AI的安全邊界依靠標(biāo)注失效場(chǎng)景來(lái)劃定，敢于寫明方法適用局限的論文，價(jià)值遠(yuǎn)高于五篇只報(bào)告正面結(jié)果的文章。

　　但如今，AI已將數(shù)據(jù)“美化”的成本降至近乎為零——一句提示詞即可完成數(shù)據(jù)整理、結(jié)果重建、配套解釋生成，連“局限性討論”都可以一并由AI代筆。學(xué)術(shù)不端的風(fēng)險(xiǎn)由此成倍放大：一次隨意的數(shù)據(jù)優(yōu)化足以令整篇論文的結(jié)論不成立；若此類模型流入工程現(xiàn)場(chǎng)，誤報(bào)、漏報(bào)造成的損失，最終將由一線運(yùn)維人員乃至社會(huì)公眾承擔(dān)。

　　科研最珍貴的不是算力，也不是模型架構(gòu)，而是保留原始數(shù)據(jù)偏差的勇氣、承認(rèn)工況不符的誠(chéng)實(shí)。AI可以美化論述，卻不能代替研究者為數(shù)據(jù)真實(shí)性負(fù)責(zé)。

AI預(yù)測(cè)不應(yīng)替代實(shí)驗(yàn)驗(yàn)證

講述人：清華大學(xué)機(jī)械工程系副研究員 周夢(mèng)然

　　過(guò)去需要花費(fèi)數(shù)周甚至數(shù)月反復(fù)實(shí)驗(yàn)、試錯(cuò)的工作，現(xiàn)在AI幾分鐘就能得到一套看上去“相當(dāng)完整”的答案。那真實(shí)實(shí)驗(yàn)是不是可以少做一些，或者完全用模擬預(yù)測(cè)替代實(shí)驗(yàn)？

　　有一次，我組里的一名博士研究生利用已有實(shí)驗(yàn)數(shù)據(jù)和文獻(xiàn)數(shù)據(jù)，建立了一個(gè)鎂鋰合金攪拌摩擦加工后力學(xué)與耐腐蝕性能預(yù)測(cè)的模型?；趯?duì)攪拌頭轉(zhuǎn)速、加工速度等參數(shù)和材料最終性能進(jìn)行建模與預(yù)測(cè)，模型很快給出了一個(gè)較為清晰的“最優(yōu)工藝窗口”：某一組參數(shù)組合得分最高，強(qiáng)度預(yù)測(cè)最好，材料腐蝕速率也最低。一次課題討論中，這名博士研究生興奮地向我建議：“老師，既然預(yù)測(cè)結(jié)果已經(jīng)這么明確清晰了，后續(xù)只做兩三組‘最優(yōu)參數(shù)’驗(yàn)證即可，其余實(shí)驗(yàn)可以省掉。這樣既節(jié)省材料和機(jī)時(shí)，也能讓論文推進(jìn)得更快?！?/p>

　　我從事的是利用攪拌摩擦開展鋁/鎂等輕合金材料焊接及其增材制造研究。物理過(guò)程看起來(lái)很簡(jiǎn)單：一個(gè)攪拌工具頭旋轉(zhuǎn)、插入材料、沿著焊縫前進(jìn)，最終使材料在“不熔化”的條件下實(shí)現(xiàn)連接，但事實(shí)上這個(gè)過(guò)程中材料內(nèi)部情況遠(yuǎn)比想象的復(fù)雜得多，溫度變化、應(yīng)變梯度、應(yīng)變速率、材料流動(dòng)、動(dòng)態(tài)再結(jié)晶、織構(gòu)演變以及界面狀態(tài)彼此耦合，任何一個(gè)局部變化，都可能影響最終所獲得材料的性能。

　　正因如此，我向全組人員解釋：我并不排斥AI。相反，我認(rèn)為它會(huì)成為未來(lái)科研不可缺少的工具。它可以幫助我們縮小實(shí)驗(yàn)范圍、優(yōu)化方案、提出假設(shè)，甚至告訴我們哪些地方最值得重點(diǎn)驗(yàn)證。但目前“基于大語(yǔ)言模型”的AI，能給出的只能是“基于理論與他人結(jié)果最可能發(fā)生什么”，實(shí)驗(yàn)要回答的卻是“事實(shí)上發(fā)生了什么，怎么發(fā)生的”。如果科研只去驗(yàn)證模型最有把握的答案，看似效率提高了，實(shí)際上也把最可能產(chǎn)生新發(fā)現(xiàn)的地方刪掉了。

　　我們既借助模型的推演，在模型給出的“最優(yōu)工藝窗口”內(nèi)實(shí)現(xiàn)了鎂鋰合金綜合性能的顯著提升，又堅(jiān)持把那些被模型認(rèn)為“潛在價(jià)值不高”、從未有人嘗試的極限參數(shù)樣品做了出來(lái)。

　　事實(shí)很快給我們上了一課。某組AI評(píng)價(jià)很高的參數(shù)，材料表面看起來(lái)完整，但截面觀察卻暴露出局部材料出現(xiàn)偶發(fā)流動(dòng)失穩(wěn)產(chǎn)生缺陷的問(wèn)題；相反，另一組并不在模型預(yù)測(cè)范圍內(nèi)的極限參數(shù)，材料內(nèi)部組織反而展現(xiàn)出前所未有的均勻致密，力學(xué)與腐蝕行為也遠(yuǎn)遠(yuǎn)優(yōu)于模型的“預(yù)測(cè)”。我們比對(duì)了當(dāng)時(shí)所有公開報(bào)道的文獻(xiàn)，發(fā)現(xiàn)我們“無(wú)意中”制備出了具有最佳“比強(qiáng)度—耐腐蝕性能”的超輕鎂合金。

　　面對(duì)這一突破性的現(xiàn)象，我們緊鑼密鼓地進(jìn)行了顯微組織觀察、力學(xué)性能測(cè)試和材料流動(dòng)分析，一點(diǎn)點(diǎn)追蹤原因，最終發(fā)現(xiàn)決定材料性能的并不只是模型里被簡(jiǎn)化處理的“熱輸入高低和材料流動(dòng)快慢”，而是復(fù)雜“熱—力”耦合作用下材料中多個(gè)組分競(jìng)爭(zhēng)性的“變形—析出—擴(kuò)散”的全新機(jī)制。

　　那一刻，實(shí)驗(yàn)給出的強(qiáng)有力事實(shí)，推翻了非?！捌痢钡腁I預(yù)測(cè)。

　　更重要的是，那個(gè)原本想被省掉的實(shí)驗(yàn)點(diǎn)，反而成為我后續(xù)研究中最關(guān)鍵的研究方向與線索。這些年，我和團(tuán)隊(duì)都沿著這個(gè)異常結(jié)果的新機(jī)制持續(xù)研究，重新調(diào)整了加工方法和研究思路，對(duì)攪拌摩擦加工組織演變和材料流動(dòng)機(jī)制有了更深入的認(rèn)識(shí)，相關(guān)研究也因此取得了超出預(yù)期的進(jìn)展，并且進(jìn)一步拓展到了制備高性能生物鎂合金與超大鎂合金結(jié)構(gòu)的增材制造。

　　現(xiàn)在回頭看，我常常覺(jué)得，這其實(shí)就是一次“真理打敗偷懶”的過(guò)程。

　　所謂“偷懶”，并不是說(shuō)科研人員不能借助工具提高效率?？茖W(xué)研究當(dāng)然需要提高效率，AI也完全可以幫助我們減少大量重復(fù)勞動(dòng)。真正值得警惕的是，把“提高效率”悄悄變成“省略實(shí)證”，再把模型預(yù)測(cè)包裝成已經(jīng)發(fā)生的事實(shí)。

　　AI預(yù)測(cè)可以減少盲目的實(shí)驗(yàn)，卻不能替代必要的實(shí)驗(yàn)驗(yàn)證。AI擅長(zhǎng)從已有知識(shí)中尋找規(guī)律，因此更容易告訴我們“通常會(huì)怎樣”。但科學(xué)進(jìn)步很多時(shí)候恰恰來(lái)自一句話：“為什么這一次不一樣？”

　　如果沒(méi)有真實(shí)實(shí)驗(yàn)，異常就可能被當(dāng)作噪聲過(guò)濾掉，未知也可能被已有規(guī)律提前“預(yù)測(cè)”掉。到最后，模型越來(lái)越漂亮，論文里的曲線越來(lái)越平滑，人類的科學(xué)研究卻被鎖死在已有知識(shí)內(nèi)部循環(huán)中。

科研信息泄露風(fēng)險(xiǎn)須警惕

講述人：中國(guó)石油大學(xué)(華東)化學(xué)化工學(xué)院副教授 鄧深圳

　　2018年我進(jìn)入南開大學(xué)讀博，研究方向是水系鋅離子電池。那時(shí)候AI還未走進(jìn)日常，科研生活節(jié)奏簡(jiǎn)單，宿舍、食堂、實(shí)驗(yàn)室三點(diǎn)一線。白天合成材料、測(cè)數(shù)據(jù)，晚上看文獻(xiàn)、整理結(jié)果、寫論文。文獻(xiàn)檢索需要一條一條翻，一篇重要文獻(xiàn)的參考文獻(xiàn)列表也要逐條去查，順著引文鏈條往下追。寫英文論文更為耗時(shí)，需大量閱讀國(guó)際頂刊文獻(xiàn)，把好的句式記下來(lái)，積累語(yǔ)料庫(kù)。真正動(dòng)筆時(shí)依然不輕松，一個(gè)段落改十幾遍是常事，一篇論文從初稿到投稿，折騰五六個(gè)月是常態(tài)。那時(shí)候覺(jué)得科研本來(lái)就該這樣——緩慢、笨拙，但每一步都踏實(shí)。所有數(shù)據(jù)都在課題組內(nèi)部流轉(zhuǎn)。

　　2022年，我前往香港從事博士后研究。那年ChatGPT火了，組里開始有人用它潤(rùn)色英文、查文獻(xiàn)。一開始我沒(méi)覺(jué)得有什么，直到一次組會(huì)，一個(gè)師弟說(shuō)他把原始數(shù)據(jù)“喂”給AI做分析，AI不僅整理了數(shù)據(jù)規(guī)律，還生成了討論框架。我問(wèn)他上傳了什么，他說(shuō)是最近半年的全部測(cè)試結(jié)果，還沒(méi)來(lái)得及整理分析，更沒(méi)發(fā)表。我當(dāng)時(shí)腦子里冒出來(lái)一個(gè)念頭，這些數(shù)據(jù)上傳之后，還屬于我們嗎？我忍不住問(wèn)了他一句：“你就不怕這些數(shù)據(jù)傳上去之后，平臺(tái)把它分享給別人嗎？”他沉默了許久沒(méi)有回答。

　　那天之后，我專門去看了幾款主流AI平臺(tái)的服務(wù)協(xié)議，發(fā)現(xiàn)幾乎都有一句話：用戶上傳的內(nèi)容可能被用于優(yōu)化服務(wù)?！皟?yōu)化”具體指什么，沒(méi)人說(shuō)得清。那段時(shí)間我一直在想，如果師弟把數(shù)據(jù)上傳后，這些數(shù)據(jù)被用于訓(xùn)練模型，那它們就不再只屬于我們了。如果同行恰好在某個(gè)時(shí)間點(diǎn)問(wèn)AI相關(guān)問(wèn)題，AI會(huì)不會(huì)把這些數(shù)據(jù)“共享”出去？

　　2024年我回到本碩就讀的課題組，開始帶研究生。沒(méi)想到，組里的學(xué)生也干了同樣的事，一位學(xué)生把近一年的實(shí)驗(yàn)數(shù)據(jù)整理成文檔，準(zhǔn)備上傳到AI平臺(tái)“幫忙分析”。我攔住他：“如果這些數(shù)據(jù)被平臺(tái)泄露給別人，研究成果被別人復(fù)刻、被搶先發(fā)表了怎么辦？”他愣住，說(shuō)了一句讓我印象深刻的話：“我就是想快點(diǎn)出結(jié)果?！?/p>

　　那一刻我意識(shí)到，這不是一個(gè)人的問(wèn)題，而是一代科研人的普遍心態(tài)——用最快的方式處理數(shù)據(jù)，卻從沒(méi)想過(guò)數(shù)據(jù)離開實(shí)驗(yàn)室之后會(huì)發(fā)生什么。從那以后，我在課題組定了一條規(guī)矩：嚴(yán)禁把未發(fā)表的實(shí)驗(yàn)數(shù)據(jù)、工藝參數(shù)、研究思路上傳到公共AI平臺(tái)。查文獻(xiàn)、整理參考文獻(xiàn)格式這些不涉及核心數(shù)據(jù)的工作可以用AI，但涉及未發(fā)表的數(shù)據(jù)和實(shí)驗(yàn)方案，一律禁止。

　　后來(lái)的多起泄密事件證明，這個(gè)擔(dān)心并非多余。2025年7月，國(guó)安部披露某科研人員將核心數(shù)據(jù)上傳至AI應(yīng)用軟件，致涉密信息泄露。同年9月，ChatGPT Deep Research功能曝出零點(diǎn)擊漏洞，攻擊者只需一封惡意郵件，即可在用戶毫不知情的情況下竊取敏感數(shù)據(jù)?？粗@些新聞，我想起了那個(gè)學(xué)生。如果當(dāng)時(shí)沒(méi)有攔住他，那些數(shù)據(jù)現(xiàn)在會(huì)在哪里？

論文審核需要新的標(biāo)準(zhǔn)

講述人：中國(guó)科學(xué)院大學(xué)資源與環(huán)境學(xué)院副教授 蔡曉琳

　　在長(zhǎng)期參與環(huán)境領(lǐng)域同行評(píng)議工作的過(guò)程中，我們?cè)絹?lái)越清晰地感受到，生成式人工智能正在進(jìn)入科研工作的各個(gè)環(huán)節(jié)。從文獻(xiàn)梳理、語(yǔ)言修改，到代碼編寫、數(shù)據(jù)分析和模型預(yù)測(cè)，AI提高了信息處理效率，也拓展了研究者提出問(wèn)題和驗(yàn)證思路的方式。但對(duì)學(xué)術(shù)期刊而言，這種變化帶來(lái)的挑戰(zhàn)并不限于論文是否像AI寫的。更重要的是，當(dāng)AI逐步參與知識(shí)生產(chǎn)，原有的披露方式、審稿標(biāo)準(zhǔn)和責(zé)任邊界能否繼續(xù)支撐學(xué)術(shù)信任。討論的重點(diǎn)應(yīng)從是否使用AI轉(zhuǎn)向AI介入后，研究的可信度如何被證明、責(zé)任如何被追溯。

　　從環(huán)境領(lǐng)域的審稿實(shí)踐看，一篇結(jié)構(gòu)完整、表達(dá)流暢、圖表齊備的論文可以更快形成，但文本的完整性越來(lái)越難以代表研究本身的扎實(shí)程度。環(huán)境研究通常涉及采樣、實(shí)驗(yàn)分析、儀器表征、統(tǒng)計(jì)建模和機(jī)理解釋，結(jié)論還受到區(qū)域特征、時(shí)間尺度和實(shí)驗(yàn)條件等因素制約。AI能夠迅速連接概念、補(bǔ)充論述，也可能用看似合理的表達(dá)掩蓋數(shù)據(jù)來(lái)源不清、條件交代不足或證據(jù)鏈斷裂的情況。編輯和審稿人因此需要追問(wèn)：數(shù)據(jù)從何而來(lái)？方法能否復(fù)現(xiàn)？推論是否超出證據(jù)邊界？

　　審核難，在很大程度上源于AI放大了同行評(píng)議原有的信息不對(duì)稱。審稿人能夠看到作者提交的文本和材料，卻未必能夠還原數(shù)據(jù)處理與結(jié)論形成的全過(guò)程。僅憑措辭判斷AI痕跡，既可能誤傷正常寫作，也無(wú)法識(shí)別經(jīng)過(guò)人工修飾但研究過(guò)程并不可靠的稿件。審核標(biāo)準(zhǔn)應(yīng)回到科學(xué)證據(jù)本身，并以更透明的研究過(guò)程降低判斷難度。

　　界定難，則要求期刊更新AI披露制度。當(dāng)前期刊常見(jiàn)的“使用”或“未使用”二元聲明過(guò)于籠統(tǒng)，應(yīng)讓披露程度與AI對(duì)研究判斷的影響相匹配。AI僅用于語(yǔ)言潤(rùn)色、格式調(diào)整等常規(guī)輔助，可以簡(jiǎn)要說(shuō)明；如果參與數(shù)據(jù)清理、參數(shù)選擇、模型構(gòu)建、圖表生成或文獻(xiàn)歸納，并影響結(jié)果解釋，就應(yīng)交代具體用途和人工核驗(yàn)方式；若進(jìn)一步參與實(shí)驗(yàn)設(shè)計(jì)、模擬或合成數(shù)據(jù)生成、關(guān)鍵推斷以及核心結(jié)論形成，則需提供更充分的輸入信息、驗(yàn)證過(guò)程和可復(fù)現(xiàn)材料。AI幫助研究者提出假設(shè)，不宜被一概視為越界。真正需要警惕的是隱瞞實(shí)質(zhì)性使用、以生成內(nèi)容替代真實(shí)證據(jù)，或把未經(jīng)驗(yàn)證的輸出直接寫成科學(xué)結(jié)論。

　　對(duì)涉及AI的研究，應(yīng)重點(diǎn)核查數(shù)據(jù)是否真實(shí)且可追溯，模型訓(xùn)練與驗(yàn)證是否清楚，關(guān)鍵處理步驟能否復(fù)現(xiàn)，不確定性是否如實(shí)呈現(xiàn)，結(jié)論是否得到獨(dú)立數(shù)據(jù)或?qū)嶒?yàn)支持。在環(huán)境研究中，還要關(guān)注模型結(jié)果能否對(duì)應(yīng)真實(shí)環(huán)境條件，局部數(shù)據(jù)得到的規(guī)律是否被過(guò)度外推。AI對(duì)研究過(guò)程影響越深，作者越有責(zé)任提供充分的透明度和可核查材料。

　　同行評(píng)議本身也需要新的規(guī)范。AI可以幫助審稿人整理問(wèn)題、檢查表達(dá)，但不能替代其對(duì)創(chuàng)新性、方法合理性和結(jié)論強(qiáng)度作出獨(dú)立判斷。審稿稿件通常包含未公開的數(shù)據(jù)、思路和合作信息，未經(jīng)許可，不應(yīng)上傳至缺乏保密保障的開放式工具。即使期刊允許在安全條件下使用AI輔助，審稿人仍應(yīng)對(duì)最終意見(jiàn)負(fù)責(zé)，編輯也應(yīng)防止語(yǔ)言流暢但內(nèi)容空泛的模板化評(píng)議影響決策。

　　(項(xiàng)目團(tuán)隊(duì)：本報(bào)記者 崔興毅、陳海波 本報(bào)通訊員 王語(yǔ)涵)

　　來(lái)源：光明日?qǐng)?bào)