論文泡沫飚升，人工智能要背鍋嗎

張?zhí)锟?/p>

據(jù)英國《自然》雜志報道，2023年被撤回的研究論文數(shù)量已超過1萬篇，創(chuàng)下了年度紀錄。大部分被撤回的論文來自出版機構辛迪維，該機構已撤回的論文數(shù)量超過8000篇。此前，我國教育部科學技術與信息化司發(fā)布通知，決定在各高校開展撤稿論文的自查工作。

被撤回的1萬多篇論文可能只是冰山一角。根據(jù)《自然》雜志的分析，在過去10年中，論文撤回率（即每年發(fā)表的論文被撤回的比例）增加了兩倍以上。2022年，這一比例超過了0.2%，相當于每發(fā)表500篇論文就會有1篇被撤回。此外，全球公布的撤回論文總數(shù)已超過5萬篇，還有更多的論文被認定為論文工廠生產(chǎn)的造假論文，數(shù)量多達10萬篇，其中一些撤稿還在論證中。

引起論文撤回的原因很多，除了存在同行評議的缺陷和系統(tǒng)性操控之外，論文工廠生產(chǎn)的論文也是一個重要因素。論文工廠是指那些專門生產(chǎn)大量學術論文的機構，它們通過雇傭寫手撰寫論文，然后出售給需要發(fā)表論文的人或機構，以獲取高額利潤。這些論文即使沒有被閱讀，也會被作為綜述性文章統(tǒng)計，并被“洗白”成為主流文獻。雖然一些論文撤回是因為作者發(fā)現(xiàn)了研究工作中的錯誤，但是絕大多數(shù)撤稿都源于科研誠信問題。

還有大量混雜在正常論文中的造假論文尚未被發(fā)現(xiàn)，也未被撤回。從比例來看，目前的撤稿率是0.2%，但估計實際的論文造假率可能為2%，造假率是撤稿率的10倍。

另一篇發(fā)表于《自然》雜志的文章指出，在過去20年已發(fā)表的40萬篇科學論文中，約有7萬篇是在2022年發(fā)表的。在2022年發(fā)表的所有科學論文中，有1.5%～2%與論文工廠的“作品”非常相似；而在生物學和醫(yī)學論文中，這一比例最高，達到了3%，這說明生物學和醫(yī)學領域的論文造假率最高。

德國神經(jīng)心理學家、《恢復性神經(jīng)病學和神經(jīng)科學》期刊主編薩貝爾進行了一項調(diào)查，得出了與《自然》雜志類似的結論。他使用論文造假檢測器對5000篇論文進行了驗證，在2020年發(fā)表的神經(jīng)科學論文中，有34%的論文涉嫌抄襲，而在醫(yī)學類論文中，這一比例為24%。這些論文造假率遠高于薩貝爾預估的2%。薩貝爾在醫(yī)學預印本平臺（MedRxiv）上發(fā)表的報告還顯示，過去10多年，造假論文從逐漸增加到快速增加，2010—2020年，論文造假率從16%上升到28%。 在生物醫(yī)學領域，僅2020年就有30萬篇論文涉嫌造假。

近年來，高產(chǎn)研究人員大量增加，也從一個側面反映了論文泡沫化現(xiàn)象。美國斯坦福大學伊安尼迪斯團隊對2000—2022年斯科普斯數(shù)據(jù)庫（Scopus）中的文章進行了研究，發(fā)現(xiàn)高產(chǎn)作者的數(shù)量成倍增加。2016年以前物理學領域“極端高產(chǎn)”作者數(shù)量較多，但2016年以后該領域高產(chǎn)作者數(shù)量逐年下降；與此同時，非物理學領域此類作者的數(shù)量卻持續(xù)增加。除了物理學以外，大多數(shù)高產(chǎn)作者來自臨床醫(yī)學領域，到2022年，該領域已有近700名高產(chǎn)研究者。農(nóng)業(yè)、漁業(yè)和林業(yè)是高產(chǎn)研究者數(shù)量增長速度最快的領域，從2016年到2022年增長了14倍。僅在2022年，非物理學領域就有1266名作者每5天發(fā)表一篇論文。相比之下，2016年只有387人這樣高產(chǎn)。

科學研究是追求真理的人類行為，大量論文造假導致的泡沫不僅影響社會文明的提升和經(jīng)濟的發(fā)展，還可能對人們的健康和生命安全構成嚴重威脅。正如薩貝爾所言，如果30%的論文都是偽造的，那就意味著人們所接觸到的信息中有30%是不可靠的，甚至是有害的。

那么，為什么會出現(xiàn)大量的論文泡沫呢？利益的誘惑是根本原因—偽造論文能夠獲得豐厚的收入。在全球各種網(wǎng)站和社交媒體上，充斥著大量論文工廠的小廣告。這些論文工廠甚至承諾能夠將論文發(fā)表在頂級學術期刊上，根據(jù)論文的難易程度收取費用，每篇1000～25000美元。據(jù)估算，如果每篇造假論文的均價為1萬美元，那么論文造假行業(yè)的年營收可能高達30億～40億美元。論文工廠雇傭的論文寫手主要為科學領域的學生、學者和顧問，他們極為高產(chǎn)。一些論文工廠甚至宣稱自己擁有數(shù)百名寫手，每個月能夠穩(wěn)定產(chǎn)出超過100篇可發(fā)表的學術論文。

從時間段上看，高產(chǎn)作者的數(shù)量和產(chǎn)出率在2014年開始趨于穩(wěn)定，但近期卻突然增加。這表明高產(chǎn)作者極有可能利用了以 ChatGPT為代表的生成式人工智能工具。

這些人工智能工具為眾多論文工廠提供了幾乎是零成本的生產(chǎn)工具。他們可以使用人工智能技術（如文本生成、數(shù)據(jù)統(tǒng)計、圖像處理等）“生產(chǎn)”論文并使其看起來更真實，甚至一些科研人員也借助ChatGPT撰寫論文。

盡管科學界和出版商希望能夠檢測出所有由大型語言模型（LLM）生成的文本，但迄今為止，人工智能檢測工具還無法可靠地識別由LLM生成的論文。一些研究團隊正在致力于研發(fā)能夠為所有LLM產(chǎn)品添加水印的技術，然而目前尚未有相關軟件問世。因此，在揭露和打擊論文泡沫方面，一些研究人員認為應該對人工智能產(chǎn)品進行立法，例如，對LLM產(chǎn)品進行披露或添加水印，并將刪除水印視為非法行為。此外，薩貝爾還建議將任何提供非學術電子郵件地址的文章視為可能是論文工廠的“作品”而加以標記。

人工智能正在改變世界，因此需要對人工智能工具的使用進行引導并制定規(guī)則，從而減少論文造假和撤稿的情況。一項對100家出版商和期刊進行的研究發(fā)現(xiàn)，截至2023年5月，約17%的出版商和70%的期刊已發(fā)布了關于如何使用LLM的指導方針，但這些指導方針在很多細節(jié)上存在差異。因此，未來可能需要國際社會制定一套統(tǒng)一的指導方針和準則，以幫助研究人員報告他們使用人工智能工具的情況，并區(qū)分原創(chuàng)內(nèi)容和人工智能生成內(nèi)容 。這將有助于確保學術界的誠信和公正性。

【責任編輯】張小萌