如何讓AI成為可信賴的工具

記者｜李麗

這家被稱為技術(shù)公司的出版巨頭

愛思唯爾的AI 工具都是基于公司自有的可信賴的信息和公開發(fā)表的經(jīng)過同行評(píng)審的高質(zhì)量科研內(nèi)容所建立起來的。

愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）

作為全球領(lǐng)先的信息分析和決策工具提供商，勵(lì)訊集團(tuán)擁有1 萬名技術(shù)人員，每年在信息技術(shù)上投資12 億英鎊，據(jù)稱是英國最大的科技公司之一。而作為勵(lì)訊集團(tuán)旗下的科學(xué)技術(shù)和醫(yī)學(xué)出版業(yè)務(wù)板塊，愛思唯爾公司給自己的定位也是一家服務(wù)于學(xué)術(shù)界的信息分析公司，“一家真正的技術(shù)公司”，有三分之一的員工從事的是技術(shù)類和產(chǎn)品支持方面的工作。愛思唯爾旗下?lián)碛小读~刀》和《細(xì)胞》等頂級(jí)學(xué)術(shù)期刊，出版2800 多種期刊和43000 多種專業(yè)圖書。其旗下的期刊幾乎都提供開放獲取選項(xiàng)，并有超過760 種期刊采用完全開放獲取模式，2022 年，愛思唯爾發(fā)表了15 萬篇開放獲取論文，占到了愛思唯爾全年論文總出版量的25%。

愛思唯爾還把生成式AI 技術(shù)加入他們的海量數(shù)據(jù)中，推出了Scopus AI、ClinicalKey AI，以及支持審稿人推薦、文章誠信核查等學(xué)術(shù)出版環(huán)節(jié)的人工智能工具。

這家持續(xù)投資于高質(zhì)量科研信息和內(nèi)容，以技術(shù)為驅(qū)動(dòng)，更好地支持客戶做出決策的學(xué)術(shù)出版商，無論是推行開放獲取模式，還是積極開發(fā)和應(yīng)用AI 工具，其核心都是幫助科研人員提升科研產(chǎn)出的速度、影響力和質(zhì)量。比如開放獲取的預(yù)印本在快速分享信息方面發(fā)揮著關(guān)鍵作用，作者投稿后幾乎能夠立刻發(fā)表；免費(fèi)閱讀的開放獲取模式極大地?cái)U(kuò)大了科研論文的傳播范圍和被引用次數(shù)。而愛思唯爾推出的一系列AI 工具，目的也是幫助科研人員、編輯、審稿人更好地利用時(shí)間，加快科研創(chuàng)作和出版的速度，提升對(duì)科研誠信的核查，從而提高科研產(chǎn)出的質(zhì)量。

日前到訪中國的愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）接受《出版人》雜志的采訪，介紹了愛思唯爾開發(fā)和使用人工智能工具的指導(dǎo)原則。特別是針對(duì)由于人工智能生成的信息經(jīng)常出現(xiàn)不準(zhǔn)確或誤讀而導(dǎo)致人們對(duì)其生成的內(nèi)容難以信任的疑惑，勞拉·哈辛克表示，愛思唯爾的AI 工具都是基于公司自有的可信賴的信息，以及公開發(fā)表的經(jīng)過同行評(píng)審的高質(zhì)量科研內(nèi)容所建立起來的。通過經(jīng)過同行評(píng)審的可信數(shù)據(jù)集來訓(xùn)練AI 工具，避免出現(xiàn)憑空捏造不實(shí)內(nèi)容的情況。“我們只在可信數(shù)據(jù)上進(jìn)行AI 工具建構(gòu)，我們相信，只有這些建立在可信的信息之上的AI 工具才能真正支持到科學(xué)家的科研和創(chuàng)新、提振全社會(huì)對(duì)科研的信任。這也是為什么我們?cè)贏I 工具的開發(fā)中需要專家人工審查并做出最終裁定，或?qū)I 生成的內(nèi)容進(jìn)行解讀。”

哈辛克認(rèn)為負(fù)責(zé)任地使用人工智能非常重要，為此，愛思唯爾制定了負(fù)責(zé)任地使用人工智能的指導(dǎo)原則。這些指導(dǎo)原則包括透明化、減少偏見、真正為客戶體驗(yàn)增值，以及隱私保護(hù)。

哈辛克強(qiáng)調(diào)：“AI 并不能代替人類工作，我們還是需要編輯完成相關(guān)的工作。AI 工具是為了幫助他們提高效率、更好地利用時(shí)間。”而且她表示自己的一個(gè)工作重點(diǎn)就是要增加來自中國的編輯和審稿人，因?yàn)椤爸袊袌龇浅Ｖ匾薄Ｒ韵率莿诶す量伺c《出版人》記者關(guān)于愛思唯爾是怎樣開發(fā)和使用AI 工具的對(duì)話。

AI 幫助編輯減少工作量但不會(huì)替代編輯

《出版人》：我們知道愛思唯爾在創(chuàng)建智能工具以有效應(yīng)對(duì)研究人員面臨的挑戰(zhàn)方面成績斐然。能否請(qǐng)您介紹一款愛思唯爾最近開發(fā)的AI 工具，也想請(qǐng)您分享未來愛思唯爾在人工智能應(yīng)用方面有什么發(fā)展規(guī)劃。

勞拉·哈辛克：AI 帶來了機(jī)遇和挑戰(zhàn)，但對(duì)我們來說，帶來的更多是機(jī)會(huì)。我們確實(shí)擁有AI 解決方案來解決以往客戶所面臨的一些老問題，其中包括Scopus AI、ClinicalKey AI。Scopus 是我們的科研引文索引數(shù)據(jù)庫，ClinicalKey 則收錄了醫(yī)療相關(guān)的信息，在生成式人工智能的加持下，他們可以更加高效地支持科研人員和臨床醫(yī)生的工作。除了這兩個(gè)方面外，我們目前也在開發(fā)一些AI 解決方案，比如說用戶通過向AI 提問能夠獲得更加確切清晰的信息，更好地幫助他們?cè)诤棋珶o邊的信息海洋進(jìn)行信息檢索。

愛思唯爾就是一家信息分析公司，是一家真正的技術(shù)公司，我們有三分之一的員工從事的是技術(shù)類和產(chǎn)品支持方面的工作，這真的是我們工作中非常重要的一部分。

我們還利用人工智能開發(fā)了一款幫助編輯找到合適的審稿人的AI 工具。目前我們旗下期刊編輯眾多，但在他們自己有限的人際網(wǎng)絡(luò)內(nèi)找到相契合的好的審稿人是比較困難的。通過這款A(yù)I 工具的算法分析，可以為編輯智能推薦審稿人，讓編輯更快捷便利地找到合適的審稿人，真正幫助編輯在他們自己的人脈網(wǎng)絡(luò)之外為特定文章找到恰當(dāng)?shù)膶徃迦耍嵘麄€(gè)審稿和發(fā)表流程的效率。

我們認(rèn)為真正重要的是負(fù)責(zé)任地使用人工智能，為此，愛思唯爾制定了相關(guān)的指導(dǎo)原則。這些指導(dǎo)原則包括透明化、減少偏見、真正為客戶體驗(yàn)增值，同時(shí)還包括非常重要的隱私保護(hù)。我們公司的每個(gè)技術(shù)人員或產(chǎn)品經(jīng)理在使用人工智能時(shí)都需要遵循這些準(zhǔn)則。比如，我們內(nèi)部也有對(duì)于尋找審稿人這個(gè)工具的討論，討論得出我們的目標(biāo)是要找到最合適的最佳審稿人，同時(shí)我們還想減少性別偏見，因?yàn)槲覀兛梢钥吹剑壳皩W(xué)術(shù)產(chǎn)出和同行評(píng)審人中，男性仍占絕大比例，尤其是更加資深的研究者中，男性審稿人的比例也是比較高的。我認(rèn)為我們與產(chǎn)品、技術(shù)人員一起，在應(yīng)用這款A(yù)I 工具的過程中，在減少性別等因素帶來的偏見、負(fù)責(zé)任地使用AI方面已經(jīng)取得了成效。

另外，我們還有一些其他的AI 工具。比如，我們非常重視研究的誠信，對(duì)學(xué)術(shù)不端行為零容忍。以往我們一般是在接收到稿件后進(jìn)行人工核查，但現(xiàn)在我們也在開發(fā)越來越多的AI 工具，能夠更加快速地檢查論文是否存在學(xué)術(shù)誠信方面的問題。

《出版人》：AI 能夠幫助編輯減輕工作量并提高工作效率，那么未來編輯的功能是否會(huì)有所改變？愛思唯爾旗下編輯的人數(shù)是否會(huì)有所減少？

勞拉·哈辛克：我認(rèn)為AI 并不能代替人類工作，我們還是需要編輯完成相關(guān)的工作。AI 工具是為了幫助他們提高效率，更好地利用時(shí)間。AI 工具可以用一種非常透明的方式將運(yùn)算結(jié)果直觀地呈現(xiàn)給編輯，推薦可以采取的決策方案，最終是否使用推薦的方案仍取決于編輯自身。AI 能夠幫助審稿人更有效地進(jìn)行時(shí)間管理，提供更多信息以幫助他們更好地進(jìn)行決策，完成審稿工作。

在編輯和同行評(píng)審人的工作方面，還要強(qiáng)調(diào)一點(diǎn)——同行評(píng)審的附加價(jià)值，我們非常注重讓編輯幫助投稿作者提升論文質(zhì)量，但是目前編輯們忙于管理投稿和檢查文章是否具有研究完整性、學(xué)術(shù)不端問題。他們沒有足夠的時(shí)間與作者和審稿人共同探討如何提升論文質(zhì)量。我們希望編輯在使用這樣的AI 工具后，能夠幫助他們節(jié)省花費(fèi)在論文學(xué)術(shù)誠信核查方面的精力，讓編輯、審稿人和作者更充分地就科研課題和論文質(zhì)量展開交流，從而促進(jìn)整體論文水平的提升，更好地推進(jìn)科研發(fā)展。

如何解決AI 生成結(jié)果的可信度問題

《出版人》：說到誠信，實(shí)際上AI 也存在幻覺問題，會(huì)編造一些不存在的事實(shí)，你們是如何避免這個(gè)問題的？

勞拉·哈辛克：是的，事實(shí)上，很多生成式AI 工具提供了大量不實(shí)信息。科研工作是基于嚴(yán)謹(jǐn)和可靠的信息進(jìn)行的，沒有可信來源，基于非可靠數(shù)據(jù)而生成的不實(shí)信息會(huì)嚴(yán)重地?fù)p害科研之信。這也是我們不會(huì)在工作中使用那些人工智能工具的原因。

愛思唯爾有自己的AI 工具，都是基于愛思唯爾可信賴的信息和內(nèi)容所建立起來的人工智能工具。通過經(jīng)過同行評(píng)議的可信數(shù)據(jù)集來訓(xùn)練AI 工具，這樣生成的內(nèi)容就不會(huì)出現(xiàn)存在不實(shí)信息的情況。我們只在可信數(shù)據(jù)上進(jìn)行AI工具建構(gòu)，我們只信任這些建立在可信的信息之上的工具。

這也是為什么我們?cè)贏I 工具開發(fā)中需要專家人工審查并做出最終裁定，或?qū)I 生成的內(nèi)容進(jìn)行解讀。

我們也會(huì)利用我們的專家和編輯來進(jìn)一步改善我們的人工智能成果。比如，我們與編輯合作，通過多次內(nèi)部測試并結(jié)合他們提供的使用反饋，幫助我們提升這些AI 工具的產(chǎn)出結(jié)果的準(zhǔn)確度，不斷調(diào)整以提升其效果。我們前面提到的尋找審稿人的AI 工具就經(jīng)歷了這樣的不斷調(diào)整，在最初剛開始使用的時(shí)候，我們會(huì)問編輯，工具有沒有給你提供更廣泛的審稿人的人選，最開始反饋的結(jié)果并不是那么令人滿意，但是根據(jù)他們的反饋，我們可以調(diào)整工具，之后產(chǎn)出的結(jié)果就會(huì)越來越好。這也是我們開發(fā)產(chǎn)品的方式，我們以敏捷的方式構(gòu)建產(chǎn)品，與用戶一起測試，并在此基礎(chǔ)上不斷調(diào)整。

《出版人》：那么，你們的AI 工具都是內(nèi)部技術(shù)團(tuán)隊(duì)自主研發(fā)的嗎？還是和外部公司合作，或購買一些第三方開發(fā)的軟件？

勞拉·哈辛克：我們大部分的AI 工具都是內(nèi)部開發(fā)的，如果涉及一些特定技術(shù)，我們可能會(huì)與第三方公司合作。另外，我想強(qiáng)調(diào)一個(gè)非常重要的話題——科研誠信問題。圍繞這個(gè)問題，愛思唯爾除了開發(fā)自己的工具，我們還從整個(gè)行業(yè)的角度出發(fā)，與國際科學(xué)技術(shù)和醫(yī)學(xué)出版商協(xié)會(huì)（STM）共同合作，投資開發(fā)面向整個(gè)科學(xué)技術(shù)和醫(yī)學(xué)出版行業(yè)的工具。實(shí)際上所有的大型出版商都對(duì)此項(xiàng)目做出了貢獻(xiàn)。這一款工具能夠核驗(yàn)作者在投稿時(shí)是否存在一稿多投的情況。因?yàn)槲覀儼l(fā)現(xiàn)越來越多的作者同時(shí)向多本期刊投稿。我們提供收到的稿件，通過國際科學(xué)技術(shù)和醫(yī)學(xué)出版商協(xié)會(huì)在全行業(yè)層面上檢查投稿文章是否真實(shí)，是否存在重復(fù)投稿的情況。

《出版人》：除了一稿多投，還有論文造假和抄襲的問題，愛思唯爾是怎樣運(yùn)用AI 工具來更好地解決這些影響科研誠信問題的？

勞拉·哈辛克：我們目前用兩個(gè)AI 工具分別解決這些問題。第一個(gè)工具能夠幫助期刊核查作者是不是存在一稿多投的情況。在規(guī)定一段時(shí)間內(nèi)，作者只能向一本期刊投稿，只有在被拒稿后才可以投其他期刊。但是現(xiàn)在的情況是，有些作者同時(shí)向多本期刊投稿。那么，通過這樣的一個(gè)工具，我們就能夠快速核驗(yàn)出他是不是向多家期刊投稿。

第二個(gè)工具，就是幫助核驗(yàn)這個(gè)投稿是不是論文工廠批量生產(chǎn)的論文。通過工具，我們找到論文工廠批量生產(chǎn)的造假論文的相關(guān)跡象。如果說反饋結(jié)果是懷疑文章為批量生產(chǎn)的虛假論文，我們就可以反饋給相關(guān)期刊的出版商并采取相關(guān)行動(dòng)。

說到論文剽竊問題，目前各個(gè)期刊出版商之間存在一個(gè)共用的工具，能夠幫助我們核驗(yàn)論文是否存在剽竊的情況。每年大約有270 萬篇投稿稿件，都會(huì)經(jīng)過這個(gè)工具進(jìn)行檢查。

期刊出版業(yè)的三個(gè)趨勢

《出版人》：最后，能否請(qǐng)您談?wù)剬?duì)期刊出版業(yè)發(fā)展趨勢的看法？

勞拉·哈辛克：我們看到有這樣一些趨勢，第一個(gè)趨勢是通過科技手段提升公眾對(duì)于科研的信任度。大家有目共睹的是，科技發(fā)展得越來越快，我們可以通過一些科技手段來幫助客戶解決問題，提供更多的解決方案幫助他們提高效率、節(jié)省時(shí)間。另外，通過科技手段也可以提升對(duì)于科研誠信的核查，實(shí)現(xiàn)我們對(duì)學(xué)術(shù)不端的行為零容忍。此外，我們認(rèn)為通過科技的進(jìn)步能夠進(jìn)一步提升人們對(duì)科研的信任度，可以幫助公眾更加信任科研過程。

信任真的很重要，“信任”對(duì)我來說是一個(gè)關(guān)鍵詞，如果談?wù)撐磥淼内厔荩艺J(rèn)為這一切都從信任開始，我們的用戶以及公眾需要能夠信任科學(xué)研究。

在新冠疫情大流行之后，我們也發(fā)布了名為《科研之信：公眾注視下的科研人員》的報(bào)告，這一報(bào)告也幫助我們更好地了解公眾對(duì)科研的態(tài)度，我們也希望能夠找到更好的方式提升大家對(duì)科研的信任。我們深知，作為一個(gè)科學(xué)出版商，我們有義務(wù)通過科技手段，提高公眾對(duì)科研成果的信任度。

第二個(gè)趨勢，我覺得很重要的就是提升客戶體驗(yàn)，包括提升作者和審稿人的體驗(yàn)，我們可以做更多的事情來更好地利用他們的時(shí)間，優(yōu)化出版過程，加快出版速度，提高同行評(píng)審的質(zhì)量。這是我們努力的方向，我認(rèn)為這是一個(gè)重要的趨勢。

第三個(gè)趨勢是在出版過程中將更加注重公平、平等。研究是全球性的，我們必須確保真正做到了公平出版。我們的作者是來自世界各地的研究人員，世界各地的研究人員都有平等的機(jī)會(huì)發(fā)表論文，我們作為出版商必須找到解決方案。例如，來自全球南方國家（發(fā)展中國家）的作者并不總是有同等的報(bào)酬和出版機(jī)會(huì)發(fā)表文章或獲取學(xué)術(shù)期刊，我們希望未來能夠給予他們更多展示研究成果的機(jī)會(huì)。另外，就是性別平等，愛思唯爾希望能夠推動(dòng)在作者、編輯還有審稿人中實(shí)現(xiàn)性別比例的平衡。平等，也是我們作為出版商非常注重的一個(gè)原則。■