如何讓AI成為可信賴的工具

記者｜李麗

這家被稱為技術公司的出版巨頭

愛思唯爾的AI 工具都是基于公司自有的可信賴的信息和公開發表的經過同行評審的高質量科研內容所建立起來的。

愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）

作為全球領先的信息分析和決策工具提供商，勵訊集團擁有1 萬名技術人員，每年在信息技術上投資12 億英鎊，據稱是英國最大的科技公司之一。而作為勵訊集團旗下的科學技術和醫學出版業務板塊，愛思唯爾公司給自己的定位也是一家服務于學術界的信息分析公司，“一家真正的技術公司”，有三分之一的員工從事的是技術類和產品支持方面的工作。愛思唯爾旗下擁有《柳葉刀》和《細胞》等頂級學術期刊，出版2800 多種期刊和43000 多種專業圖書。其旗下的期刊幾乎都提供開放獲取選項，并有超過760 種期刊采用完全開放獲取模式，2022 年，愛思唯爾發表了15 萬篇開放獲取論文，占到了愛思唯爾全年論文總出版量的25%。

愛思唯爾還把生成式AI 技術加入他們的海量數據中，推出了Scopus AI、ClinicalKey AI，以及支持審稿人推薦、文章誠信核查等學術出版環節的人工智能工具。

這家持續投資于高質量科研信息和內容，以技術為驅動，更好地支持客戶做出決策的學術出版商，無論是推行開放獲取模式，還是積極開發和應用AI 工具，其核心都是幫助科研人員提升科研產出的速度、影響力和質量。比如開放獲取的預印本在快速分享信息方面發揮著關鍵作用，作者投稿后幾乎能夠立刻發表；免費閱讀的開放獲取模式極大地擴大了科研論文的傳播范圍和被引用次數。而愛思唯爾推出的一系列AI 工具，目的也是幫助科研人員、編輯、審稿人更好地利用時間，加快科研創作和出版的速度，提升對科研誠信的核查，從而提高科研產出的質量。

日前到訪中國的愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）接受《出版人》雜志的采訪，介紹了愛思唯爾開發和使用人工智能工具的指導原則。特別是針對由于人工智能生成的信息經常出現不準確或誤讀而導致人們對其生成的內容難以信任的疑惑，勞拉·哈辛克表示，愛思唯爾的AI 工具都是基于公司自有的可信賴的信息，以及公開發表的經過同行評審的高質量科研內容所建立起來的。通過經過同行評審的可信數據集來訓練AI 工具，避免出現憑空捏造不實內容的情況?！拔覀冎辉诳尚艛祿线M行AI 工具建構，我們相信，只有這些建立在可信的信息之上的AI 工具才能真正支持到科學家的科研和創新、提振全社會對科研的信任。這也是為什么我們在AI 工具的開發中需要專家人工審查并做出最終裁定，或對AI 生成的內容進行解讀?！?/p>

哈辛克認為負責任地使用人工智能非常重要，為此，愛思唯爾制定了負責任地使用人工智能的指導原則。這些指導原則包括透明化、減少偏見、真正為客戶體驗增值，以及隱私保護。

哈辛克強調：“AI 并不能代替人類工作，我們還是需要編輯完成相關的工作。AI 工具是為了幫助他們提高效率、更好地利用時間?！倍宜硎咀约旱囊粋€工作重點就是要增加來自中國的編輯和審稿人，因為“中國市場非常重要”。以下是勞拉·哈辛克與《出版人》記者關于愛思唯爾是怎樣開發和使用AI 工具的對話。

AI 幫助編輯減少工作量但不會替代編輯

《出版人》：我們知道愛思唯爾在創建智能工具以有效應對研究人員面臨的挑戰方面成績斐然。能否請您介紹一款愛思唯爾最近開發的AI 工具，也想請您分享未來愛思唯爾在人工智能應用方面有什么發展規劃。

勞拉·哈辛克：AI 帶來了機遇和挑戰，但對我們來說，帶來的更多是機會。我們確實擁有AI 解決方案來解決以往客戶所面臨的一些老問題，其中包括Scopus AI、ClinicalKey AI。Scopus 是我們的科研引文索引數據庫，ClinicalKey 則收錄了醫療相關的信息，在生成式人工智能的加持下，他們可以更加高效地支持科研人員和臨床醫生的工作。除了這兩個方面外，我們目前也在開發一些AI 解決方案，比如說用戶通過向AI 提問能夠獲得更加確切清晰的信息，更好地幫助他們在浩瀚無邊的信息海洋進行信息檢索。

愛思唯爾就是一家信息分析公司，是一家真正的技術公司，我們有三分之一的員工從事的是技術類和產品支持方面的工作，這真的是我們工作中非常重要的一部分。

我們還利用人工智能開發了一款幫助編輯找到合適的審稿人的AI 工具。目前我們旗下期刊編輯眾多，但在他們自己有限的人際網絡內找到相契合的好的審稿人是比較困難的。通過這款AI 工具的算法分析，可以為編輯智能推薦審稿人，讓編輯更快捷便利地找到合適的審稿人，真正幫助編輯在他們自己的人脈網絡之外為特定文章找到恰當的審稿人，提升整個審稿和發表流程的效率。

我們認為真正重要的是負責任地使用人工智能，為此，愛思唯爾制定了相關的指導原則。這些指導原則包括透明化、減少偏見、真正為客戶體驗增值，同時還包括非常重要的隱私保護。我們公司的每個技術人員或產品經理在使用人工智能時都需要遵循這些準則。比如，我們內部也有對于尋找審稿人這個工具的討論，討論得出我們的目標是要找到最合適的最佳審稿人，同時我們還想減少性別偏見，因為我們可以看到，目前學術產出和同行評審人中，男性仍占絕大比例，尤其是更加資深的研究者中，男性審稿人的比例也是比較高的。我認為我們與產品、技術人員一起，在應用這款AI 工具的過程中，在減少性別等因素帶來的偏見、負責任地使用AI方面已經取得了成效。

另外，我們還有一些其他的AI 工具。比如，我們非常重視研究的誠信，對學術不端行為零容忍。以往我們一般是在接收到稿件后進行人工核查，但現在我們也在開發越來越多的AI 工具，能夠更加快速地檢查論文是否存在學術誠信方面的問題。

《出版人》：AI 能夠幫助編輯減輕工作量并提高工作效率，那么未來編輯的功能是否會有所改變？愛思唯爾旗下編輯的人數是否會有所減少？

勞拉·哈辛克：我認為AI 并不能代替人類工作，我們還是需要編輯完成相關的工作。AI 工具是為了幫助他們提高效率，更好地利用時間。AI 工具可以用一種非常透明的方式將運算結果直觀地呈現給編輯，推薦可以采取的決策方案，最終是否使用推薦的方案仍取決于編輯自身。AI 能夠幫助審稿人更有效地進行時間管理，提供更多信息以幫助他們更好地進行決策，完成審稿工作。

在編輯和同行評審人的工作方面，還要強調一點——同行評審的附加價值，我們非常注重讓編輯幫助投稿作者提升論文質量，但是目前編輯們忙于管理投稿和檢查文章是否具有研究完整性、學術不端問題。他們沒有足夠的時間與作者和審稿人共同探討如何提升論文質量。我們希望編輯在使用這樣的AI 工具后，能夠幫助他們節省花費在論文學術誠信核查方面的精力，讓編輯、審稿人和作者更充分地就科研課題和論文質量展開交流，從而促進整體論文水平的提升，更好地推進科研發展。

如何解決AI 生成結果的可信度問題

《出版人》：說到誠信，實際上AI 也存在幻覺問題，會編造一些不存在的事實，你們是如何避免這個問題的？

勞拉·哈辛克：是的，事實上，很多生成式AI 工具提供了大量不實信息?？蒲泄ぷ魇腔趪乐敽涂煽康男畔⑦M行的，沒有可信來源，基于非可靠數據而生成的不實信息會嚴重地損害科研之信。這也是我們不會在工作中使用那些人工智能工具的原因。

愛思唯爾有自己的AI 工具，都是基于愛思唯爾可信賴的信息和內容所建立起來的人工智能工具。通過經過同行評議的可信數據集來訓練AI 工具，這樣生成的內容就不會出現存在不實信息的情況。我們只在可信數據上進行AI工具建構，我們只信任這些建立在可信的信息之上的工具。

這也是為什么我們在AI 工具開發中需要專家人工審查并做出最終裁定，或對AI 生成的內容進行解讀。

我們也會利用我們的專家和編輯來進一步改善我們的人工智能成果。比如，我們與編輯合作，通過多次內部測試并結合他們提供的使用反饋，幫助我們提升這些AI 工具的產出結果的準確度，不斷調整以提升其效果。我們前面提到的尋找審稿人的AI 工具就經歷了這樣的不斷調整，在最初剛開始使用的時候，我們會問編輯，工具有沒有給你提供更廣泛的審稿人的人選，最開始反饋的結果并不是那么令人滿意，但是根據他們的反饋，我們可以調整工具，之后產出的結果就會越來越好。這也是我們開發產品的方式，我們以敏捷的方式構建產品，與用戶一起測試，并在此基礎上不斷調整。

《出版人》：那么，你們的AI 工具都是內部技術團隊自主研發的嗎？還是和外部公司合作，或購買一些第三方開發的軟件？

勞拉·哈辛克：我們大部分的AI 工具都是內部開發的，如果涉及一些特定技術，我們可能會與第三方公司合作。另外，我想強調一個非常重要的話題——科研誠信問題。圍繞這個問題，愛思唯爾除了開發自己的工具，我們還從整個行業的角度出發，與國際科學技術和醫學出版商協會（STM）共同合作，投資開發面向整個科學技術和醫學出版行業的工具。實際上所有的大型出版商都對此項目做出了貢獻。這一款工具能夠核驗作者在投稿時是否存在一稿多投的情況。因為我們發現越來越多的作者同時向多本期刊投稿。我們提供收到的稿件，通過國際科學技術和醫學出版商協會在全行業層面上檢查投稿文章是否真實，是否存在重復投稿的情況。

《出版人》：除了一稿多投，還有論文造假和抄襲的問題，愛思唯爾是怎樣運用AI 工具來更好地解決這些影響科研誠信問題的？

勞拉·哈辛克：我們目前用兩個AI 工具分別解決這些問題。第一個工具能夠幫助期刊核查作者是不是存在一稿多投的情況。在規定一段時間內，作者只能向一本期刊投稿，只有在被拒稿后才可以投其他期刊。但是現在的情況是，有些作者同時向多本期刊投稿。那么，通過這樣的一個工具，我們就能夠快速核驗出他是不是向多家期刊投稿。

第二個工具，就是幫助核驗這個投稿是不是論文工廠批量生產的論文。通過工具，我們找到論文工廠批量生產的造假論文的相關跡象。如果說反饋結果是懷疑文章為批量生產的虛假論文，我們就可以反饋給相關期刊的出版商并采取相關行動。

說到論文剽竊問題，目前各個期刊出版商之間存在一個共用的工具，能夠幫助我們核驗論文是否存在剽竊的情況。每年大約有270 萬篇投稿稿件，都會經過這個工具進行檢查。

期刊出版業的三個趨勢

《出版人》：最后，能否請您談談對期刊出版業發展趨勢的看法？

勞拉·哈辛克：我們看到有這樣一些趨勢，第一個趨勢是通過科技手段提升公眾對于科研的信任度。大家有目共睹的是，科技發展得越來越快，我們可以通過一些科技手段來幫助客戶解決問題，提供更多的解決方案幫助他們提高效率、節省時間。另外，通過科技手段也可以提升對于科研誠信的核查，實現我們對學術不端的行為零容忍。此外，我們認為通過科技的進步能夠進一步提升人們對科研的信任度，可以幫助公眾更加信任科研過程。

信任真的很重要，“信任”對我來說是一個關鍵詞，如果談論未來的趨勢，我認為這一切都從信任開始，我們的用戶以及公眾需要能夠信任科學研究。

在新冠疫情大流行之后，我們也發布了名為《科研之信：公眾注視下的科研人員》的報告，這一報告也幫助我們更好地了解公眾對科研的態度，我們也希望能夠找到更好的方式提升大家對科研的信任。我們深知，作為一個科學出版商，我們有義務通過科技手段，提高公眾對科研成果的信任度。

第二個趨勢，我覺得很重要的就是提升客戶體驗，包括提升作者和審稿人的體驗，我們可以做更多的事情來更好地利用他們的時間，優化出版過程，加快出版速度，提高同行評審的質量。這是我們努力的方向，我認為這是一個重要的趨勢。

第三個趨勢是在出版過程中將更加注重公平、平等。研究是全球性的，我們必須確保真正做到了公平出版。我們的作者是來自世界各地的研究人員，世界各地的研究人員都有平等的機會發表論文，我們作為出版商必須找到解決方案。例如，來自全球南方國家（發展中國家）的作者并不總是有同等的報酬和出版機會發表文章或獲取學術期刊，我們希望未來能夠給予他們更多展示研究成果的機會。另外，就是性別平等，愛思唯爾希望能夠推動在作者、編輯還有審稿人中實現性別比例的平衡。平等，也是我們作為出版商非常注重的一個原則?！?/p>