ChatGPT在編輯出版領域的應用會引發的倫理風險研究

摘要：【目的】探索ChatGPT在編輯出版領域的應用會引發的倫理風險，并給出應對的措施，使用戶更規范地使用ChatGPT，從而提高工作效率和寫作效率?！痉椒ā客ㄟ^分析ChatGPT在編輯出版領域的應用，剖析它在應用過程中引發的倫理風險與挑戰?！窘Y果/結論】規范使用ChatGPT，既可以提高出版物的質量和生產效率，還可以為讀者提供更加智能的閱讀體驗。

關鍵詞：ChatGPT；編輯出版；倫理風險? ? ? ? ? ? ? 中圖分類號：G206? ? ? ? ? 文獻標識碼：A

文章編號：1671-0134（2024）01-079-04? ? ? ? ?DOI：10.19483/j.cnki.11-4653/n.2024.01.015

本文著錄格式：馬曉彥. ChatGPT在編輯出版領域的應用會引發的倫理風險研究[J].中國傳媒科技，2024，31（1）：79-82.

1.ChatGPT概述

1.1? ?ChatGPT的優勢

ChatGPT（生成式預訓練轉化模型）是一種利用AI（人工智能）技術進行自然語言處理的應用程序，使用了Transformer神經網絡架構，具有語言理解和文本生成能力，尤其是會通過連接大量的語料庫來訓練模型，這些語料庫包含了真實世界中的對話，使得ChatGPT具備上知天文下曉地理，并且能夠根據聊天內容與人類進行近乎無障礙的對話和交流的能力。另外，ChatGPT還能夠完成人類下達的論文翻譯、書稿寫作、代碼編寫等任務。

ChatGPT受到廣泛關注的關鍵在于其引入了RLHF（基于人類反饋的強化學習）技術。該技術有效解決了生成模型的核心問題，即確保AI模型的輸出與人類的常識、認知、需求、價值觀相契合。[1]因此，ChatGPT在理解對話的語義、語境和生成自然語言方面，相較于其他聊天機器人性能更加出色。ChatGPT極大地推動了AI的發展，AI接近或超越人類的時代或許即將到來，勢必對教育、文學、出版、科技等領域產生深刻的影響。

1.2? ?ChatGPT的發展歷程

ChatGPT的發展可以追溯到2015年第一代聊天機器人——小冰的推出，這促使許多科技公司紛紛開始研發并廣泛應用這類基于深度學習算法和自然語言處理技術的聊天機器人，例如Facebook、messenger等。2018年，OpenAI公司開發GPT-1，經過如圖1所示的三個階段的發展[2]，終于在2022年11月底，通過采用RLHF技術實現了重大突破，即AI對話聊天機器人ChatGPT推出，它被描述為優化對話的語言模型，是GPT-3.5架構的主力模型。2023年3月15日，OpenAI正式發布了ChatGPT-4.0。這一版本的模型屬于多模態大模型，能夠同時處理圖像和文本輸入，具備出色的圖像識別能力，同時允許用戶輸入的文字數量的限制提升到了2.5萬字。

2.ChatGPT在編輯出版領域的應用

2.1? ?幫助作者生成內容資源

ChatGPT可以為作者提供多種幫助，例如：通過對話交流的方式，激發作者的創作靈感，啟發作者的寫作思路，并為作者提供多樣化的備選方案；通過人機協同創作的方式，提高作者的寫作效率，還可以幫助作者完成文本翻譯、潤色、修改等工作[3]，等等。

ChatGPT-4.0所生成的書稿或文章更加精準、清晰且不失趣味性。此外，相較于早期版本，ChatGPT-4.0在語法復雜性方面有了顯著提升，即若將某人的語法風格和錯誤模式植入ChatGPT-4.0，它便能夠模仿并生成相應的文章，并展現出特有的個人風格和語法錯誤。

2.2? ?輔助進行圖書策劃

AI技術能夠迅速對海量數據進行分析和處理，讓出版社能夠更精準地了解讀者的需求與市場趨勢，在充分考慮市場需求、讀者喜好和市場競爭等因素的情況下，對未來出版市場進行更準確的預測，并進行有效決策。出版社在進行圖書選題策劃前可以借助ChatGPT對歷史數據進行分析，推薦具有潛力和競爭力的選題策劃方向，確定目標市場和目標客戶群，從而為出版社帶來更大的市場份額。另外，在選題方向確定后，ChatGPT能夠基于圖書的目標市場定位，創造性地生成與定位相匹配的內容選題。同時，它還能自動構建具備邏輯性的目錄結構或提供有深度的思考路徑，從而有效地協助作者優化篇章結構，使圖書內容更加清晰有序。[4]

2.3? ?幫助編輯進行內容資源的審校和編輯加工

對出版社而言，ChatGPT可以幫助編輯和校對人員進行文本審查和校對。使用ChatGPT，編輯和校對人員可以采用編校軟件更加高效地進行書稿審查和校對，減少常見錯誤和工作量，降低差錯率。同時編校人員也可以通過信息反饋來逐步完善編校軟件的?？辟Y源庫，從而提高編校軟件的工作效率和校對準確率。編校人員還可以通過參考文獻校對軟件來核查參考文獻是否正確，包括格式和信息的正誤。該軟件采用國家標準規定的參考文獻格式，通過鏈接知網、維普等數據庫，對參考文獻信息和格式進行核實和修改，大大減輕了編校人員的工作量，提高了編校質量和編校效率。[4]

此外，ChatGPT還可以協助編輯進行文本編輯和排版，提高出版物的質量和生產效率。通過ChatGPT的智能算法和自然語言處理能力，編輯或者排版人員可以輕松實現書稿的美觀排版，以滿足讀者閱讀的舒適性和愉悅性要求。不僅如此，ChatGPT還能根據不同的文體和讀者需求，靈活調整排版風格，使圖書更具個性和專業性。

2.4? ?為讀者提供智能的閱讀體驗

對于讀者而言，ChatGPT可以提供更加智能的閱讀體驗。主要表現在以下幾個方面。

（1）個性化閱讀推薦。ChatGPT既可以根據讀者的閱讀記錄，又可以通過與作者對話了解讀者的閱讀興趣和閱讀喜好，從而為他們進行圖書推薦。

（2）閱讀指南和解讀。對于一些有較高難度的作品，讀者在理解上有一定的難度，可能需要額外的解釋和指導，ChatGPT可以充當閱讀指南，為作者答疑解惑。

（3）虛擬閱讀伙伴。ChatGPT可以充當虛擬閱讀伙伴，與讀者分享閱讀體驗，如討論書中的情節和主題等，使閱讀更有趣。

（4）閱讀評價與討論。ChatGPT可以與讀者一起對讀過的書發表自己的評論，從而促進與讀者之間的交流溝通。

3. ChatGPT在編輯出版領域引發的倫理風險與挑戰

ChatGPT只有基于大量的數據訓練才能得到較好的結果，因此對于小型出版社和大多數作者來說由于訓練數據有限，可能不會取得很好的效果。另外，機器本身無法理解問題的真實含義，無法做出像人類一樣的判斷。因此，在編輯出版領域，ChatGPT可以輔助編輯出版領域工作人員提高工作效率，但目前不具備完全取代他們工作的能力。隨著ChatGPT在編輯出版領域的應用，暴露出很多新的挑戰和問題。

3.1? ?剽竊行為更加隱蔽

ChatGPT是基于大量數據訓練的，且數據的串聯和使用是隨機的，所以在用戶分次輸入相同指令時，會得到不同的答案。也就是說，不同的用戶向ChatGPT輸入相同的指令，它會給出不同的結果。因此，在編輯出版領域使用ChatGPT時，不同的作者即使做相同的研究方向，ChatGPT也會高效率地給出不同的學術論文或學術專著，使得剽竊效率更高，更難以被發現[5]。

2022年12月27日，美國西北大學的Catherine Gao領導的研究團隊使用ChatGPT來生成研究論文摘要，研究團隊要求ChatGPT根據發表在《美國醫學會雜志》《新英格蘭醫學雜志》《英國醫學雜志》《柳葉刀》《自然醫學》這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然后，研究團隊通過論文剽竊檢測器和AI輸出檢測器將這些摘要與原始摘要進行比較，并要求一組醫學研究人員找出哪些是ChatGPT所編造的摘要。結果ChatGPT所編寫的摘要順利地通過了論文剽竊檢測器的檢查，原創性得分為100%。AI輸出檢測器發現了33篇（識別率為66%）由ChatGPT所編造的摘要，而醫學研究人員也只正確識別了34篇（識別率為68%）由ChatGPT所編造的摘要和86%的原始論文摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家難辨真假的程度。

3.2? ?知識產權認定存在難度

用戶在使用ChatGPT進行知識問答，或者使用ChatGPT進行著作或者論文代寫時，它所使用的涉及不同語種、不同地域、不同學科的知識內容的使用和歸屬問題值得思考，如是否可以隨意使用人類可獲得的所有知識，生成的文章和著作的著作權如何界定等一系列問題。[6]例如：國內外多家權威學術期刊紛紛發表聲明，在學術論文撰寫中全面禁止或嚴格限制使用ChatGPT等AI機器人，以維護學術研究的嚴謹性和原創性；代表14萬多名作家和表演者的42家德國協會和工會也對歐盟提出強烈建議，要求加強對人工智能（AI）規則草案的監管，因為他們認為ChatGPT等AI工具對他們的版權構成了威脅，需要得到更多的法律保護?？梢?，在使用ChatGPT進行知識服務時，可能會存在侵權問題。

3.3? ?知識的準確性和權威性無法保證

一位澳洲國立大學華人留學生在使用ChatGPT代寫論文時，由于AI給出了一些不存在的文獻，被教授發現并被邀請參加聽證會。2023年5月16日，《放射學》出版，加拿大科學家在雜志上刊登新論文稱，最新版本的ChatGPT通過了美國放射學委員會的考試，突出了大型語言模型的潛力，但它也給出了一些錯誤答案，表明人們仍需對其提供的答案進行核查。這些例證說明ChatGPT可能會向人們提供虛假信息。根據美國新聞可信度評估機構News Guard的聯合執行官格洛維茨的觀點，ChatGPT有潛力演變為自互聯網誕生以來最強大的虛假信息傳播工具。

首先，使用ChatGPT生成的參考文獻可能是假的。由于ChatGPT是基于大量數據進行訓練的，而其他文獻中的參考文獻數據可能本身就是錯誤的，這樣生成的參考文獻就是錯誤的。這樣的參考文獻不僅會影響信息傳播和論文的質量，還可能會被檢測出來，導致學術不端的指控。

其次，使用ChatGPT寫論文容易捏造事實。[7]由于ChatGPT是基于大量數據進行訓練的，如果訓練數據中包含錯誤信息，它生成的內容就有可能會包含錯誤的信息或者不準確的數據。如果沒有進行充分的核實和驗證就直接使用ChatGPT寫作，可能會影響論文的可信度和學術價值，還可能會使錯誤的結論或者不實的數據在學術界傳播，更有甚者可能會影響社會的進步和發展。

3.4? ?算法歧視和隱私暴露風險

雖然ChatGPT可以給人類帶來更加智能化的體驗，但是在理解和應用知識方面的智能化程度依然有限。在首批用戶測試中，ChatGPT甚至出現了辱罵用戶、誘導用戶離婚等言論?？梢?，一旦訓練語料庫中包含有害的、錯誤的言論時，AI習得后所做出的有害行為，將進一步加劇算法偏見和歧視。[8]

另外，ChatGPT在訓練過程中，并未對隱私問題、敏感問題、涉密信息等進行標注，所以用戶在使用ChatGPT獲取知識服務時，它提供的答案可能包括一些受到《著作權法》保護的作品，也可能會侵犯個人隱私，甚至會暴露組織機密和國家機密。

在編輯出版領域，若ChatGPT的訓練語料庫中包含粗俗語言、負面的價值觀引導語言、敏感信息等不當言論，或者侵犯著作權的信息或涉密信息等，出版社或者期刊社在審稿過程中未及時發現，有可能引發政治風險或者觸犯國家相關的法律法規。

4.對策與建議

4.1? ?規范ChatGPT在編輯出版領域的應用

ChatGPT的學術寫作功能受到很多學者的青睞，不少學者開始嘗試將其應用于學術論文或著作的創作中，但是這一趨勢引發了一些關注和爭議。在國外編輯出版領域，針對使用ChatGPT等AI工具進行學術寫作的情況，美國《科學》雜志明確表示，他們不會接受任何直接由ChatGPT等AI工具生成的文本、數字和圖像作為學術論文的內容；在國內編輯出版領域，《暨南學報（哲學社會科學版）》《天津師范大學學報（基礎教育版）》等期刊也對此類AI技術制定了相應的規范和說明，以確保學術研究的嚴謹性和規范性。

黨的二十大報告明確提出：“推動戰略性新興產業融合集群發展，構建新一代信息技術、AI、生物技術、新能源、新材料、高端裝備、綠色環保等一批新的增長引擎?！笨梢?，ChatGPT作為AI領域的最新成果，如果能夠依法合規并正確地使用，將有助于推動形成新的經濟增長點。在編輯出版領域，ChatGPT在輔助進行論文和著作文獻綜述撰寫等方面展現出了明顯的優勢，有觀點認為，利用ChatGPT 輔助完成論文和著作寫作及相關科學研究可能會成為一種必然趨勢。[9]因此，我們應該考慮如何規范ChatGPT 在編輯出版領域的應用，以確保其充分發揮潛力，而不是簡單地選擇完全禁止使用。在進行論文發表或者著作出版時，可以在出版合同中增加相應的制約條款，即在合同中，作者必須明確標示是否在論文或著作中使用了ChatGPT，以及具體使用方式和使用范圍，并承擔法律和學術責任，確保研究成果的準確性、原創性和科學性。

4.2? ?建立相關的制度保障

在2023年5月11日，歐洲議會的內部市場委員會和公民自由委員會以壓倒性的84票贊成通過了《人工智能法》的談判授權草案。這個草案的主要目標是構建一個全面的法律框架，以確保AI系統在歐盟的開發和部署能在受到監督的情況下進行。在內容監管方面，歐洲議會希望通過立法強制AI系統的供應商對非法內容進行管控，并要求公開開發算法過程中使用的受版權保護的數據。

我國政府對AI技術的監管及其在網絡傳播中的治理高度重視，為了推動GenAI的良性發展和規范應用，確保國家安全和社會公共利益，全面保障公民、法人和其他組織的合法權益，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局七部門發布了《生成式人工智能服務管理暫行辦法》，并于2023年 8 月 15 日起正式實施。[10]該辦法為GenAI服務的提供者設定了明確的責任和義務。根據該辦法第九條的規定，提供者不僅需要依法肩負起網絡信息內容的生產者責任，而且需要嚴格履行網絡信息安全的義務，特別是當涉及個人信息時，他們還需要履行個人信息處理者責任和個人信息保護義務。此外，提供者還需要與GenAI服務的使用者簽訂詳細的服務協議，明確雙方的權利和義務，以構建和諧、穩定的服務與被服務關系。這一辦法的頒布和實施，無疑會對我國 GenAI產業的健康發展產生積極的推動效應。

編輯出版領域需對ChatGPT 的具體應用及管理規則進行細化，以防止故意剽竊、隱私侵犯、著作權侵犯、傳播虛假信息等惡意行為的滋生。同時，也要預防因ChatGPT引發的出版倫理問題而導致出版機構走向“一刀切”的極端做法。雖然 ChatGPT 自身并不能夠一概與“剽竊”畫等號，但是有剽竊動機的用戶能夠借助 ChatGPT 來達到自身目的，從而使剽竊行為變得更隱蔽，很難被發現。從著作權的角度來看，ChatGPT的著作權之爭在我國尚處于理論探討階段，尚未形成一致定論并體現在立法層面。在 ChatGPT著作權歸屬上沒有形成共識、剽竊風險沒有得到有效監督的情況下，其應用對出版機構來說可能風險大于效益。因此，現階段需慎重使用ChatGPT 。

結語

ChatGPT 及以 ChatGPT 為代表的GenAI的快速興起是AI領域的一次重大變革，給編輯出版領域也帶來了新現象和新問題。ChatGPT 的語料庫包含大量的數據信息，為論文和著作撰寫，或者提供相關知識服務提供了便利，但是其語料庫中也可能包括錯誤信息、敏感信息、涉密信息、隱私信息，以及具有負面價值觀引導性的語言等內容知識，使生成的內容可能存在虛假信息、敏感或涉密信息等，從而引發政治問題和侵權行為，甚至可能給科學發展造成負面影響。但是綜合來看，ChatGPT在編輯出版領域的應用前景應該是廣泛的，它既可以幫助出版社、作者與讀者之間實現更好的交流和互動，又可以提高出版物的質量和生產效率，還可以為讀者提供更加智能的閱讀體驗。雖然其在編輯出版領域的應用還存在一些挑戰和限制，但是隨著ChatGPT在語言模型和智能交互方面的發展，它將更加智能化、快速化和安全化，以上存在的問題也將逐步得到逐步解決。

參考文獻

[1] 郭全中，張金熠.ChatGPT的技術特征與應用前景[J].中國傳媒科技，2023（1）：159-160.

[2] 尚智叢，閆禹宏.ChatGPT教育應用及其帶來的變革與倫理挑戰[J].東北師大學報（哲學社會科學版），2023（5）：44-54.

[3] 宋時磊，楊逸云.應用場景、風險與前景：ChatGPT類大語言模型時代的學術出版[J].出版科學，2023（5）：76-84.

[4] 徐敬宏，張如坤.ChatGPT 在編輯出版行業的應用：機遇、挑戰與對策[J].中國編輯，2023（5）：116-122.

[5] 匡文波，姜澤瑋.ChatGPT 在編輯出版中的應用、風險與規制[J].中國編輯，2023（9）：9.

[6] 王遷.論人工智能生成的內容在著作權法中的定性[J].法律科學（西北政法大學學報），2017（5）：148-155.

[7] 鮑磊，楊靜，趙文渲.人工智能機器人ChatGPT 引發的問題及其對策研究[J].河北軟件職業技術學院學報，2023（3）：76-80.

[8] 劉霜，張瀟月.生成式人工智能數據風險的法律保護與規制研究：以ChatGPT潛在數據風險為例[J].貴州大學學報（社會科學版），2023（5）：87-97.

[9] 焦麗珍.人工智能時代期刊編輯數字素養的內涵、特征及培育路徑：基于 ChatGPT 的視角[J].信陽師范學院學報（哲學社會科學版），2023（5）：80-85.

[10] 張瓊方，汪齊齊.數字經濟時代 人工智能法律問題初探[J].數字經濟，2023（5）：17-21.

作者簡介：馬曉彥（1984-），女，江蘇徐州，碩士研究生，中國礦業大學出版社煤炭教育中心編輯、副主任，研究方向為安全管理類、煤炭教育培訓類及科技類圖書的策劃和編輯出版。

（責任編輯：李艷松）