AIGC出版背景下知識生產合規化困境與調適

王鵬濤

【摘要】AIGC技術憑借強大的內容生成能力迅速滲透到知識生產領域，在成為知識生產有力工具的同時也引發諸多合規化問題。出版界早已敏銳地認識到問題的嚴重性，卻因缺乏應對能力而陷入了知識生產合規化治理的困境。文章對AIGC技術可能違反的知識生產規范進行詳細梳理，包括獨立性規范、知識產權規范、權責明確規范、科學性規范和創新性規范，剖析知識生產合規化困境的結構化成因，提出以構建知識核驗機制為核心的調適思路，并設計知識核驗機制的具體方案，以期為破解AIGC出版背景下知識生產的合規化困境，維護知識生產秩序提供有效的參考。

【關鍵詞】AIGC 知識生產 智能出版 學術規范

【中圖分類號】G230 【文獻標識碼】Ａ 【文章編號】1003-6687（2024）3-014-09

【DOI】 10.13786/j.cnki.cn14-1066/g2.2024.3.002

2022年年底，ChatGPT的上線使AIGC技術正式進入大眾應用階段并成為世界上最受關注的人工智能技術。伴隨著AIGC技術在知識生產領域的滲透，知識生產合規化問題逐漸凸顯，在知識界引發了強烈反應。作為知識領域的守門人，出版機構最先直面這一沖擊，但由于對AIGC技術參與下知識生產合規化問題的認識尚不統一，規制能力非常有限，出版界表現出明顯的被動狀態。一方面，多家出版機構各行其是，針對知識生產中的AIGC技術應用行為發布標準不一的技術使用規定或作者政策；另一方面，各出版機構的應對舉措僅限于單方面要求和勸說性建議，目前并無實質性的違規行為識別和規制手段以維護知識生產的秩序?？偟膩碚f，目前出版界深陷AIGC技術參與下的知識生產合規化問題治理困境之中。

為突破這一困境，本文首先明確知識生產應當遵循的規范是什么，梳理AIGC技術參與下的知識生產具體引發了哪些合規化問題；然后剖析這些合規化問題為何難以解決以至于形成了治理困境；進而提出知識生產合規化困境的調適思路，抓住突破困境的核心，并據此設計具體的應對方案。

一、AIGC出版背景下的知識生產合規化問題概述

1. 知識生產之“規”的內涵與外延

按照索薩的觀點，知識可以被劃分為動物性知識和反思性知識，分別對應低階知識和高階知識。[1]二者的區分標準在于是否體現了人所具有的理解、反思和判斷等高階能力。高階知識與通俗意義上的專業知識相對應，是認知主體利用自身理性以及科學的能力和品質所獲得的科學認知，[2]需遵循嚴格的生產、傳授和接受規律，訓練方法以及學術規范。[3]在現代科學范式下，知識生產是在規范的學科體系下以科學的研究方法進行的、以生產科學知識為目標的活動。[4]因此，知識生產所產出的知識屬于高階知識范疇，重視“規范”的參與和作用。

正如韋奇伍德所言，規范是指導人們如何行動或思考的一般原則。[5]在不同情境下，規范的定義具有特殊性?？茖W規范則是指導和調適科學共同體成員行為的、具有普適性和長效性的指示系統，能夠對科學家的行為起到引領和糾偏的作用。[6]因而知識生產作為產出科學知識的活動，其遵守的“規范”便是指約束、指導知識生產主體行為的標準和原則。

知識生產活動是具有明確目標的行為過程，因而知識生產規范還將作用于知識生產過程和結果兩個方面。從過程角度來看，知識生產是指真理、思想等各種類型知識的創新過程，而創新并不是毫無規范約束的任意行動?？茖W是理性的事業，這要求科學知識的生產要以規范性方法論作為行為標準，若違反這一標準，科學活動便是不合理的，創新過程便不能稱之為“科學創新”，其產物也不再是合格的“科學知識”。從結果角度來看，科學的價值目標包括對“客觀性”和“原創性”的追求，這也是科學知識的本質屬性。[7]知識生產活動是否成立，其產物能否被稱為“科學知識”，需要以其是否實現了科學的價值目標作為判斷標準，亦即是否符合知識生產的“結果規范”。

2. AIGC技術介入知識生產引發的合規化問題

由于知識生產需同時遵循過程規范和結果規范，AIGC技術介入知識生產所引發的合規化問題也要從過程規范與結果規范兩方面來分析?，F有的學術規范已經明確規定了科研工作者在知識生產過程中應當遵守的行為規范，[8]因此，從學術規范文本中，可以歸納出AIGC技術參與下的知識生產可能會違反的過程規范，包括獨立性、知識產權和權責明確三個方面。知識生產的結果規范則可以基于“知識”及“知識生產”兩個概念的成立條件進行歸納。具體來說，AIGC參與下的知識生產可能會違反科學性和創新性這兩則結果規范。

（1）獨立性規范的侵蝕。既有學術規范文本明確指出，學者應當堅持獨立的學術品格和自由探索精神，提出新的學術思想和見解；[9]學術論文應當是作者在親自進行深入的研究、思考、寫作和反復核查后獲得的創新性知識成果。[10]作為一種科學活動，知識生產也應堅守科學精神。理性精神是科學精神的核心內涵，體現在科學活動嚴格的研究規范和方法之中?？茖W的規范和方法來自于經驗的長期積累，是只有人類才能繼承并實踐的內容，且不能輕率地加以摒棄。[11]因此，知識生產需要從過程角度考量知識生產主體是否遵守了獨立性規范，是否將其主導地位讓渡于旁人或現代技術。

ChatGPT等AIGC產品一經上線便在文獻綜述、文本翻譯與潤色、生成論述文本等知識生產環節中表現出超強的能力。但AIGC技術濫用會侵蝕人類在知識生產中的能動性和自由意志，使人類從知識生產的主導者轉變為被動接受者，走向“機器的人化”與“人的機器化”的悖論。[12]同時，AIGC技術的過度介入使知識生產缺少了由人類通過感官經驗和價值判斷做出科學決策的過程，[13]難以保證其是否符合理性精神這一基本價值遵循。因此，AIGC技術的介入極有可能導致知識生產活動違背獨立性這一過程規范。

（2）知識產權規范的觸犯。知識生產是生產主體經歷資料收集、經驗積累、實踐感受等過程而展開的復雜思維活動，[14]其產物不僅是個人智力勞動創造的財產，也是全部人類的精神財富，知識生產這一勞動過程理應受到尊重和保護。知識產權規范繼而成為公認的規約，在法律和學術規范中被確立下來，以激發人的創造力，鼓勵知識創新。[15]

AIGC技術的應用滋長了剽竊這一觸犯知識產權規范的劣行。一方面，AIGC技術可以抽取和重組前人的觀點和思想，不加任何來源引注，以非同質化的表述方式重新呈現，反而成就了更“高級”的剽竊手段。另一方面，AIGC技術為知識生產者提供了將“走捷徑”的主觀意愿付諸實踐的便利工具，幫助部分投機者將他人的學術觀點和成果進行糅合改寫，逃過學術不端檢測手段的查驗。此外，AIGC技術的應用不可避免地要對原始文本和數據進行復制，但這一行為的范圍和合理性還有待商榷。在域外的判例中，美國法院已經確立了AI復制行為的合理性條件，一是不用于激勵他人生產新的作品，二是不影響被使用著作權的作品的潛在市場和價值。[16]AIGC技術在知識生產領域的應用顯然觸碰到以上兩條原則，自然也會導致知識生產過程觸犯知識產權規范。

（3）權責明確規范的模糊。學術規范明確了有關署名的一系列要求。署名代表著對著作權人身份的認定以及屬于作者的一系列權利的行使，[17]也意味著署名者要對知識成果承擔責任。

作品作為獨創性表達，一般被認為源于人的思想和感情，[18]因而著作權也無法脫離“人”這一權利主體。而AIGC技術的信息篩選和創造性表達能力卻使得程序算法和獨立思考的界限愈發模糊，[19]引發了是否應當賦予AI署名權或著作權的爭議。[20]更為復雜的是，AIGC參與下的知識生產往往是由人類和AI“合作”完成的。AI、AI產品開發者、AI使用者以及數據提供者之間的分工如何判定，他們的貢獻比例如何劃分，權利歸屬是否遵循了知識產權設立的初衷，這些問題尚無定論，知識產權也無法明晰。

與“自動駕駛汽車的事故責任由誰承擔”這一經典責任難題類似，AIGC參與下的知識生產違規問題可能由數據、模型、提問、加工等多個環節和因素導致，很難厘清其中的因果關系、分辨主觀意愿并舉證，繼而難以判定責任主體。即便上述問題能夠得到解決，AI本身也不具有承擔責任的能力，它并沒有作為法律主體而需要同時具備的理性和欲望，[21]就像一個具有“涌現”能力的未成年人，[22]會制造出意外的“麻煩”卻無法被追究相應的法律后果，因而AIGC參與下的知識生產還無法確定明確的責任者，必將導致知識生產秩序的空前混亂。

（4）科學性規范的違背?！靶畔ⅰ迸c“知識”是一組密切關聯但有著明確界限的概念。信息是對客觀事物和狀態的反映，[23]知識則具有更嚴格的限定條件。如柏拉圖在《泰阿泰德 智術之師》中所提出的，“它一定是正確的，可以被人感知的，得到論證的真的信念”，[24]知識可以被定義為來源于實踐，并經過權威證實的，絕對確定的必然真理。[25]相較于信息，知識需要滿足“能夠被證實”這一條件。知識的生產需建立在反復驗證的基礎之上，遵守公認的科學性規范。

傳統知識生產秩序下，學者需要基于大量經驗事實，在既有知識基礎上結合新的現實情況，進行進一步的知識總結和創造，并提出有說服力的結論。[26]而AIGC技術卻采用基于概率規則的語言生成模式，省略了學者的邏輯思辨過程。然而概率并不能與正確性、準確性等量齊觀。實踐表明，AIGC生成內容中極易出現虛構參考文獻、編造不實信息、夾帶性別或種族歧視的觀點等違背科學性規范的內容。因此，AIGC技術所生成的內容還不能夠經得起“證實”，暫且只能被稱為“信息集合”。當AIGC技術介入知識生產后，知識生產者極易被AIGC技術高超的表述水平所迷惑，產生惰性，放棄對內容價值的鑒別，從而放任違背科學性規范的信息進入知識領域，對人類的知識大廈造成侵蝕。

（5）創新性規范的挑戰。知識生產常被定義為知識的增進，也就是新知識的生產，[27]或原創性知識的生產等。[28]從概念表述可以看出，知識生產的結果就是要產出“新”的知識。由此能夠推斷，知識生產的結果必須達到創新性目標，即知識生產須遵循創新性規范。

不同于知識生產的傳統模式，AIGC技術的內容生成方式是對既有知識進行重組和表述，并沒有結合知識基礎和實際經驗展開思考和深度研究的過程，[29]因而也不會出現既有知識之外的新內容。加之在概率規則下，AIGC也只能表現出“常人化”的知識水平，[30]甚至無法在內容新穎度上有所提升，因此也更談不上創新。此外，知識創新所需的創意和靈感主要基于人類的觀察思考，并產生于人類的大腦。智能機器雖已可以作為人類身體的延伸，但對人類感知的復制能力極其有限。加之欲望作為知識創新的根本驅動力也為人類所獨有，因而知識創新還需人類充分發揮自身的能動性。但AIGC技術介入知識生產后展現出的便捷性和易用性，反而會消解人類的知識創造動力，由此進一步導致AIGC過度參與知識生產制造知識創新的假象，對知識生產的創新性規范帶來挑戰。

二、AIGC出版背景下知識生產的合規化困境及其結構化成因

目前，國內外出版機構都已意識到AIGC技術應用后，所引發的知識生產合規化問題的嚴峻性，相繼發布了作者合理使用AIGC技術的政策，總體上呈現保守性和穩妥性的傾向。[31]雖然不禁止作者在知識生產過程中使用AIGC技術，但基本上都反對AIGC擁有署名權，拒絕完全由AIGC生成的文本，并要求作者說明AIGC工具的使用情況。然而在實際執行過程中，出版機構卻缺乏有效措施，以發現和規制技術濫用的行為，無法明確知識生產過程中是否存在違規行為，以及知識成果中是否隱含AIGC生成的不當內容，從而引發了出版機構意欲規制卻不具備規制能力的知識生產合規化問題治理困境，即便作者濫用AIGC技術，也無法被出版機構及時發現和懲處。這一困境的成因主要來自標準、制度和技術三個層面。

1. 標準層面：知識生產合規性判斷標準的缺失

在一項新技術發展的早期階段，人類對該技術的特質以及其與社會關系的認識尚處于穩定狀區間，技術所伴生的問題往往還處于人類社會秩序的框架之內，容易得到有效控制。但在這一時期，人類能掌握的關于技術特質、技術發展方向和應用風險的信息是極其有限的，加之技術發展的不確定性以及技術與社會的復雜互動關系也使得技術發展的后續常常超出人類的認識能力。[32]正如人類當初為“微軟小冰”作詩而感到新奇和期待時，萬萬沒想到AIGC參與知識生產的時代這么快就到來了，且引發了如此復雜的秩序問題。人類無法提前預知AIGC技術應用于知識生產領域所引發的合規性問題，自然也不能預先完善知識生產規范細則并制定對違規行為進行判定的標準。 因此，AIGC參與下的知識生產必然面臨“科林格里奇困境”，即當AIGC技術對知識生產的影響成為已知時，原本的違規判斷標準已經不再適用，對技術的控制能力將變得極其有限。[33]

如今，AIGC參與下的知識生產模式已然經歷了一段時間的實踐并顯現出了諸多合規性問題。違反知識生產規范的新型行為表征逐漸涌現，例如出現了新的剽竊手段、侵犯知識產權的行為等。然而，這些表征下的本質尚未能梳理清楚并與知識生產規范一一對應，也沒有形成新的知識生產合規性判定標準，導致當前依然在使用原來的規范標準診斷新的知識生產合規性問題，更遑論知識生產行為的自制與監督。

2. 制度層面：知識生產把關制度與現實需要間的失調

如何才能避免發生AIGC技術參與下的知識生產違規行為？答案是要形成對知識生產行為的有效制約。對主體行為的制約包括內在制約和外部制約。內在制約就是個人的“德性”，是規范內化于認知而形成的對自我行為的控制能力。外部制約是指法律、制度等外在的控制力量，通常由特定的人員或機構依據明確的標準和程序來實施控制。[34]雖然內在規制因能使人形成“自覺”而具有優越性，但絕大多數人并不具備足以控制個人行為的“德性”，仍然需要外部力量對其行為進行規制。而另一小部分人擁有的“德性”也是在外部規制力量的基礎上形成的，且這部分人也不能保證在沒有監督和規制的情況下時刻保持自覺。也就是說，即便明確的知識生產規范已經存在，也并不是所有的知識生產者都能將其內化為時刻警醒的自我規制力量，仍然需要外部制約手段規制其利用AIGC技術開展知識生產活動的行為。

對于AIGC技術參與下的知識生產合規化問題來說，外部規制手段主要是通過知識把關制度識別違規行為，進而做出后續處置。當前的知識把關主要依靠執行審稿制度，即由期刊編輯主導，同行專家參與，結合查重等技術工具，對知識成果的規范性進行審查。由于審稿主體的知識范圍以及問題識別能力和手段的局限，現行審稿模式并不能有效識別AIGC技術參與知識生產導致的隱性抄襲、侵權等行為，也無法有效判別署名作者與AI機器的貢獻比例，甚至無法準確分辨看似合理的有誤信息。因此，現行的知識把關制度已不能有效發現AIGC參與下的知識生產合規化問題，無法為違規行為的懲處提供依據，使得部分知識生產者的技術濫用行為更加無所忌憚。

3. 技術層面：科技理性的膨脹與價值理性的缺位

科技的發展和應用向來具有復雜性。馬克斯·韋伯斷言，近代文明的一切成就和問題都是源自價值理性和工具理性的沖突。[35]AIGC技術應用于知識生產所顯現出的合規化問題不過是作為工具理性范疇的科技理性與價值理性的關系的失調。

科技理性和價值理性分別處于理性天平的兩端?？萍祭硇灾鲝堄每茖W解決一切問題，強調目的至上，關注結果和效益的最大化；而價值理性強調價值觀至上，關注世界“善”與“美”的追求。在科技極大地提高生產力的同時，人們也往往陷入目的至上、效率至上的泥潭，急切渴望享用技術進步帶來的回報而忽視了技術同樣會帶來的價值漠視和倫理危機。AIGC等人工智能技術是非常符合目的性需求的載體，能夠作為知識生產的有效手段達到效率、功利的最大化。[36]AIGC技術雖然能夠有效提升知識生產的效率，但非人性化的技術本質決定了它無法關照更為復雜的價值理性，因而產生一系列違背知識生產規范的問題。AIGC技術的技術理性愈發強大，對價值理性的沖擊也會愈發猛烈。正如AIGC技術的組織和表達能力越完善，知識生產過程中所包含的偽造、剽竊、侵犯知識產權等問題就越隱蔽，知識生產合規化困境就越難化解。

在人類實踐活動中，科技理性和價值理性理應是融合統一的?？萍祭硇孕枰粌r值理性約束和引導以保障科技的向“真”向“善”走向；價值理性也需要科技理性作為基礎，來解決“如何做”的實際問題。[37]目前可應用的知識生產合規性控制手段僅限于已開發的AI Text Classifier、DetectGPT等AIGC生成內容檢測工具。而技術治理手段只能提供科技理性的基礎，并不能完全保障價值理性?！耙约贾渭肌敝粫且粓鋈祟悳筝斎雰r值觀的“技術追逐游戲”，永遠無法及時應對AIGC參與知識生產所涌現出的新的違規形式。

三、AIGC出版背景下知識生產合規化困境的調適思路

鑒于AIGC出版背景下知識生產合規化困境成因的復雜性，本文認為應當抓住一個關鍵突破點，圍繞這一核心構建體系化的困境應對方案。由此提出知識生產合規化困境的調適思路：以構建知識核驗機制為核心策略，配套制定明確的規范標準，多主體全流程搭建知識核驗功能結構，形成多手段融合的作用體系。

1. 核心策略：知識核驗重塑知識生產把關制度

要突破AIGC參與下的知識生產合規化困境，難點有二，其一是知識生產成果的質量把關難，其二是機器與人的參與貢獻剝離難。面對這兩項難題，僅依靠知識生產主體的自我控制遠遠不夠，歸根到底還是要重建嚴格的知識把關制度，即構建把控知識成果水準、還原知識生產過程的知識核驗機制，以起到促使知識生產主體自我約束、確保知識生產符合規范、維護知識生產秩序的作用。

筆者認為，知識核驗是指在統一的知識生產規范和違規行為判別標準的指導下，由多方主體共同參與，多個環節共同作用，對知識生產的過程進行核實，對知識成果的質量展開檢驗，從而識別和判定知識生產成果中的違規內容以及生產過程中的違規行為的系統化知識把關體系。

現行的事實核查機制和審稿制度雖然也都致力于內容治理，但與知識核驗存在本質上的區別。事實核查機制以甄別危害社會秩序和公共利益的虛假信息為目標，以非法的目的、惡意的主觀性為執行標準，[38]只在信息生成結果層面分辨對錯，并不關注信息生產過程?，F行審稿機制雖然默認知識生產的結果規范和過程規范同樣重要，但由于傳統知識生產模式下，人類作者之間存在的合作與制約關系使得知識生產過程相對透明，因而現行審稿模式在實踐中還是側重于對知識成果質量的把控。而知識核驗機制則要執行更為嚴格的知識把關標準，不論是否存在知識生產主體的主觀違規意愿，都要將一切不符合知識生產規范的內容視為治理對象，并且要追蹤和還原知識生產過程，核查人類與AI的分工貢獻等問題。因此，知識核驗機制在把控知識成果質量、核實知識生產過程規范方面的功能是事實核查機制和現行審稿制度無法替代的。

2. 實施前提：制定規范標準提供知識核驗工作依據

發現和治理AIGC技術參與下的知識生產合規化問題需先考慮兩個問題：哪些行為是違反知識生產規范的行為？如何判定一個行為違反了知識生產規范？也就是說，明確的知識生產規范和違規行為判定標準是識別與治理知識生產合規化問題的前提，同時也是知識核驗必需的工作依據。如前文所述，在AIGC技術誕生之初，人們無法預測這項技術進入知識生產領域后會引發什么問題，更不具備預先制定行為規范的條件。而如今，隨著AIGC技術在知識生產領域的應用實踐初具規模，并顯現出明確的合規化問題，人類已經基本掌握了這一階段的技術應用規律和風險機理，制定AIGC參與下的知識生產行為規范和違規行為判定標準的時機已然成熟。

規范標準的制定可從三個方面著手。首先，要解決AIGC技術在知識生產中參與界限的問題。需從倫理、道德、學術規范等角度出發，明確知識生產的哪些環節鼓勵AIGC技術參與，哪些環節禁止AIGC技術涉足，在可參與的知識生產環節中AIGC技術的合理參與程度又如何界定。其次，要補充更新學術規范的具體內容?，F有的面向傳統知識生產模式的學術規范框架仍然具有高度的概括性和穩定性，不過，要在詳細規定和表述上進行調整，如將AIGC技術參與后的新型剽竊、代寫等行為表征囊括在規范細則之內，并對相關概念意涵進行完善和闡釋，使規范文本更適用于AIGC參與下的知識生產實踐。最后，要制定違規行為的判別標準，即為違規行為劃定需要承擔責任的尺度和界限。例如，在傳統知識生產模式下，超過規定文字復制比的論文會被認定為涉嫌抄襲。在AIGC參與知識生產的時代，也需制定具有可操作性的違規行為判定標準，作為知識把關和責任追究的依據。

3. 實現方式：多主體全流程架構知識核驗功能結構

人類行為的外在制約力量可以分為集中和分散兩種模式。集中制約是指對行為的制約力量是由少數幾個人或組織發出的。由于涉及的參與主體少，更易達成統一的制約目標，執行清晰的管理流程，因而集中制約模式能夠對人的行為形成有效的監督和控制，但這種模式也要求制約力量的主體掌握足夠的信息。[34]傳統的審稿模式就屬于集中型的外在制約模式，在傳統知識生產階段起到了很好的知識把關作用。而AIGC技術參與知識生產后，合規化問題的復雜程度已然超出了編輯和審稿專家的信息掌握程度，例如編輯無從得知知識生產過程中AI機器參與的實際情況，致使傳統審稿模式在面對AIGC技術參與下的知識生產合規化問題時，顯得無能為力。

分散型的制約模式則是由多個力量中心發揮制約作用，可以集中多人或多方組織所掌握的信息和手段，從而形成多樣化、全面性的能力結構，能夠在面對復雜問題時創造更多的應對機會和施策條件。因此，知識核驗可采用多元主體協同的工作模式，根據不同主體的差異化優勢和能力范圍構造多個核驗中心，將知識生產合規化問題的發現和規制任務劃分為若干功能領域，并貫穿和連接知識成果流轉的各個階段，最終形成多主體緊密協同、全流程共同作用的知識核驗工作模式，滿足AIGC技術參與下的知識生產合規化問題的治理需要。

4. 作用手段：多手段融合組建知識核驗作用體系

AIGC技術參與下的知識生產合規化困境的形成原因復雜、涉及主體眾多，需要組建綜合性的作用體系，總覽不同領域的思路和方法，發揮不同手段間的互補優勢，軟硬兼施、內外并舉地達到發現問題、判定性質、追究責任、約束行為的目的。

首先，采用“法律—規范—道德”式的層級化約束手段。將AIGC技術參與知識生產引發的權利、義務和責任問題納入法律約束范圍，對相關法律條款進行修改和補充，作為知識生產行為的硬性約束手段；從規范層面規定AIGC參與下的知識生產行為的合規化標準，作為知識生產者行為選擇的標尺和界限；在倫理道德層面明確知識生產應當遵循的價值觀和道德標準，作為知識生產者內化于心的價值判斷依據。與之相對應，知識生產者在做出違規行為時，也要承擔來自法律層面的處罰、來自規范層面的名譽或聲望損失以及來自道德層面的譴責，[39]由此對AIGC技術參與下的知識生產行為起到警戒和約束作用。

其次，實施“自查—審查—監督”式的多步驟核驗手段。由知識生產者對知識成果的質量和生產過程的合規性進行自查糾正；由專門化的知識審核群體對知識生產的結果和過程的合規性進行審查，過濾存在違規情節的知識成果；在知識成果公開發表和傳播后，由讀者大眾繼續對其合規化問題進行監督和反饋。

最后，采取“人機協同”式的核驗手段。一方面，繼續開發、優化并利用AIGC生成內容識別技術，輔助開展人類與AI知識貢獻的分離工作，也幫助和提示人工核驗環節，著重驗證AIGC生成部分內容的科學性；另一方面，使人類在價值判斷和規范方面的經驗及優勢與智能識別技術形成互補，保障知識核驗的效果，并由人類制定、執行并及時調整知識核驗的具體工作流程，在知識生產和傳播的各個階段起到有效的規范控制作用。

四、AIGC出版背景下知識核驗機制的構建方案設計

遵循AIGC出版背景下知識生產合規化困境的調適思路，本文進一步搭建了知識核驗機制的層級框架，構建知識核驗機制的運作流程，并設計了知識核驗機制的保障體系，為知識生產合規化問題的規制提供了明晰可行的方案參考。

1. 全要素整合搭建知識核驗層級框架

AIGC出版背景下知識核驗機制的整體框架包含準則層、工具層、平臺層、主體層、功能層、任務層、目標層7個層次（見圖1）。

準則層是知識核驗機制運行所要遵循的基本原則，包括與知識生產相關的法律法規，適用于AIGC參與下的知識生產新情境的學術規范及倫理道德，以及更為細化的知識生產行為細則和違規行為判別標準。

工具層涵蓋知識核驗機制運行過程所需調用的技術或智力支持，包括區塊鏈、AIGC生成文本識別、自然語言處理、圖像識別等能夠記錄跟蹤知識生產和核驗過程、有效提高核驗效率的技術工具，以及感知力、判斷力、規范經驗、價值取向等來自人類的高階智力手段。

平臺層是知識核驗機制賴以運轉的軟硬件基礎，包含知識成果追蹤流轉平臺、開放同行評議平臺、期刊審核決策平臺、意見反饋收集平臺等。

主體層囊括了知識核驗機制的核心參與者，涉及作者、出版機構（尤其是負責知識成果出版的編輯）、同行專家、讀者（接觸或利用知識成果的公眾）等多方主體。

功能層則是知識核驗機制所具有的核驗功能集合，包括人與機器貢獻的分離、知識生產過程的還原和驗證、知識生產成果質量的檢驗、違規行為的判定以及違規責任的明確等功能。

任務層體現的是知識核驗機制需要達成的工作效果，一是對知識生產結果合規性的核驗，二是對知識生產過程合規性的核驗。

目標層則是知識核驗機制運行的最終目的，即發現和規制AIGC技術參與下的知識生產合規化問題，從而維護知識生產秩序，保證知識生產質量。

2. 多主體協作塑造知識核驗運作流程

AIGC出版背景下知識核驗機制貫穿整個知識成果流轉過程，由多方主體協同參與、多個環節協同作用，核驗和發現知識生產的過程和成果中的違規問題。核驗結果可為追究知識生產違規責任提供依據，從而有效規制知識生產行為。具體核驗流程如圖2所示。

在知識成果的創作生產階段，由作者負責踐行知識生產的規范條例，嚴格約束自身行為，對知識生產過程及成果的規范性進行自查，從根源上避免違規問題的出現。在投稿時對使用過的AIGC產品版本、使用環節以及成果中由AIGC生成的部分進行聲明，并對知識生產的合規性做出書面承諾。

在知識成果的審查評議階段，先由出版機構的編輯對知識成果進行初審，包括利用智能識別工具對成果中的AIGC生成內容進行辨別，與作者提供的AIGC使用聲明進行比對，將不符合規范標準的成果篩除，并進一步將通過初審的成果及其核驗報告提交至同行評議環節。同行評議環節可結合開放同行評議等新型評議模式，吸納更多的同行專家參與成果評議，集中群體智慧充分識別AIGC技術參與生產的知識成果合規性問題。在這一環節，由同行專家群體從創新性、科學性等方面對知識成果的質量進行評判，并重點關注成果中由AIGC工具生成的部分的合規性。在開放評議環境下還可與作者及其他評議專家進行意見交流，最終對知識成果的合規性形成評價意見并將其反饋至出版機構。接著，由出版機構綜合同行評議意見對知識成果進行復審，從編輯角度對知識成果的合規性進行再次審核，對達到規范標準的成果予以認定，即做出出版決策。

在知識成果的傳播利用階段，讀者對成果的閱讀、復現和利用過程也是持續發現問題、監督知識生產合規性的過程。讀者可在意見收集平臺將發現的違規問題及依據進行反饋，并可以與作者進行進一步的交流探討。由于知識成果的傳播和利用是一個長期性過程，因而讀者對知識核驗的參與有助于實現知識生產合規化問題終身負責制的落實。

3. 多角度配合建立知識核驗保障體系

知識核驗機制的構建不僅意味著核驗體系和工作流程的搭建，還需配合體系化的保障措施，從規范、制度、技術角度為知識核驗機制的運作提供必要條件。

在規范保障方面，政府部門需及時修改補充適用于AIGC技術時代的知識生產相關法律，并發布有關知識生產規范、違規行為懲處的相關規定、標準、通知等。由學術共同體聯合討論和更新AIGC出版背景下的學術規范具體內容，形成明確、可執行的規范文本。各高校、科研單位還應建設AIGC技術應用背景下的學術規范教育體系，通過教育、宣傳、引導的手段樹立知識生產者的規范意識，提高其內在修養，加強對知識生產行為的自律，并落實對違規行為的責任追究。此外，應考慮建立跨學科專家委員會，負責監督和評估AIGC技術應用，確保其符合科研倫理和相關法律規定。[40]還應鼓勵學術界和產業界共同開發AIGC技術的最佳實踐指南，為知識生產者提供清晰的合規使用方案。

在制度保障方面，首先，考慮到知識核驗的多方參與主體之間存在的社會合作關系，可能會因為某些主體的搭便車行為而逐漸衰退的情況，[41]因而有必要建立維持保障主體協作關系的激勵約束制度。一方面要樹立共享價值觀念從而形成價值約束，將維護知識生產合規性作為這些參與知識生產、傳播、利用的主體的共識，并明確各方角色和責任，使其積極參與協作。另一方面則要設置利益激勵和約束措施，如將評議參與度及評議水平與名譽聲望掛鉤，將評議結果量化并進行群體意見偏離度測量等，充分調動同行專家及讀者的參與并保障其評議和監督質量。其次，要確立追責制度，明確AIGC出版背景下的知識生產違規行為的責任歸屬、問責流程及追責手段。將知識生產違規行為與責任主體的切身利益相掛鉤，使知識核驗的作用能夠落到實處，起到警醒和制約作用。再次，設立獨立的第三方監督機構，負責監督知識核驗的過程和結果，確保其公正透明。同時建立知識核驗反饋機制，鼓勵公眾參與反饋，允許公眾運用獨立的認知和批判能力，[42]對核驗結果提出質疑，以提高核驗的準確性和可靠性。

在技術保障方面，一方面，AIGC工具開發者應當履行透明度義務，以通俗有效的方式公開算法邏輯及數據來源，以便作者在技術應用過程中合理衡量使用行為和生成內容的規范性，同時也方便其他核驗主體根據技術風險明確核驗重點。另一方面，政府部門、出版機構、技術企業應當聯合推進區塊鏈、AIGC內容識別等先進技術的研發和應用，并積極開發部署各個工作平臺，為知識核驗提供有效的技術手段，創造有利的技術環境?？商剿鹘㈤_放的知識核驗平臺，允許不同的核驗主體共享數據和算法，以提高核驗的效率和準確性。此外，注重知識核驗體系的持續更新與迭代升級。隨著科技的快速發展，新的技術手段不斷涌現，應當緊跟時代步伐，及時將新技術引入知識核驗體系和學術出版活動，[43]確保其始終保持先進性和有效性。

綜上，建立知識核驗保障體系需要從規范、制度和技術三個維度系統發力。通過明確知識生產規范、完善激勵約束機制、加強技術創新應用，構建高效、公正、可靠的知識核驗體系。這一體系不僅有助于提升知識生產的質量，也有利于推動科研創新，為人類知識社會的可持續發展奠定堅實基礎。

結語

AIGC技術不僅為知識領域帶來了生產力的變革，也引發了一場知識生產秩序的空前危機。在規制手段缺失的現實狀況下，知識生產違規行為肆意滋長，形成了AIGC出版背景下的知識生產合規化困境。作為知識領域的守門人，出版界在化解困境、維護規范、重建秩序方面責無旁貸。本文詳細梳理了AIGC技術應用于知識生產可能引發的知識生產合規化問題，分析了這些問題未被有效規制以至于出現治理困境的原因。抓住要重塑知識把關制度從而有效發現問題、明確責任、制約行為這一關鍵突破點，提出以知識核驗為核心的知識生產合規化困境調適思路，并據此設計了知識核驗機制的構建方案，為出版界有效應對AIGC技術參與下的知識生產合規化問題提供了行動指南。知識核驗機制作為一套系統化的運作體系，不僅意味著出版機構工作模式的革新，更代表著多方主體在知識生產與傳播過程中的深度協同。這一機制全面滲透于知識生產的各個環節，對維護知識生產秩序具有至關重要的意義。未來的研究還需進一步關注AIGC時代的知識生產規范細則、技術應用邊界、違規判定標準的制定問題，探究知識核驗機制運行的動力機制、主體協同機制，并探討詳細的出版審核創新模式以及改革行動方案。

參考文獻：

[1] Cresto E. A Virtue Epistemology： Apt Belief and Reflective Knowledge[J]. Canadian Journal of Philosophy， 2010， 40（1）： 131-149.

[2] 殷杰，王曉森. 科學理解、知識規范與德性路徑[J]. 江漢論壇，2022（2）：12-17.

[3] 姜濤. 法律發展與法律知識化[J]. 法律科學（西北政法大學學報），2008（4）：11-22.

[4] 李洪修，劉笑. 數字化背景下高校智慧課堂建構的技術之維[J]. 高校教育管理，2023，17（5）：81-89，124.

[5] 田海濱，韓東暉. 論知識的規范性困境及其出路[J]. 哲學動態，2019（11）：100-106.

[6] 徐夢秋. 規范通論[M]. 北京：商務印書館，2011：617.

[7] 陳志堅. 科學規范是科學進步的另一翼——兼解“錢學森之問”[J]. 科技進步與對策，2013，30（10）：21-25.

[8] 李春輝. 新的時代背景下學術寫作的內在要求[J]. 社會科學動態，2023（10）：113-116.

[9] 楊玉圣，張保生. 學術規范導論[M]. 北京：高等教育出版社，2004：337.

[10] 教育部科技發展中心. 在線發表科技論文的學術道德和行為規范[EB/OL].[2023-12-23].https：//www.edu.cn/rd/gai_kuang/zheng_ce_fa_gui/200603/t20060323_144244.shtml.

[11] 科學技術部科研誠信建設辦公室. 科研誠信知識讀本[M]. 北京：科學技術文獻出版社，2009：14-15.

[12] 高奇琦，嚴文鋒. 知識革命還是教育異化？ChatGPT與教育的未來[J]. 新疆師范大學學報（哲學社會科學版），2023，44（5）：102-112，2.

[13] 蔣雪穎，劉欣. 生成式人工智能技術下的學術生產與出版：變革、失范與路徑[J]. 數字圖書館論壇，2023，19（5）：64-71.

[14] 王坤. 論反剽竊的理論依據及其對制度建構的影響[J]. 浙江學刊，2013（4）：136-142.

[15] 趙志彬. 中國知識產權文化的發展與展望[J]. 知識產權，2019（8）：28-37.

[16] 朱鴻軍，李辛揚. ChatGPT生成內容的非版權性及著作權侵權風險[J]. 新聞記者，2023（6）：28-38.

[17] 葉繼元. 學術規范通論[M]. 第二版. 上海：華東師范大學出版社，2017：207-208.

[18] 熊琦. 人工智能生成內容的著作權認定[J]. 知識產權，2017（3）：3-8.

[19] 鄧建鵬，朱懌成. ChatGPT模型的法律風險及應對之策[J]. 新疆師范大學學報（哲學社會科學版），2023，44（5）：91-101，2.

[20] 吳漢東，張平，張曉津. 人工智能對知識產權法律保護的挑戰[J]. 中國法律評論，2018（2）：1-24.

[21] 龍文懋. 人工智能法律主體地位的法哲學思考[J]. 法律科學（西北政法大學學報），2018，36（5）：24-31.

[22] 梁鵬. 人工智能產品侵權的責任承擔[J]. 中國青年社會科學，2018，37（4）：11-14.

[23] 金炳華. 哲學大辭典（上冊）[M]. 上海：上海辭書出版社，2007：23.

[24] 柏拉圖. 泰阿泰德 智術之師[M]. 嚴群，譯. 北京：商務印書館，1963：21.

[25] 杜華，顧小清. 人工智能時代的知識觀審思[J]. 中國遠程教育，2022（10）：1-9，76.

[26] 高奇琦. 知識革命還是知識墮化——ChatGPT與知識生成秩序[J]. 中國社會科學評價，2023（2）：8-13.

[27] 杜月升. 論知識生產及其經濟特征[J]. 深圳大學學報（人文社會科學版），1999（2）：46-51.

[28] 許崴. 試論知識生產的構成要素與特點[J]. 南方經濟，2005（12）：53-55.

[29] 段永杰，李彤. 數字出版中AIGC生成物的應用場景及其倫理規制[J]. 出版科學，2023，31（6）：84-93.

[30] 喻國明，蘇芳，蔣宇樓. 解析生成式AI下的“涌現”現象——“新常人”傳播格局下的知識生產邏輯[J]. 新聞界，2023（10）：4-11，63.

[31] 宋時磊，楊逸云. 應用場景、風險與前景：ChatGPT類大語言模型時代的學術出版[J]. 出版科學，2023，31（5）：76-84.

[32] 賈向桐，胡楊. 從技術控制的工具論到存在論視域的轉變——析科林格里奇困境及其解答路徑問題[J]. 科學與社會，2021，11（3）：26-39.

[33] Calvert， Jane. Governing in the Context of Uncertainty[J]. Hastings Center Report， 2014， 44（S5）： S31-3.

[34] 賈新奇. 從制約的角度來理解公民倫理[J]. 首都師范大學學報（社會科學版），2008（4）：48-53.

[35] 周蘭珍，潘洪林. 科技理性與價值理性關系探析[J]. 江蘇社會科學，2007（6）：38-41.

[36] 陳昌鳳，石澤. 技術與價值的理性交往：人工智能時代信息傳播——算法推薦中工具理性與價值理性的思考[J]. 新聞戰線，2017（17）：71-74.

[37] 湯建龍. 科學發展觀：科技理性和價值理性的統一[J]. 理論導刊，2013（1）：62-65.

[38] 漆晨航. 生成式人工智能的虛假信息風險特征及其治理路徑[J/OL].情報理論與實踐，1-10[2023-12-14].http：//kns.cnki. net/kcms/detail/11.1762.G3.20231128.1005.002.html.

[39] 陳偉. 作為規范的技術標準及其與法律的關系[J]. 法學研究，2022，44（5）：84-100.

[40] 張洪忠，徐鴻晟. 智能傳播時代的范式轉變：媒介技術研究十大觀點（2023）[J]. 編輯之友，2024（1）：38-44.

[41] FEHR E， CACHTER S. Cooperation and punishment inpublic goods experiments [J]. American Economic Review， 2000， 90（4）： 980-994.

[42] 彭蘭. 智能生成內容如何影響人的認知與創造？[J]. 編輯之友，2023（11）：21-28.

[43] Thomas P N. 人工智能環境下的學術出版[J]. 圖書情報知識，2023（4）：6-9.

The Normalization of Knowledge Production in the Context of AIGC Publishing： Dilemma and Adaptation

WANG Peng-tao1，2（1.School of Information Management， Nanjing University， Nanjing 210023， China; 2.Publishing Convergence Development Strategy Institute， Nanjing University， Nanjing 210023， China）

Abstract： AIGC technology， with its powerful content generation capability， quickly permeated through the field of knowledge production and became a favorable tool for knowledge production while it also triggered a lot of normalization problems. The publishing industry has long been keenly aware of the seriousness of the problem， but due to the lack of ability to deal with it， it has been caught in the governance dilemma of knowledge production normalization problems. This paper has sorted out the participation of AIGC technology， which may violate the norms of independence， intellectual property， clear rights and responsibilities， science， and innovation of knowledge production. It has also analyzed the structural causes of the normalization dilemma of knowledge production， put forward the dilemma debugging ideas centered on the construction of the knowledge verification mechanism， and further designed the construction of the knowledge verification mechanism program to provide an effective reference for cracking the knowledge production normalization dilemma and maintaining the knowledge production order in the context of AIGC publishing.

Key words： AIGC; knowledge production; intelligent publishing; academic norm