ChatGPT應用中的科研誠信風險及其倫理治理

周謹平

ChatGPT應用中的科研誠信風險及其倫理治理

周謹平

(中南大學人文學院，湖南長沙，410083)

作為具有高度人工智能特點的新成果，ChatGPT自面世以來就受到廣泛關注。其強大的信息整合能力、生成性的自主學習能力、良好的人機交互能力在為科學研究提供有力輔助的同時，也產生了科研誠信的隱憂。ChatGPT在輔助科研中存在的誠信風險主要包括：信息失真的風險、剽竊侵權的風險、科研失德的風險。要規避這些風險，就必須對ChatGPT的應用進行倫理治理。ChatGPT使用應當遵守公開知情原則、公平正義原則、共同責任原則。唯有強化研究者的道德自覺，建立ChatGPT倫理審查機制，構建ChatGPT科研誠信倫理控制體系，才能確保ChatGPT在科研輔助中滿足科研誠信要求、具備道德正當性。

倫理；治理；科研誠信；ChatGPT

ChatGPT無疑是近年來最具有創新性和關注度的應用軟件之一。自面世以來，ChatGPT在短短三個月內就吸引了超過一億的活躍用戶，成為有史以來活躍用戶破億速度最快的軟件。ChatGPT備受關注的根本原因在于它帶給了人們新的AI認知與體驗。首先，ChatGPT代表著強人工智能的發展趨勢。雖然關于該款軟件是否屬于真正意義上的強人工智能仍然充滿爭議，但我們無法否認它所代表的強人工智能傾向。人工智能強弱最重要的標準就是機器是否具備自我思考和學習能力，是否能形成獨立意識。ChatGPT當然難以被認為是具備了獨立意識，能夠成為與人類相提并論的主體，但它所展示的人工智能發展速度卻毋庸置疑。而且ChatGPT具備了一定的自我學習能力，能夠自主提高認知水平。其次，ChatGPT具有強大的信息收集與語言整合能力。ChatGPT能夠根據用戶要求準確地收集相關信息并且將之組織為接近自然語言的文字。雖然ChatGPT存在前沿信息遺漏、語言生硬、與自然語言表達偏差等問題，但它已經可以根據有效信息編輯初稿文本。這顯然是對前代人工智能的重要突破?？梢韵胂?，隨著該技術的不斷完善，人工智能的信息收集與整合能力將不斷強化。在思路受阻的情況下，ChatGPT有助于通過信息編輯幫助作者開拓視野，發揮有效的提示作用，而且非英語用戶還可以通過這款軟件的應用提高論文的語言水平和連貫性。正因如此，已有作者將之視為科學研究的合作伙伴，甚至在公開發表的成果中將它列為共同作者[1](310)。最后，ChatGPT具有良好的交互溝通能力。ChatGPT不但可以對用戶的問題進行回饋，還可以主動與交往對象溝通，主動提供前沿信息，幫助用戶適應社會變化。Chandan Pan等學者就指出，ChatGPT是人工智能交往領域的重大變革，將為社交5.0提供新的平臺，在提升用戶溝通體驗的同時重構商業世界，永久性地改變人們學習和操作的方式[2](384?385)。

ChatGPT的上述特性顯然為科學研究創造了更為高效的輔助手段。但是，技術的發展總是一柄雙刃劍，ChatGPT在為人們提供便利的同時也隱含著倫理風險。誠然，我們應該以開放和積極的態度對待技術創新，但是，我們也必須對潛在的風險予以足夠的重視，唯有未雨綢繆，才能防患于未然。ChatGPT的使用如果不加限制，則可能引發嚴重的科研誠信問題。對之進行倫理治理是確保這款軟件在科學研究領域應用正當性的內在要求。

一、ChatGPT應用中的科研誠信風險

科研誠信是學界關注的核心問題，關乎學者和學術共同體的根本權益。世界科研誠信大會已經舉辦了七屆，先后通過了《科研誠信新加坡宣言》《科研誠信蒙特利爾宣言》《阿姆斯特丹議程》《香港原則》《科研誠信開普敦宣言》。從《科研誠信新加坡宣言》發布開始，后面的歷屆會議都以此作為基礎性文件，強調對該宣言在具體科研領域的執行，并且針對出現的新現象進行內容的細化與補充?！犊蒲姓\信蒙特利爾宣言》就區分了有組織科研中普遍合作的責任、科研合作管理的責任、科研合作關系的責任與研究結果的責任四大板塊，重點強調科研合作中的誠信責任[3]?！栋⒛匪固氐ぷh程》明確提出要對提升科研過程和實驗數據使用中的科研誠信予以更多關注，貫徹執行《科研誠信新加坡宣言》提出的在科研任何方面都保證誠實、負責任的科研引導、保證科研合作中的專業尊重和公平、代表他人對科研進行良好管理責任四原則。為此，《阿姆斯特丹議程》提出建立“負責任的研究行為注冊制”(RRRCR)[4]?！断愀墼瓌t》試圖通過準確識別并獎勵科研人員的方式鼓勵科研誠信行為，在科研實踐中避免誠信問題[5]?！犊蒲姓\信開普敦宣言》則更聚焦于科研資源的不公平現象，其具體原則主要涉及科研的多樣性和包容性、從構想到實施的公平實踐、以互相尊重搭建信任之路、責任分擔四個方面[6]?？梢钥闯?，《科研誠信新加坡宣言》發布之后，后面各屆世界科研誠信大會雖然主題各有側重，但基本都遵循該宣言的原則框架，正如該宣言所指出的“科研的價值和受益關鍵取決于科研誠信”[7]。

作為世界科研誠信大會的共識性成果，《科研誠信新加坡宣言》集中表達了科研誠信的現代要求與基本原則。歸納起來，《科研誠信新加坡宣言》主要涉及四大倫理層面：一是科研的真實性。無論是對科研數據準確度的要求，還是對科學研究客觀、規范的注重，都旨在保障科學研究的真實性，杜絕科研造假行為。二是科研權利的維護。規避科學研究的利益沖突、告知合作者可能存在的不當行為、禁止剽竊、體現不同科研參與者的角色與作用，都是注重科研主體權利的表達。三是科研倫理責任的擔當?！犊蒲姓\信新加坡宣言》要求研究者必須專注于自己擅長的領域，尊重其他同行的成果，并且關注研究的社會收益，確保研究符合倫理的標準與訴求。四是健康的科研環境，確保良好的科研機制與健康的科研氛圍。如果ChatGPT在應用過程中缺乏倫理引導和規制，將引發科研誠信的倫理風險。

首先，ChatGPT隱含信息失真的風險。作為一款具有文字生成能力的軟件，ChatGPT在信息的收集與編輯中，也會提供誤導信息。該軟件用戶發現，ChatGPT在回答問題過程中會臆造、虛構內容，無法保證信息的真實性。Deepak指出，他曾向ChatGPT輸入問題“杜魯門的植物呼吸理論是什么”——事實上這是一個毫無意義（未曾存在）的概念，但軟件卻生成了系統性的回答文本，其中包含細致的分析過程，使提問者都懷疑是否真有該理論的存在[8]?？梢韵胂?，如果我們在科研中應用ChatGPT作為輔助工具，在我們熟悉的領域可以較為容易地區分其信息是否真實，但如果其提供的信息或者我們輸入的問題超出了我們自己的認知范圍，那么就難以辨別其提供的信息的真偽。ChatGPT在提供準確信息方面存在明顯的局限性，它對隨意的語言表達過于敏感，難以系統性地理順模棱兩可的表達[9](1?2)。尤其值得關注的是，ChatGPT的語言方式較之以往的人工智能語言，更容易獲取用戶的信任。正如吳靜、鄧玉龍所言：“由于這種文本生成將表達以自然語言即人類語言這種最接近自然性的方式呈現出來，并使用了最古老的思想生成方式——對話——作為提示設計(prompt engineering)的路徑，它使得整個人機互動過程體驗為自然的社交過程，從而加深了對話者對于生成內容的信任度?！盵10](20)ChatGPT自然語言模式的表達無疑進一步提高了信息真實性的分辨難度。信息失真的風險還鑲嵌在ChatGPT的算法范式之中。迪帕克認為ChatGPT根本上改變了軟件與用戶之間的關系。諸如網站之類的平臺在與用戶交互時，用戶掌握著更多的主動權，可以根據自己的需要有針對性地點擊鏈接獲取信息——這也是被認為有效防止信息失真的范式。用戶在搜索信息時可以明確選擇信息來源、判斷信息的可靠性，但ChatGPT使用戶成為被動使用者(passive-user)。ChatGPT以及類似軟件提供信息的方式對于用戶而言是不透明的，削弱了用戶的主體地位，使用戶難以定位信息來源并判斷信息真偽[8]。

其次，ChatGPT隱含剽竊侵權的風險。ChatGPT在信息收集過程中有著快速、開放、系統、全面的優勢，這是因為它的背后有著強大的信息存儲系統。如姜宇輝就論及，“ChatGPT不僅在短時間內就高效掌握了人類歷經漫長歷史才逐步成形和成熟的各種民族語言，而且更是與時俱進地將整個互聯網都作為它自己的知識儲備”[11](44)。在ChatGPT的應用中，存在著“共享”與“權利”的價值沖突。一方面，ChatGPT創造了科學研究的公共空間，為人們分享人類智慧成果提供了廣闊的平臺。知識的共享不但有利于科學研究共同體的互利互惠和協同合作，也有利于打破學術壟斷、實現學術平等。另一方面，開放的知識體系也為盜取、剽竊等學術不端行為提供了滋生的土壤。很多學者的觀點、思想、成果被動成為ChatGPT的公共學術資源，很多市場模式和科技產業也通過ChatGPT被暴露在公眾視野之下。隨著該軟件技術的升級和拓展，知識產權的保護將面臨更為嚴峻的挑戰。針對微軟和谷歌等IT業巨頭都準備投入巨資開發、使用開放性人工智能項目[12](491)，諸多學者對ChatGPT表示了倫理的擔憂。我們不能排除，某些學者和學生直接利用這款軟件撰寫論文和學術報告，通過語言的重組有意規避剽竊審核，實際上不斷重復前人研究、將他人成果據為己有。更有甚者，ChatGPT在引用其他學者觀點時還往往根據目標內容進行篡改和誤讀，一方面讓我們難以追蹤其引用的信息來源，另一方面誤導科學研究，產生負面科研成果[1](311)。

再次，ChatGPT隱含科研失德的風險?？茖W研究是服務于人類社會發展和人們生活福祉的事業，內生于對善的價值追求。但是也有少數研究成為惡的工具，服務于邪惡目的。二戰時期納粹德國和軍國主義日本所進行的慘絕人寰的人體試驗為人類世界帶來了深重災難。對于這一類科研而言，ChatGPT也可能淪為作惡的推手。ChatGPT軟件對科學的目的性予以了關注，也采取了限制“關鍵詞”搜索等措施防止軟件的濫用。由于科研方式的多樣性，用戶可以通過間接信息收集的方式獲取想得到的材料，因此ChatGPT的反制措施效果是值得懷疑的?！犊蒲姓\信新加坡宣言》中明確將權衡社會收益與奉獻作為科研誠信的重要內容。有的科學研究雖然不是本著惡的目的，但可能實驗過程充滿風險，對受試者群體產生嚴重傷害，其所承擔的風險遠高于收益。對這類科學研究，ChatGPT難以通過技術性的防御機制進行識別和處理。相反，ChatGPT為此類項目的開展提供了契機。換言之，研究者更容易通過應用ChatGPT規避相關審查，以更直接的方式獲取有效信息。研究表明，ChatGPT雖然通常情況下會做出安全和無害的回應，但它的系統易受攻擊，包括指令性攻擊（通過根據錯誤指令所建立的模式來從事非法或不道德行為）[13](4)。

最后，ChatGPT隱含不正當競爭風險?？茖W研究既是學者擔負的光榮使命，也是學者背負的職業任務。作為職業，在科研領域也必然存在競爭關系?？蒲械母偁幖劝w層面，比如國家之間、科研機構之間的競爭，也包括個體層面，比如研究者在職稱評聘、科研項目投標和其他科研資源方面的競爭。ChatGPT一方面可能造成科學研究的不公平，那些擁有發達網絡技術，在軟件應用方面更為熟悉的研究群體和個人無疑占有優勢地位，而網絡技術相對落后，對新的網絡技術缺乏敏感性的群體則處于不利地位。這種不公平已經表現在知識學習方面，即便沒有經過任何專業訓練和強化訓練，初代ChatGPT已經可以在部分大學專業考試中取得合格的成績，它能夠在明尼蘇達大學法學考試中獲得“C+”，在沃頓商學院的考試中獲得“B?”和“B”的成績。不難想象，那些熟悉此款軟件的學生將更易獲得高分[14](220)。這種現象也必然存在于科學研究領域。 另一方面，ChatGPT可能擾亂正常的科研秩序，造成學術資源浪費。正如Yatoo和Habib所言，ChatGPT也許在不經意間成為垃圾學術(Junk science)的推手[1](311)。他們認為，有些研究者是徹頭徹尾的欺騙性、掠奪性學者，他們只注重追求成果的數量，為了達到某種學術標準不擇手段。他們極有可能利用ChatGPT強大的整合與編輯能力“合成”論文，實現高產之目的。隨著他們的利用，其他學者也會競相模仿，最終使科學研究偏離獲取新知、服務人類的目標，造成研究資源的極大浪費[1](311)。

二、ChatGPT應用中的倫理原則

要規避ChatGPT應用中的倫理風險，就必須建立健康的倫理秩序，確保其使用過程的道德正當性。確立倫理原則是構建倫理秩序的根本要求。對于ChatGPT的應用，必須遵循以下倫理 原則。

首先，公開知情原則。由于ChatGPT潛在的風險，部分期刊和學術機構對之持排斥性態度，明令禁止使用，比如包括美國化學會(American Chemical Society)在內的一些期刊禁止作者使用ChatGPT進行寫作。但是這顯然沒有從根本上解決問題。對于科技發展，我們不能因噎廢食，從長遠來看，應用新的技術是大勢所趨。不論我們對于ChatGPT的禁止是否現實可行——因為對該款軟件使用的甄別非常困難，AI技術的不斷完善必然還將產生新的同類軟件，而且功能會更加強大。而且，禁止使用反而可能導致研究者故意隱瞞軟件使用情況，為科研誠信保護帶來更多的挑戰。要保證科研誠信，我們就必須將ChatGPT的使用置于陽光之下。如賈婷等學者所言：“透明可釋的技術過程是預測智能行為的支點，促進‘負責任’研發行為，并使‘可問責’成為可 能?！盵15](657)任何使用ChatGPT進行研究的人員都必須注明使用信息，包括應用ChatGPT的研究目的、研究內容、研究方法?？茖W研究是人類共同的事業，而且在科研過程中很可能觸及其他群體利益。因此，科研共同體和利益相關者有權了解研究目的與研究動態。透明公開原則意味著研究者需要把ChatGPT應用中所收集的自己無法保證真實的信息、來源不明的信息以及可能的倫理風險告知科研合作者、成果發表機構和利益相關主體。當然，該原則也許會受到來自隱私權和知識產權的質疑。但是，ChatGPT作為一種公共的信息資源，對其使用并不會侵犯研究者的隱私權和知識產權，對其使用信息的公開并不會傷害研究者的權益。

其次，公平正義原則?？茖W研究誠信始終以善為前提，而公正是“一切德性的總括”[16](130)。公平正義原則意味著對ChatGPT的使用必須服務于道德目的，有助于人類福祉的實現。任何有損于人類生命、健康、安全、利益的技術必須嚴格禁止。在ChatGPT使用中履行作為研究者的法定義務和職業操守，是公正原則的根本要義。在該類型軟件的使用中，研究者不僅要考慮自身的利益，還必須顧及他人和社會的利益。如亞里士多德所言，“因為具有公正德性的人不僅能夠對自身運用其德性，而且還能對鄰人運用其德性”[16](130)。

此外，公平正義原則要求我們創造公平的科研環境。ChatGPT存在擴大研究者群體差距的可能性。我們所生活的世界廣泛存在著技術資源分配所產生的不平等?；诰W絡技術、人工智能技術的ChatGPT則可能加劇這種不平等。人工智能領域發達的地區可以借助該軟件提高科研效率，這些地區也通常是科技發展優勢地區。在ChatGPT的科研應用中，研發地區掌握著軟件的話語權。他們決定這款軟件向誰開放，以及如何授予權限。因此，類似軟件究竟會打破學術壟斷，還是會固化學術壟斷，事實上存在很大疑問。有學者指出，雖然ChatGPT擅長用英語進行回應，并且熟悉美國文化背景，但對其他語言和文化的反饋則存在一定障礙[13](4)。顯然，英語世界的研究者在ChatGPT使用中更加得心應手，而其他語言地區的研究者則面對更大的困難。由于ChatGPT以人類的知識體系作為其儲備，在應用中表現出明顯的公共性特點。在某種意義上，ChatGPT可以被視為一種公共的學術研究平臺。就此而言，它必須滿足作為公共性資源的兩個正義條件：一是機會向所有人開放，二是有助于縮小不同研究群體在資源分配中形成的差別。機會向所有人開放對于ChatGPT應用而言，除了無差別地開放登錄入口，還要充分考慮信息的多樣性以及為所有人提供便利的操作。除了語言、文化的差異，還有對自然生理差異的彌補。即便它似乎向所有研究者都開放了使用通道，但如果有的研究者因為生理缺陷或者生理能力限制無法使用，實質上ChatGPT向他們關閉了大門。因此，ChatGPT需要針對殘障群體和行為不便群體（比如老年群體）進行操作設計，使這部分研究群體也能平等獲得使用ChatGPT的機會。對于第二個條件，我們要充分考慮不同地區研究者的境遇。ChatGPT目前并不是免費軟件，而是提供了多種收費模式。經濟發達地區的研究者可能在承擔費用時不會承受太大壓力，但經濟落后地區的研究者則面臨困境。ChatGPT在費用收取中應該考慮經濟落后地區的研究群體，采取差異化的方式降低經濟成本。

最后，共同責任原則。所有研究者都是學術共同體的成員，在研究中必須承擔共同責任。在對ChatGPT的應用中，研究者必須尊重共同體成員權利，尊重共同體成員的成果和做出的貢獻。其一，研究者有責任澄明、保證ChatGPT應用內容的真實性。以ChatGPT為代表的生成性人工智能使我們產生了主體性擔憂，即人工智能是否會成為研究者之外的另一個主體。如果從人工智能的功能以及發展趨勢而言，我們對其主體地位的辨別將越來越困難，這也使得對此問題的探討充滿爭議。但如果從責任主體的視角分析，我們則可以清晰地斷定ChatGPT并不具有研究主體身份。之所以眾多期刊都反對將ChatGPT作為共同作者，并不是否認ChatGPT以及其他人工智能產品在研究中做出的貢獻，而是這些產品不可能對研究成果擔負任何責任?？梢钥隙?，研究者是科研誠信的唯一主體。所以，無論研究者使用何種技術，都必須保證研究數據、信息的客觀性、可靠性。對于ChatGPT所提供的信息，研究者負有真實性檢驗的義務。其二，研究者要在ChatGPT應用中自覺維護包括知識產權在內的其他研究者權利。對ChatGPT提供的理論、方法和結論，研究者必須標明出處，防止ChatGPT復制、編輯、篡改其他學者的成果。ChatGPT可能會提供潛在的研究合作者，在ChatGPT生成作用下，也許研究成果的框架和思路來源于某一位同行，這位同行就將成為研究實際的合作者。研究者在溯源信息的同時要尊重其他學者的貢獻，在成果中完整表現所參照、借鑒理論、方法在研究中發揮的作用。其三，研究者要擔負研究的社會責任。ChatGPT無法準確判斷研究的風險及產生的社會影響。研究者在應用ChatGPT及類似人工智能軟件的過程中要準確把握研究的價值取向，充分考慮研究可能帶來的收益與風險，保證收益的最大化、同時確?？赡苁找姹仨氝h大于風險，在風險不可避免的情況下將風險降至最小。

三、ChatGPT應用的倫理治理路徑

促使研究者在ChatGPT應用中秉承科研誠信精神，遵循相應的倫理原則，是防止ChatGPT濫用的根本保障。對ChatGPT應用，我們必須建立行之有效的倫理治理路徑。

首先，強化研究者的道德自覺。倫理治理與其他治理的關鍵區別在于，倫理治理注重主體內在德性的培養，關注外在規范的道德內化。要從根本上確保ChatGPT應用合乎社會的倫理期待，就必須提升軟件使用者的道德水平，形成自覺的道德意識。Haven等學者指出，科研公開、確?？蒲袛祿目伤苄院涂煽啃?、科研透明、選擇合理的科研方式提高研究質量和可信度等科研誠信的核心要素最終都掌握在科研主體手中，促使研究者自覺遵循科研誠信就顯得尤為重要[17](302?303)。內在道德修養與規范制度建設對于科研誠信而言猶如車之兩輪、鳥之雙翼，缺一不可。與后者相比，研究主體的道德培育更有利于及時規避可能出現的問題，滿足倫理治理的個體性需要。構筑研究者的道德堤壩，是一種預防性的主動治理機制。就研究者而言，需要不斷強化自身的科研誠信責任觀念，涵養科研誠信品格。研究者實際扮演著三種倫理角色：一是作為普遍意義上的道德個體，應該在道德理性的指引下追求善的價值，塑造個人美德；二是作為科研工作從業者，應該遵守職業倫理要求，恪守職業道德；三是帶有公共性特點的社會成員，應該關切公共利益，發揮正面道德示范作用。就研究機構和科研管理部門而言，應該定期組織研究人員進行倫理培訓，詳細講解ChatGPT使用過程中可能出現的科研誠信問題，明確科研誠信的道德原則，強化研究者的道德認知。同時，相關部門還可以利用情境虛擬等方式增強研究者在使用ChatGPT過程中對于科研誠信的道德情感與道德意志。就研究團隊而言，形成健康的倫理文化也是提升研究者道德意識的關鍵環節。人們都希望獲得所在團隊的認同，因此，團隊文化深刻影響成員的行為模式。如Shimizu所言，人們對于所在團隊聲譽的關切對于行為有著決定性作用，為了獲得團隊的認同，人們甚至愿意承擔個體利益的代價[18](429)。研究者違反科研誠信利用ChatGPT的根本動機在于試圖獲取不正當的額外利益，而且容易在團隊內部引發道德破窗效應。在研究團隊中形成科研誠信的風尚，對以非正當方式使用ChatGPT采取排斥的道德態度，將有助于提升團隊成員的道德自律。

其次，建立ChatGPT倫理審查機制。倫理審查是保護研究相關者權利、維護研究規范性、道德性的重要機制，圍繞ChatGPT使用建立倫理審查機制將為該軟件輔助科研提供及時有效的誠信監管。當前，我國對于科技倫理審查的呼聲日益高漲，國家層面對于科技倫理予以高度重視。2019年，中央全面深化改革委員會第九次會議審議通過《國家科技倫理委員會組建方案》，提出“要加強統籌規范和指導協調，推動構建覆蓋全面、導向明確、規范有序、協調一致的科技倫理治理體系”[19](51)。由于ChatGPT等人工智能輔助手段的特殊性，各級科研部門及科研管理部門都應針對類似軟件使用建立倫理審查委員會，編寫倫理審查委員會章程，設計倫理審查流程，推動倫理審查的制度化、規范化、常態化運轉。倫理委員會主體包括科研管理人員、研究人員、人工智能領域的專家以及公眾，形成多元協同的審查網絡，使ChatGPT使用得到全方位的監督。研究者在利用人工智能輔助研究時，應該撰寫研究報告，向倫理審查委員會說明使用人工智能軟件的路徑設計與目的，以及科研誠信的保障措施。倫理委員會對于輔助科研項目和成果具有否決權。相應地，各級科研部門和科研管理部門應該組織實施倫理審查委員的培訓，設置相關系統課程，建立持證上崗制度，通過培訓的人員才能獲得倫理審查資格。倫理審查機制的建設一是要保證中立性與客觀性，避免由于利益糾葛影響審查的公正性。二是要統一審查標準，防止不同機構、不同級別倫理審查質量出現明顯差異，特別是要注意倫理審查規則與其他規范性文件的適配性。李建軍等學者在分析科技倫理審查存在問題時就發現，美國“機構倫理審查委員會和聯邦法規應用不一致的證據加劇了對該審查機制的不滿”[19](56)。三是要凸顯ChatGPT等人工智能軟件應用的特點，準確對接科研誠信的倫理要求。作為專項倫理審查，人工智能輔助科研倫理審查委員會的運作必須反映ChatGPT的技術特征，而且既要恪守科研誠信的底線，又不能在審查過程中擴大對象范疇，影響科研工作的正常開展、限制科研自由。

最后，構建ChatGPT科研誠信倫理控制體系。ChatGPT科研誠信倫理控制體系主要涉及兩個方面。一是對ChatGPT軟件的倫理控制。ChatGPT的強大之處在于它獨特的算法與知識生成方式。作為一款軟件，ChatGPT本身更多體現工具性價值，如何填補工具潛在的科研誠信漏洞，在其技術結構中體現科研誠信的倫理規范，是實現ChatGPT道德化的必然要求。技術的道德化包含兩條路徑，“一種是隱性調解設計，盡量避免不合理的調解作用，避免技術的不道德化；另一種是顯性調解設計，直接設計具有特定調解作用的技術物，使某種具體的道德規范成為技術功能的一部分，實現技術的道德化”[20](88)。此外，軟件的運行模式會直接影響用戶的使用行為，人機交互過程也是使用者的行為塑造過程。假設ChatGPT的運行要求用戶以遵守科研誠信的方式操作，必將提高ChatGPT使用的可信度。所以，需要對ChatGPT的運行程式進行倫理修正，將科研誠信要求轉化為ChatGPT的結構、運行要素輸入軟件之中，使之成為軟件程序的有機組成部分。二是對研究者使用行為的倫理控制。確立標準化的行為規范是誠信行為控制的內在訴求。研究機構和科研管理機構應該撰寫關于ChatGPT等人工智能軟件使用的科研誠信規范文件，制定標準化的規范體系，為人工智能輔助科研提供明晰的倫理指導。由于科研的差異性，不同研究機構可以根據主要研究方向特點編制使用ChatGPT等人工智能軟件輔助研究的倫理手冊，規范ChatGPT應用過程。同時，科研機構與科研管理機構要強化ChatGPT應用過程中的科研誠信問責制度，以負面懲戒的方式提高科研失信成本。在人工智能技術飛速發展的今天，ChatGPT等人工智能軟件不斷更新換代，這就要求我們對用戶進行實時動態的行為引導和約束。以往的行為約束更多來自外部的單向監管，被監管者處于被動的地位。此種形式顯然在擁有廣泛靈活度的ChatGPT使用中難以發揮以往的效力。有學者針對ChatGPT等新興產業管理提出了“敏捷管理”的模式。如薛瀾等學者所言，該模式的優勢在于“實現多目標間平衡”“追求過程動態優化”“促進工具靈活轉化”。在該模式中，“監管方與被監管方的雙向動態互動是保障監管思路與創新相匹配的重要方式”[21](33)。引入類似的管理模式，讓ChatGPT使用者參與到規范體系建設之中，形成雙向甚至多向互動的態勢，將提高ChatGPT用戶的主體性，有利于提升科研誠信行為的倫理控制效果。

[1] YATOO M A, HABIB F. ChatGPT, a friend or a foe? [J].Materials Research Society, 2023(48): 310?313.

[2] PAN C D, BANERJEE J S, DEBASHIS De, et al. ChatGPT: A open AI platform for society 5.0[M]// Intelligent human centered computing. Singapore: Springer Nature Singapore Pte Ltd, 2023: 384?397.

[3] Montreal statement on research integrity in cross- boundary research collaborations[EB/OL]. (2013?05?08) [2023?06?17]. https://www.wcrif.org/downloads/main- website/montreal-statement/123-montreal-statement-english/file.

[4] Amsterdam agenda [EB/OL]. (2017?08?09) [2023?06? 17]. https://www.wcrif.org/guidance/amsterdam-agenda.

[5] Hongkong principle[EB/OL]. (2019?06?21) [2023?06? 17]. https://www.wcrif.org/hong-kong-principles.

[6] Cape-town statement on research integrity [EB/OL]. (2022?05?21) [2023?06?17].https://www.wcrif.org/ guidance/cape-town-statement.

[7] Singapore statement on research integrity [EB/OL]. (2010?07?21) [2023?06?17]. https://www.wcrif.org/down loads/main-website/Singapore-statements/223-singpore-statement-a4size/file.

[8] DEEPAK P. ChatGPT is not OK! That’s not (just) because it lies[J/OL]. AI & Soc (2023?04?25) [2023? 06?19]. https://doi.org/10.1007/s00146-023-01660-x.

[9] GORDIJN B, HAVE H T. ChatGPT: Evolution or revolution?[J]. Medicine, health care and philosophy, 2023(26): 1?2.

[10] 吳靜, 鄧玉龍. 生成式人工智能前景下的公共性反思[J]. 南京社會科學, 2023(7): 19?36.

[11] 姜宇輝. 作為謊言機器的ChatGPT[J]. 貴州大學學報(社會科學版), 2023(4): 38?47.

[12] STROWEL A. ChatGPT and generative AI tools: Theft of intellectual labor?[J]. IIC, 2023(54): 491?494.

[13] ZHOU J, KE P, QIU X P, et al. ChatGPT: Potential, prospects, and limitations[J/OL]. Frontiers of information technology & Electronic engineering eng (2023). https://doi.org/10.1631/FITEE.2300089, pp1?6.

[14] YADAVA O P. ChatGPT: A foe or an ally?[J]. Indian journal of thoracic and cardiovascular surgery (May—June) 2023, 39(3): 217?221.

[15] 賈婷, 陳強, 沈天添. 基于LDA模型的人工智能倫理準則體系研究[J]. 同濟大學學報(自然科學版), 2023(5): 652?659.

[16] 亞里士多德. 尼各馬可倫理學[M]. 廖申白, 譯注. 北京: 商務印書館, 2013: 130.

[17] HAVEN T, GOPALAKRISHNA G, TIJDINK J, et al. Promoting trust in research and researchers: How open science and research integrity are intertwined[J]. BMC Research Notes, 2022(15): 302?306.

[18] SHIMIZU H. Social cohesion and self-sacrificing behavior[J]. Public Choice, 2011: 427?440.

[19] 李建軍, 王添. 科研機構倫理審查機制設置的歷史動因及現實運行中的問題[J]. 自然辯證法研究, 2022(3): 51?57.

[20] 王鈺, 程海東. 人工智能技術倫理治理內在路徑解析[J]. 自然辯證法研究, 2019(8): 87?93.

[21] 薛瀾, 趙靜. 走向敏捷治理: 新興產業發展與監管模式探究[J]. 中國行政管理, 2019(8): 28?34.

Scientific research integrity risks and ethical governance of ChatGPT application

ZHOU Jinping

(School of Humanities, Central South University, Changsha 410083, China)

As a new achievement with intensively creative AI features, ChatGPT has attracted widespread attention since it was applied. The strong capabilities in information integrating, formative autonomous self-studying and good man-machine interacting, at the time of providing strongly competitive auxiliary equipment in scientific research, also generates potential risks for research integrity. The main integrity risks that ChatGPT possibly causes in supplementing scientific research include information distortion, plagiarism and evil purpose of research. To avoid such risks, we must adopt ethical governance towards ChatGPT application. In applying ChatGPT, we must abide by transparency and informed principle, fair and justice principle and common responsibility principle. Only by strengthening the moral consciousness of researchers, building ethical review mechanism, and constructing research integrity control system, can we ensure that ChatGPT, in supplementing scientific research, can meet the requirements for scientific integrity and maintain moral justice.

ethics; governance; scientific research integrity; ChatGPT

2023?09?06；

2023?11?13

湖南省教育廳重點項目“國家治理體系與治理能力現代化的政治倫理研究”(22A0012)；中南大學“高端智庫”項目“重大公共衛生危機中的道德規范與倫理秩序研究”(2020znzk07)

周謹平，男，湖南長沙人，哲學博士，中南大學人文學院教授、博士生導師，主要研究方向：倫理學

10.11817/j.issn. 1672-3104. 2024.01.004

B82-057

A

1672-3104(2024)01?0031?07

[編輯: 胡興華]