生成式人工智能引發意識形態風險的邏輯原理、內涵表征及防控策略

邢鵬飛，李 生

（湖南師范大學 馬克思主義學院，長沙 410081）

與傳統人工智能不同，美國人工智能研究室OpenAI 發布的人工智能ChatGPT 革新了人機交互模式，實現與用戶的直接交流互動。隨著ChatGPT 的火爆出圈，諸如“通義千問”“文心一言”“混元助手”等生成式人工智能也陸續發布，掀起研發生成式人工智能的熱潮?；ヂ摼W和人工智能領域已經成為意識形態斗爭的主戰場，以ChatGPT 為代表的生成式人工智能對人們的生產生活產生了深刻影響，也給意識形態領域帶來了新的風險挑戰。黨的二十大報告強調，要“牢牢掌握黨對意識形態工作領導權，全面落實意識形態工作責任制，鞏固壯大奮進新時代的主流思想輿論”①習近平.高舉中國特色社會主義偉大旗幟 為全面建設社會主義現代化國家而團結奮斗——在中國共產黨第二十次全國代表大會上的報告［M］.北京：人民出版社，2022：43.。當前，伴隨著互聯網人工智能的加速發展，意識形態滲透風險加劇，以算法和數據為基礎的生成式人工智能成為引發意識形態風險的極佳工具。因此，正確認識生成式人工智能引發的意識形態風險及其原理，并且積極探尋相應的防控策略，有利于生成式人工智能的健康發展，維護我國意識形態安全。

一、生成式人工智能引發意識形態風險的邏輯原理

作為人工智能的高級形式，生成式人工智能最本質的特點就是能夠做到人機交流互動，根據用戶的需求完成相應的任務。生成式人工智能歸根結底是人類勞動的物化產物，由于設計者和使用者的價值偏差、技術和算法蘊含的政治偏差以及應用場景的多元性，使其極易誘發意識形態風險。

（一）價值邏輯：生成式人工智能設計者和使用者的價值偏差

科學技術與意識形態的關系歷來是一個熱門話題，科學技術是不是一種意識形態，學術界眾說紛紜。法蘭克福學派馬爾庫塞認為，科學與技術本身成了意識形態，具有明顯的工具性和奴役性，有著統治人和奴役人的社會功能?！罢我鈭D已經滲進處于不斷進步中的技術，技術的邏各斯被轉變成依然存在的奴役狀態的邏各斯?！雹伲勖溃莺詹亍ゑR爾庫塞.劉繼，譯.單向度的人——發達工業社會意識形態研究［M］.上海：上海譯文出版社，1989：143.尤爾根·哈貝馬斯則不贊成馬爾庫塞這一觀點。他認為技術與科學作為新的合法性形式已經喪失了意識形態的舊形態，“這種新的意識形態同以往的一切意識形態相比較，已經不再具有多少意識形態的性質”，“已完全沒有了傳統的意識形態的壓抑和奴役人的功能”。②［德］尤爾根·哈貝馬斯.李黎，郭官義，譯.作為“意識形態”的技術與科學［M］.上海：學林出版社，1999：5.也有觀點認為科學技術是獨立的，與意識形態無關，比如我們所熟悉的人工智能對思想的終結這種言論。馬克思主義強調使用科學技術的人是具有意識形態性的，人的本質是一切社會關系的總和?！罢裰灰岣邉趧恿Φ木o張程度就能加強對自然財富的利用一樣，科學和技術使執行職能的資本具有一種不以它的一定量為轉移的擴張能力?！雹壑泄仓醒腭R克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯選集：第2 卷［M］.北京：人民出版社，2012：272.生成式人工智能本身是一種技術工具，不具有意識形態的性質，但是其設計者和使用者是具有意識形態屬性的人，并且設計者和使用者主體的價值偏差會導致意識形態的偏差，從而引發意識形態風險。

生成式人工智能的內容生成過程中承載著設計者和使用者的價值偏好，導致意識形態風險的產生。在進行人機對話的內容生成過程中，生成式人工智能不可能做到完全的客觀和中正，蘊含著設計者和使用者的偏好選擇，并且這種偏好選擇充斥內容生成的各個環節。首先，在內容生成的起始環節，從數據材料的選擇，到結構的處理，再到關聯的建構，都隱含著一種價值的選擇和預想。比如，ChatGPT 在內容生成上，它的數據來源于西方國家的語料庫，這種語料庫以西方國家的價值觀為基礎，自然體現的是西方民眾的價值取向。其次，在內容生成的呈現反饋環節承載著相關使用者的價值偏好。北京理工大學計算機學院相關研究發現，“Chat GPT生成內容中存在對于中國的大量偏見言論”④張華平，李林翰，李春錦.ChatGPT 中文性能測評與風險應對［J］.數據分析與知識發現，2023（03）.。由此可見，生成式人工智能設計者和使用者的價值偏差導致生成式人工智能在內容生成方面的不同，從而導致價值偏見產生意識形態風險。

（二）技術邏輯：生成式人工智能技術和算法蘊含的政治偏差

科學技術的進步是生成式人工智能得以快速發展的基礎，然而科學技術也是一把雙刃劍，它在促進人工智能發展的同時也在悄悄帶來一些負面影響。隨著科技的進步，科學技術的客觀中立性被逐漸打破，與社會權力相結合，出現了“社會化技術權力”，本來是技術帶來的機遇，卻造成了“技術利維坦”風險。

生成式人工智能的技術和智能算法蘊含的政治和價值偏差導致意識形態風險的產生。首先，生成式人工智能的技術霸權影響價值偏差。技術的進步推動了生成式人工智能的發展，而對技術的掌握有嚴格的限制，又導致了技術霸權。生成式人工智能作為一種新興產物，其背后的核心技術仍然掌握在西方發達國家手中，體現的是西方發達國家的價值立場。例如，ChatGPT 就是美國科技公司開發的，其中的技術邏輯必然與美國國家的意識形態相契合。其次，生成式人工智能的智能算法蘊含政治偏差。智能算法的實現建立在海量的數據基礎上，數據的收集將直接影響到智能算法的預測結果。任何一種算法的數據收集范圍都有其自身的限制，無法做到面面俱到。雖然 OpenAI 宣稱，對ChatGPT 的訓練數據盡量避免了種族、性別、文化等因素的影響，但是由于各種原因，其在中文語言和社會信息收集上都有較大的缺陷，而且固有的西方思維模式使得其難以消除對中國的狹隘看法和偏見設計。ChatGPT 的訓練數據主要來自西方資本主義社會，帶有明顯的西方意識形態傾向，蘊含著嚴重的政治偏差。對于不符合西方價值觀的數據會被清除，從而在數據偏見的基礎上進一步加劇意識形態風險。

（三）實踐邏輯：生成式人工智能應用場景蘊含的立場偏差

生成式人工智能可以幫助用戶完成相關任務，提高工作效率。那么用戶會在什么樣的場景下使用生成式人工智能？在生成式人工智能興起之初，許多人帶著好奇心注冊成為用戶，只想體驗它的強大功能，并沒有很強的目的性。但是，這樣的新鮮感不會持續太久，只有應用場景的需求才能推動生成式人工智能的發展。

生成式人工智能的應用場景容易存在立場偏差。其一，應用場景的多元性導致立場偏差。目前，生成式人工智能的應用場景非常廣泛，國家鼓勵生成式人工智能技術在各行業、各領域的創新應用，探索優化應用場景，同時，廣泛多元的應用場景容易導致對價值立場的把握不準，產生立場偏差。此外，在生成式人工智能應用過程中產生的一些倫理和風險問題，也是我們必須重視的。其二，應用場景的文化制度導致立場偏差。生成式人工智能應用場景的立場偏差在本質上受到文化制度的影響，不同國家所產生的偏差是不同的。國外有學者對ChatGPT 15 種不同的政治傾向進行了實驗測試，測試結果一致表明，在15 種測試中有14 種顯示ChatGPT 對問題的回答表現出“左傾”觀點的偏好，而并不是ChatGPT 自身所宣稱的秉持中立客觀的立場。①David Rozado.The Political Biases of ChatGPT ［J］.Social Sciences，2023（03）.此外，ChatGPT 在政治選舉上的應用表明它的政治立場中的親自由主義，是與我們所倡導的社會主義核心價值觀立場相對的。因此，我們必須對生成式人工智能的應用場景加以規范，否則受立場偏差的影響，容易產生意識形態風險。

二、生成式人工智能引發意識形態風險的內涵表征

馬克思指出：“在我們這個時代，每一種事物好像都包含有自己的反面。我們看到，機器具有減少人類勞動和使勞動更有成效的神奇力量，然而卻引起了饑餓和過度的疲勞?！雹谥泄仓醒腭R克思恩格斯列寧斯大林著作編譯局.馬克思恩格斯選集：第1 卷［M］.北京：人民出版社，2012：776.生成式人工智能既是提升勞動成效的神奇力量，也是在意識形態領導權、意識形態話語權和意識形態管理權等方面引發安全風險的溫床。

（一）意識形態領導權解構風險

黨的十八大以來，黨高度重視意識形態工作，強調意識形態領導權的極端重要性，黨的二十大報告再次指出，要“建設具有強大凝聚力和引領力的社會主義意識形態，使全體人民在理想信念、價值理念、道德觀念上緊緊團結在一起”①習近平著作選讀：第2 卷［M］.北京：人民出版社，2023：34.。在信息時代，生成式人工智能與意識形態保持著高度相關性，其運行機制中所蘊含的資本和技術邏輯對主流意識形態產生了沖擊，使意識形態領導權面臨解構風險。

1.資本滲透解構主流意識形態領導權。資本以追求價值增殖為目的，其中的邏輯滲透到社會經濟、政治等方方面面，對主流意識形態領導權造成了解構風險。其一，生成式人工智能助力資本主義意識形態傳播。資本操控下，ChatGPT 向用戶傳遞的大多數是消費娛樂資訊，用戶在這些消費主義信息影響下，不知不覺深陷其中。這些信息所傳遞的都是西方資本主義價值觀、資本主義意識形態，與我國的主流意識形態相違背，存在動搖馬克思主義在意識形態領域領導地位的風險。其二，生成式人工智能推動資本主義意識形態向各國政治文化領域滲透。不同于普通的人工智能，生成式人工智能能進行創造性的勞動，完成指定任務，體現著更加智能的發展趨勢。ChatGPT 等生成式人工智能，受資本驅動，為了節約成本，必然會被大規模使用，從而將資本主義意識形態不斷滲入各個國家的政治文化領域，用資本主義思想來奴役一般勞動者，使他們認同并接受現存的資本主義秩序。資本主義的思想體系和意識形態滲透到我國的政治文化中，對我國主流意識形態造成沖擊，影響主流意識形態領導權。

2.技術霸權威脅主流意識形態領導權。技術霸權導致“信息繭房”和“數字鴻溝”，對主流意識形態領導權造成威脅。其一，“信息繭房”掩蓋主流意識形態。信息繭房是指人們在自己關注的信息領域會習慣性地被自己的興趣所引導，從而將自己的生活桎梏于像蠶繭一般的“繭房”中。在智能算法的操縱下，生成式人工智能成為人們獲取信息的主要渠道，導致“信息繭房”的出現。而主流意識形態傳播領域因為風格普遍單調嚴肅，用戶偏好不高，往往受到忽視，從而造成對主流意識形態的掩蓋和淡化。其二，“數字鴻溝”加劇主流意識形態偏差。所謂數字鴻溝是指因技術差異導致的鴻溝。由于科學技術的差距，使得科學技術較為發達的國家通過生成式人工智能所獲得的內容質量和時效較高，而科學技術和經濟較為落后的國家所獲得的內容較為滯后，從而帶來意識形態被西方發達國家操控的風險。2023 年 3 月，外交部發布的《美國的霸權霸道霸凌及其危害》白皮書指出：“美國在高科技領域大搞壟斷打壓、技術封鎖，遏阻其他國家科技和經濟發展?！雹诿绹陌詸喟缘腊粤杓捌湮：Γ跱］.人民日報，2023-02-21（017）.憑借在人工智能技術方面的優勢，為了維護自身的霸權地位，美國借ChatGPT 大搞意識形態滲透，嚴重威脅我國主流意識形態領導權。

（二）意識形態話語權旁落風險

意識形態話語權是指話語主體引導大眾思想，調節話語內容，以及表達立場、觀念和價值的權力。主流意識形態的話語權威主要來自大眾傳媒和官方渠道，并通過議題設置來影響受眾的意識形態認知。在信息時代，人們獲取信息和表達話語的渠道變得更加多樣，在一定程度上用戶可以自己發布議題。ChatGPT 等生成式人工智能開辟了人機對話交流新局面，既增加了信息獲取的渠道和生產意識形態話語的主體，打破了意識形態的話語壟斷，又對意識形態話語權造成沖擊，帶來主流意識形態話語權旁落風險。

1.多元化話語選擇消解主流意識形態話語主導力。話語主導力是主流意識形態實現引導和凝聚社會共識的根本保證。在傳統媒體時代，主流媒體具有絕對權威，掌握意識形態話語的產生和傳播。生成式人工智能的興起，擴大了意識形態話語產生和傳播的主體，使得意識形態話語有了多元化選擇，卻消解了主流意識形態話語主導力。原因在于兩個方面：其一，把關人身份被生成式人工智能取代，造成把關缺失。把關人承擔著維護法律尊嚴、保障社會秩序和樹立公眾價值觀念的責任。傳統媒介時代，“把關人”往往由知識水平和文化素養較高的人擔任，但隨著生成式人工智能的出現和發展，“把關人”的角色隨之發生了改變，擁有智能算法的生成式人工智能取代了以往的“把關人”，決定和掌握著話語信息的生產和傳播，從而導致非主流意識形態話語大肆蔓延，生成式人工智能無法像“把關人”一樣發揮作用，導致主流意識形態話語主導力減弱。其二，主流媒體平臺話語權旁落。報紙、廣播等傳統媒體平臺秉持內容為王的導向，形式相較單調，而ChatGPT 等新媒體平臺則形式新穎，信息獲取粗暴，再加上“流量為王”之勢，導致傳播主流意識形態的傳統媒體平臺出現“人流稀少”的現象，嚴重阻礙了主流意識形態話語主導力的實現。

2.智能話語生產削弱主流意識形態話語效用力。話語效用力是確保主流意識形態話語發揮積極作用的關鍵，與話語深度和話語真實度密切相關。ChatGPT 等生成式人工智能的話語生產削弱了主流意識形態話語效用力。原因在于兩個方面：其一，ChatGPT 等生成式人工智能的意識形態話語生產缺乏理論深度。ChatGPT 并不完美，存在“一是分辨信源真偽能力不足，二是理解語言內涵能力不足”①王少.ChatGPT 介入思想政治教育的技術線路、安全風險及防范［J］.深圳大學學報（人文社會科學版），2023（02）.等技術瑕疵和弊端。其意識形態話語生產是以數據為原材料，在智能算法的基礎上對眾多原始話語數據進行簡單排列處理，沒有完整的話語邏輯和關系構建。這樣經過數據庫簡單選擇、排列處理生產出來的意識形態話語，會導致邏輯結構不清晰、缺乏理論性，因此削弱了主流意識形態話語深度。其二，ChatGPT 等生成式人工智能的意識形態話語生產缺乏真實性。一方面，ChatGPT 等生成式人工智能生產的話語不一定都是真實客觀的，甚至還可能是帶有意識形態偏見的虛假信息。長時間在這些帶有偏見的虛假錯誤信息影響下，會解構人們對主流意識形態的認知，對主流意識形態話語產生較大沖擊，導致主流意識形態話語缺乏真實度。另一方面，ChatGPT 等生成式人工智能克服了目前弱人工智能話語僵化和機器化等弊端，其話語生產更具擬人特征，在進行人機交互時，會讓人產生一種和“真實人”交談的錯覺。這種擬人化的風格使虛假信息和話語偏見的傳播更加隱蔽。虛假信息和話語偏見與主流意識形態價值觀相背離，在ChatGPT 擬人化話語風格的掩蓋下不斷傳播滲透，加劇了主流意識形態的不真實度。

（三）意識形態管理權弱化風險

掌握好意識形態管理權，有利于意識形態話語權和領導權的實現。Chat GPT 等生成式人工智能帶來信息傳播方式上的變革和對人獨立思考能力的稀釋，消解意識形態管理的主導權，加劇了意識形態管理難度。

1.社會思潮智能化傳播加大意識形態管理難度。生成式人工智能使人類信息的生產和傳播模式發生了質變，同時也意味著原有管理模式的變革。ChatGPT 等生成式人工智能的出現和發展改變了人們獲取信息的方式，人們由從大眾平臺獲取信息轉向通過智能設備獲取信息，通過人機交互實現信息的快速獲取和快速傳播。本課題組通過對全國不同領域的7839 名青年調查的結果顯示，青年日常獲取思想理論信息主要通過網絡、微信平臺和書籍渠道；青年對各種社會思潮有一定的知曉度。生成式人工智能引發的傳播方式智能化和快速化，使把關人的作用減弱，導致一些非主流意識形態和社會思潮難以辨別，甚至加速了錯誤社會思潮的傳播。這些新情況加大了意識形態管理的難度，沖擊我國意識形態的管理主導權，給意識形態管理帶來了風險挑戰。

2.人的獨立思考能力弱化消解意識形態管理主導權。生成式人工智能在一定程度上解放了人的腦力勞動，使人們能夠專注于更有創造性的工作，從而讓獲取信息和創作都變得更加便捷。通過人機對話交流，ChatGPT 等生成式人工智能可以根據用戶的需求在短時間內完成語料的收集整合，幫助和代替人們完成內容寫作、創意編輯等任務，這些任務本來是建立在人的獨立思考基礎之上的，現在卻被生成式人工智能所替代，使人的獨立思考能力被大大弱化。當人們對ChatGPT 等生成式人工智能過度依賴，思考能力、認知能力和創造能力被不斷削弱，逐漸成為技術的附庸，而人作為意識形態的主體性被弱化，意識形態管理的主導地位就被降低，從而消解意識形態管理的主導權。

三、生成式人工智能引發意識形態風險的防控策略

意識形態作為解釋和改變世界的價值觀念系統，不是純粹的精神現象，必然會隨著經濟基礎、社會結構和時代發展而發生變化。意識形態作為國家上層建筑，歷來是敵我爭奪的重要戰場。毛澤東曾深刻地指出：“凡是要推翻一個政權，總要先造成輿論，總要先搞意識形態方面的工作?！雹僦泄仓醒胛墨I研究室.毛澤東年譜（一九四九—一九七六）：第5 卷［M］.北京：中央文獻出版社，2013：153.生成式人工智能引發的意識形態風險，成為影響國家意識形態安全和政治安全的新難題，亟需破解之策。

（一）以思想引領保證生成式人工智能領域意識形態方向

生成式人工智能設計者和使用者的價值偏差是引發意識形態風險的因素之一，必須加強對人們的思想引領。其一，堅持用馬克思主義引領思想。黨的二十大報告強調：“要堅持馬克思主義在意識形態領域指導地位的根本制度?！雹诹暯?高舉中國特色社會主義偉大旗幟 為全面建設社會主義現代化國家而團結奮斗——在中國共產黨第二十次全國代表大會上的報告［M］.北京：人民出版社，2022：43.在生成式人工智能時代，面臨錯綜復雜的意識形態風險挑戰，一方面要用中國化時代化的馬克思主義武裝人的頭腦，用習近平新時代中國特色社會主義思想凝心鑄魂，提升社會主義意識形態的引領力和凝聚力。另一方面，要用馬克思主義增強人民群眾抵制錯誤社會思潮和西方意識形態的能力。習近平強調：“黨校要加強對各種社會思潮的辨析和引導，不當旁觀者，敢于發聲亮劍”①習近平談治國理政：第2 卷［M］.北京：外文出版社，2017：327.，要自覺與“歷史虛無主義”“馬克思主義過時論”等反動思潮和錯誤言論做斗爭。其二，堅持以社會主義核心價值觀來凝聚思想。社會主義核心價值觀體現了社會主義意識形態的本質要求，是社會主義制度在思想和精神層面的質的規定，凝結著社會主義先進文化的精髓，是中國特色社會主義道路、理論體系和制度的價值表現。面對資本主義意識形態的滲透，必須用社會主義核心價值觀凝聚思想，引領生成式人工智能的開發、應用，推動其更好地服務于人。其三，提升意識形態工作者思想素養，增強其意識形態風險的應對能力。ChatGPT 的強大功能使意識形態風險傳播更具隱蔽性，這對意識形態工作者的風險辨別能力提出了更高的要求。要提升意識形態工作者的政治思想素養，增強其識別、研判、防范和化解重大意識形態風險的能力。

（二）以技術創新抵御生成式人工智能領域意識形態滲透

科學技術是生成式人工智能得以發展的重要因素，同時也是生成式人工智能引發意識形態風險的重要基礎。要堅持技術領域的創新，加強技術賦能，抵御意識形態滲透。其一，要堅持技術為人服務的理念，防范意識形態風險。生成式人工智能帶有意識形態色彩，能夠弱化人的獨立思考能力，消減意識形態管理主導權。這就需要堅持技術為人服務的理念，堅定人的主導地位，預防技術對人的束縛。其二，要加強數據監測，規制算法推薦。數據是生成式人工智能的基礎，加強數據監測，有利于助推主流意識形態的精準化傳播和針對性監管。在生成式人工智能研發、設計、運行中要嵌入社會主義意識形態數據，構建符合社會主義主流意識形態的算法推薦，用以防止生成式人工智能在話語傳播中的意識形態風險制造。其三，要堅持科技自立自強，打造自己的生成式人工智能系統。在技術霸權影響下，唯有實現科技自立自強才是化解風險的有力舉措。我國已在生成式人工智能的研發和應用上取得了不少進展，推出了許多各具特色的生成式人工智能產品，如“360 智腦”“訊飛星火”等，涵蓋互動聊天、智能寫作、音視頻處理、編程設計等多個領域。我們要看到在生成式人工智能領域和西方發達國家的差距，看到背后所隱含的意識形態滲透和話語霸權。面對西方國家在生成式人工智能領域的技術霸權，需要我們站穩自己的意識形態立場，堅持科技創新，充實我們自己的語料庫和數據庫，防范ChatGPT 等西方生成式人工智能帶來的意識形態風險。

（三）以法治規范維護生成式人工智能領域意識形態秩序

法治是維護國家穩定、維持社會秩序的基本手段。要通過法治來糾正生成式人工智能應用場景的立場偏差，防范意識形態風險的產生。其一，要樹立生成式人工智能應用場景的法治思維。生成式人工智能應用場景不是法外之地，法治思維有利于生成式人工智能的健康發展，更好地保證生成式人工智能的應用?！渡墒饺斯ぶ悄芊展芾頃盒修k法》做出規定，提供和利用生成式人工智能服務，應當遵守法律、行政法規。其二，要構建生成式人工智能應用的倫理規范。生成式人工智能給人類生產生活帶來了革命性的影響，也帶來了學術造假、隱私安全等問題。針對這些問題，應該組織技術人員、學者專家和意識形態治理者共同商討生成式人工智能的應用范圍和準入制度，建立生成式人工智能應用的倫理準則規范，以應對生成式人工智能可能帶來的倫理問題和意識形態安全問題。例如，2022 年國家網信辦發布的《互聯網信息服務算法推薦管理規定》中就要求對具有輿論屬性的算法進行備案。其三，要完善生成式人工智能領域的法律法規和政策。2023 年4 月11 日，為了促進生成式人工智能健康發展和規范應用，國家網信辦發布《生成式人工智能服務管理辦法（征求意見稿）》，面向社會公開征求意見，旨在要求生成式人工智能遵守法律法規。2023 年8 月，國家網信辦等七部門聯合發布的《生成式人工智能服務管理暫行辦法》正式施行，對生成式人工智能作出了政策規范。要進一步織密法治網絡，完善涉生成式人工智能應用場景方面的法律規范，更好維護生成式人工智能領域的意識形態秩序。

總之，生成式人工智能時代已經到來，勢不可擋。其開辟的人機互動新局面擁有光明的前景，同時也帶來了一系列問題，特別是給我國的意識形態安全帶來了新的挑戰。做好意識形態工作事關黨的前途命運、國家長治久安和民族凝聚力和向心力。正確認識生成式人工智能引發的意識形態風險，從思想引領、技術創新、法律規范層面尋求應對風險的防控策略，不僅有利于保障我國意識形態安全，更是確保生成式人工智能健康發展的必然選擇。