ChatGPT的意識形態風險審視

溫曉年

(電子科技大學 馬克思主義學院,四川 成都 611731;廣東醫科大學 生物醫學工程學院,廣東 東莞 523808)

ChatGPT是美國人工智能研究實驗室OpenAI于2022年11月30日推出的人工智能聊天機器人?！癈hatGPT本質上是一個大型語言模型(LLM),采用‘從人類反饋中強化學習’的訓練方式,對人類的文字語言和自然語言進行理解和處理,具有較強的內容生成能力?！盵1]截至2023年1月末,ChatGPT全球月活用戶數超過1億,是人類歷史上增長最快的消費者應用軟件。ChatGPT是人工智能發展劃時代的標志,它具有強大的對話聊天功能、信息檢索功能、知識服務功能以及AI創作功能,對人類生產生活將造成巨大的影響。然而ChatGPT并不是其標榜的“中立的”“不會傾向于任何政治立場或觀點”,ChatGPT存在明顯的政治傾向和政治偏見,具有很強的意識形態屬性和意識形態風險,對社會主義主流意識形態安全造成極大的風險。黨的二十大報告指出“意識形態工作是為國家立心、為民族立魂的工作”[2]43,習近平總書記也在多種場合指出“意識形態工作是黨的一項極端重要的工作”[3]21。審視ChatGPT的意識形態風險,研究和分析ChatGPT何以具有意識形態風險,有什么樣的意識形態風險,怎樣防范其意識形態風險這一智能化時代重要的理論和實踐問題具有重大的現實價值。

一、ChatGPT意識形態風險的生成邏輯

人工智能是當今引領時代發展的標志性科技成果,是推動人類進入智能化時代的決定性力量。ChatGPT劃時代的出現引起了學術界敏銳的興趣,對ChatGPT的研究形成了大量的學術成果,目前學術界對ChatGPT的研究主要集中于ChatGPT的運行機制、關鍵技術[4]以及對人類的各種影響,包括科技和倫理的風險[5],對教育的沖擊[6]、法律的風險[7]和技術性失業[8]等,很少有學者關注ChatGPT的意識形態風險問題。ChatGPT的強大功能、西式資本所有權屬性和本身的技術構成使其具有很強的意識形態屬性和意識形態風險,對社會主義主流意識形態安全造成極大的風險,對ChatGPT的意識形態風險問題研究十分必要和急迫。

(一)理論邏輯:ChatGPT的強大功能使其具有一種隱形的意識形態功能

馬克思在談到工業革命時說:“資產階級在它的不到一百年的階級統治中所創造的生產力,比過去一切世代創造的全部生產力還要多,還要大?！盵9]36工業革命所爆發出驚人的生產力很重要的原因是科學技術的發展,機器代替了人類勞動,機器帶來的強大效能使生產效率指數級增長?？茖W技術的發展不僅促進生產力的發展,推動經濟社會的進步,而且對人的思維觀念、價值取向、倫理道德產生重要的影響。當科學技術對生產力的發展起到越來越重要的支配性作用,人們的生產生活越來越離不開像ChatGPT類生成式人工智能的時候,科學技術就不僅承載著生產力功能,而且還承載著意識形態功能[10]?！翱茖W技術即是意識形態”是德國法蘭克福學派意識形態批判理論的重要組成部分,法蘭克福學派的早期代表人物霍克海默提出“不僅形而上學,而且還有它所批判的科學,皆為意識形態的東西;后者之所以也復如是,是因為它保留著一種阻礙它發現社會危機真正原因的形式”[11]5?；艨撕ＤJ為科學技術發展使工具理性進一步膨脹,人們陶醉于資本主義所創造的物質財富,妨礙人們去認識現實社會的不合理性和非人性,從而喪失對現實社會的批判性,科學像哲學的、道德的、宗教的活動一樣具有了意識形態的功能[12]。馬爾庫塞認為技術并不是中立的,它已經滲透到人類生活的各個方面,發達資本主義社會以技術合理性的方式來征服與控制社會成員,技術成了統治人的新模式[13]?！凹夹g的合理性展示出它的政治特性,這使它變成了更有效統治的得力工具,并創造出一個真正的極權主義領域?！盵14]17法蘭克福學派第二代的中堅人物哈貝馬斯對科學技術與意識形態關系做了專門論述,他認為科學技術在晚期資本主義社會不僅成為“第一位的生產力”,而且也成了統治的合法性基礎。資本主義依靠科技進步創造了高度豐富的社會物質財富從而獲得了人們的忠誠和擁護,科學技術成為人們新的偶像和神話,與傳統意識形態相比它更加令人難以抗拒,作為新的合法性形式,科學技術已經喪失了意識形態的舊形態,是一種隱蔽的新型意識形態,它以“非政治化”的手段來掩蓋實際問題的同時,不僅為統治作辯護,而且壓制人們的解放需求,損害人類要求解放的利益本身[15]4?？茖W技術在本質上不屬于意識形態范疇,但科學技術超越其生產力功能,對人們的日常生活、政治文化活動日益起統攝作用時,科學技術就承載著隱形的意識形態功能。

ChatGPT的強大功能不僅在于其是人類肢體的延伸,更為關鍵的是它具有強大的自主學習能力,能根據上下文語境理解人的思維,ChatGPT能寫詩、能寫代碼、能寫論文,它還通過了美國執業醫師資格考試、谷歌程序員面試、明尼蘇達大學法學院期末考試等?！癈hatGPT的橫空出世有望形成‘思維革命’,通過替代人類進行創作、創意、解答、咨詢、翻譯和客服等改變人類思考和處理問題的方式方法,由此重塑各行業生態乃至整個世界?！盵16]ChatGPT成為人類歷史上增長最快的消費者應用軟件就足以說明其功能的強大和革命性意義。隨著ChatGPT的迭代更新,更加高度智能化的ChatGPT將會日益滲透到人們的生產生活。ChatGPT的強大功能將使人類對其的依賴性進一步加深,成為人們日常生活中不可或缺的一部分,人們知識信息的獲取、各類復雜性工作完全可以單向度地在ChatGPT中得到解決,人們在ChatGPT上獲取的答案有時可以比人類自主的思考更加完美,甚至人們的情感、心理的問題,ChatGPT也可以提供情緒價值。ChatGPT的強大功能將造成技術利維坦的風險,使其本身成為人們新的崇拜圖騰,成為人們思維觀念和價值取向塑造的單向度來源。ChatGPT的強大功能會使其異化成為影響人、操縱人、控制人的一種無形力量,使它不僅承載著生產力功能,而且還承載著一種隱而不顯的意識形態功能。

(二)資本邏輯:ChatGPT的西式資本所有權屬性決定了其本質上是資本主義維持自身體系及資本增殖的工具

馬克思認為科技的發展拓展了人類的實踐范圍、為人類自由時間提供了可能,同時也為共產主義替代資本主義創造物質條件,但他同時認為科技的應用也帶來了悲慘的后果,直觀表現為工人完全成為機器的附庸、工人生活水平下降、大量使用童工以及自然環境的破壞等。他認為造成科技作用發生異化的原因并不是科技本身,而在于科技的資本主義應用?？萍嫉馁Y本主義應用使得科技顯示出資本的特性,科技成為資本的幫兇加深了人的異化。

ChatGPT類生成式人工智能的開發不但需要龐大的數據資源、長期的技術積累,而且需要巨大的資金消耗。以ChatGPT的算力消耗為例,“訓練1 750億參數大型語言模型的GPT-3,需要有上萬個CPU/GPU 24小時不間斷地輸入數據,所需能耗相當于開車往返地球和月球,且一次運算要花費450萬美元”[16]。而且ChatGPT類生成式人工智能技術的開發具有極大的風險性,資本的高投入、高消耗不一定意味著產品能夠成功。目前能同時具備上述條件并且有能力承擔資本投入風險的是實力雄厚的西方發達資本主義國家的大型數字科技公司。它們依靠自身雄厚的資本積累、技術以及人才不斷增加人工智能技術的投入,以取得市場競爭的優勢和先機。ChatGPT背后的控制主體是以微軟公司為代表的數字資本力量,ChatGPT的爆火使得微軟公司加大對ChatGPT的資本投入。資本的唯一特性就是獲取資本增殖和超額利潤?！百Y本只有一種生活本能,這就是增殖自身,創造剩余價值,用自己的不變部分即生產資料吮吸盡可能多的剩余勞動?！盵17]269ChatGPT的西式資本所有權屬性將驅使資本迅速推動ChatGPT大規模的資本主義應用,占領市場份額,使其快速成為資本增殖的工具。當ChatGPT對人們的生產生活占據支配性地位時,資本利用ChatGPT技術優勢造成的支配性地位以及用戶的技術依賴,可以從用戶和股民手中賺取源源不斷的利潤,從而實現資本的無限增殖和利潤的最大化。ChatGPT的西式資本所有權屬性決定了其本質上是資本主義維持自身體系以及資本增殖的工具,具有很強的資本主義意識形態屬性。

(三)技術邏輯:ChatGPT的技術構成蘊含了其天然的政治傾向和政治偏見

ChatGP的開發是以強大的數據、算法和算力為支撐,ChatGPT的技術構成蘊含了其天然的政治傾向和政治偏見。

一是ChatGPT的數據庫蘊含了天然的政治傾向和政治偏見。ChatGPT具有強大功能的前提是建立龐大的數據庫,而ChatGPT龐大的數據庫主要來源于英美等英語國家的數據,而英美國家的話語體系是以“盎格魯—撒克遜”文化為基礎,是以維護英美等英語國家主流價值觀和資本主義利益為價值導向的,這也使得ChatGPT的數據庫具有鮮明的英語國家主流價值觀的意識形態傾向。

二是ChatGPT的人類反饋和訓練模型等算法設計蘊含了其控制主體的政治傾向和政治偏見。ChatGPT雖然具有強大的自主學習能力,但是它要了解人類意圖以及對于人類來說“什么是好的回答,什么是不好的回答”,ChatGPT需要通過人工標注數據方式向其注入人類偏好知識[16]?！癈hatGPT由GPT-3.5模型提供支持,該模型在算法方面使用‘利用人類反饋強化學習(RLHF)’的訓練方式,包括人類提問機器回答、機器提問人類回答,并不斷迭代,讓模型逐漸具有對生成答案的評判能力?！盵16]ChatGPT按照其上述算法設計通過不斷循環式的強化學習徹底掌握人類偏好,變成人類滿意的模型。ChatGPT人類偏好知識的標注和創建以及ChatGPT的人類反饋和預訓練模型的評判標準是由ChatGPT的控制主體和技術開發人員決定的,決定ChatGPT對用戶的回答什么是好的,什么是不好的。ChatGPT的算法設計一方面使ChatGPT具有類人智慧和類人的對話聊天功能,另一方面也使其蘊含了控制主體的政治傾向和政治偏見。

三是ChatGPT的實踐運用場景也顯示其具有明顯的政治傾向和政治偏見。國外學術界對ChatGPT的研究表明ChatGPT存在明顯的政治傾向和政治偏見,它具有明顯的左翼自由主義的政治傾向。David Rozado對ChatGPT 15種不同的政治傾向進行了實驗測試,測試結果一致表明在15種的測試中有14種顯示ChatGPT對其問題的回答表現為對“左傾”觀點的偏好,而并不是ChatGPT自身所宣稱的秉持中立客觀的立場,他認為必須注意ChatGPT有意或無意中嵌入的政治偏見風險,也必須考慮到它被誤用于社會控制、傳播錯誤信息、限制人類自由和阻礙尋求真理道路的風險[18]。Jochen Hartmann等在對ChatGPT政治選舉建議的實驗表明ChatGPT具有明顯的親環保主義和左翼自由主義的政治傾向,如ChatGPT支持對航班征稅、支持墮胎合法化,限制租金上漲[19]。ChatGPT存在的左翼自由主義政治傾向和政治偏見與社會主義主流價值觀的政治立場和價值取向是根本對立和沖突的,ChatGPT的西式特性和生成式人工智能特性使其很容易在資本邏輯和算法的技術邏輯的操縱下成為西方資本主義意識形態傳播的有力工具,成為一部“意識形態機器”,甚至有可能充當西方發達資本主義國家反華的宣傳工具。

二、ChatGPT意識形態風險的表現形式

ChatGPT的意識形態風險在現實性上表現為技術瑕疵風險、智能依賴風險、資本僭越風險、信息繭房風險、數據泄露風險、倫理風險和監管風險。ChatGPT帶來的這些意識形態風險在一定程度上會解構主流意識形態的話語權威、擠壓主流意識形態的生存空間,弱化主流意識形態的引領作用等后果。

(一)技術瑕疵:解構主流意識形態的話語權威

意識形態話語是階級意志的集中表現,政治性和階級性是意識形態話語的根本屬性,在一定程度上誰掌握了意識形態話語權,誰就掌握了權力。意識形態話語權作為一種“軟權力”的重要形式,意識形態話語權的掌握不僅需要國家暴力機器為后盾,而更為關鍵在于意識形態話語是否具有權威性和信服力,能否得到大眾的認同。ChatGPT并不是完美的,而是存在算法黑箱、數據偏見、分辨信息真偽能力不足、理解語言內涵能力不足等技術瑕疵[20]。一是ChatGPT存在的技術瑕疵會使人們在ChatGPT上獲取的信息不一定都是準確客觀的,ChatGPT容易一本正經地胡說八道,特別是其存在的算法黑箱和數據偏見的技術瑕疵會使其源源不斷地生成帶有意識形態偏見的錯誤信息。如果放任其自由傳播,人們在ChatGPT帶有意識形態偏見錯誤信息長時間的誤導和侵染下,會解構人們已經成型的對主流意識形態的認知結構。二是ChatGPT的技術瑕疵會助長虛假信息和錯誤思潮的傳播滲透。ChatGPT擺脫了弱人工智能話語僵硬和機器化語言的弊病,它的話語輸出具有擬人化的風格,人們在與ChatGPT的人機對話中感覺仿佛與“真實人”進行對話一樣。ChatGPT話語信息的擬人化風格會使資本主義意識形態的傳播更具隱蔽性和復雜性,大量的虛假信息以及錯誤思潮會在ChatGPT擬人化的話語風格偽裝下得到隱秘的傳播滲透。這些虛假信息和錯誤思潮與主流意識形態的價值觀相沖突和背離,人們在ChatGPT擬人化的話語風格迷惑下,很容易步入西方資本主義意識形態的“話語陷阱”,在大量虛假信息和錯誤思潮的不斷傳播滲透下,主流意識形態的話語權威會面臨逐漸被解構的風險。

(二)智能依賴:擠壓主流意識形態的生存空間

ChatGPT的強大功能會使人們對其形成極強的智能依賴和用戶黏性,從而與主流媒體爭奪用戶注意力,擠壓主流意識形態的生存空間。一是智能依賴侵蝕人的主體性和獨立性,弱化人的思考能力和判斷能力,人們在對ChatGPT的智能依賴中會逐漸喪失批判性和創造性,使人養成“懶人”思維。ChatGPT是多元意識形態和多元思潮的展現空間,“懶人”思維會使人們對ChatGPT的輸出信息深信不疑,不加思考地全盤接受其好的和壞的輸出信息。二是智能依賴會擠壓主流意識形態的生存空間。主流意識形態主要以主流報紙、主流電視電臺以及主流網站等主流媒體進行傳播和闡釋。而目前主流媒體功能較為單一,主要作為一種信息和價值的輸出功能,而這種單一的信息和價值輸出功能一方面無法顧及到人的多樣化需求;另一方面主流意識形態在主流媒體上的傳播是自上而下的,缺乏受眾的參與和對話,傳播者和受眾話語權力處于一種不平等地位。而ChatGPT的強大功能可以滿足人的個性化和多樣化的生活和工作需求,無論是各類信息的獲取,還是作為人的工作幫手,而且ChatGPT與受眾之間處于扁平化的地位。ChatGPT作為一個多樣化的功能綜合體,對主流媒體的單一功能具有壓倒性功能優勢,主流媒體在與ChatGPT爭奪人們的注意力中會處于競爭劣勢的地位。當人們長時間把注意力聚焦于ChatGPT的身上,人們對主流媒體的興趣和關注時間會進一步減少,在ChatGPT的強勢擠壓下主流意識形態的生存空間和傳播陣地會進一步壓縮。

(三)資本僭越:弱化主流意識形態的引領作用

ChatGPT的西式資本所有權屬性會使其顯現雙重工具屬性價值,既是資本增殖的工具,又是維護資本主義意識形態的工具,ChatGPT在資本邏輯的操縱下會僭越人的主體性地位,讓具有物化意識的資本主義意識形態充斥于人的頭腦,弱化主流意識形態對人的引領作用。一是ChatGPT在資本邏輯操縱下成為資本主義意識形態傳播的有力工具。智能化時代資本增值的最終手段是由用戶通過消費實現的。為了加速資本生產的流通速度,盡快實現商品的最后一躍,資本需要建構符合現代資本主義商品結構的物化意識和資本對人剝削的理想機制,資本就要賦予ChatGPT成為資本主義意識形態輸出的有力工具。ChatGPT在資本邏輯的操縱下可以向用戶推送大量的消費娛樂信息,刺激人們的消費欲望,助長消費主義、泛娛樂主義在人們生活世界的生長,把受眾規訓為消費娛樂物種,甘愿充當資本增殖和資本剝削的對象。消費主義、泛娛樂主義等資本主義意識形態的生產和膨脹會助長人們的“逐利”本性,使物對人的抽象統治更加具有隱蔽性、滲透性和徹底性,破壞主流意識形態的價值秩序,弱化主流意識形態的價值引領作用。二是ChatGPT在資本邏輯操縱下會推動資本主義意識形態向各國政治文化領域滲透。ChatGPT的資本主義應用會加劇社會的不平等,造成普通勞動者的大規?！凹夹g性失業”。弱人工智能主要作為人的一種輔助生產工具應用于取代人的體力勞動,而ChatGPT可以從事創造性的腦力工作,能完成整個工作流程,甚至表現出超越普通勞動者的發展態勢,ChatGPT的大規模資本主義應用勢必將會重塑各行各業,顛覆人的腦力勞動,造成大量普通勞動者的“技術性失業”,引起勞動者的不滿和反饋,加劇社會的不平等,影響社會的穩定性,給社會治理造成嚴重挑戰,并破壞資本主義生產勞動秩序。而為了消減大量普通勞動者“技術性失業”造成的不滿和反抗,實現資本主義生產勞動秩序的穩定性和合法化,資本需要利用ChatGPT不斷推動資本主義意識形態向各國政治文化領域滲透,以資本主義意識形態精神奴役廣大普通勞動者,從而使人們認同和接受現存的資本主義生產勞動秩序。資本主義意識形態向各國政治文化領域的滲透,會沖擊各國的政治、經濟和文化制度,帶來思想觀念的混亂,破壞國家的安全穩定,也會弱化我國主流意識形態的政治引領作用,危及主流意識形態的制度基礎。三是ChatGPT的資本屬性會助長智能時代“流量為王”的績效評價導向。在智能化時代“流量”意味著曝光度和影響力,反映著受眾的注意力,流量也是商業變現的重要方式,“流量多少”成為文化產品的價值尺度。人們常常以一篇網絡推文的閱讀量、一則短視頻的播放量、一場直播的觀眾人數來衡量作品的價值,而不是看作品的內容深度和質量。在“流量為王”的績效評價導向下和ChatGPT的助推下,大量低俗、庸俗、炒作、頹廢等反映資本主義低級趣味的娛樂信息將在人們生活中泛濫,主流意識形態的宏大敘事被遮蔽和稀釋,從而弱化主流意識形態的思想引領作用。

(四)信息繭房:阻礙主流意識形態的自由傳播

當ChatGPT在資本邏輯和算法的技術邏輯操控下成為人們獲取信息的主要渠道時,長時間的依賴關系將使人們在不知不覺中沉浸于ChatGPT中無法自拔,ChatGPT將成為人們思維和行動的仲裁者和決策者,造成“信息繭房”。一是“信息繭房”阻礙主流意識形態的自由傳播。人們在“信息繭房”的作用下,只會對自己偏好的信息感興趣,而對自己不感興趣的信息進行排斥,“信息繭房”猶如自身編織的牢籠,把自己囚禁在自己編織的信息圍墻中。ChatGPT作為西式的人工智能應用聊天機器人,它不會自動推送有關主流意識形態的內容信息,ChatGPT對人們造成的“信息繭房”會成為阻礙主流意識形態傳播的“過濾器”,主流意識形態在人們的傳播中面臨針插不進、水潑不進的境地。同時,在“信息繭房”的作用下,人們很難接觸到主流意識形態的內容信息,網絡空間會面臨“去中心化”的危險態勢。二是“信息繭房”固化人們的思維和意識。當人們長時間在ChatGPT造成的“信息繭房”作用下,會偏執于對某一類信息的喜愛,從而固化人的思維和意識,使人的認知窄化和思維單一,加劇人的認知和思維偏見,人們將在ChatGPT造成的“信息繭房”中異化成“單向度”的人?！靶畔⒗O房”加劇人的認知和思維偏見會引起人們的“價值分化”,進而形成“群體極化”的危險境地,主流意識形態在人們認知和思維偏見的作用下可能面臨撕裂的危險。

(五)數據泄露:危及主流意識形態的安全基石

數據在智能化時代不僅是一種支配性的生產要素,也是生成式人工智能開發的核心價值資源,更是國家意識形態的安全基石?！癈hatGPT是一個需要無限吞噬數據或投放語料庫的‘科技怪胎’,其成長需要‘數據喂養’或投放資源在不斷促進完善的語料庫中被‘調教’或規訓,并通過消化大量現有生成文本學習執行對話任務?！盵21]ChatGPT的成長和發展需要大量的數據喂養,具有強大的數據汲取能力是ChatGPT獲取統治力的前提。一是國內用戶生產的各類數據被ChatGPT所掌握,危及國家數據主權安全和獨立。在智能化時代萬物皆可數據化,不僅自然界萬事萬物、人類物質生產可以數據化,人類的社會關系,包括人的行為軌跡、社會關系、身體、心理狀態、情緒、人與人之間的關系等都可以數據化。ChatGPT強大的數據汲取能力使其可以動態性、完整性、全覆蓋式地跟蹤記錄用戶的思想和行為狀態,用戶的需求、偏好、情緒、心理變化等都可以被ChatGPT所掌握。一方面國內用戶使用ChatGPT時所生產的各類數據被ChatGPT所掌握,會危及我國的數據主權安全和獨立;另一方面西方發達資本主義國家可以利用ChatGPT的技術霸權和強大的數據汲取能力使其成為全景式監控各國用戶的絕佳工具,用戶的個人隱私數據將被西方發達資本主義國家掌握。二是ChatGPT強大的數據汲取能力使個人數據面臨泄露的嚴重的風險。一方面ChatGPT本身需要大量的數據喂養使其不斷進化,ChatGPT可以利用其強大的數據汲取能力以侵犯個人隱私的手段獲取高質量的數據;另一方面數據作為智能化時代最有價值的生產要素,也是資本增殖和牟利的最有價值資源,ChatGPT不僅可以無償占有用戶的數據生產勞動,而且可以將數據商品化向各類廣告商進行出售,大量的用戶個人數據面臨被販賣和泄露的風險。個人數據安全是國家安全體系的重要內容,也是國家意識形態安全的基石,ChatGPT強大的數據汲取能力對個人數據和國家數據主權安全和獨立造成嚴重威脅,危及主流意識形態的安全基石。

(六)倫理危機:消解主流意識形態的聯結功能

ChatGPT不僅會對人們造成智能依賴、數據泄露、信息繭房的意識形態風險,還會造成人與人之間關系的疏離,消解主流意識形態的聯結功能。一是弱化人與人之間的真實聯系,造成人與人之間關系的疏離。ChatGPT作為一種強大的生成式人工智能可能引發人類的對話革命,改變目前網絡空間人際互動的對話模式,使人機互動成為智能化時代的主要對話模式。在智能化時代,人們通過ChatGPT就可以建立自身與萬物世界的聯系,可以不需要通過人與人交流聯系。在傳統網絡空間中的人際互動對話模式一方面占據了對話對象的時間,對話對象知識的有限性并不能夠滿足對話主體的需求;另一方面對話主體的私人隱私信息也不宜向對話對象訴說。而ChatGPT在時間、功能以及信息的私密性上照顧了對話主體的個性化、多樣化的需求,ChatGPT既能給對話主體提供知識信息,又能提供情緒價值,且對話成本為零。因此,隨著人工智能技術的升級和發展,人類完全可以在智能化程度更高的ChatGPT中解決自身所需的大部分問題。ChatGPT造成的對話革命會使人與人之間的關系更加疏離,人變得更加原子化,人與人之間的主體間性和真實情感將在ChatGPT引起的對話革命下被遮蔽和湮沒。

二是消解主流意識形態的聯結功能。ChatGPT猶如人的“義肢”和“武器”一樣促進了個人能力的提升,人對ChatGPT依賴的加深是以人與人真實交往的減少為代價,這種更加原子化的個體能使我更成為“我”,而不能成為“我們”。德國哲學家韓炳哲認為:“只有當一個靈魂,一種思想將他們聯系在一起,才能組成一個團結的、內在同質的群體單位,數字群完全沒有群體性的靈魂或者群體性的思想。組成數字群的個人不會發展成‘我們’?！盵22]17“我們”世界的喪失意味著價值共識的喪失?！拔覀儭笔侨伺c人之間的“關系共同體”,這種“關系共同體”是在人與人之間真實的交流中逐步減少價值分歧和沖突,形成情感共鳴,進而逐步達成價值共識,然后形成“關系共同體”。人作為能夠思考和構建自主精神世界的個體,人類“關系共同體”形成的前提是由共同的價值基礎,這種共同的價值基礎形成了主流意識形態的內核。人們在公共領地中不斷進行互動、對話和共享自身對某一事件的看法和觀點,形成共同的利益契合點和價值共識。主流意識形態是個人、社會、國家之間的情感和價值聯結,具有強大的聯結功能和思想凝聚功能。ChatGPT減少了人與人之間真實的思想交流“公共領地”,“我”貌似變得更加“強大”了,而“我們”的世界將在ChatGPT的影響下逐步被蠶食和縮小,“我們”的世界逐步喪失也意味著主流意識形態對人的聯結功能也在不斷消解。

(七)監管困境:沖擊主流意識形態的主導地位

ChatGPT是一個大型對話型語言模型,它能根據用戶的輸入內容文本,利用自身強大的自然語言理解和生成能力產生自然流暢的回答[23]。也就是說ChatGPT本身具有強大的意識形態話語建構能力,作為一種生成式人工智能,它會像一部意識形態機器一樣源源不斷地生產真假難辨的信息,這些信息包含著錯誤的思想、仇恨的言論、虛假的信息,甚至對社會主義制度、社會主義主流意識形態的敵視、偏見和攻擊,造成意識形態的全域化、動態化、復雜化的風險。黨和政府面臨著一個極其考驗的問題——如何監管ChatGPT帶來的意識形態風險。首先,ChatGPT是國外的人工智能應用,政府有形的手無法觸及。ChatGPT的服務器等各種基礎設施都在美國,中國的監管法律和制度無法對ChatGPT以及其控制主體進行監管。如果不加以對ChatGPT進行監管,ChatGPT可能不受控制地向人們傳播各種真假難辨的信息,ChatGPT不僅可能成為一部“意識形態機器”,也有可能成為一部“傳播謠言和虛假信息”的機器。二是政府資源的有限性使其對ChatGPT意識形態風險監管可能面臨失效的風險。ChatGPT每天生成數以億計的海量數據信息,而且這些海量數據高度擬人化,信息的真偽辨別極其困難。而由于政府資源的有限性,龐大的數據體量和真假難辨的信息證偽會使政府面臨極大的監管壓力,政府對ChatGPT的監管可能面臨失效的風險,ChatGPT有可能成為一匹脫韁的野馬,沖擊主流意識形態的主導地位。

三、ChatGPT意識形態風險的防范策略

馬克思曾指出:“如果從觀念上來考察,那么一定的意識形態的解體足以使整個時代覆滅?！盵24]170防范ChatGPT帶來的意識形態風險需要從價值維度、主體維度、制度維度、技術維度四個維度出發,做好ChatGPT的意識形態風險防范。

(一)以人為本:推動ChatGPT更好地服務于人

ChatGPT的強大功能使其對人的思維觀念、價值取向、道德指向發揮著重要作用,ChatGPT不僅使人能獲取所需的信息,它又像一個情感專家和人生導師一樣能給予人精神撫慰和價值指引。ChatGPT的強大功能很容易讓人陷入對其的依附從屬地位,如不加以規制,它將左右人的思維和行動,使人在對ChatGPT的依賴中喪失主體性和獨立性,逐漸陷入物對人的抽象統治,讓具有物化意識的資本主義意識形態塑造人的世界觀、人生觀和價值觀。因此,人要擺脫對ChatGPT的依賴,消解物對人的抽象統治,首先應明晰ChatGPT在人類中的地位和角色,確立其權力邊界。雖然ChatGPT具有“類人”的智慧,也能理解人的語言與思維,但ChatGPT本質上是技術人工物,是人本質力量的表現和確證,無法具有與人一樣的主體性地位。ChatGPT的角色和地位應與歷史上的蒸汽機、電機、計算機一樣是人類肢體和思維的延伸,是作為人的輔助手段和工具,屬于工具理性的范疇。工具理性是實現價值理性的手段,手段不能代替目的,ChatGPT的超主體性地位會造成工具理性與價值理性的錯位和沖突,帶來一系列社會問題,如ChatGPT被用來考試作弊,被用來寫科研論文等,造成一系列違反學術科研倫理和侵犯知識產權的問題。其次要堅持以人為本的價值導向,推動ChatGPT更好地服務于人。人工智能的最大價值是“服務于人”,而ChatGPT在資本邏輯的導向下會僭越人的主體性地位,人的意識和思維受物的支配會使物與人的關系發生顛倒,糾正這種顛倒關系,就要堅持以人為本的價值導向,以價值理性規范工具理性。社會主義核心價值觀凝聚著全國各族人民的價值共識,是社會成員的最大公約數,彰顯著人民至上的價值取向,要以社會主義核心價值觀引領ChatGPT在人們生產生活中的實踐應用,推動ChatGPT更好地服務于人,使其真正成為發展人、提升人、完善人的手段和工具。

(二)能力提升:增強意識形態工作者意識形態風險的認知和應對能力

ChatGPT的強大功能和很強的意識形態屬性會使資本主義意識形態的傳播更具隱蔽性、復雜性和擴張性,更難以識別和應對,不僅要求意識形態工作者要具備敏銳的政治領悟力和判斷力,而且還需要熟悉人工智能技術相關的基礎知識、倫理規則和法律法規,這對意識形態工作者的能力提出了更高的要求,需要不斷提升意識形態工作者智能化的適應力、認知力和勝任力。

一是提升意識形態工作者的智能素養,增強意識形態風險的認知和應對能力。意識形態風險的防范效果如何,與意識形態工作者的智能素養和認知水平密切相關。要建立意識形態工作隊伍常態化、制度化的智能素養培訓機制,通過舉辦講座報告、學術論壇、課程教育、案例研討等形式,推動意識形態工作者掌握ChatGPT意識形態傳播的特征、規律和常見策略,提升意識形態工作者數據素養、算法素養、法律素養等智能素養,增強其有效識別、研判、預警、防范和化解意識形態領域重大風險的能力。

二是提升意識形態工作者的主流意識形態話語敘事能力,提高主流意識形態的傳播力和影響力。話語敘事是體現意識形態理論和實踐價值的話語表征。提升意識形態工作者的主流意識形態話語敘事能力,一方面要講好中國故事,“兩種社會制度、兩種意識形態”的斗爭是社會主義國家與資本主義國家在意識形態領域斗爭的核心,意識形態工作者要善于挖掘中國共產黨百年奮斗歷史成就的故事以及體現社會主義制度優越性的中國故事,通過講好中國故事把中國人民選擇中國共產黨的邏輯歸因凸顯出來,把社會主義制度與資本主義制度的比較優勢凸顯出來;另一方面意識形態工作者要善于人工智能技術的社會主義應用,發揮人工智能技術優勢把中國故事傳播開來,人工智能技術的發展使得現代話語敘事更加豐富多樣,聲音、圖像、短視頻等可視化的話語敘事更能在智能化時代獲得大眾的青睞和注意力,社會主義主流意識形態的話語敘事也應順應時代的發展潮流,不斷增強宣傳工作者的聲音、圖像、短視頻、網絡推文等現代話語敘事能力,以受眾喜聞樂見的話語敘事方式提高社會主義主流意識形態在智能化時代的傳播力和影響力。

三是提升意識形態工作者的意識形態風險協同治理能力,提高意識形態風險的治理效能。意識形態風險治理是一個復雜性的系統工程,需要加強頂層設計,以系統思維加強多部門的協同聯動,形成意識形態風險的治理合力。意識形態風險的協同治理需要構建以宣傳部門、網信部門、黨政領導部門等意識形態工作部門的協同體,以整體、高效的風險聯動協同機制克服分散的、各自為政的單項治理機制的弊端,通過構建智能化時代意識形態風險治理的協同體,提高意識形態風險治理效能[25]。

(三)制度完善:健全和完善意識形態風險防范的制度化水平

健全和完善人工智能技術開發和應用的倫理規范和法律制度既是促進人工智能產業健康發展的前提和保障,也是規避人工智能風險的重要約束手段?！耙ㄟ^法律化解風險,通過法律吸納風險,將風險社會置于法治社會的背景之中,即對智能革命時代的法律制度乃至整個社會規范進行新的建構”[26],才能規范人工智能技術的開發和應用秩序。一是建立人工智能技術開發和應用的倫理規范。ChatGPT突破了原有技術的發展界限,這一場新的技術革命對人類的生產生活將會造成革命性的影響,也會帶來巨大的倫理危機,如侵犯隱私、算法歧視、信息繭房、學術造假、人們成為人工智能控制主體的“透明人”,還有侵蝕人的主體性,讓人喪失自主思考和判斷的能力,成為人工智能的附庸等等。針對人工智能技術帶來的倫理危機,政府以及企事業單位等應成立相應層級的人工智能技術開發和應用倫理委員會,建立人工智能技術開發和應用的倫理規則,使人工智能技術的開發和應用建立在人類道德秩序的掌控之中,以倫理規范的軟約束機制降低人工智能帶來的倫理風險。二是健全和完善人工智能技術開發和應用的法律制度。目前我國在人工智能技術的開發和應用方面頒布了如《中華人民共和國數據安全法》《中華人民共和國網絡安全法》《中華人民共和國個人信息保護法》等法律法規,但是對人工智能的意識形態領域風險防范和治理的專門法規目前還處于空白狀態,與人工智能技術開發和應用的法治化發展還有很大差距。因此,一方面要健全和完善人工智能技術開發和應用的法律法規,使人工智能技術的開發和應用在法律法規的硬約束的機制下健康發展;另一方面要強化相關法律法規的貫徹執行,政府部門要進一步加強對人工智能技術開發和應用的監管,推動相關法律法規制度落實到位,加大對違反相關法律法規的懲處力度,使人工智能技術的開發和應用在法治化的軌道上發展。

(四)空間拓展:鞏固和壯大主流意識形態的傳播陣地

習近平在中共中央政治局就加強基礎研究進行的第三次集體學習時強調:“加強基礎研究,是實現高水平科技自立自強的迫切要求,是建設世界科技強國的必由之路?！盵27]人工智能作為新技術創新的代表與引領未來、重塑傳統行業結構的前沿性與戰略性技術,逐漸成為全球新一輪科技革命和產業變革的重要驅動力量。目前我國人工智能技術展現出十分強勁的增長態勢,但是與美國相比我們還沒有產生像ChatGPT一樣的劃時代人工智能產品,這充分說明與美國人工智能技術的發展相比我國還有一定的差距。防范ChatGPT類生成式人工智能帶來的意識形態風險重點不僅在于防,而且更為關鍵的是要發展我國自主知識產權的先進人工智能技術。一是加大對人工智能技術研究的經費投入和政策支持,夯實我國人工智能技術發展的基礎。我國人工智能技術的發展起步較晚,基礎比較薄弱,但是近十年來,我國人工智能技術發展強勁,后發優勢明顯。要加強人工智能技術發展的頂層設計,加大對人工智能技術研究的經費投入和政策支持,如政府加大對人工智能技術發展的資金投入,利用政府管轄的科研機構和大學加大對人工智能技術的基礎研究,加強對人工智能技術人才的培養以及推動人工智能技術研究的產業化等,通過這些有力的政策支持,不斷夯實人工智能技術發展的基礎,使我國人工智能技術處于世界領先地位。二是開發具有社會主義屬性的ChatGPT類生成式人工智能,拓展主流意識形態的傳播空間。ChatGPT具有很強的資本主義意識形態屬性和意識形態功能會進一步擠壓社會主義主流意識形態的傳播和生存空間,危及主流意識形態的安全和主導地位。首先要開發具有社會主義屬性的ChatGPT類生成式人工智能或者功能更加強大的大型語言模型,使其話語立場和信息輸送符合社會主義主流意識形態的政治傾向,進一步拓展主流意識形態的傳播空間,鞏固主流意識形態的傳播陣地;其次要不斷提高主流意識形態話語內容生產的質量,以高質量的話語內容生產注入具有社會主義屬性的ChatGPT類生成式人工智能中,使其對用戶的生產生活、思想觀念、人生成長等產生積極正面的影響,從而進一步增強社會主義屬性ChatGPT類生成式人工智能的用戶黏性和忠誠度。

西方資本主義發達國家具有雄厚的資本、技術、人才優勢使其不可避免地成為生成式人工智能開發的主體,而其所掌握的ChatGPT具備強大功能和資本屬性使其成為資本主義意識形態傳播滲透的有力工具,對我國社會主義主流意識形態安全造成巨大的風險,對ChatGPT意識形態風險的防范重點不僅在于防,而且更應不斷提高我國人工智能技術的發展水平,促進人工智能產業的不斷壯大,使我國人工智能技術處于世界領先地位,以強大的人工智能技術和人工智能產業為依托鞏固社會主義主流意識形態的主導地位。