人工智能對意識形態的操控及風險防范策略研究

王玉婷 王凡

摘要：以大數據、虛擬現實為核心的人工智能正深刻改變著社會各領域，為意識形態工作帶來了巨大變革。人工智能正悄無聲息地操控著人們的意識形態，主要表現在技術工具對意識形態的操控、智能機器人本身的意識形態、資本家對意識形態的操控。這些現象帶來了算法獨裁與算法偏見風險、透明人法律與倫理風險、核心價值與話語權威的消解風險、意識形態沖突失控風險。為此，需要采取加強算法治理和個人隱私保護、修復技術漏洞與人為缺陷、規范人工智能從業者的思想和行為等措施防范風險。

關鍵詞：人工智能;深度變革;意識形態;操控;風險防范

中圖分類號：D64 文獻標識碼：A 文章編號：1004-9436（2022）01-00-03

人工智能技術的出現，不僅為社會生產力的發展注入了新鮮的動力，也為社會生產力的解放提供了重要途徑，使社會生產方式和人類思維方式發生了巨大變革。人工智能是一種能夠深刻改變世界的顛覆性技術，當其滲透于社會的每個角落、人類活動高度依賴智能機器時，人們的意識形態就會被人工智能操控[1]。因此，深入思考當前意識形態領域面臨的變革與困境，人工智能技術操控人類意識形態的風險，化挑戰為機遇、化風險為動力，這對形成具有強大凝聚力的意識形態具有重要的現實意義。

一、意識形態工作的深度變革

人工智能技術正悄無聲息地改變著社會多個領域，尤其對意識形態領域工作的影響將在未來更加深化，使意識形態工作面臨更多機遇與挑戰?，F階段，人工智能技術對意識形態領域的變革主要體現在傳播模式、工作機制、表現方式等方面。

第一，意識形態傳播模式的變革。近年來，互聯網技術的快速成熟與普及，使網絡平臺成為信息傳播的主要陣地，以雙向傳播機制打破了傳統信息傳播模式的時空壁壘，大幅度提升了信息傳播效率。隨著大數據和算法技術的發展，原本依靠人工的信息收集、處理、分析以及傳播等工作逐漸被機器承擔，信息傳播模式的變革正式開啟[2]。

第二，意識形態工作機制的變革。社會生產力的發展往往伴隨著統治階級內部的分化，一些在身份地位、知識體系等方面具有明顯優勢的人開始作為意識形態家出現[3]。其職責在于建構符合統治階級意志的話語，以達到賦予統治階級合法性的目的。從本質來看，意識形態是社會統治階級的思想，并非草率、零散的話語表達，而是由該階級的意識形態家通過凝練、整合、概括等方式所呈現的物質關系[4]?？梢哉f，意識形態話語的形成取決于占據主導地位的思想家，借助話語載體將階級意志展現出來。意識形態家不僅是意識形態話語的制造者，還是階級意識形態話語的維護者。

人工智能時代，機器學習技術已滲透于社會的各個領域，基于智能算法的機器人已成為可能，這使意識形態話語的生產主體得到了延伸。受人工智能技術的影響，意識形態工作實現了向人機協同機制的轉變。一方面，人工智能已成為一種搶占意識形態話語權的重要手段，不僅具有主流意識形態保護功能，還具有意識形態滲透功能[5]。另一方面，基于智能算法的機器寫作模式是指通過篩選、分類、排序、過濾等方式處理海量數據，將自動化數據填充至人工模板中。當人工智能發展到一定階段，寫作機器人可以自主創新文章模板時，寫作機器人便成為新聞輿論的生產主體。

我國騰訊公司生產的智能機器人拉開了國內自動化新聞寫作的帷幕。之后，“小封機器人”“快筆小新”“張小明”“小融”等寫作機器人迅速涌現，新聞編輯工作逐漸由加載算法程序的機器人承擔，迎來了輿論新聞的生產潮流。在意識形態話語自動化生產中，寫作機器人傳遞的仍是人類的意識形態。意識形態家與人工智能機器人共同協作，占據了意識形態領域的支配性地位。

第三，意識形態呈現方式的變革。傳統媒體時代背景下，文字、圖像、聲音是意識形態呈現的主要形式。隨著網絡媒體時代的到來，意識形態可通過動畫、音頻、視頻等媒介展現出來。到了人工智能時代，虛擬現實技術和可穿戴設備的出現突破了傳統二維的信息呈現格局。通過運用虛擬技術模擬現實場景，為人們帶來視、聽、觸等多重感官體驗，這種虛擬與現實交織的沉浸式空間的構建及運用，能夠帶給受眾一種身臨其境的動態體驗。得益于人工智能技術的優勢，意識形態的呈現也實現了向立體化形式的過渡。

二、人工智能操控意識形態的具體表現

從人工智能與人類關系及其發展的社會因素視角來看，人工智能對人類意識形態的控制主要體現在三個方面。

一是技術工具對意識形態的操控。在弱人工智能階段，人類與人工智能是使用主體與客體的關系，后者對前者的操控表現為算法操縱[6]。信息爆炸的互聯網時代，機器學習技術從自然科學領域拓展至人類社會領域，對人類行為、偏好或需求進行預測分析。機器學習技術的核心在于知識發現問題，在算法運用中存在著對意識形態的操控。隨著網絡社交平臺的大量出現，相比于文字表達，人們更傾向于使用圖片和視頻表達想法或情感。

二是人工智能機器人本身的意識形態。未來發展必將迎來機器與人類并駕齊驅的強人工智能階段。在強人工智能階段，機器與人類之間或共存或對抗，由此產生了兩種不同的言論，即和諧共存論和分裂對抗論[7]。

三是資本家對意識形態的操控。從社會因素層面來看，意識形態的操控問題涉及復雜的社會關系。利益紛爭的背后是資本家利用人工智能操控意識形態的丑惡面相，這也是當今社會不可避免的現實問題。人工智能時代，利用智能機器能夠為資本家帶來更多的資本增值。

此外，馬克思還論述了權力與技術之間的關系，認為工業機器與工人是敵對的，技術的進步意味著工人階級被剝削程度的加深。工業革命賦予了資產階級統治權力，形成了資產階級的意識形態。而工人階級想要打破被奴役的困境，就必須推翻資產階級在意識形態領域的統治，獲得政治上的統治權，打破資本對技術的操控。

而人工智能又為資產階級取得意識形態領域的領導地位提供了支撐，同時人工智能為人類社會帶來的福利不容小覷，如生產力提升、信息共享、物質生活極大豐富等，這些都為實現共產主義、轉變資產階級的意識形態創造了重要的現實條件。但值得注意的是，馬克思面對的僅僅是工業技術，而人工智能技術是一種深刻影響社會發展的顛覆性技術，其影響遠大于工具技術。

三、人工智能操控意識形態存在的風險

人工智能的出現使意識形態工作發生了深刻變革，應用智能算法技術可實現對個體意識形態的追蹤、預測，提升意識形態傳播效率和精度，增強大眾對主流意識形態的認同感。但同時也為意識形態工作帶來了諸多風險。

第一，算法獨裁與算法偏見風險。算法獨裁在意識形態上主要體現在兩個方面。一方面，權力與資本控制下的技術人員可通過更改算法得出有利于自身利益的裁判結果。當他們利用算法篡改領域內的運行規律時，將會對社會造成無法預估的危害。另一方面，人類對算法的過度依賴。利用算法能夠有效實現對個體意識形態數據的分析、歸類以及聚合。而人們為了節省時間和精力往往會賦予算法選擇權，這就導致了算法獨裁。人工智能時代，人工智能算法將破解人類的自我意識，而由于機器與人類意識形態的差異，機器人可能成為未來的獨裁者。

第二，透明人和倫理風險。在人工智能領域，人臉識別、掌紋識別、機器視覺等技術的應用使公眾的個人隱私面臨被泄露的風險，甚至可能變成透明人?，F階段，語音語義識別、自動化搜索、人機交互等領域的迅速發展主要依賴于對數據群的機器分析，這實際上也是操控意識形態的一種方式。大數據技術是將海量數據轉化為有價值信息的重要工具，目前已成為社會各領域必不可少的重要資源。

第三，核心價值與話語權威的消解風險。人工智能技術的出現從根本上改變了人們接收信息的議程。在信息領域中，人們只會選擇自身感興趣的內容，進而被束縛于類似蠶繭的信息繭房之中。在智能算法的精準推薦下，用戶將無限度、同質化地獲得與其意識形態趨同的信息，從而加劇信息繭房效應，使人們處于封閉的輿論場場域中，進而因缺乏主流意識形態的引導而迷失正確的價值觀。

人工智能技術的產生實現了對傳媒信息資源的開放與共享，打破了以往主流意識形態的壟斷地位，使其面臨權威被消解的風險。人工智能時代，信息傳播內容取決于智能算法推薦，由算法承擔構建意識形態話語的職責，取代主流媒體，發揮引導輿論的職能，威脅主流意識形態的話語權威。

第四，意識形態沖突失控風險。隨著人工智能時代的來臨，云計算、物聯網、大數據等新興技術的綜合應用，打破了傳統信息傳播模式的局限，能夠將意識形態通過網絡傳遞給所有人，并精確捕獲個人信息。目前，我國人工智能的發展優勢在于龐大的互聯網群體和海量的用戶數據，但核心技術與西方國家先進技術仍有較大差距。

四、防范人工智能意識形態操控風險的策略

人工智能發展過程中，人工智能對意識形態的操控風險不可避免，必須認真分析、理性思索，積極尋找有效的應對策略。人與技術存在詮釋、具身、它異等關系，人工智能是以它者身份作為人類的伙伴而存在的，兩者之間實質上就是一種它異關系。這就為防范人工智能對意識形態的操控風險提供了思路。筆者認為，應該從以下四個方面入手。

第一，加強算法治理和個人隱私保護。人工智能算法在意識形態領導權的掌控上極具隱秘性和便捷性，需要從倫理、技術及國家層面進行綜合治理。一方面，政府應進一步完善個人信息保護相關法律法規，為規范良性算法設立相應的法律條例。同時加大執法力度和監管力度，優化算法治理體系，調整多元治理主體之間的良性關系，明確算法治理主體的法律責任。另一方面，針對人為利用人工智能操控意識形態的行為，可以建立高效、系統、科學的網絡輿情監測系統。按照“技術反制技術”原則，運用大數據挖掘技術和智能算法搜集、整理、分析和監測網絡言論，加大對意識形態惡意操控者的監督力度，及時制止或規避惡意誤導主流意識形態的行為。

第二，規范人工智能從業者的思想和行為。從本質來看，人工智能對意識形態的操控就是人對人的操控，因此必須設立合理科學的人工智能倫理準則，加強對人工智能工作者的行為監管。道德判斷必須以理性道德原則及健全的論據為前提，規范性主張實質上是通過理性話語表達的道德原則。根據該定義，人工智能倫理準則必須以道德信念為基礎，以服務于人類為原則，以服務于國家利益為目的，而非傳遞異化意識形態的借口。電氣和電子工程師協會提出了三項人工智能倫理標準，即“道德化的人工智能和自動系統的福祉衡量標準”“機器化系統、智能系統和自動系統的倫理推動標準”“自動和半自動系統的故障安全設計標準”。這些都是為了保護人類不受人工智能的威脅。

第三，修復技術漏洞與人為缺陷。借助人工智能技術裹挾轉移公眾意識形態的形式仍未改變斗爭的本質，只是在形態上更加隱秘，在意識形態話語傳播上更加迅速、便捷。因此，必須充分運用人工智能作為工具技術在社會治理、人才培養、社會發展上的優勢。在最大化發揮其技術紅利的同時，保持正確的意識形態。人工智能無法完全擺脫資本、權力和技術的控制，且在一定條件下具有異化人的作用，需要高度警惕其導致的極端價值取向風險。此時，就需要借助技術力量及時檢測并修復技術漏洞，規避人工智能領域的人為缺陷。

五、結語

人工智能的發展在未來必將迎來更大變革，人工智能發展與人類意識形態問題交織必定會帶來人工智能技術操控意識形態的風險。必須正確認識人工智能對意識形態工作的變革，掌握人工智能操控意識形態的原因及具體表現，研判該現象可能帶來的風險及相應的風險防范策略，為避免意識形態沖突、促進人與機器和諧共存提供思路。

參考文獻：

[1] 朱定局.人工智能的文藝夢想和機器人的未來[J].華南師范大學學報（社會科學版），2019（5）：183-188，192.

[2] 余乃忠.自我意識與對象意識：人工智能的類本質[J].學術界，2017（9）：93-101.

[3] 馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012：56.

[4] [美]劉易斯·芒福德.技術與文明[M].陳允明，王克仁，李華山，譯.李偉格，石光，校.北京：中國建筑工業出版社，2009：203.

[5] 石德金，劉蕊.新時代意識形態治理新格局：基于本土化治理理論的視角[J].學習與探索，2020（2）：52-60.

[6] [法]阿爾都塞.哲學與政治：阿爾都塞讀本[M].陳越，編譯.長春：吉林人民出版社，2003：87.

[7] 弗洛里迪.第四次革命：人工智能如何重塑人類現實[M].王文革，譯.杭州：浙江人民出版社，2016：198.

作者簡介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校思想政治教育。

王凡（1998—），女，河南駐馬店人，碩士在讀，研究方向：思想政治教育。