算法推薦場域下主流意識形態風險表征及治理路徑

張琨 魏青松

摘要：【目的】算法推薦正在超越人工智能技術范式，成為新興的非物質軟權力，這一權力在資本邏輯加持下給我國意識形態安全帶來極大挑戰，應對挑戰并提出相關建議對我國國家安全建設有重要意義?！痉椒ā勘疚耐ㄟ^探究算法推薦的技術邏輯及其意識形態屬性，厘清算法推薦給我國主流意識形態安全建設帶來的風險挑戰，從而提出治理路徑以有效規避風險?！窘Y果/結論】治理算法推薦場域下以“微碎敘事”“娛樂泛化”“信息繭房”為主要表征方式的主流意識形態風險，需要平臺履行主體責任加強管控；政府規制算法“有序”運行；主流媒體積極融入傳播新格局，形成算法安全多元共治的局面，為主流意識形態安全保駕護航。

關鍵詞：算法推薦；主流意識形態；人工智能；風險表征；治理路徑? ? ? ? ? ? 中圖分類號：G20? ? ? ? ?文獻標識碼：A

文章編號：1671-0134（2024）01-053-04? ? ? ? ?DOI：10.19483/j.cnki.11-4653/n.2024.01.009

本文著錄格式：張琨，魏青松 . 算法推薦場域下主流意識形態風險表征及治理路徑[J].中國傳媒科技，2024，31（1）：53-56.

習近平總書記指出：“互聯網已經成為輿論斗爭的主戰場，在互聯網這個戰場上，我們能否頂得住、打得贏，直接關系我國意識形態安全和政權安全?！盵1]隨著大數據技術和人工智能技術的躍遷式發展，算法推薦逐漸成為信息流通領域影響我國主流意識形態安全的重要變量。防范化解算法推薦場域下的主流意識形態風險，對維護我國國家總體安全具有重要價值。

1.算法推薦的技術邏輯及意識形態屬性

隨著數字化高度發展與信息超載，為實現信息高效利用，算法推薦成為大數據等人工智能技術的必然產物，其具有自身的技術運作邏輯。作為一項技術，盡管其本身不具備價值導向，但技術的“內嵌式”結構使其不可避免地在信息選擇與分發中呈現出鮮明的意識形態屬性。明晰算法推薦的技術邏輯及其意識形態屬性是探求算法推薦場域下主流意識形態風險表征及其治理路徑的重要條件。

1.1? ?算法推薦的技術邏輯

研究表明，“算法”即“為解決特定問題而輸入的一系列步驟”，其作為計算機理論的核心要素廣泛應用于計算機領域?！巴扑]”即介紹合適的人或事物希望被任用或接受?！八惴ㄍ扑]”是以計算機為平臺，建立在大數據收集、計算與分析基礎上，對用戶在網絡平臺的行為數據，包括用戶的年齡、性別以及上網時間、地點等進行收集整合與偏好分析，推測用戶物質與精神需求。之后基于內容推薦、協同過濾推薦等技術，對收集的信息進行整理分析，自動生成符合用戶需求及其可能感興趣的信息內容，且根據用戶的實時反饋進行動態更新與調整，進而推送“懂你”的信息。 要了解算法推薦的技術邏輯及算法原理，首先要理解抽象數學模型：y = f（x1，x2，x3），其中，x為輸入元素，y為輸出結果，f（x）為算法推薦模型。一般的算法推薦往往包含三個自變量，第一類是用戶特征（x1），往往包含用戶基本信息、瀏覽偏好以及行為習慣等；第二類是環境特征（x2），主要指時間（時間段、工作日/節假日）、空間（辦公場所/休閑娛樂場所）、設備（大屏/小屏）、網絡等環境；第三類是內容特征（x3），主要指擬推薦內容的題材及長度等?？梢园l現，自變量主要分為靜態自變量與動態自變量。顧名思義，靜態自變量即相對穩定，不會發生明顯變化的變量，如用戶年齡、學歷與地域等。動態自變量即用戶所處的時空環境等特征，相對不穩定，容易發生變化。算法推薦的輸出結果即因變量，涉及匹配度模型設置問題，可以簡單理解為y =推薦或y=不推薦。由此，整個過程就抽象為了已知用戶、環境內容特征，通過執行算法推薦，得出特定內容與特定用戶之間匹配度的結果。根據不同的計算結果，平臺可能針對用戶采取不同的分發策略。通常來講，算法推薦系統至少由三個子系統構成：數據系統（收集用戶信息）、分析系統（勾勒用戶偏好）、推薦系統（過濾、篩選和推送）。在這三個系統中，推薦系統處于核心地位，決定了個性化推薦能否順利實現。

作為信息資源的一種全新配置范式，算法推薦技術一方面在信息流通效率提高的基礎上為用戶節省了檢索篩選信息的時間成本，另一方面算法推薦技術使個性化信息推送成為現實，給用戶帶來了使其“愉悅”的個性化虛擬空間。對于平臺來說，算法推薦增加了用戶數量，增強了用戶黏性，留住用戶的同時也為其創造了更多商業價值。在算法推薦的作用下，信息交互使“人找信息”轉向了“信息找人”。

1.2? ?算法推薦的意識形態屬性

作為人類社會交流的重要媒介，話語“表達什么”“怎么表達”“以什么立場表達”都蘊藏著權力，這種權力關系的系統呈現，注定了算法推薦的全過程滲透著意識形態色彩。算法推薦分為輸入單元、運算單元及輸出單元，其功能分別對應：搜集用戶信息并記錄其個性特征及行為數據，進行過濾、分類、賦值和貼標簽；計算已知數據與潛在需求之間匹配程度；向目標用戶推送轉化后的用戶能夠接受的算法推薦內容。就這三個單元的運行過程所蘊含的意識形態屬性來說，一方面，從一開始算法推薦的技術本質及內嵌原則就決定了其必然內嵌著算法設計者的立場與觀點，另一方面，算法推薦的不當使用也必然會導致特定的意識形態后果。

算法推薦不僅涉及技術編碼與運算程序，還涉及算法設計者及使用者的價值體系。首先，在算法推薦的設計過程中，算法設計主體經過用戶和技術“賦權”后，具有了篩選、決策和定向推送的權力，并依據自身知識經驗或歷史用戶的使用數據進行選擇并訓練算法模型，以便推送更加符合“個性化”推送目的的信息，即使在弱人工智能階段，算法推薦系統的人工痕跡仍非常明顯。例如算法設計者通常為達到某種意圖特意置頂某種凸顯價值導向的內容。其次，“喂養”算法的數據也非絕對“價值中立”，來源于現實的數據信息必然也會攜帶一定社會的、歷史的、文化的意識形態色彩。數據的規模及是否具有代表性是衡量算法推薦客觀性的重要標準，但實際上獲取全面的樣本數據并非易事，在算法推送過程中，算法設計主體往往為了實現特定目標而選取“指定”數據，或在這一過程中進行人為“扭曲”，這些多重因素都影響著算法的價值選擇。值得關注的是，算法推薦還會在承襲設計主體及歷史數據的基礎上，隨著自身更迭強化并放大這一價值立場，通過晦澀、隱蔽的方式造成算法歧視，使一段時間內的偏見與不平等永恒化，造成意識形態危局。最后，算法推薦背后往往也有外部社會政治權力的介入，由于算法推薦技術的研發與運行需要大量資金投入，資本自然而然介入了算法運行。與傳統制度化與強制化權力相異，市場經濟條件下資本介入后的算法推薦更顯現出“商業邏輯、偏好原則、技術理性和隱形運行的特征”[2]。算法推薦在追求利益最大化的同時不可避免地會利用自身技術優勢以及行業便利、把控社會資源及信息，在用戶黏性基礎上潛移默化地影響人們的認知結構和行為方式，從而產生有利于代表利益集團的意識形態傳播?？梢哉f，算法推薦自始至終就是對原有傳播結構進行重新組合，重塑價值的過程，因而具有意識形態色彩。

2.算法推薦場域下主流意識形態風險表征

算法的內嵌原則與不當使用是生成主流意識形態風險的關鍵因素。這些風險主要體現在擠壓我國主流意識形態傳播陣地、削弱我國主流意識形態話語權威以及弱化我國主流意識形態認知統合效果方面，造成我國主流意識形態建設危局。

2.1? ?微碎敘事擠壓主流意識形態傳播陣地

“陣地是意識形態工作的基本依托”[3]。當前，網絡空間作為西方資本主義建構主流意識形態的重要陣地，依托算法推薦等互聯網技術以隨時發生、微量微小等傳播方式加劇意識形態內容生產的“微碎化”趨勢，擠壓了主流意識形態等傳播陣地。

在算法推薦“微碎敘事”背景下，一方面，圍繞黨、國家、人民及國際大事展開的宏大敘事失去效應，有限性的“小事”被賦予新的意義，“雞毛蒜皮效應”對人們碎片化思維的形塑降低了受眾對主流意識形態的接受程度。相比主流意識形態相關內容深入社會實際、具有深刻內涵與宏大敘事的特征，需要長期且扎實的理論學習才能“入腦入心”，算法以碎片化、輕量化的內容推薦吸引人，有價值和意義的信息被過濾，長此以往人們在碎片化思維的形塑下會更加沉迷于短平快的信息攝入，深陷抖音、快手等快餐式平臺，造成主流意識形態傳播邊緣化風險。另一方面，算法推薦的“微碎敘事”對碎片化時間的占用也會影響受眾對閑暇時間的有效利用，為諸如文化消費主義、歷史虛無主義等西方不良社會思潮的資本主義意識形態滲透提供便利，潛移默化影響人們吃穿住行，引導文化消費。此外，算法推薦還會影響用戶的信息篩選和分辨能力，例如包括“普世價值論”在內的各種錯誤思潮會利用碎片化材料拼湊“真相”，裁剪“事實”，惡意篡改歷史、中傷英雄人物，歪曲黨和國家的方針政策，導致主流意識形態話語偏離，對主流意識形態傳播陣地構成嚴重威脅。

2.2? ?娛樂泛化削弱主流意識形態話語權威

“為了提升消費能力，絕不能讓消費者休息。他們需要不斷被置于新的誘惑之下，以便一直保持激動狀態，永遠不讓興奮萎縮”。[4]在虛擬網絡空間，民眾對于娛樂新聞八卦的熱情遠超公共信息，為迎合大眾，算法不惜為用戶創造“興趣”，這種基于用戶本位的信息分配機制很大程度上造成了用戶“娛樂成癮”。同時，在資本邏輯主導下，信息的價值評判標準由社會反饋轉向流量資本，為了吸引更多流量產生更大經濟效益，這種流量經濟下的“泛娛樂化”致癮機制使很多用戶在娛樂化數字世界中沉迷、放縱，選擇戲謔權威、歪曲主流話語等方式自我釋放、宣泄情緒，在這樣一種娛樂化氛圍裹挾下，媒體平臺的逐利性會迎合而非批判，主動宣傳主流意識形態的信息變少，正如馬克思所說“資本主義生產過程的動機和決定目的，是資本盡可能多地自行增值，也就是盡可能多地生產剩余價值”。[5]同時，逐漸衍生的“娛樂至死”心態也使社會變得喧囂而浮躁，信息娛樂化、世俗化逐漸戰勝抽象化、理論化，資本主義話語體系逐漸侵蝕價值話語，有意思的信息逐漸取代有價值的信息。西方敵對勢力和我國別有用心者往往借此機會制造輿論風波、蓄意抹黑，導致主流意識形態話語權威削弱甚至旁落。

2.3? ?信息繭房弱化主流意識形態認知統合效果

“信息繭房”是指人們關注的信息領域會習慣性地被自己的興趣所引導，從而將自己的生活禁錮于像蠶繭一般的“繭房”中的現象。在當前信息高度過剩的狀態下，用戶注意力，成了所有信息平臺爭搶的核心要素。算法機制為更成功吸引用戶眼球，只推送用戶喜歡的內容，但凡有一點引起用戶反感或不悅的信息，它都可以從用戶的停留時間或其他反饋上判斷出來，進一步剔除優化，直到完全是用戶喜歡且是最喜歡的一種或幾種內容，由于用戶傾向于選擇自己偏愛的、產生精神愉悅的同質性信息，長此以往內容推送的單一化和排他化導致很多理應接收的信息被排除在外，用戶逐漸失去接受異質性信息的機會，沉溺于以偏概全的信息世界，認知和視野的窄化導致個人與社會脫節，最終淪為“信息孤島”的“原住民”。在興趣“氣泡”長期環繞下，人們通常吸收新信息以確認他們對世界的看法，這種現象被稱為“證實偏見”，受眾在這一過程中不斷加深對某些問題的固有看法，逐漸喪失理性判斷能力，只將自己認知內的信息看作是真理，拒斥合理性觀念，成為“單向度的人”，長此以往造成圈層固化。葛蘭西用社會水泥的隱喻闡釋有組織意識形態就如“社會水泥”，對社會具有黏合團結的整合功能。而算法推薦的“信息繭房”效應使得利益群體逐漸分散，不利于社會成員對主流意識形態的接受和認同，思想共識在“信息繭房”效應引發的圈層固化中被撕裂，主流意識形態的整合效果被弱化。

3.算法推薦場域下主流意識形態風險治理路徑

習近平總書記曾指出：“當前意識形態領域的斗爭仍然尖銳復雜，需要全黨以敢于斗爭的精神、善于斗爭的本領主動應戰，牢牢掌握主動權?！盵6]面對算法推薦技術帶來的意識形態風險，我們應積極采取主動策略應對風險，重塑算法推薦場域。

3.1? ?平臺自治：履行主體責任，加強平臺管控

智能媒體要成為綜合治理的技術主體，就必須從源頭治理技術系統的運行，從而更好支配算法推薦技術的生產、分發與反饋環節，確保算法平臺載體的安全合規。具體來說，一方面，平臺要保護用戶的知情權和選擇權。面對算法對日常生活的深入滲透，多數用戶表示對算法“是什么”及何時處于算法場域并不知情。作為算法技術的設計者和使用者，算法平臺有義務告知用戶算法運行情況?！痘ヂ摼W信息服務算法推薦管理規定》（以下簡稱《規定》）中明確指出企業應保護用戶知情權，以適當方式公示算法服務的基本原理及主要運行機制等[7]，增強算法規則的透明度與可解釋性，提升用戶對于信息接收的敏感度。此外，平臺還應尊重用戶的選擇權，向用戶提供不針對個人特征或關閉算法推薦服務的選項等，避免用戶陷入“算法牢籠”。另一方面，平臺還應嚴格把控并評估算法推薦展示內容是否符合主流價值導向，智能選擇并過濾算法推薦場域的新自由主義及歷史虛無主義等“臟數據”，為內容分發過程加裝“過濾網”，采用“算法＋人工”的“雙保險”審核方式，用人工編輯的價值理念和專業知識來審視與監督算法偏見，增加算法中對主流價值導向的評價維度和權重設計，以“弘揚社會主義核心價值觀”鼓勵使用算法傳播正能量，保證優質內容始終貫穿于推送序列中。

3.2? ?政府規制：以法治手段約束算法“有序”運行

由于算法推薦場域下網絡空間意識形態安全的不確定性，政府對算法領域規制的積極介入成為約束算法推薦邊界及運行的關鍵環節和重要路徑。一方面，要認清形勢，任何平臺算法推薦的背后往往是資本逐利性、壟斷性與擴張性控制下無節制追求“流量經濟”等商業指標的結果，因此必須通過公權力的介入從外部對算法進行管控，政府要堅決防止算法背后資本力量的惡意操縱與不當得利，加強對算法的科學監管，以“包容審慎監管”為原則，在適應算法治理特征及算法創新需求基礎之上，通過合理方式驅動算法推薦走上合法求利的軌道，維護我國主流意識形態安全。另一方面，“技術的迭代與創新，確實容易突破法律的邊界，踏入規則的‘無人區”[8]，這也恰恰意味著在法律層面對算法進行規制、引導迫在眉睫。我國出臺的《規定》為整治算法推薦場域亂象叢生提供了政策導向，但也要深刻認識到算法綜合整治的法律法規仍處于起步階段。加強對算法推薦的有效監管，就要加強商業互聯網企業準入、運行與退出機制探索，對于不符合算法評估標準、違反行業道德、觸碰法律紅線的算法平臺進行嚴厲打擊，建立嚴格的懲罰制度，以硬性的法律夯實意識形態安全底線，阻止算法野蠻生長。此外，還可以建立健全政策獎勵激勵制度，以柔性治理手段積極推動算法向善發展，例如出臺相關稅收優惠政策等鼓勵商業機構平臺發揮主觀能動性履行社會責任，實現商業利益同社會價值的有機統一。

3.3? ?主媒領治：推動主流媒體融入傳播新格局

習近平總書記指出要“用主流價值導向駕馭‘算法，全面提高輿論引導能力”[9]。主流媒體承擔著價值導向、成風化人等使命，不能同商業媒體算法一樣以逐利為目標。一方面，主流媒體平臺要不斷推動信息分發核心技術優化升級，加大技術領域創新力度，形成壯大主流思想輿論的黨媒算法和主流算法，精準定位用戶需求，為用戶量身推送社會主義核心價值觀等主流意識形態的相關內容，實現從技術上的“跟跑者”到“領跑者”。另一方面，主流媒體也要在堅持內容為王、轉換傳播語言、形成貼近人民生活的主流傳播內容的同時積極融入平臺媒體，借助多元渠道擴大自身輻射范圍，增強網絡影響力。當前，擁有龐大用戶基數的如抖音等的媒體平臺已成為形塑與傳播意識形態的重要陣地。只有善用頭部商業平臺的技術與市場，將之與自身優質內容相融，實現聯合運營，才能更好地推動優質內容的分發機制，擴大主流意識形態的傳播力、引導力、影響力和公信力。就《人民日報》來說，截至2023年11月抖音平臺粉絲已突破1.7億人次，獲贊突破120億次，在媒體抖音號影響力排名中位居首列，其內容輻射廣度在抖音平臺助力下進一步得到提升。

作為人工智能技術的重要形態，算法推薦在廣泛應用中已然成為網絡信息分發的主要方式，我們要認清這一技術導致的意識形態風險隱患，加強主流意識形態價值引領，引導廣大民眾形塑正確思想、發表積極言論，增強國家認同感，強化“四個自信”，維護我國網絡空間安全。

參考文獻;

[1] 《習近平新聞思想講義（2018年版）》編寫組.習近平新聞思想講義[M].北京：人民出版社，學習出版社，2018．

[2] 張林.智能算法推薦的意識形態風險及其治理[J].探索，2021（1）：176-188.

[3] 中共中央文獻研究室.習近平關于社會主義文化建設論述摘編[M].北京：中央文獻出版社，2017.

[4] [英]齊格蒙特·鮑曼. 工作、消費、新窮人[M].譯者：李蘭.長春：吉林出版集團，2010.

[5] 馬克思恩格斯文集：第 5 卷[M]. 北京：人民出版社，2009.

[6] 習近平.在中央黨校建校90周年慶祝大會暨2023年春季學期開學典禮上的講話[J].求是，2023（7）：4-13.

[7]互聯網信息服務算法推薦管理規定[EB/OL]. （2022-01-04）[2023-10-30].http.//www.cac.gov.cn/2022-01/04/c_1642894606364259.htm.

[8]羽生.人民網三評算法推薦：警惕算法走向創新的反面 [EB/OL]. （2017-9-20）[2023-11-10].人民網http：//opinion.people.com.cn/n1/2017/0920/c1003-29545718.html.

[9] 習近平 . 加快推動媒體融合發展構建全媒體傳播格局[EB/OL]. （2019-3-15）[2023-2-5].求是網，http：//www.qstheory.cn/dukan/qs/2019-03/15/c_1124239254.htm.

作者簡介：張琨（1999-），女，山西太原，上海海事大學馬克思主義學院碩士研究生，研究方向為思想政治教育；魏青松（1977-），男，河南駐馬店，教授，上海海事大學馬克思主義學院碩士生導師，上海市習近平新時代中國特色社會主義思想研究中心研究員，馬克思主義理論學科帶頭人，研究方向為馬克思主義中國化、中國共產黨海洋強國戰略思想與實踐、執政意識、政黨制度及思想政治教育原理與方法等。

（責任編輯：李艷松）