ChatGPT介入思想政治教育產生的相關風險分析

李軒

摘 要：ChatGPT在跨模態深度學習的基礎上擁有了與思想政治教育對話的能力，實現了思想政治教育主客體的交流。ChatGPT介入思想政治教育的途徑主要是生產具有思想政治教育元素的話語和充當思想政治教育的中介。由于ChatGPT自身的特殊運行模式，它在生產具有思想政治教育元素的話語的過程中并不單單充當思想政治教育的中介。這引發了思想政治教育主客體認知錯誤的風險、價值理性淡化和主體間價值理性消解風險、物的非生命性和人的生命性之間的對抗風險以及非主流意識形態話語和主流意識形態話語沖突的風險等。了解并分析ChatGPT介入思想政治教育的相關風險對于人工智能和思想政治教育的發展都具有重要的指導意義。

關鍵詞：ChatGPT；思想政治教育；人工智能的風險分析；思想政治教育話語

一、ChatGPT的運行模式及主要定位

ChatGPT一經發布就吸引了廣泛關注，它的產生對于人工智能的發展是革命性的。ChatGPT具有的跨模態學習機制使其能夠理解并生成自然語言，完成和人類的高質量互動。這標志著人工智能向強人工智能的發展邁出了堅實的一步。ChatGPT“能夠在學習人類語言和相關領域知識的基礎之上，具備智能化的內容創作能力，從而自動生成特定的內容”［1］。所以，它本質上是一種人工智能生成技術。ChatGPT運行的重點是大型語言模型和強大的自主學習能力。它的自主學習能力主要表現為基于人類反饋的強化學習機制，可以預測并自動生成文本。ChatGPT的運行模式主要是人類輸入問題，進而由ChatGPT輸出一段文本，再由人類打分。打分是為了判斷ChatGPT輸出的文本是否符合人類語言用法和習慣，從而使ChatGPT做出更貼近用戶意圖的響應。

GhatGPT還具有一定的邏輯推理能力。眾所周知，人工智能有強大的記憶數據庫。但是，記憶在某種程度上始終是經驗性累積，我們并不能把對記憶的運用程度作為是否具有意識能動性的主要判斷標準?，F在，ChatGPT已具有一定的邏輯推理能力和自主分析并解決問題的能力。ChatGPT-4通過多模態模型的訓練，能夠對圖片進行一定程度的分析并用文字敘述。這也是判定人工智能向強人工智能過渡的標志之一。ChatGPT解決了自然語言處理、計算機視覺等方面的問題，促進了人工智能的發展。在這樣的趨勢下，很多行業將迎來顛覆性變革，很多工作可能會被GhatGPT取代，社會的方方面面將受到影響，各種風險不可避免地會產生。其中，思想政治教育作為一種培養人的活動，也或多或少地受到了影響。因此，研究ChatGPT介入思想政治教育的風險等，對于思想政治教育未來的發展具有重大意義。

二、ChatGPT介入思想政治教育的途徑分析

目前，ChatGPT介入思想政治教育的途徑主要是生產具有思想政治教育元素的話語和充當思想政治教育的中介，即思想政治教育主客體通過詢問ChatGPT思想政治教育的相關問題或提供相關圖片，ChatGPT根據這些信息進行回答，形成思想政治教育主客體預期的話語內容。在這個過程中，ChatGPT主要充當思想政治教育的中介，即ChatGPT回答所用的話語大部分源于數據庫中已有的數據，這些數據大多是由人類編寫的。ChatGPT通過學習和篩選相關內容并進行重組，最終生成文本?！斑@種交互方式的演變，是一種較為理想的新型人機交互模式。不需要專業的能力和高端的設備，只要開口表達人類訴求，人工智能就能夠理解并幫助人類進行解答?！保?］這使得使用者不需要具備出色的專業素質，只需具備較好的提問能力以及較強的對世界探索的欲望。但是，這些文本的生成并不是人類所能完全預知的，即這些文本并不和原始文本資料完全一致，它受到原始文本資料、人類反饋的強化學習以及ChatGPT本身預測和推理能力的影響。因此，利用ChatGPT進行思想政治教育活動時形成的文本一般被稱為思想政治教育話語，“思想政治教育話語是思想政治教育理念與內容的載體，是教育理論轉化為實踐引導的重要介質”［3］，思想政治教育話語在思想政治教育中發揮著極其重要的作用。

與元宇宙和虛擬現實技術不同的是，ChatGPT提供的是基于算法和大數據進行相關話語“預測”的介入途徑，“預測”成為其交互的重要手段和基點。在元宇宙和虛擬現實技術中，思想政治教育主客體是整個系統的中心。但是，在ChatGPT與思想政治教育主客體的交互中，ChatGPT無時無刻不在通過思想政治教育主客體的話語與行為“預測”其思想，為其建立一種存在于虛擬世界的數據模型，理解不同元素之間的關系，并通過反饋進行修正，不斷地產出思想政治教育主客體所預期的話語內容。這種交互是發生在現實中的，這意味著思想政治教育主客體能夠完全感知到ChatGPT。在思想政治教育主客體提出的詢問或要求中，包含了一定的信息，這些信息是思想政治教育主客體已知的部分。ChatGPT會根據思想政治教育主客體提供的信息，進行解碼并輸出內容，如果思想政治教育主客體不滿意輸出的內容，可以進行反饋，以更好地達到預期效果。在此過程中，思想政治教育主客體充分發揮了主觀能動性，進入了學習模型和思想行為的交流場，獲得了更好的體驗?！八枷胝谓逃邮苁侵赴l生在思想政治教育領域內的接受活動，它反映了思想政治教育接受主客體之間的相互關系，是接受主體出于自身需要，在環境作用影響下通過某些中介對接受客體進行反映、選擇、整合、內化、外化等多環節構成的、聯結的、完整的活動過程?！保?］通常意義上的思想政治教育接受主體即為思想政治教育的客體，ChatGPT在這里充當思想政治教育的中介。思想政治教育接受主客體出于自身需要，輸入相關內容，同時對ChatGPT的輸出內容抱有一定的期待。ChatGPT根據輸入內容尋找與其契合的輸出文本，將數據轉化為文本內容，并通過思想政治教育主客體的相關反饋對文本內容予以修正，最終輸出和思想政治教育主客體的期待較為一致的文本內容，以更好地完成思想政治教育接受主體的接受行為。

三、ChatGPT介入思想政治教育的風險分析

ChatGPT主要通過輸出具有思想政治教育元素的話語的同時充當思想政治教育的中介這一方式來介入思想政治教育。ChatGPT的介入帶來了一定的風險，思想政治教育活動須依托思想政治教育過程展開［5］，因而，思想政治教育的具體問題的分析往往依托著思想政治教育過程理論進行。針對在ChatGPT介入思想政治教育的過程中產生的風險，我們需要予以具體分析。

（一）ChatGPT介入思想政治教育所帶來的主客體認知錯誤的風險分析

思想政治教育主體，通常被定義為在思想政治教育活動中，履行了承擔、發動、組織和實施思想政治教育的職能者。［6］人工智能的出現挑戰了人的主體性，使人的主體性向所謂的“技術”主體讓渡，ChatGPT的出現更是模糊了主客體之間的關系，導致了人對于主客體的認知方面的障礙。在啟蒙運動以前，人類以神為主體。啟蒙運動中，笛卡爾作為以人的理性為主體的奠基人之一，提出了哲學命題“我思故我在”，即“我”理性的思維等于“我”的存在。自此，理性不僅僅作為人類創造性的表現，也是人擺脫一切偏見與傳統的束縛，認識世界絕對可靠的方法和唯一的途徑，借此人們能抵達事物的本來面目。［7］人是理性的主體。只有通過理性，人才能實現自由和自身的價值。然而，隨著社會的發展，人們發現對理性的過度強調往往會帶來一定的局限。尼采提出，用理性的方式尋求真理、知識會限定人的存在，是“非人的，殘暴的和恐怖無比的”［8］。人的非理性部分，如欲望、情感、本能等，也逐漸引起重視，這得益于哲學家們對于過度理性的反思。曾經的理性主體和非理性主體始終都離不開人的主體性，都把人置于世界的中心；而人之所以成為世界的中心，是因為人能夠能動地認識世界和改造世界。人工智能的到來對于人的主體性產生了極大的影響。

人類歷史也是一部技術進步史。人類文明的發展與技術的發展運用是分不開的。從農耕文明開始，人的主體性一直在隨著技術的發展而變化，人的身體性的收縮和技術性的擴張也是不可避免的，人工智能“日益擠壓人生理、文化身體”［9］。ChatGPT的出現模糊了人與機器之間的主客體關系，這是對于以人為主體的敘事結構的一個新的挑戰。在ChatGPT的運行規則下，客體基于自身的思想觀點輸入問題，ChatGPT基于算法和算力生成問題的回答，回答的文本不可避免地被打上客體的思想烙印，這樣客體在話語生產中擔任著主體的角色。但是，在文本生成的過程中幾乎沒有人類主體的參與。在這里，ChatGPT輸出的內容是對于原有材料的加工，輸出內容的來源及自身蘊含的創造性都是未知的。人類主體如果完全接受ChatGPT輸出的內容，就會成為事實的客體。同時，主體的話語創造行為又對客體的話語體系進行了再生產，主客體處于相互換位中。主客體關系的狀態是不穩定的，時而模糊，時而顛覆，因此產生了主客體的認知錯誤的風險。

（二）ChatGPT介入思想政治教育所帶來的價值理性淡化和主體間價值理性消解風險分析

德國社會學家馬克斯·韋伯提出了價值理性和工具理性。價值理性強調動機和手段的正當性，相信某種行為必然存在價值，不太在意結果；工具理性則恰恰相反，認為行為者的行動受功利動機驅使，追求效果和利益的最大化，注重效率而忽視人的情感和精神價值。

由于科技的發展，價值理性和工具理性原來的和諧狀態被打破，開始走向割裂與沖突。ChatGPT介入思想政治教育所產生的價值理性淡化風險實際上是技術工具的功利性與思想政治教育的整體性之間的對抗性風險。ChatGPT的功能十分強大，大大提高了人的工作效率。在教育學習方面，大數據對于學習者的認知和需求的把握精準快速。對于教學對象，這有利于實現教學的精準化、科學化和個性化。但是，這種所謂的精準化、科學化和個性化偏重教育的技術功能，為了提高學習效率，忽視了教育真正的價值和屬性。以工具理性的角度來看，利用GhatGPT來提高效率、實現學習目的，有其合理的成分。但是，站在價值理性的角度，利用人工智能必定會造成對于人的價值性的偏離。在工具理性推動科技前進的同時，價值理性告訴人們要在教育、文學、哲學、心理學等社會人文學科或領域中沉淀下來。

主體自身是衡量價值理性的重要尺度，而ChatGPT消解了人的主體間性，即人對他人意圖的推測與判定的價值，這體現為主體間性缺失的風險。人是目的而不是手段，若人不斷地依賴ChatGPT所產生的功能效應，原本的人與人之間互為目的的關系就會斷裂為“主體—客體”的關系。哲學家伽達默爾認為，世界是構架，我們通過語言交流與合作生存其中。實踐是人與他人相聯系的一種“參與性”分享，并在其中互得共同利益的過程?！皩υ挕薄罢勗挕奔w中的溝通各方的主體間性使得人類得以生存與發展，構建人類的實踐理性。哲學家海德格爾認為，生存不應當被理解為在主客一分為二的狀態下所進行的主體構造和客體征服，而是主體間的共同存在，是自我主體與對象主體間的交往與對話。由此來看，ChatGPT是“聰明”的，但“聰明”反被“聰明”誤。它以高度智能化和技術化把對客體的思想的把握上升到一種前所未有的高度，卻很難察覺到人的表情、動作、狀態的實時變化，察覺不到人的動態性、內在性和變化性?；诳腕w提供的話語，它能夠很快地將定制化的語言進行文本輸出，但是它沒有體現主體間性的推測性，反而表現為一種機械化輸出。在與他人的交往對話中，人體現著“自己”的存在；人在對他人的意圖的推測中實現價值。這樣才能回到生活，回到實踐，回到現實，回到人的存在本身。這種主體間性的推測價值的消失是對于價值理性的一種極大的漠視。ChatGPT在教育領域的過度使用將會帶來物的非生命性與人的生命性之間的對抗風險的加劇。教育是具有特殊性的其面對的對象是擁有精神需求的人類。尤其是思想政治教育，它負責解決人的意識、靈魂、情感特別是理想和信仰方面的問題，是影響人的身心發展的社會實踐活動。教育不應像工業流水線那樣“制造”同樣性格、同樣模式、同樣狀態的所謂的“人”。實際上，教育應是“創造”人，允許差異性，使人成為獨一無二的存在。教育是一種具有多元性的人類實踐活動。所以，我們不應單以效率和功利作為衡量教育質量的標準，而應充分考慮價值理性的存在，明白教育是一個生命性的體驗過程。思想政治教育的過程更應該把人作為一種可以教育并需要教育的生命體來理解，以滿足人的道德需要、信仰需要等精神需要。［10］

（三）ChatGPT介入思想政治教育所帶來的非主流意識形態話語

與主流意識形態話語沖突的風險分析話語系統極為重要，已成為意識形態的重要載體，對意識形態的表達產生著深刻的影響，從而影響人們的理解、認知和心理認同。ChatGPT對人文領域的回答呈現出東西方文化差異。它所擁有的知識體系是人為灌輸的，而不是建立在類似于人類所擁有的幾千年的生活經驗和理性思考的基礎上的。

“ChatGPT生成話語的機制以西方的邏各斯為框架，相對于其他語言文化的區域，就產生了一種話語權力的擠壓。與此同時，其所具有的空前的網絡話語生成霸權，使其不僅成為阿爾都塞所說的意識形態國家機器，也成為有著全球影響的‘意識形態世界機器?！保?1］話語和意識形態之間具有緊密的聯系，我們要警惕西方國家的意識形態輸出。我們要掌握主流意識形態在話語方面的主動權和主導權，而ChatGPT恰恰是以西方文化和思想為主導的，這不得不引起我們的重視與警惕?！耙庾R形態的安全問題在中西差異的輸入輸出中出現了滲透風險，反映到ChatGPT介入思政教育中就是主客體可能會在與ChatGPT的反饋互動中受到隱蔽的誤導?！保?2］如此，中國話語體系中主流意識形態對主客體的認知與非主流意識形態的話語輸出之間就會產生對立性風險。同時，主客體本身有時并不理解或完全認同主流意識形態。相應的非主流意識形態話語被輸入后，如果有部分別有用心的人將歷史虛無主義、價值虛無主義等錯誤思想滲透到ChatGPT，ChatGPT為了保持其論證的合理性，它就會傾向主客體的思想，產生符合主客體期望的語言文本，使主客體在其中逐漸迷失自我，導致意識形態安全出現風險。

四、結語

人工智能的發展是必然的，不能僅僅看到其先進的一面，也不能簡單地將其看作洪水猛獸，而是要客觀分析其帶來的積極影響和消極影響?；诎l現風險、分析風險的思路，本文主要闡述了ChatGPT介入思想政治教育所帶來的相關風險。但這并不意味著完全否認技術、否認人工智能，恰恰相反，這是承認了ChatGPT的功能的強大，以及給人類帶來的巨大影響。我們需要再次審視技術和人類的關系，以更好地促進人類與技術的和諧，實現人的全面發展。

參考文獻

［1］錢力，劉熠，張智雄，等.ChatGPT的技術基礎分析［J］.數據分析與知識發現，2023（3）：6-15．

［2］朱光輝，王喜文.ChatGPT的運行模式、關鍵技術及未來圖景［J］.新疆師范大學學報（哲學社會科學版），2023（4）：113-122.

［3］李厚銳.智媒時代思想政治教育話語建設路徑創新研究［J］.中國高等教育，2022（20）：33-35.

［4］張耀燦，鄭永廷，吳潛濤，等.現代思想政治教育學［M］.北京：人民出版社，2006：191.

［5］［6］［10］駱郁廷.思想政治教育原理與方法［M］.北京：北京師范大學出版社，2019：134，95，64.

［7］張偉琛.對主體及主體哲學的批判［J］.河南師范大學學報（哲學社會科學版），2007（2）：14-17.

［8］［德］弗里德里?！つ岵?看哪這人：尼采自述［M］.張念東，凌素心，譯.北京：中央編譯出版社，2010：38.

［9］張務農.人工智能時代教學主體的辨識與倫理反思［J］.教育研究，2022（1）：81-90.

［11］張生.ChatGPT：褶子、詞典、邏輯與意識形態功能［J］.傳媒觀察，2023（3）：42-47.

［12］王少.ChatGPT介入思想政治教育的技術線路、安全風險及防范［J］.深圳大學學報（人文社會科學版），2023（2）：153-160.