ChatGPT在課程“教”與“學”中的應用場景、潛在風險及防范策略

摘? ? 要：生成式人工智能是一種強大的自然語言處理技術，ChatGPT（Chat Generative Pre-trained Transformer，聊天生成型預訓練變換模型）是其中的代表之一。近年來，隨著生成式人工智能技術的快速發展，ChatGPT在教育領域的應用日益受到關注。ChatGPT帶來了輔助學習、個性化學習、互動體驗和課程創新等方面的變革，展現了其在教育領域中的潛在價值。同時，ChatGPT是一把“雙刃劍”，其在內容質量控制、倫理道德等方面存在潛在風險。因此，多元防范主體必須協同發揮作用，通過不斷加強技術升級與審查、開展理性引導與文化教育等手段，有效防范和化解ChatGPT在“教”與“學”雙邊活動中存在的潛在風險，確保其在教育領域中的安全和可持續發展。

關鍵詞：ChatGPT；人工智能；應用場景；風險；防范策略

中圖分類號：G641.3? ? ? 文獻標識碼：Ａ? ? ? 文章編號：1002-4107（2024）05-0036-04

一、引言

ChatGPT是由美國人工智能公司OpenAI開發的一個基于GPT-3.5架構的大型語言模型，自2022年11月推出以來，便引發了全球范圍的熱議與討論。ChatGPT體現出的用戶交互功能，為人類解決自然語言處理問題提供了可行性路徑，因此，ChatGPT受到全球各國政府、學術界乃至普通用戶的青睞，被廣泛用于文字撰寫、在線客服、編程輔助、內容創作等場景，其給教育界帶來的影響亦不容小覷。ChatGPT作為一種新興的革新性力量介入課程“教”與“學”的雙邊活動，勢必會給課程建設理念與實踐帶來重大變革。文章旨在探討ChatGPT在課程“教”與“學”中的應用，揭示其在教育領域中的潛在價值；同時，系統探討ChatGPT可能帶來的潛在風險，并提出相應的風險防范策略，以確保ChatGPT生成式人工智能技術在課程建設領域的安全和可持續發展。

二、ChatGPT在課程“教”與“學”雙邊活動中的應用

教育領域從不缺乏科學技術的創新應用。ChatGPT生成式人工智能基于其對用戶意圖的準確理解和定位，能夠初步“學習”人類經驗[1]，實現人機的雙向溝通，并對問題的回答顯示出極強的邏輯性和專業性，受到全球范圍內廣大用戶的青睞。ChatGPT在教育領域中的應用價值也在不斷提升，不僅給學生帶來了新的學習和課程體驗，也為教育領域提供了未來發展方向。ChatGPT在課程教學活動中的應用主要表現為其帶來了輔助學習、個性化學習、互動體驗和課程創新等方面的變革。

（一）ChatGPT在學生輔助學習場景中的應用

ChatGPT在學生輔助學習場景中的應用主要是通過其生成式文本生成能力和自然語言處理技術給學生提供幫助和支持。第一，ChatGPT可以作為一個虛擬助手，回答學生在課程學習過程中遇到的問題。在學生向ChatGPT進行發問后，ChatGPT會對輸入的問題進行處理，并將答案直接展示給學生，使學生快速獲取信息。同時，ChatGPT可以根據學生的學習進度和表現，提供個性化的輔導和反饋。ChatGPT可以分析學生的答案或學習情況，識別錯誤和薄弱點，并給出相應的指導和建議，幫助學生改進學習。第二，ChatGPT可以為學生提供豐富的學習資源，包括課程資料、輔導材料、模擬題等。學生可以通過與ChatGPT的對話，獲取適合自己學習階段和需求的課程資源，促使自己更加沉浸地學習，深入探索知識。第三，ChatGPT可以扮演一個與學生進行互動的虛擬角色，通過“接受輸

入—語境理解—意圖處理—生成并輸出回復—反饋”的循環流程，模擬真實對話場景，鼓勵學生主動提問和思考，與學生進行情感上的交流，激發學生的學習熱情，提高學習興趣和參與度。

（二）ChatGPT在學生個性化學習場景中的應用

ChatGPT在學生個性化學習場景中的應用主要是根據學生的個體差異和不同的學習需求，為每個學生制定學習內容和學習體驗。第一，通過與學生進行交互，ChatGPT可以了解學生的學習需求，根據學生的學習風格、興趣愛好和知識水平等，為學生制定課程內容體系，并生成適合學生個性化特點的學習材料。第二，ChatGPT可以根據學生的學習效果和學習進度，智能地安排學習計劃和時間表，給出相應的學習改進建議和調整方案，并提供指導和反饋，為學生迅速調整改進課程學習的方式方法，促使學生更加高效地學習。第三，ChatGPT可以根據學生的學科偏好、學習目標和學習歷史，智能地推薦適合學生個性化需求的學習資源。學生可以更加自主地選擇學習內容和學習方向，進行自主學習和自主探索。第四，ChatGPT可以在教育心理輔導方面發揮作用，其通過與學生的交流對話，為學生提供心理支持，便于學生更好地進行情緒管理，應對學習壓力。

（三）ChatGPT在學生互動體驗場景中的應用

ChatGPT在學生互動體驗場景中的應用是通過與學生進行自然語言交互，創造一種沉浸式的、有趣的互動體驗。第一，ChatGPT可以成為單純有趣的聊天伙伴。ChatGPT可以被設計成一個具有個性化特點的虛擬角色，賦予特定的個性、口吻和語氣，使其更像一個真實的人物，與學生進行情感上的交流和互動，分享有趣的故事和笑話。第二，通過與ChatGPT的對話，學生可以參與到沉浸式的故事或場景中，進行角色扮演。ChatGPT可以根據學生的問題輸入，生成連貫的故事情節和場景描述，讓學生身臨其境地體驗其中的情節和事件。第三，ChatGPT可以被應用于智能游戲和解謎類應用中。ChatGPT可以根據學生的需求，提供相應的游戲情節和謎題；學生通過與ChatGPT的對話解決謎題，增加游戲探索性，獲得挑戰樂趣，獲取藝術靈感和指導。ChatGPT還可以與學生一起進行藝術創作，如共同創作詩歌、繪畫等，為學生提供與AI（Artificia Intelligence，人工智能）合作的獨特體驗。第四，ChatGPT可以成為學生的語言學習伙伴。學生可以與ChatGPT進行語言對話，練習口語表達和發音；可以通過向ChatGPT詢問語法和語言使用規則，理解語言結構；可以通過ChatGPT修正自己的語言文字作品，從而改進寫作技巧。

（四）ChatGPT在教師課程創新場景中的應用

ChatGPT依靠其可提供的多樣化、交互性強的功能特性，給課程改革創新帶來契機。第一，ChatGPT可以作為教師的智能助手，幫助教師優化課程設計，提供備課支持。教師可以與ChatGPT進行交互，指定教學目標、教學重難點，ChatGPT則根據教師的輸入生成相應的教學材料和練習題，幫助教師獲取課程相關資料、教學案例和教學活動的創意，更高效地進行課程設計。第二，ChatGPT可以應用于開放教育資源（Open Educational Resources， OER）的創作中，為教育社區提供豐富的免費學習資料。ChatGPT可以根據不同學科領域的需求，生成開放式教育資源，包括課程講義、教學音視頻、練習題等，促進教育資源的共享和傳播。第三，ChatGPT可以整合不同學科領域的知識，應用于“線上＋線下”混合式學習模式中。學生可以在課堂上通過與ChatGPT互動，獲取跨學科的課程資料和知識要點，并進行答疑互動，將線下課堂學習與線上互動交流相結合。線下學習的穩定性和在線學習的靈活性，可共同為學生學習提供更多的時間和空間。

三、ChatGPT在課程“教”與“學”雙邊活動中存在的潛在風險

生成式人工智能技術的迅速發展為課程教學帶來了新的機遇，然而，隨著其逐漸被廣泛應用，也將帶來一系列潛在的風險和挑戰。ChatGPT是一個生成式的人工智能模型，其生成的內容是基于在大規模數據集上學到的語言模式和知識，這種生成式的特性給學生的學習內容、學習心理等方面帶來了挑戰，具體表現為，ChatGPT可能在內容質量控制、倫理道德等方面存在潛在風險。

（一）ChatGPT可能帶來內容質量控制的風險

ChatGPT是根據預訓練數據集中學到的語言模式和知識生成的一種生成式模型。這種生成式模型的特性使其在內容質量控制方面可能存在一些風險。第一，生成式內容的可信度和準確性方面。ChatGPT生成的內容可能受到預訓練數據集中信息的影響，導致輸出內容存在不準確或不可信的情況，尤其在面對復雜或專業性較強的問題時，ChatGPT可能無法提供高質量的答案，甚至給出錯誤的信息。第二，生成式內容的模糊性和錯誤性方面。

ChatGPT的生成式特性決定了其回答是基于概率分布，因此，在某些情況下，其可能給出多種可能的回答，輸出含糊或模棱兩可的學習內容，這樣的輸出可能會給學生帶來困惑。第三，基于少樣本學習的內容生成不足方面。盡管ChatGPT在大規模數據集上進行了預訓練，但在面對某些特定學科領域或復雜問題時，由于數據量不足，其可能無法生成高質量的內容。例如，在醫學診斷、法律咨詢、量子計算、高能物理、繪畫等領域，ChatGPT的應用效果非常有限，必須尋求相關領域的專業人士解決該類復雜問題。第四，生成式內容的主觀性和偏見方面。ChatGPT在互動中可能輸出一些不適當或有害的內容，尤其是當學生輸入不當的問題或信息時，其輸出內容可能導致學生受到偏頗觀點的影響，從而影響學習體驗和學習結果。

（二）ChatGPT可能帶來倫理道德問題的困境

ChatGPT通過大規模預訓練模型，并基于龐大的文本數據集，學習語言模式和知識。這些數據集可能包含了現實世界中存在的偏見，而這些偏見會在ChatGPT的生成內容中體現出來。第一，可能帶來性別和種族偏見。

ChatGPT可能在生成內容時出現性別或種族上的傾向性。例如，在描述某些職業或特定人群時，可能會出現性別刻板印象或種族歧視，可能更傾向于使用與某些性別或種族相關的詞語，或者在描述特定事件或情況時表現出偏見。第二，可能帶來文化和社會偏見。ChatGPT學習到的數據可能反映特定文化或社會觀點，導致輸出內容在跨文化和跨社會背景下產生不適應或誤導性。第三，可能帶來知識偏見。ChatGPT學習的數據集可能來源于特定領域或網站，因此，可能因缺乏某些領域的全面知識，導致在一些學科領域中出現生成內容的不足或錯誤。第四，可能帶來算法偏向。ChatGPT的生成內容可能受到預訓練算法的影響，導致特定類型的問題或主題受到更多關注，而忽略其他方面的信息。ChatGPT數據本身反映了社會和文化的多樣性，偏見的根源可能是深層次的社會問題，完全消除所有偏見必將是一個復雜的挑戰。

ChatGPT是一個基于大規模數據集預訓練的生成式模型，本身并不具備倫理判斷能力和良心意識，可能無法提供針對倫理問題的恰當回應和指導，因此，可能引發倫理風險。一方面，可能帶來倫理準則與生成內容相沖突的情況。由于大規模數據集內容的不確定性，ChatGPT可能輸出暴力、歧視、冒犯或敏感等不正確的觀點或有害的內容，對學生產生負面影響。同時，預訓練數據集中可能包含了現實世界中存在的偏見和歧視性觀點，導致ChatGPT在生成內容時可能表現出性別、種族、地域或其他方面的偏見，與現實社會的倫理準則相沖突。另一方面，ChatGPT作為一種高度智能的聊天機器人，其在提供個性化學習支持和作業輔導等時，需要獲取大量包括學生基本信息、學習情況、行為和互動記錄等在內的詳細數據，這些隱私數據可能會被 ChatGPT 模型抓取，在其生成教學資源輸出時，會對學生的個人信息和隱私數據進行深度處理，可能向其他用戶或組織泄露，進而產生嚴重的隱私安全隱患。

ChatGPT的科技屬性天然影響著意識形態?！凹夹g利維坦”、智能算法“把關人”、資本技術操控的共同作用，極易誘發多重意識形態風險[2]。作為一個生成式的人工智能模型，ChatGPT可能會改變人們的生活方式和價值觀念，也可能威脅主流意識形態的話語權威。例如，以西方國家為代表的開發者極易利用ChatGPT的輸出內容和個性特征，以宣傳和操縱為目的，通過生成內容來傳播特定的意識形態或觀點，輸出一些帶有西方意識形態色彩和價值觀的錯誤內容，并且通過反復、連續輸出不斷強化錯誤內容，對其他國家用戶進行隱性的意識形態攻擊和滲透，而這極易導致學生用戶陷入西方錯誤思想傳播的思維陷阱，失去政治判斷能力，引發學生對社會主義核心價值觀的理論和情感認同危機，進而削弱馬克思主義主流意識形態認同，壓縮主流意識形態生存空間，影響社會和諧安定。

四、ChatGPT誘發課程“教”與“學”風險的防范策略

ChatGPT生成式人工智能技術給自主學習帶來了新的風險與挑戰，其中，內容質量控制、倫理道德等問題是需要重視的關鍵領域。對此，多元防范主體必須協同發揮作用，通過不斷加強技術升級與審查、開展理性引導與文化教育等手段，有效防范和化解ChatGPT在“教”與“學”雙邊活動中存在的潛在風險，確保其在教育領域中的安全和可持續發展。

（一）加強技術升級與審查以防范內容質量控制風險

加強ChatGPT技術的升級與審查是防范內容質量控制風險的關鍵步驟，可從以下2方面進行。一方面，優化ChatGPT的模型和算法，提高其在內容質量控制方面的性能及穩定性。深入分析ChatGPT與學生學習目的、課程目標之間的關系，并基于該關系對ChatGPT進行技術升級。通過優化Transformer模型的結構，如增加層數、調整注意力機制等，提高ChatGPT課程生成內容的連貫性和準確性，減少不準確內容輸出的風險。另一方面，引入審查和監督機制，確保ChatGPT生成內容的準確性和可靠性。審查和監督是傳統教育領域中常用的教學管理手段，已在日常的教學管理、教材審查、作業批改等方面取得了確實成效，將其引入ChatGPT內容質量控制是一種創新嘗試。一是建立對ChatGPT生成內容的審查機制。研發人員和開發者、專業教育者或管理員通過對內容進行審核，判定內容的準確性和合適性。同時，讓有經驗的教師或教育專家參與課程學習過程，監督并修正ChatGPT生成內容的質量和準確性。二是構建內容質量控制監督系統。對ChatGPT輸出內容進行實時監測，定期檢查生成的內容。當檢測到不當或有害內容時，及時進行干預和調整。對于某些敏感或專業性較強的話題，可以限制ChatGPT的使用場景，避免輸出不適宜的內容。

（二）開展理性引導與文化教育以解決倫理道德危機

解決ChatGPT數據偏見問題對于維護人工智能技術的道德和社會責任至關重要，有助于確保技術的公正、可靠和可持續發展。首先，引導學生樹立批判性思維，在使用ChatGPT生成的內容時保持冷靜謹慎。教師應向學生解釋ChatGPT是一個生成式模型，強調數據偏見是由數據集中存在的社會、文化或個人等偏見導致的，其輸出內容是基于大規模數據生成而來的，并不等同于真實世界的知識。同時，鼓勵學生不要過度依賴ChatGPT，可參考其他可靠的信息來源，如教科書、學術論文和權威網站等。其次，合理規劃課堂活動。教師應主動引入課堂互動活動，通過實際案例演示，讓學生親身體驗ChatGPT的使用，使學生認識到數據偏見可能對知識和決策產生負面影響。同時，與學生一起討論ChatGPT使用中可能出現的問題，引導學生思考并提出解決方案。最后，對學生提供及時反饋和指導。在學生使用ChatGPT進行寫作和研究時，教師應鼓勵學生收集、分析和驗證數據，并向學生指出其中可能存在的問題和改進之處，引導學生在使用數據時要注意數據的來源和質量。同時，鼓勵學生選擇多樣化、全面性的數據集，避免過度依賴和使用單一來源數據。

減輕ChatGPT倫理風險是保障人工智能技術安全、可靠和社會受益的重要一環，需要技術開發者、研究者、決策者和社會各界的合作與共同努力。首先，制定相應的倫理準則，建立倫理審查機制?；趪H公認的倫理標準和法律法規，制定明確的倫理準則和指導方針，包括內容質量控制、數據隱私、偏見規避等。同時，建立倫理審查機制，對ChatGPT的應用場景和目的進行評估，在模型輸出內容時，可以引入倫理“過濾器”，檢測和阻止有害內容，確保其符合倫理準則和社會價值。其次，實施隱私保護措施，確保用戶信息安全。對于用戶提供的個人數據，應采取隱私保護措施，避免泄露危害個人安全的信息。在使用用戶數據進行訓練時，可以進行數據脫敏處理，或在用戶數據與模型的鏈接中使用匿名ID代替真實用戶ID。另外，對ChatGPT系統的訪問進行嚴格控制，只允許授權人員訪問和操作模型，限制非授權人員的訪問。最后，加強多方合作與監管。建立一個由多方參與的審查委員會或專家團隊，包括人工智能研究者、教育專家、倫理學專家、法律專家等，確保審查機制的全面性和多角度的評估，以加強各行業各領域之間的合作與監管，共同應對可能的倫理風險。

通過建立文化指導準則，將人工智能的發展和應用納入社會和文化的框架中，確保模型的開發和應用符合不同文化背景，可以更好地化解ChatGPT帶來的各種風險。第一，建立跨文化審查機制，確保模型的輸出內容符合各種文化背景的政治道德標準。針對輸出內容中涉及的敏感領域，如宗教、政治等，設置審查機制，避免輸出涉及文化潛在沖突的內容。第二，增加模型的透明度和解釋性，讓學生了解模型的生成規則和運行邏輯。教師應講解ChatGPT是如何做出決策、生成內容的，解釋模型可能受到文化因素的影響，使學生能夠理解模型的運行。第三，融合紅色文化與人工智能領域研究的關涉點，提升紅色文化育人資源的供給能力[3]，打造紅色資源數據庫、3D影像技術、VR網絡虛擬現實技術等，開展以“人”“物”“事”“魂”等為主線的紅色文化深度體驗，通過紅色文化傳播，強化主流意識形態話語認同。第四，鼓勵國內自主研發具有本國文化特色的生成式人工智能模型，以化解意識形態風險。通過自主研發，積極推動人工智能技術文化產品的數字化、網絡化，加強正能量、高質量AI技術資源的傳播。2023年，國內企業相繼推出了諸如HuggingGPT等本土化的人工智能產品。HuggingGPT是一個基于PyTorch框架的自然語言處理協作系統，專注于文本生成、對話系統等，其在整個科技圈爆火，說明了我國具備了自主研發類似的自然語言處理技術的可行性。

五、結束語

ChatGPT（或類似的自然語言處理技術）在教育領域中具有廣闊的應用前景。ChatGPT作為一個強大的語言模型，可以廣泛用于與學生、教師和其他教育參與者的交互，提供個性化的學習體驗和教育支持。然而，在使用

ChatGPT時，也要注意一些潛在的挑戰和問題，如模型的誤導性回答、對隱私的關注等。因此，將ChatGPT應用于自主學習中需要采取謹慎的態度和負責任的方法，辯證審視其可能誘發的風險，確保其真正成為學習和教學的有益工具，推進ChatGPT等人工智能技術在教育教學領域的良性發展。

參考文獻：

[1]? 黃欣榮，劉亮.ChatGPT賦能思想政治教育：技術路徑與可能問題[J].江西財經大學學報，2023（6）：105.

[2]? 王延川，趙靖.生成式人工智能誘發意識形態風險的邏輯機理及其應對策略[J].河南師范大學學報（哲學社會科學版），2023，50（4）：1.

[3]? 文娛.“大思政課”視域下高校紅色文化育人模式研究[J].黑龍江教育（理論與實踐），2023，77（10）：85.

編輯∕王力

收稿日期：2023-09-19? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 修回日期：2023-10-12

作者簡介：田淑慧，女，講師，研究方向為思想政治教育。

基金項目：國家社會科學基金項目“新時代網絡公共話語空間的意識形態治理研究”（19BKS094）；黑龍江省教育科學規劃重點課題“網絡意識形態安全教育融入高校思想政治理論課研究”（GJB1423344）；黑龍江省高等教育教學改革項目思政課研究專項“思政課教學中網絡社會思潮辨析引導研究”（SJGSX2022006）