面向智慧教育的技術倫理取向與風險規約

黃榮懷 張國良 劉夢彧

摘要：當前，智能技術與教育的全過程融合正推動教育方式發生深刻轉變，同時衍生出算法歧視、技術濫用、隱私泄露和教育主體錯位等技術倫理風險，如何規避風險以最大化享受智能技術紅利成為智慧教育發展的重要議題。為此，文章首先分析技術倫理相關報告文件，刻畫智慧教育在智能技術、教育主體、教育數據和教育監管四個向度的技術倫理取向；然后，文章剖析“教-學-管-評-練-研”六大智慧教育典型場景下的差異化技術倫理風險表征，將其產生根源歸為技術工具失信、教育實踐失范和師生素養不足三個層面；最后，文章從技術升級、風險管理、問責監管、數據流動和素養提升角度給出風險防范與治理建議，助力智慧教育健康可持續發展。

關鍵詞：智慧教育；智能技術；倫理規范；風險表征；風險規約

【中圖分類號】G40-057 【文獻標識碼】A 【論文編號】1009—8097（2024）02—0013—10 【DOI】10.3969/j.issn.1009-8097.2024.02.002

引言

智能技術在變革教育領域的同時，也衍生出算法歧視與不透明、技術濫用與依賴、數據隱私泄露、教學主體情感交流危機和權力邊界模糊等一系列倫理問題[1][2]，這引發了國內外社會的廣泛關注。為此，2019～2021年期間，聯合國教科文組織相繼發布《北京共識——人工智能與教育》《人工智能倫理問題建議書》等多項報告[3][4]，呼吁和引領人工智能教育應用的倫理規約和可持續發展。當今時代，消解倫理風險，實現技術向善已成為全球教育領域面臨的共同挑戰[5]。

智能技術的教育應用催生教育形態的進化，智慧教育作為教育信息化發展的高端形態，契合教育數字化轉型的發展目標，其實踐取徑的特征之一便是合乎科技倫理的技術應用[6]。隨著新興智能技術和產品不斷涌現，其在賦能教育的同時也引發教育領域對技術倫理風險的擔憂，如何規避風險以最大化享受智能技術紅利成為智慧教育發展所關注的重要議題。然而，技術倫理規范的革新相較于智能技術教育應用實踐處于滯后地位，當前教育領域關于智能技術的倫理研究主要集中在原則構建和抽象風險剖析方面，總體而言缺乏超脫智能技術影響力的全面倫理框架[7]，難以支撐教育形態朝向具備更高技術豐富度和系統融合性的智慧教育的健康發展需求。面對教育政策制定者、研究者、實踐者、產品開發人員和其他利益相關者對智慧教育技術倫理規范認知與把握的差異，有必要系統論述面向智慧教育的技術倫理取向、風險表征、成因及其規約問題，彌合技術倫理“應然取向”與其風險“實然困境”的割裂差距，助力教育形態向智慧教育健康可持續發展。

一 應然取向：面向智慧教育實踐的技術倫理規范

“倫理”一詞指人與人相處應遵循的道德準則，包括客觀的倫理關系及其外在規約[8]，其中技術倫理可界定為在技術開發和應用等過程中，涉及技術與人、技術與社會之間關系的道德和準則[9]。2017年，國務院發布《新一代人工智能發展規劃》，提出要推動人工智能在教學、管理、資源建設等方面的全流程應用，實現日常教育和終身教育定制化[10]，而當前智慧教育實踐面臨諸多智能技術介入教育全過程的沖擊，技術倫理風險日益擴大化，厘清其技術倫理“應然取向”可為其規范實踐提供共識理解和原則指導。

1 取向分析

近年來，許多國家和機構均發布了包含技術倫理內容的相關政策文件及報告，以規避智能技術帶來的負面影響。聚焦到教育領域，雖然相關的新興智能技術倫理報告文件不斷更新迭代，為厘清面向智慧教育實踐的技術倫理規范提供了堅實基礎和前瞻指導，但已有研究對教育領域智能技術倫理原則的提煉大多趨于一致，難以跳出通用領域智能技術倫理規范的技術邏輯，致使教育性不足。本研究在梳理近5年7份典型教育領域智能技術倫理相關報告的基礎上，通過內容分析提取其中的倫理關注內容（如表1所示），以構建更貼切智能技術教育應用本質、價值取向和時效性的技術倫理規范模型，發現教育領域智能技術倫理的核心關切聚焦于“智能技術”“教育主體”“教育數據”和“教育監管”四個向度，可作為智慧教育技術倫理取向模型的一級結構收納各項技術倫理要素或原則。

2 模型建構

基于表1中技術倫理取向的內容分析，本研究提出智慧教育技術倫理取向模型（如圖1所示），以系統、結構化手段呈現面向智慧教育實踐的智能技術教育應用需要關注的技術倫理規范，其最終目的是使智能技術在合乎倫理規范的基礎上服務于智慧教育“教-學-管-評-練-研”全流程典型應用場景。

接下來，參考上述報告中的相關內容給出各倫理取向的描述性解釋：①智能技術向度涵蓋算法技術與產品的可解釋、準確、安全和穩定等取向。智能技術教育應用要考慮算法的可解釋性問題，追求技術在輸入輸出、性能表現、結果生成過程中運行原理和決策過程的可公開、可理解和可追溯，提高可信度；同時需要考慮其分析結果和生成內容的準確性，避免出現虛假內容誤導；安全則指在算法、人機交互設計和產品形態上的安全合規和不傷害特征，實現安全保障；穩定體現為智能教育系統的魯棒特征，以及在應對風險侵入情況下穩健發揮的能力，避免出現技術異常結果。②教育數據向度包括數據安全、數據規范等取向。數據安全指教育數據在采集、存儲、使用、共享和刪除等過程中需確保數據安全，避免泄露和濫用；數據規范則需要追求數據采集、處理、存儲、分享的格式和業務標準化，保證數據的質量和通用性，實現系統間數據的有序健康流動，同時建立真實、準確、客觀和多樣的教育訓練數據集，避免數據偏見。③教育監管向度關注問責、監管和協同治理等取向。問責的作用在于建立法規條例，以明確智能技術在教育開發與應用環節中各主體的責任和義務，引導技術合理運用、避免因擔責不明引發更多亂象；監管在于實現智能技術教育應用的可監察、可評估和可管理，避免技術倫理風險治理失序；不同利益攸關方采取包容性方法開展協同治理，有助于使技術惠益為社會全體共享并推動其可持續發展。④教育主體向度關注公平、控制權、人的尊嚴和隱私保護等取向。公平指技術資源在不同國家或區域、種族、個體、性別、殘障情況、語言群體等方面的非歧視、訪問與獲得平等的普惠表現；控制權體現在教育主體能夠根據個體意愿自由決定技術的使用和終止，以及在各使用環節實現對技術的管理，避免技術失控；人的尊嚴是每個人生來具備且不可侵犯的，智能技術在整個應用生命周期中需要尊重教育主體的人權和基本自由；隱私保護指智能技術教育應用過程中對個人隱私的接觸要合理、合規和克制，避免侵犯個人隱私。

二 風險表征：智慧教育典型場景下的技術倫理風險

智能技術與教育融合帶來了諸多創新和便利，創生出智慧平安校園、機器人學伴、虛擬仿真實訓等典型應用[18]，在變革教學模式、學習方法、教育管理、教育評測、技能訓練、知識生產方式等方面取得了顯著進展。然而，智能技術的發展及其規?；逃龖靡惨l了一系列倫理風險問題。教育是復雜的社會活動，真實教育場景下所涉及的技術種類和業務實踐具備復雜性、多元性和場景異質性的特點，其中的技術倫理風險也存在不同的表征形式。為此，本研究依次從“教-學-管-評-練-研”六大智慧教育典型業務場景切入，明晰其“實然困境”。

1 教育機器人誤用沖擊教學主導權與師生關系邊界

從計算機輔助教學、智能導師系統到教育機器人，技術發展促成了人機關系從輔助到協同的迭代升級[19]。然而，在教學中引入教育機器人使“師-生”二元關系向“師-機-生”三元關系轉換時，如果整合不當，則可能會對學生的學習方式和情感發展、教師的角色和教學主導權產生負面影響。教師是學生的引導者和指導者，教育機器人在一定程度上能夠削弱甚至替代人師的角色和權力，這種教學主體錯位會造成師生之間的人際接觸和互動溝通減少[20]，學生可能更多地依賴機師而不是人師，導致師生關系、生生關系和人機關系發生結構異化。此外，由于兒童能夠將人類的認知、行為和情感特征歸因于機器人[21]，而教育機器人不僅具有技術工具屬性，還具備外顯的認知、行為和情感表現能力，因此這種類人屬性可能導致教育機器人在教學中的功能和角色邊界更加復雜?！禖OMEST機器人倫理報告》同樣指出，機器人技術能夠模糊人類主體和技術客體之間的界限，其中角色問題是教育機器人的重要關注點，即教育機器人應該被視為導師、工具還是同伴，以及教育機器人能在多大程度上取代教師[22]。目前，教育機器人正處于發展初級階段，存在教學性不足、反饋性差、感知力欠缺等問題[23]，其負面或失控行為的道德和法律責任也面臨追責歸因問題。

2 算法歧視阻礙學生的個性化學習和全面發展

社會發展促使教育需求正從標準化教學走向個性化學習和終身學習，教學服務也由標準化供給向個性化服務轉變[24]。智能教育系統致力于根據學生的能力、學習風格等特質提供個性化和定制化的學習內容與路徑，然而由于程序模型的“算法歧視”，以及數據采集存在的片面和偏差問題，致使算法在面對不同數據主體時可能會進行區別對待，容易在資源推薦和教學決策方面產生能力偏見、性別偏見、種族偏見等歧視性后果，這將導致個性化學習目標未能真正實現、學習結果兩極分化和教育不公平現象的加劇。此外，算法推薦技術還存在“信息繭房”效應，當學生受到“算法針對用戶興趣而有目的推薦”機制的影響，導致接收信息和學習的路徑單一化、觀念日趨片面化時，其固有觀念會不斷強化，智能技術反而可能引發學生整體的價值偏見和歧視[25]，不利于學生綜合素質的全面發展。

3 教育數據管理失范增加隱私泄露與濫用風險

教育數據涵蓋教育實踐活動所產生或關聯的各類數據，具備數據從產生、采集、擁有到使用的循環特征[26]，而智能技術對多元教育數據的大量采集和分析存在隱私侵犯、數據泄露與濫用的倫理風險。例如，在學校教育中，智慧平安校園監控、人臉識別打卡設備乃至課堂監測系統日益壓縮學生的隱私空間，“超級全景監獄”之下一切教與學活動開放透明且無可遁形[27]；學生個人信息、學業成績等數據也可能遭受教務管理人員失職、未經授權的訪問、黑客攻擊和系統漏洞的安全威脅，引發數據泄露和篡改風險，影響教育主體的信息、身心和物質安全。美國政府問責局在2020年發布的一項調查表明，在99起數據泄露事件中有數千名K-12學生受到負面影響，其中學業成績和特殊教育記錄等信息是常見的泄露類型[28]。在線教育中，學生在教育平臺和客戶端應用中的個人隱私數據則可能被販賣和濫用，以達成不當的商業目的、決策偏見等。智能教育產品對用戶信息的不當收集與濫用現象屢見不鮮，近年來工信部在各批次關于侵害用戶權益行為的商業APP（SDK）中曝光了大量違規收集個人信息和過度索取權限的案例，甚至還有一些學生的個人數據被用于欺詐活動、身份盜竊或冒名頂替等違法行為。

4 過度依賴機器評測影響教師的評判能力和決策公平

教師的教學決策是影響教學實踐效果的重要因素[29]。數據驅動的各類智能化評價工具能夠從認知、情感、行為等多方面分析學生的學習狀態和認知水平，形成學習者畫像，并給出學業預警、反饋建議等信息，有助于教師調整教學策略和安排進度，簡化其腦力勞動和重復工作。然而，技術工具的自動化、高效率容易使部分教師滋生對機器自動化評測結果和推薦策略的過度依賴，成為被智能工具決策操縱的機械執行者，導致教師忽視自身教育實踐智慧，鈍化教學情境評判能力，遮蔽自身對學生情感狀態的感知，并逐漸喪失作為教學決策者的主體性價值和角色能動性[30]。在這種情況下，不僅教師決策的有效性難以得到保證，教師自身專業技能的發展也可能受到負面影響。此外，算法的“黑箱”特征使決策過程不透明，機器評測所使用算法和數據質量的不可靠性也可能影響教師的決策公平。如果算法模型存在錯誤假設、不準確數據或忽略對學生個體差異和特殊情況的考慮，就可能影響機器評測結果的準確性和可信度，對評估、學習路徑規劃等產生不當影響，導致學生受挫或得到不公平對待，甚至影響其未來發展。

5 虛擬環境沉溺引發學生道德失守的隱憂

VR/AR/MR技術能夠有效降低實訓成本、強化技能練習、規避真實實驗危險、跨越時空隔離限制并增強學習趣味性，然而虛擬環境的沉浸、臨場、多感官交互特征模糊了真實和虛擬的邊界，真實世界的倫理問題可能在虛擬世界中重現和異化，并反過來對現實產生影響。例如，虛擬環境存在生命的有限與無限、教學主體的尊嚴問題，但由于虛擬世界對道德行為準則的遵守缺乏監管，失去了對使用者不良操作行為及其后果的限制，容易造成道德感滑坡；虛擬環境中虛擬師生化身或代理角色的嵌入以及虛擬社交形式的出現，擴展了多元教學主體間的交互關系，師生和學生群體之間可能因為身份的虛擬性而忽略社交禮儀，甚至產生新型欺凌；學生在虛擬現實環境中的虛擬自我表征也會對使用者在真實世界的表現產生影響，使用者對虛擬化身“理想”特質的認同感可能影響其在真實世界中的認知、態度和行為[31]；VR教育游戲產生的心流體驗也會誘發物化移情和失去自我的風險，VR的過度使用同樣容易使學生產生行為性依賴和技術成癮[32]。此外，VR教育產品開發及其技術尚不成熟，虛擬與真實世界在參數表征方面存在差異，容易使學生產生客觀知識的記憶性錯誤、操作經驗結果分析的錯誤等[33]，從而出現認知偏差；VR技術本身還容易觸發暈動癥，存在對師生用戶真實本體的技術安全風險。

6 生成式AI濫用導致學生課業研究作弊及創造力退化

在教育領域，以ChatGPT為代表的AI大模型能夠匯聚、加工和生成個性化的學習資源[34]，然而其創作內容可能存在事實性錯誤，具有內容誤導和欺騙、虛假內容傳播等隱匿性風險，當其不受合理約束而濫用時，容易導致學生課業研究作弊及創造力退化等問題。例如，學生過度依賴ChatGPT這類生成式AI完成課業學習和研究，容易出現投機取巧、課業舞弊等現象，引發學術倫理問題；學生可能會傾向或過度依賴于算法提供的推薦材料，而忽略對問題的主動探索和獨立思考，導致學習能力下降以及自身批判性思維能力和創造能力的退化。目前，生成式AI技術倫理風險已被各方關注，如斯坦福研究團隊開發了DetectGPT以避免大語言模型在高等教育的不良入侵；國家網信辦[35]于2023年7月發布《生成式人工智能服務管理暫行辦法》，明確提出生成式AI服務提供者應當采取有效措施防范未成年人過度依賴或者沉迷。

三 產生機理：智能技術教育應用的技術倫理風險成因

隨著智能技術介入教育多元場景，教育實踐中的人機協同程度不斷增強，本研究從“人機共教、人機共育”的分析視角，將智能技術教育應用的技術倫理風險成因歸于“技術工具-教育實踐-師生素養”三個維度。

1 技術工具失信

算法設計中的偏見和“黑箱”特性以及智能教育產品的可用性局限，是技術倫理風險產生的核心原因：①算法本身的設計局限。首先，算法存在偏見。算法是技術人員思維邏輯的外延，根據人類思維方式編碼形成的分類標注方式進行訓練，得到的模型也帶有人的價值觀念和偏見，從而映射到算法的決策行為；受限于教學活動本身的復雜性，教育數據的采集難以保證全面性和準確性，算法在訓練過程中也可能存在帶有偏差的數據，導致算法歧視的固化，加劇“偏見進，偏見出”現象。其次，算法存在“黑箱”特征。大規模數據驅動的算法在神經網絡模型層面包含的復雜結構和參數數量級遠超人類的理解范疇，這使算法從輸入到輸出的內在運行邏輯難以被人類洞悉，算法決策的透明度不夠且難以審查，可信度難以保證；教學過程是充分發揮學生與教師主觀能動性的過程，算法對數據相關關系的刻畫也不能完全解釋實際教學中因果關系的產生機制。②智能教育產品的可用性局限。首先，教育實踐對智能教育產品的可用性和有效性提出了更高的要求。然而由于技術開發與教學一線的關聯性較弱，甚至存在脫節現象，因此技術開發人員難以洞察真實的教育需求，并理解教育過程，導致教育產品功能與教學實踐需求匹配程度仍然存在較大的提升空間。其次，智能教育產品的研發標準不明，安全性和規范性難以得到保證。多元技術疊加會導致安全漏洞風險的產生，在技術系統不合規、穩定性和安全性難以抵抗風險的侵入時，便會構成對教育主體權益的損害。

2 教育實踐失范

在智能技術介入教育生態的過程中性質迥異的要素不斷融合，教育系統愈加錯綜復雜，對教育實踐提出了更高的要求。這種情況下，技術融合教育實踐有效模式的失靈和倫理風險監管機制的缺失會導致技術倫理風險不受控制：①技術融合教育實踐有效模式的失靈。新技術的不斷涌現和更迭，擴展了教育實踐邊界，形成了日益多元的智能化教育場景。在多樣化智能技術加持的教學環境中，教學模式的選擇和應用也更加復雜，當教育者面臨不同的技術選擇，但缺乏有效教學模式指導及其開展經驗支持時，在缺乏風險管理的情況下可能導致技術不當整合和盲目使用等風險及其不良后果的產生。例如，隨著機器的智能程度不斷增強，其能夠處理的任務范圍不斷擴大，教師如何在人機協同教學過程中確定與之協同的機器類型以及人機之間的角色、任務分配方案，是智能時代人機協同教學模式建構需要考慮的重要方面[36]，其可以避免教學主體錯位問題的產生。②倫理風險監管機制的缺失。在智能技術教育應用中，相關的技術倫理風險監管機制是規范技術使用和人身道德的“守門人”，如果沒有制定明確的政策和準則，就可能導致教育機構和教育實踐者在應用智能技術時缺乏責任感和規范約束。近年來，風險監管機制的缺失使不當行為問題日益凸顯。例如，在教育數據管理期間，教師、管理者或其他工作人員均可接觸數據，這導致行為規范難以統籌管控[37]，師生教育數據和身份信息在不知情的情況下被私自販賣的情況層見疊出[38]，教育領域問責監管機制的缺失無疑會造成技術應用的灰色地帶，滋生不良違規行為。

3 師生素養不足

技術應用的主體是人，師生的數字素養是智能技術在教育中合理運用的關鍵。在教育實踐中應用智能技術時，師生不僅需要具備相關的技術知識、技能等技術素養，還要具備相應的態度、價值觀等倫理意識，而兩者的不足可能會引發技術倫理風險的產生：①師生技術知識與技能方面的技術素養不足。如果師生的技術知識與技能不足且缺乏相應的素養教育，便不能正確、適度使用智能技術，可能出現過度依賴、人為失誤和能動性被技術消解的情況；技術知識與技能的缺乏也可能導致教育工作者無法妥善維護技術系統，增加技術故障和數據泄露等風險產生的可能性，這些因素都會對智能技術教育應用效果產生不良影響。②師生的倫理意識也在規范教育實踐中起重要作用。如果教師對智能技術倫理風險缺乏足夠的認知了解，就可能無法正確引導學生使用技術促進自身的學習和發展；而學生如果不具備較強的隱私保護意識，缺乏批判性思維和辨識虛假信息的能力，其心智也會被大量魚龍混雜的錯誤不良信息所誤導，影響未來的行為實踐。

四 行動建議：面向智慧教育發展的技術倫理風險規約

基于上述成因剖析，本研究提出面向智慧教育發展的技術倫理風險防范和治理建議，以期助力教育主體、智能技術與教育實踐和諧共進發展，促成教育形態向智慧教育全方位躍遷。

1 提升智能教育產品的可用性

企業作為智慧教育服務的提供者，應承擔產品服務和技術保障的責任，提高產品的可用性：①嚴格強化研發標準，規范智能教育產品的設計開發及服務。在產品開發前應深入了解真實的教育需求和應用條件，確定系統無縫集成和數據流動所需的數據采集、傳輸、處理規范，如數據標準化、網絡安全通信協議、API接口等使用設計，避免產品功能設計冗余，以及因為平臺數據難互通和業務流程不連貫造成信息孤島現象；在產品開發中完善對系統數據加密處理、訪問控制與權限管理、網絡和系統安全、數據備份與恢復等技術安全保障措施的開發；在產品原型形成后開展系統測試與評估，及時修復漏洞問題，保障產品的安全穩定；在產品推廣中遵循倫理規范，保障用戶的權益和隱私。②升級智能教育產品中算法可解釋性的解決方案，推動智能教育產品走向可信賴、負責任的技術發展方向。提高算法可解釋性需要從算法生命周期的各個步驟介入，如在訓練數據集準備環節避免數據偏見；在自動化決策模型構建中，綜合考慮學生背景、學業成績、興趣風格等個體差異和其他特殊情況，確保決策的公正性和合理性，防范算法歧視和決策偏差；在不同教育應用的部署場景中，可將全局可解釋性和局部可解釋性納入考慮范疇，為師生提供有針對性的模型性能指標和決策因素權重等信息，提高算法的透明度。

2 加強技術引入教育的風險管理

學校是智慧教育的重要承擔者和建設者，通過制定智能技術風險評估與管理機制，為師生提供安全的智能教學環境：①建立風險評估與應對機制。在技術引入前明確技術應用的目標和范圍，確保技術與教學目標相契合；充分了解其適用性與局限性，明確潛在風險和應對措施，對智能教育產品進行全面的風險評估；在開展技術的試點實踐時，學校應進行充分的準備與測試，保證技術的穩定性和可靠性，避免因技術問題而影響師生正常教學活動。②推廣技術管理與運用經驗。學?？蔀樾录夹g的應用實踐建設良好的智能教學環境，為教師組織相關技能培訓，培育典型智能技術教育應用案例和實用教學模式，形成并推廣有效的智能技術管理和運用經驗。

3 建立數據保護與問責監管機制

政府在智慧教育發展中擔負著引導與監管的責任，應提供技術倫理風險規約的頂層設計，推動智能技術與教育有機融合與和諧共進：①加強教育數據的隱私保護和使用規范。首先，建立教育數據分級分類保護制度，進一步深化數據收集和使用規范?？紤]到教育數據種類豐富，需要提前布局數據安全保護體系，形成數據使用規范，以確保個人隱私數據不被濫用和泄露。其次，規范訓練數據集質量，增強教育數據的真實性、準確性、客觀性和多樣性。②制定法規條例約束技術服務提供者、學校、教育機構等主體，為智慧教育發展提供監管措施，使問責追溯有法可依。首先，技術快速演進、法律法規相對滯后的情況會引發一系列社會問題和倫理挑戰，相關政策以及問責機制的建立，能夠推動教育資源共享與整合，對違反倫理準則的行為進行嚴肅追責。其次，智慧教育的發展涉及眾多利益相關者，需要跨界協同應對技術倫理風險，教育部門應呼吁社會各界多方合作，在新技術規?；瘧们奥摵细鞣介_展應用試點，形成共識并共同行動，在追求跨界協同的同時打破各方責任壁壘。

4 保障教育系統間數據的有序流動

各教育系統間需要規范數據標準和共享機制，保障數據的健康流動。教育數據標準是實現教育系統間數據流動的基礎，數據共享機制是促使教育系統間數據健康有序流動的保障。不同教育系統間的數據互通共享和整合分析需要數據具備統一的格式規范和共享機制，以增強數據互操作性和跨部門匯聚流通的能力。教育領域存在大量的基礎數據，但由于多數教育單位在建設信息管理系統時僅考慮本單位的使用情況或僅滿足縱向業務需求，數據在跨部門互通時存在編碼、格式和質量的差異，致使不同數據源之間出現融合障礙，且在跨層級交換時流程煩瑣，增加了共享成本，滋生安全隱患[39]。因此，通過數據標準化實現“統一標準”和“一源多用”，是實現教育數據保護和安全共享雙贏局面的重要手段。

5 重視師生數字素養的培養與提升

師生是智慧教育的實踐者和教育數據的重要產生來源，提升其數據隱私保護的倫理意識和合理使用技術的技術素養有助于防范技術倫理風險造成不良后果：①師生需要培養技術素養和倫理意識，積極應變，以確保智能教育產品在教學活動中的合理應用。例如，教師需要積極參與教學培訓以掌握相關技術知識與技能，了解智能技術教育應用中的局限性和倫理風險，培養對智能技術引入教學環節的審慎態度，避免技術的過度和不當使用；學生則需要培養隱私保護意識，發展批判性思維能力。②師生需要在實踐中挖掘有效技術整合教學的模式和經驗，主動求變，培養自身對人機協同教學環境的適應性，并提高智慧教育場景下的人機協同能力。

參考文獻

[1]杜靜，黃榮懷，李政璇，等.智能教育時代下人工智能倫理的內涵與建構原則[J].電化教育研究，2019，（7）：21-29.

[2]胡小勇，黃婕，林梓柔，等.教育人工智能倫理：內涵框架、認知現狀與風險規避[J].現代遠程教育研究，2022，（2）：21-28、36.

[3][11]UNESCO. Beijing consensus on artificial intelligence and education[OL].

[4]UNESCO. Recommendation on the ethics of artificial intelligence[OL].

[5]白鈞溢，于偉.超越“共識”：教育人工智能倫理原則構建的發展方向[J].中國電化教育，2023，（6）：9-17、24.

[6]黃榮懷，劉夢彧，劉嘉豪，等.智慧教育之“為何”與“何為”——關于智能時代教育的表現性與建構性特征分析[J].電化教育研究，2023，（1）：5-12、35.

[7]張永波.智慧教育倫理觀的建構機理研究[J].中國電化教育，2020，（3）：49-55、92.

[8]李建華.倫理與道德的互釋及其側向[J].武漢大學學報（哲學社會科學版），2020，（3）：59-70.

[9]趙磊磊，張黎，代蕊華.教育人工智能倫理：基本向度與風險消解[J].現代遠距離教育，2021，（5）：73-80.

[10]國務院.國務院關于印發新一代人工智能發展規劃的通知[OL].

[12]UNESCO. Artificial intelligence in education： Challenges and opportunities for sustainable development[OL].

[13]OECD. Trustworthy artificial intelligence （AI） in education： Promises and challenges[OL].

[14]UNESCO. AI and education： guidance for policy-makers[OL].

[15]The University of Buckinham. The ethical framework for AI in education[OL].

[16]U.S. Department of Education， Office of Educational Technology. Artificial intelligence and the future of teaching and learning[OL].

[17]UNESCO. Generative AI and the future of education[OL].

[18]楊俊鋒，施高俊，莊榕霞，等.5G+智慧教育：基于智能技術的教育變革[J].中國電化教育，2021，（4）：1-7.

[19][36]黃榮懷，劉德建，阿罕默德·提利利，等.人機協同教學：基于虛擬化身、數字孿生和教育機器人場景的路徑設計[J].開放教育研究，2023，（6）：4-14.

[20]Sharkey A J C. Should we welcome robot teachers？[J]. Ethics and Information Technology， 2016，18：283-297.

[21]Beran T N， Ramirez-Serrano A， Kuzyk R， et al. Understanding how children understand robots： Perceived animism in child-robot interaction[J]， International Journal Human-Computer Studies， 2011，（7-8）：539-550.

[22]UNESCO， COMEST. Report of COMEST on robotics ethics[R]. Praris： UNESCO， 2017：33.

[23]盧宇，薛天琪，陳鵬鶴，等.智能教育機器人系統構建及關鍵技術——以“智慧學伴”機器人為例[J].開放教育研究，2020，（2）：83-91.

[24]黃榮懷，劉德建，焦艷麗，等.互聯網教育服務產業研究報告[R].北京：互聯網智能技術及應用國家工程實驗室，2017：4.

[25]韋妙，何舟洋.本體、認識與價值：智能教育的技術倫理風險隱憂與治理進路[J].現代遠距離教育，2022，（1）：75-82.

[26]劉三女牙，楊宗凱，李卿.教育數據倫理：大數據時代教育的新挑戰[J].教育研究，2017，（4）：15-20.

[27]孫立會.人工智能之于教育決策的主體性信任危機及其規避[J].電化教育研究，2023，（3）：21-27、43.

[28]United States Government Accountability Office. Data security： Recent K-12 data breaches show that students are vulnerable to harm[OL].

[29]沈書生.聚焦學習決策：指向認知發生的數據及其應用[J].電化教育研究，2021，（11）：13-19.

[30]蔣艷雙，崔璨，劉嘉豪，等.教育領域中的情感計算技術：應用隱憂、生成機制與實踐規約[J].中國電化教育，2022，（5）：91-98.

[31]高媛，劉德建，黃真真，等.虛擬現實技術促進學習的核心要素及其挑戰[J].電化教育研究，2016，（10）：77-87、103.

[32]孫田琳子.虛擬現實教育應用的倫理反思——基于伯格曼技術哲學視角[J].電化教育研究，2020，（9）：48-54.

[33]沈陽，逯行，曾海軍.虛擬現實：教育技術發展的新篇章——訪中國工程院院士趙沁平教授[J].電化教育研究，2020，（1）：5-9.

[34]吳砥，李環，陳旭.人工智能通用大模型教育應用影響探析[J].開放教育研究，2023，（2）：19-25、45.

[35]中國網信網.生成式人工智能服務管理暫行辦法[OL].

[37]張譽元，張海.數據生命周期視閾下教育數據倫理問題及規約之徑[J].中國電化教育，2022，（10）：118-125.

[38]趙磊磊，陳祥梅.數智時代教育大數據風險：表征樣態與化解路向[J].貴州師范大學學報（社會科學版），2022，（2）：72-82.

[39]楊琳，王煒，諸紀，等.面向數據共享的教育數據標準體系研究與建設實踐[J].大數據，2020，（6）：3-13.

The Technology Ethical Orientation and Risk Governance for Smart Education

Abstract： At present， the integration of intelligent technology and education is driving a profound change in the educational mode， and at the same time spawning technological ethical risks such as algorithm discrimination， technology abuse， privacy disclosure， and dislocation of educational subjects. How to avoid the risks to maximize the benefits of intelligent technology has become an essential issue in the development of smart education. Therefore， this paper firstly analyzed the related reports of technology ethics， and described the technology ethics orientations of smart education in four aspects of intelligence technology， educational subject， educational data， and educational supervision. Then， this paper analyzed the representations of differentiated technology ethical risks in six typical scenarios of “teaching-learning-management-evaluation-training-research”， and classified their root causes into three levels of untrustworthiness of technology tools， the anomie of educational practice， and the lack of teachers and students quality. Finally， the suggestions on risk prevention and governance were given in the perspectives of technology upgrading， risk management， accountability supervision， data flow， and literacy improvement to assist the sustainable and healthy development of smart education.

Keywords： smart education; intelligent technology; ethical norms; risk representation; risk governance