教師應用數字教材的倫理風險與防范對策*

杜玉霞 李玉利

（廣州大學 教育學院，廣東 廣州 510006）

一、引言

人工智能等新一代信息技術的發展在不斷變革和重構教育資源與教育生態。2018年，教育部印發《教育課程教材改革與質量標準工作專項資金管理辦法》，明確了數字教材是教材的典型創新形式[1]。2020年，教育部頒布《國家教材建設重點研究基地管理辦法》，強調要重點研究“信息時代新形態教材”[2]。這意味著發展新形態教材成為教材發展的趨勢，數字教材就是基于信息技術開發的新形態教材。人工智能等新技術在數字教材中的應用，使數字教材的功能日益豐富，數字教材能夠為教師開展個性化教學提供多種支持：基于數據挖掘、學習分析、智能計算等技術實現數字教材知識重構、個性定制、智能推送、學習檔案建構等學習服務，輔助學生實現個性化學習[3][4]；基于學習分析技術實現實時分析和跟蹤、自動批改、及時反饋、個性化筆記等功能[5][6]；基于智能計算、機器學習、語言處理等技術提供智能化教學工具[7]；基于機器學習、虛擬現實技術實現智能追蹤、虛擬場景、沉浸式學習體驗等功能[8]。

人工智能為數字教材發展提供了新工具和新功能，但若不能妥善應用和有效應對其潛在風險，則極有可能導致數字教材變成“空殼”，失去教育價值。教育部在《2019年教育信息化和網絡安全工作要點》中指出，要“制定教育系統數據安全管理辦法，建立線上線下相結合的網絡安全培訓機制，著力打好防范化解重大風險攻堅戰”[9]。2022年市場監管總局（標準委）發布了《數字教材 中小學數字教材出版基本流程》《數字教材 中小學數字教材元數據》《數字教材 中小學數字教材質量要求和檢測方法》等三項國家標準為中小學數字教材提升質量、消解風險提供了規范保障。然而，數字教材的多維交互和動態更新等特點，使教師在應用融入人工智能的數字教材時，會面臨多種潛在的風險挑戰，特別是倫理風險的考驗。如何規避倫理風險，有效發揮數字教材的積極作用，引導學生合理使用數字教材且不被技術異化，是教師應用數字教材亟需應對的新挑戰。

二、數字教材的內涵

數字教材的概念自產生之后，不同學者從不同角度進行了界定，至今尚未形成一致的概念。蔡建學（2018）認為，數字教材是依據國家課程標準，以傳統紙質教材為藍本，運用互聯網、數字媒體、大數據等技術手段，融教材、數字資源、學科工具、應用數據于一體的立體化教材[10]。它不是紙質教材的簡單數字化，而是學科教學與信息技術深度融合的產物[11]；它能夠實現內容的動態更新，記錄交互軌跡，撬動課堂教學數字化轉型[12]，構建了智慧教育新生態。數字教材作為教育信息化和數字出版的核心資源，對我國基礎教育的影響日益增大[13]。隨著信息技術的發展及其在數字教材中的應用，數字教材的形態與結構發生著變革，主要經歷了將紙質教科書轉換為電子版，實現內容呈現和存儲的便利的數字化階段[14]；將紙質教科書與視頻、音頻、動畫等非線性資源有機整合，增加了交互性和擴展性，豐富教科書內容的數字教材多媒化階段[15]；主要將數字教科書與人工智能、大數據、云計算等新技術整合教科書資源，實現了個性化、自適應、協作等功能，實現數據共享和服務的智能化階段[16][17]。在新技術不斷應用于數字教材的過程中，數字教材的概念、類型、設計、評價、應用等都有了不同程度的變化和創新[18]。伴隨新技術的應用，數字教材潛藏的風險不斷增多，特別是倫理風險。有學者指出，數字教材編制與應用離不開倫理道德的浸潤與審視，教師作為數字教材應用的主體之一，更要防范人工智能技術潛在的倫理風險不斷滲透到數字教材編制以及應用的過程中[19]。

三、教師使用數字教材的倫理風險類型與成因分析

人工智能等新技術的雙刃劍效應，使數字教材的風險隨著新技術的發展及其應用范圍的擴大而不斷增大?？萍寂c倫理的關系問題，是機器倫理學中最核心、最基本的問題之一[20]。因此，及時研究教師使用數字教材面臨的各種倫理風險，有針對性地做好防范措施，是數字教材健康發展和新技術時代教育變革的基礎和前提。

（一）數字隱私安全的倫理風險

新一代人工智能管理專家委員會于2019年發布了《新一代人工智能治理原則——發展負責任的人工智能》，要求人工智能發展應尊重和保護個人隱私，充分保障個人的知情權和選擇權[21]。大數據是人工智能實現算法的基礎，數據分析技術在為教育教學提供新技術的同時，由于技術風險控制的不安全性，會給教育者和受教育者帶來數據泄露的危機。一方面，數據采集模糊了隱私的邊界。數字教材涉及到數量巨大的師生個人信息、學習行為數據、評價結果等，采集數據信息的過程，實質上也是監測師生教和學的過程，采集的個人學習偏好、活動軌跡等信息很容易被網絡化存儲、復制、傳播，也會被出于不同目的的信息獲取者處理和分析。另一方面，教師的信息安全難以得到保障。當前，數據收集標準不統一、處理規范不完善，信息安全大多是靠數據持有方的安全系統來保障，但是如果數據持有者出現防火墻漏洞、安全保障措施不力等問題，則容易導致用戶的個人信息被泄露。

（二）技術壟斷的倫理風險

馬丁?海德格爾指出，技術不僅是一種目的，也是一種工具，在人類運用時，技術本身就帶有各種各樣的“成見”，因而人類被科技所控制，成為科技的附庸、工具、構成要素[22]。當人工智能技術成為人類與教育之間的媒介，就會出現因“技術壟斷”引發的風險，違背技術服務人與教育的本質。首先，數字教材基于大數據為用戶提供精準的教學和學習服務，能針對普遍存在的教育問題進行分析并且提供最優解決方案。大數據應用的定勢思維會弱化甚至消除用戶的創造性和想象力，導致用戶喪失教學和學習的主觀能動性和獨立性，失去對教育自身的獨特思考和理解。其次，盲目的科技崇拜可能會使德育失重，進而導致人文教育的缺失讓位。人工智能基于程序進行的數據分析，在注重學習者知識獲取分析時無法為學習者提供價值判斷，更難以幫助學習者提升道德品質。數字教材如果過于重視技術而忽視知識本身對人的綜合性影響，會導致教學失去道德教育的價值，造成人文教育的缺失。在智能時代，數字教材可以方便教師出題和進行作業分析，但我們不能完全依賴智能系統所做的教學判斷，這會使教師變得越來越遲鈍[23]。

（三）情感缺失的倫理風險

教育是啟迪人的智慧、化育人的心靈、傳承人類文明的社會活動[24]。而人工智能應用于教育領域，更多的是涉及到知識層面。由于數字教材基于人工智能對于自然語言的理解仍顯不足，缺乏對于事物的深層次認識，更談不上去分析和傳遞語言背后的意義與情感[25]，在互聯網學習環境中，學習者很難獲得情感的升華。

基于數字教材的教學活動是一種“主體——中介——客體”或“人——機——人”的交互模式[26]，教師、師生和生生之間的互動關系必須經由媒體來完成。傳統教學師生之間能夠進行零距離接觸，充分的信息交換使教師可以對學生的學習、心理狀況進行面對面的觀察。然而虛擬教學時，對屏幕兩端的師生而言，容易造成情感參與、認知參與的錯覺。這意味著師生的心理狀態、情緒變化被虛擬空間屏蔽，相互之間察覺不到情緒，傳播和流動的只是“技術符號”。教育具有人性化的特征，數字教材不能忽視情感對教育的影響力。我們要警惕數字教材給師生情感與身心健康帶來不良影響，不能癡迷于技術給教育帶來的教育環境、教育內容、教育方式等方面的變革，更應關注的是技術對教育者與受教育者之間情感傳遞的價值。

（四）教師角色錯位的倫理風險

數字教材的應用使教師擺脫了繁瑣、重復的工作，可以把更多的時間和精力投入到教學中。但也使教師深陷于角色錯位的風險中，表現為教師主體性缺失引發教師角色的“脫嵌”與“消匿”[27]。一方面，數字教材可以代替老師傳遞知識、解答問題、批改學生作業，可以對學生的學習狀況進行評估、診斷和反饋，并為學生制定個性化的學習計劃[28]。因此，有些教師過于依賴數字教材，不了解數字教材的缺陷，導致教師在教學時的主動性被“智能機器”消減乃至取代，成為“透明人”。另一方面，數字教材通過改變教師的評價思維、評價偏向、評價習慣，正悄無聲息地弱化教師在教學評價過程中的價值理性，并不斷助長著教師的工具理性[29]，教師傳授知識、教學評價的職能，在人工智能時代被弱化[30]。數字教材基于人工智能技術的促逼逐漸剝奪了教師對周圍世界的認知和判斷能力，使教師不再追求真、善、美，只剩下對技術的服從，成為沒有判斷性與否定性、不再認識自我并超越現實的“單向度的人”[31]。事實上，教育不僅是向學生傳授知識和指導學生學會學習的過程，還是培養學生社會化的過程[32]。教師作為具有人文精神、具有自我意識的個體，應高度重視依賴數字教材引發的問題，主動規避教師角色失衡所帶來的道德風險。

（五）數字鴻溝的倫理風險

教育部《關于加強“三個課堂”應用的指導意見》，體現了新時期教育公平的內涵，體現了“專業化、共享、公開”的基本特點[33]。教育公平是教育活動的根本思想和倫理規范，而人工智能技術的教育公平性則是智能教育倫理的最大危機[34]。數字教材應用過程中出現的“數字鴻溝”，制約著教育公平的實現。數字教材突破傳統教育對教學時間的限制，消除教學空間的壁壘，實現優質資源的傳遞與共享。但是，經濟條件與社會階層的局限以及信息不對稱、不透明等信息技術必然存在的技術壁壘，加上教師對數字教材的認知差異和能力差異[35]，客觀上會導致并加劇信息壁壘、數字鴻溝等違背教育公平原則的現象與趨勢[36]。另外，智能教育系統中的“算法歧視”可能隱蔽地導致或加劇教育不公[37]?！八惴ㄆ缫暋卑ň幊倘藛T是否將正確的教育理念、核心價值理念與相關的倫理規范編寫進系統，還包括大數據本身的局限性，比如數據采集是否完整、可靠、及時、合法合規等，特別是不發達地區的群體數據往往因為數據缺少、難采集，導致智能系統無法及時充分地采用完整的數據，忽視了不發達地區受教育群體的具體情況。

中國第48屆《中國互聯網絡發展狀況統計報告》顯示，“數字鴻溝”在西部地區不斷擴大，城鄉之間存在著較大的差距。由于缺乏設備、網絡和技術，導致部分偏遠貧困地區的學生不能在2020年的新冠肺炎疫情中參加在線學習，“數字鴻溝”帶來的教育失衡現象真實地暴露出來。如果技術驅動的教育沒有與教育公平相呼應，未來的世界將會變得更加分裂和固化[38]。

（六）問責不明的倫理風險

漢斯·約納斯提出的責任倫理認為科學技術的發展會對自然界以及人類整體生存造成威脅，要求人類的一切行為要對當下和未來的人類和自然環境負責。而如今，并沒有針對數字教材的法律規范和專業問責機制。第一，由于智能算法的“黑盒子”，使得用戶很難判斷出具體的損失，而智能產品也很難建立起一個統一的行業標準[39]。第二，數字教材沒有自主的能力，雖然它可以完全自主，但它畢竟不是人類的主體，所以處罰它也沒有任何意義[40]。第三，數字教材是由多種數字資源組成的綜合性產品，這些資源可能來自于不同的作者、出版社或機構，涉及到各種知識產權和版權問題。

數字教材出現問題或故障的責任主體是誰存在很大的爭議。2022年5月，人民教育出版社數學教材被指出“人物插圖丑陋、歪曲審美，出現紋身、隱私部位”，甚至被戲謔地稱為“毒教材”，引發社會的廣泛關注和質疑。教育部和人民教育出版社高度重視，不僅對問題插圖進行了整改，加強了教材編制管理，還對有關人員進行了追責處罰。數字教材更為復雜，應用時，數字教材各主體之間的關系規范、權利、義務與責任需要相關的問責機制做出明確具體的劃分與定責。

四、教師使用數字教材的倫理風險防范對策

《新一代人工智能發展規劃》強調在發展人工智能的過程中，要充分認識到人工智能所帶來的安全隱患，強化對人工智能的前瞻性、制約和引導，使其風險降到最低，確保人工智能安全、可靠、可控地發展[41]。在數字時代，教師使用數字教材的倫理風險的成因是社會環境、制度建設、教育主體以及技術問題等因素綜合作用的結果。教育管理部門、教師等相關機構和人員只有積極準備應對風險和挑戰，才能發揮數字教材的積極教育作用，確保教育安全。

（一）以法為界：確定數字教材的道德規范和倫理準則

《新一代人工智能發展規劃》提出要建立保障人工智能健康發展的法律法規和倫理道德框架[42]。人類要保持對人工智能在教育實踐中的有效控制，防范技術異化和價值扭曲所導致的風險，就必須要建立新的倫理制度[43]，才能真正將教師智能教育倫理風險降到最低。

1 我國應加強與數字教材有關的倫理規范的建設。國務院《新一代人工智能發展規劃》中提出要“加強人工智能相關法律、倫理和社會問題研究，建立保障人工智能健康發展的法律法規和倫理道德框架”[44]。發展人工智能技術必須有清晰的法律體系，使得各責任主體均對技術應用有明確的預期。數字教材的應用應關注價值沖突與倫理兩難。在法律法規制定方面，堅持從“育人為本”倫理立場出發，將技術事實的澄清與價值流的分析相結合[45]。建立以教育者和受教育者為主體的數字教材倫理架構，充分體現了科學技術“向善”的理念。同時建立產業標準，強化人工智能的潛在危害、收益和道德評價，強化數字教材產品開發和設計者的道德標準，防止其壟斷和功利化。

2 構建多主體參與的數字教材管理機制?！缎乱淮斯ぶ悄苤卫碓瓌t——發展負責任的人工智能》提出要開展開放合作，“鼓勵跨學科、跨領域、跨地區、跨國界的交流合作，推動國際組織、政府部門、科研機構、教育機構、企業、社會組織、公眾在人工智能發展與治理中的協調互動”[46]。數字教材基于人工智能技術所面對的風險和復雜性，建立多層次、多主體、全方位的治理機制是解決問題的途徑。鼓勵企業、高?？蒲袌F隊、公民等主體充分利用自身優勢，積極參與到數字教材的風險管理和預防中來。另外，要在國內構建一個共同治理的平臺，積極尋求國際間的合作，通過對話和互動，尋找最佳的風險治理方案[47]。

（二）以人為本：數字教材實現育人的教學理念，以情感識別和情感干預促進師生情感互動

有效降低數據主義和算法主義帶來的倫理風險，是人工智能時代教師充分彰顯育人角色的根本任務[48][49]。其一，數字教材的應用應回歸育人本質。當前，大部分的研究焦點都集中在技術的升級、改造和創新上，而忽略了技術在培養人才的本質上的探索。未來的智能教育必然會逐步回歸到教育的人文價值，突破“數據為尊”的教學誤區，使人與機器能夠更好地和諧相處。教育必須在文化的意義上尋求人為之人的本質屬性、人存在于世的合理性以及人們各種行為的合法性[50]。其二，借助語音識別技術、表情識別技術、眼動追蹤技術和自然語言處理技術等多模態情感識別技術來調控、干預、轉化、表達和升華師生的各類情感，規范和支持人類師生情感的感受與表達，約束和引導智能時代教師情感的計算與表征。

（三）以德立身：提升智能時代教師的教育倫理素養

技術的價值屬性是倫理審視的基礎和前提[51]。但是數字教材在教育中彰顯的價值不是技術本身，而是在教育活動中的應用。教師在教學中起主導作用，因此提升智能時代教師的風險素養是規避數字教材倫理風險的必然選擇。

1 教師要樹立正確的智能教育倫理觀念。邁入數字時代，智能教育要求教師秉持人本主義的教育人工智能應用理念與原則，明確倫理與安全規范[52]，確保人是智能教育活動中的主體地位。一方面，將智能教育倫理風險素養融入職前、職后教師培養，傳播先進的智能教育倫理思想，規范教師教育活動。另一方面，教師在應用數字教材時應自覺融入正確的、科學的倫理規范，引導學生加強數字教材倫理道德的學習，正確看待人類與智能教育技術的人機協同關系，真正做到教師知識傳授、能力培養與價值導向三者的有機統一。

2 加強教師智能教育倫理風險防范教育。教師抗風險能力是教師對各種智能教育倫理風險有效預警、防范，并能正確選擇處置和化解策略，從而推動教育教學活動有序開展的能力。一方面，要培養教師的數字技術應用能力，提升教師的數字勝任力。教師要具備數字素養，包括數據意識和數據敏感性，即能夠有效且恰當地獲取、分析、處理、利用和展現數據，并對數據具有批判性思維的能力[53]。另一方面，教師要積極培育智能教育倫理風險防范和規避意識，及時、充分地了解數字教材的最新動態以及潛在風險，樹立自覺抵御和應對風險的積極心態。

（四）公平正義：消除數據鴻溝，構建公平正義的人工智能教育生態系統

著名技術學家Hans Lenk指出在人類的發展史上，科技已經成為塑造世界、改造世界、創造世界的工具，技術領域內的變化趨勢使得倫理問題更加突出[54]。人工智能的設計應以責任倫理學為核心，實現公正原則，不應拉大主體間地位與權利的差距。

1 人工智能的發展應關注公平和正義。一方面，在設計、監控、管理等全過程中，將公正理念貫穿于數字教材設計、研發、運行、管理的全過程，注重程序公正與結果公正[55]。另一方面，要優先發展人工智能技術教育。通過5G技術有助于優質教育資源的互聯互通，大程度上解決優質教育資源發展不均衡的問題，探索優質教育資源服務創新供給新模式[56]。

2 完善救濟渠道。政府要發揮調節社會分配和組織社會保障的職能，防范與修復人工智能引起的社會風險。例如，一些農村中小學教師因缺乏專業技術指導以及資金、設備不足導致信息技術應用能力薄弱，這需要政府有重點地給予財政支持以及在制定政策方針時向其適度傾斜，運用政治手段調節社會分配、組織社會保障，彌補數字鴻溝、福利鴻溝。

（五）明確責任：完善數字教材應用的問責制度

《新一代人工智能發展規劃》中明確要求：“建立追溯和問責制度，明確人工智能法律主體以及相關權利、義務和責任等”[57]。問責制度是數字教材可靠、持續應用的重要保障。第一，建立相應的問責制度，要明確設計者、開發者、應用者等相關方的權利和義務。第二，創建多主體互動的交流監督平臺進行持續監管與積極干預。數字教材倫理的有效管理需要政府、設計者、開發者、企業、用戶等多方主體共同參與。為確保每個責任主體有明確的監督管理責任，要對參與數字教材倫理管理的各個主體進行責任劃分，形成政府監督主導、其他主體輔助監督的良好交流平臺。不僅如此，在行業內部自我凈化機制功效微弱的情況下，有必要將企業的生存盈利狀況與用戶利益綁定在一起，建立嚴格的審查制度和懲罰機制，加大懲治力度，加大研發者的侵權成本。

五、結語

數字教材是教育數字化轉型的必選項，是教育改革的重要支點，是教育數字化轉型的重要抓手[58]，發展應用數字教材是數字時代教育發展的必然趨勢，是我國建設高質量教育體系的重要組成部分。生成式人工智能的普及應用，大數據、云計算、區塊鏈等新技術的更新迭代，在為數字教材帶來新活力的同時，也帶來了新的風險挑戰，教育系統必須盡早研究數字教材的潛在風險，組織教師提升識別風險、防范風險的能力，以有效應對數字教材帶來的倫理風險威脅，保障新時代教育的可持續發展，充分發揮數字教材在推進教育現代化中的核心資源作用，推動我國教育高質量發展。