面向未成年人的人工智能技術發展藍圖

李玉順 沈希 安欣 吳永和

[摘? ?要] 隨著ChatGPT等新型人工智能技術的進一步發展，未成年人成長面臨著新的風險與挑戰，急需構建面向未成年人的人工智能規范體系。文章從人才發展、AI向善和人機共融視角出發，構建了面向未成年人的人工智能技術規范體系模型：“技術內容規范”將基礎性、時代性和價值性三個維度的知識結合在一起，旨在從核心素養的角度規范學生能接觸到的人工智能技術內容；“技術工具規范”圍繞可用性、適用性、安全性、價值觀對AI學習工具的設計、開發和應用全過程提出規范要求，旨在從應用監管角度保障未成年人的使用體驗；“技術倫理規范”基于以人為本、公平公正、安全可控原則，對人工智能技術倫理治理提出要求，旨在從安全倫理角度促進未成年人、社會、自然和人工智能的和諧共處。

[關鍵詞] 人工智能； 未成年人； 技術規范； 核心素養； 應用監管； 安全倫理

[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A

[作者簡介] 李玉順（1969—），男，江蘇寶應人。教授，博士，主要從事基礎教育信息化、課堂學習方式變革理論與實踐、慕課及在線學習等研究。E-mail：lyshun@bnu.edu.cn。

一、 引? ?言

21世紀以來，“互聯網+”顛覆與重構教育系統，給未成年人帶來便利的同時，也伴隨著諸多風險與挑戰。隨著智能技術賦能教育的變革逐漸深化，技術賦能教育變革邁入了深度發展的階段，解構與重構的特征日益明顯，在這一進程中越來越多的研究者關注到了人工智能技術帶來機遇背后的巨大風險。聯合國教科文組織于2021年發布《人工智能倫理問題建議書》，其中特別強調要“提供充分的人工智能素養教育”，“以負責任和合乎倫理的方式”將人工智能技術應用于教育[1]，從宏觀層面為規范人工智能教育倫理提供了國際經驗。技術與人的發展關系問題日益成為宏觀教育治理、微觀育人實踐中的時代性命題。

智能技術逐漸成為新時代學生學習的有力支撐，但未成年人正處于高認知、低控制的成長發展階段，其自身人格塑造和培養容易受到人工智能技術影響[2]。同時， 隨著ChatGPT等新型人工智能技術的進一步發展，未成年人成長也面臨著新的風險與挑戰，未成年人教育也將產生更多“科技向善”“本真育人”的現實訴求。從國家層面進行頂層設計和規劃需更重視技術倫理和人文包容，對潛在的風險進行預測和管理，以規范和引導人工智能技術的正向應用，加速數字技術驅動的文明變局。

為此，本研究將探索面向未成年人的人工智能技術規范，構建面向未成年人的人工智能規范體系框架，以指導人工智能核心素養、應用監管、安全倫理等標準規范的研制，從系統全局觀的角度為建立以人為本、面向未成年人的人工智能技術規范研究提供理論指導。

二、 面向未成年人的人工智能技術應用現狀

面向未成年人的人工智能技術規范，是人工智能技術在內容、技術工具、倫理等多個不同層面，對未成年人產生“科技向善”“本真育人”作用所體現的訴求。這種訴求是以技術的邏輯、技術的功能、技術的“思維”來影響未成年人的。因此，本研究將從三個層次探討面向未成年人的人工智能技術規范：一是技術內容規范，探討未成年人對人工智能技術本身應該理解到什么程度，這是從人才發展的視角進行理解，對應未成年人的核心素養；二是技術工具規范，探討作為人工智能賦能的各類學習工具，應該如何更有效地服務于未成年人的心理特征、心智特征、年齡特征，解決當下社會發展中未成年人成長的問題，這是從AI向善的視角進行理解，對應相關部門、企業和人員對人工智能技術的應用監管；三是技術倫理規范，探討如何促進未成年人、社會、自然和人工智能的和諧共處，這是從人機共融的視角進行理解，對應人工智能應用于社會的安全倫理。

（一）技術內容規范

為了提升在智能時代的競爭力，未成年人需要掌握一定的人工智能技術內容。這些技術內容需要依照未成年人的身心發展特點制定規范，以促進其在人工智能技術方面的知識技能提升、興趣拓展及價值觀培養。自此，以機器人、編程等為代表的各類人工智能課程逐漸成為課程教學的新內容，有關的課程標準也逐漸規范化、體系化。本研究梳理了近年來以“人工智能”為主題的課程內容相關標準，具體見表 1。

總體來看，人工智能類課程內容規范已經初具規模，涵蓋人工智能的基礎性知識、時代性應用、社會安全與倫理，并越來越體現小初高銜接、完整全面的統一化取向。但目前市場上與少兒編程、青少年人工智能相關的課外興趣班質量參差不齊，大大小小的教育機構借著人工智能的東風炒作概念，這不僅會使社會大眾陷入對人工智能的理解誤區，還容易扼殺未成年人對此的興趣和天賦。因此，急需制定關于未成年人的人工智能技術內容規范，為學校、家庭、社會發揮引導作用，推動面向人工智能時代的人才培養。

（二）技術工具規范

近年來，隨著人工智能技術的快速發展，面向兒童群體的相關應用和產品大量涌現，蓬勃發展，場景覆蓋健康、安全、教育、娛樂和公益等各個方面，在帶來更好體驗的同時，容易造成不公平、隱私泄露、泛人工智能亂象和過度依賴等問題。2021年，中國版《人工智能為兒童——面向兒童群體的人工智能應用調研報告》發布，針對政府和行業提出了以兒童為中心的人工智能的實用建議和原則，特別關注了人工智能對兒童的適用性[8]。人工智能賦能的各類工具應該如何發揮正向價值，更有效地服務于未成年人的心理特征、心智特征、年齡特征，是當下需要關注的關鍵問題。

以教育領域為例，當前的人工智能技術工具已經由廣到深，開始支持到具體學科的學習。本團隊曾對17款英語學科人工智能技術工具進行編碼分析[9]，結果發現，盡管目前市面上人工智能類學習工具品種繁多，但在學科知識和技能的專業性方面仍存在薄弱點：目前的學習行為分析多為簡單的出勤次數、學習時長、視頻播放量等數據的采集，缺乏學科專家視角所需要的更深入的數據支持；在資源推薦方面，大部分的英語學習軟件推薦規則較為簡單，主要是基于匹配各類學習資源所標注的標簽完成的，相關推薦算法有待改良與深化；自動測試和反饋功能缺少對于學習方法和策略的指導?？傮w而言，人工智能類學習工具的發展還需要更加專業的學科視角、更有針對性的測評功能以及更科學的個性化推薦和指導機制。

整體來看，人工智能技術工具為教育提供了新的途徑和手段。但是，技術并非單純中立的工具，它滲透并改變著教育的本質，在帶來便利和創新的同時，也可能伴隨著潛在的風險與副作用。如果應用不當，人工智能可能損害教育的公正性和客觀性。需要深入地思考如何在教育中平衡人工智能技術的利弊，針對性地制定技術工具規范標準，在技術的驅動下保持人文關懷和價值追求，為未成年人創造一個有啟發力和包容性的技術環境。

（三）技術倫理規范

現代倫理是以強調個人幸福和權利優先性為特征的，而人工智能已經反客為主對人的行為產生了深刻影響，給人的主體性地位帶來了挑戰[10]，體現在未成年人身上最為突出[11]。特別是以ChatGPT為代表的生成式人工智能進入到未成年人的生活中，帶來更加嚴峻的全新挑戰。聯合國教科文組織在2023年接連發布“Generative AI and the Future of Education”和“Guidance for Generative AI in Education and Research”兩份文件，強調要對教育中使用生成式人工智能加強管理、提出規范。

目前國際上很多機構組織提出了人工智能發展的道德倫理原則，如歐盟提出的“可信賴人工智能”包含“人的能動性和監督能力、安全性、隱私數據管理、透明度、包容性、社會福祉、問責機制”七個關鍵條件；有學者整理了英美等國共84份人工智能倫理指南，總結出“透明、正義和公平、不傷害、責任、隱私、有益、自由和自主、信任、持續性、尊嚴、團結”等倫理原則[12]。但審慎思考后，會發現這些原則之間其實缺少了有機聯系，且更多地是對人工智能發展的限制或預防，缺少積極的倫理支持來為人工智能技術的良性發展作保障。這就要求有一個統領性的“基點”，作為人工智能研發與應用的最高倫理原則，即“人本原則”[13]。人工智能技術的發展與應用，歸根結底是要為人提供更好的產品和服務，滿足人的需求，要防止其異化，避免朝著危害人的方向發展。在對未成年人影響最為深刻的教育領域，人工智能的應用需要遵循教學倫理原則：以學習者為中心或以人為中心應用人工智能；加強數據管理與人工智能技術治理；加強學習者與教師自治，尊重學習者與教師的自主性[14]。因此，首先要以平衡“工具理性”和“價值理性”為基礎，構建統一、和諧、促進人與技術共生的觀念基礎，強調教育中人的中心地位；其次，要構建一系列核心原則用以支撐人工智能教育倫理體系，如隱私原則、透明原則、平等原則、問責原則等[15]；最后，在人工智能與教育的融合中，始終發揮技術優勢，同時保障師生主體權益，實現負責任的人工智能教育[16]。

三、 面向未成年人的人工智能規范體系框架構建

基于技術內容、工具和倫理三個層次的探討，本研究構建了以核心素養、應用監管和安全倫理為核心的面向未成年人的人工智能規范體系框架，下面將具體從人才發展、AI向善和人機共融的視角作詳細解讀。

（一）核心素養：技術內容規范

目前以ChatGPT為代表的新一輪人工智能技術正快速改變著人們的生活、學習、工作方式，未成年人所處的成長環境正在發生深刻變化。學校作為未成年人接受教育的主陣地，需要立足時代特色，根據國家課程計劃和課程管理要求，為學生提供技術內容教育。以《義務教育信息科技課程標準（2022年版）》和《普通高中信息技術課程標準（2017年版2020年修訂）》為基礎，本研究將“技術內容規范”定位為“基于未成年人身心發展規律，規定未成年人應學習的人工智能技術知識內容”。結合我國人才培養要求、信息技術課程標準和國內外最新研究成果，面向未成年人的人工智能技術內容規范應立足于發展人工智能時代學生的核心素養，具體可圍繞以下三個維度展開：

基礎性知識：包括信息處理的基本概念、信息系統基礎、常用軟件基礎、網絡基礎知識、信息安全和數據隱私保護、程序設計等方面的知識。這部分內容要求未成年人能理解人工智能技術的基本知識。

時代性知識：包括人工智能、大數據、云計算、物聯網等前沿技術及其應用，以及面向未來數字經濟社會和數字文化等方面的問題。時代性知識是由技術本身發展的特性決定的，需要特別考慮未成年人的先驗知識經驗及其未來發展的有效銜接，以便幫助其體悟人工智能技術所帶來的時代變化。

價值性知識：包括數字倫理、數字公民素養、知識產權、信息權利保護等方面的知識，涉及數字道德、社會影響、環境保護等方面的問題。在新一輪技術革命的背景下，未成年人需要懂得如何正確看待人工智能技術應用中個人與社會的關系，需要對技術帶來的機遇與挑戰保持包容審慎的態度，對自身使用技術擔負起應有的責任。從價值觀的角度增強未成年的信息社會責任意識，才能真正實現技術內容知識與未成年人核心素養發展的統一。

（二）應用監管：技術工具規范

實現真正有效的標準治理，必須將標準內嵌到人工智能的技術生成過程中[17]，為技術工具的開發與應用提供明確的監管準則。2020年，國家標準化管理委員會等五部門聯合印發《國家新一代人工智能標準體系建設指南》，對智慧教育領域的行業應用標準作出了指示，要求規范在新型教育體系中的教學、管理等全流程相關的人工智能應用[18]?！吨腥A人民共和國未成年人保護法》中強調，處理涉及未成年人事項，應符合“適應未成年人身心健康發展的規律和特點”原則[19]?；谏鲜隹紤]， “技術工具規范”重點關注如何基于新型教育體系，規范賦能教育領域的人工智能技術的設計、開發與應用，兼顧技術本身的質量安全和教育環境的特殊需求，促進教育新生態可持續、穩定發展。該規范的重點關注對象是人工智能賦能的各類學習工具（簡稱“AI學習工具”），因此，面向未成年人的人工智能技術工具規范應立足未成年人的心理特征、心智特征、年齡特征，從AI向善的角度出發，重點關注智能時代技術對未成年人個性化、智能化、開放式學習全過程的支持，具體可圍繞以下四個維度展開：

可用性：指AI學習工具在設計、開發和應用過程中，以使用者為中心，保證工具功能易于理解、易于使用，有效實現其開發目的?？捎眯允茿I學習工具作為技術工具所應該具備的最基本的功能特性。同時，考慮到未成年人的心智尚未發育成熟，AI學習工具還應重點考慮使用時長的限制機制，避免過度使用會對未成年人產生負面影響。

適用性：指AI學習工具在設計、開發和應用過程中需要考慮不同使用者的需求和差異，以便滿足其使用需求。AI學習工具的服務對象是學習者，包含未成年人群體，因此，首先要考慮其功能對使用者的年齡適配性。同時，AI學習工具本質上是為學習者提供學習幫助的工具，須具備較好的教育性，不能只停留在娛樂層面。此外，智能時代的學習具有顯著的個性化、定制化特征，AI學習工具也要順應時代特點，強調個性化內容推送，盡可能地根據未成年人的興趣、學習能力和偏好來智能定制推送的內容。

安全性：指AI學習工具在設計、開發和應用過程中應對潛在風險和威脅的能力，以保護系統和使用者的安全。一方面是保障AI學習工具系統本身的安全，另一方面是保障未成年人個人隱私的信息安全。未成年人作為弱勢群體，容易被黑客定位為攻擊目標，在AI學習工具的設計與開發階段就需要針對這類情況預設安全解決方案。此外，AI學習工具在提供數據和資源時，要注意加強分類管理和訪問權限限制；在收集與管理未成年人信息時，要避免未成年人的敏感和個人信息被泄露或濫用，同時也應考慮到未成年人的心理特征，避免過度采集數據對未成年人心理發展造成負面影響。

價值觀：指AI學習工具在設計、開發和應用過程中必須遵循的符合社會主流價值的價值取向。AI學習工具的使用對象多為未成年人，其功能主要為教育，因此，AI學習工具的設計、開發與應用必須符合社會和人類價值觀，避免出現影響社會團結和諧的內容，避免開發不道德、有爭議的產品，堅決避免將未成年人置于潛在危險或是不良影響中。

（三）安全倫理：技術倫理規范

科技倫理治理已成為社會治理的重要內容和影響國家與社會安全穩定的重要因素[20]。面向未成年人的技術倫理規范必須在推動國內人工智能技術規范研究的大前提下，兼顧實現我國標準和國際標準的相互轉化，走出一條富有中國特色的人工智能倫理治理道路。2022年3月，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的指導意見》，確立了“增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明”五大中國科技倫理基本原則[15]。在本研究中，將“技術倫理規范”定位為基于我國國情與國際趨勢，規范我國人工智能技術應用于教育領域所需要遵循的價值理念和行為規范。技術倫理規范作為一種上位的價值導向，在整個面向未成年人的人工智能技術發展藍圖中起統領性作用。因此，從人機共融的角度出發，面向未成年人的人工智能技術倫理規范應全面審視未成年人、社會、自然和人工智能的關系，具體可圍繞以下三個維度展開：

以人為本：指保障未成年人成長與發展的福祉，尊重未成年人的生命權利，并引導未成年人樹立和諧共處、社會責任、保護自然的意識。人工智能技術應堅持以人為本的發展思想，促進未成年人成長與發展、社會進步和環境保護，構建和諧共進的社會生態環境，促進社會可持續發展。

公平公正：指保障未成年人享有平等公正的合法權益，避免人工智能算法決策歧視未成年人，并引導未成年人樹立公平公正的意識。人工智能技術應為不同種族、性別、地區、教育背景的未成年人提供平等的服務內容，并且避免權力濫用和不當歧視的算法模型出現，為未成年人構建一個公平公正的技術環境，營造平等的社會文化氛圍。

安全可控：指保障未成年人在使用人工智能技術時的身心健康，并引導未成年人樹立自我保護意識。應客觀評估和審慎對待人工智能技術給未成年人帶來的不確定性和技術應用風險，及時采取防范措施，確保未成年人的身心安全，杜絕不良社會行為和技術濫用現象，增強人工智能技術的公眾信任度和認可度。

（四）面向未成年人的人工智能規范體系模型

技術內容規范、技術工具規范和技術倫理規范是人工智能發展的三個方面。本文梳理了人工智能技術發展歷程及其在教育領域的應用現狀，通過與一線實踐者的對話，了解未成年人在使用人工智能技術過程中遇到的問題及實際需求，深入挖掘當前政策對于人工智能技術應用于教育的引導和支持情況，綜合考慮教育技術領域專家的意見進行修訂與討論，最終構建了多主體視域下未成年人與人工智能和諧共進的技術規范體系模型，如圖 1所示。

“技術內容規范”將基礎性、時代性和價值性三個維度的知識結合在一起，旨在從核心素養的角度規范學生能接觸到的人工智能技術內容，符合未成年人身心發展規律，促進學生的信息素養和信息能力的發展，提高他們對現代科技的認識和理解，同時增強道德、法律和倫理觀念，促進學生的全面發展和社會責任感。學校和教育機構可以根據技術內容規范，制定相應的課程體系和教學內容，幫助學生全面掌握人工智能技術相關知識，提高其核心素養和應用能力。相關企業和監管部門可以根據技術內容規范推動行業應用標準化和規范化，提高人工智能產業的健康發展水平。家長、政府和社會各界可以借以了解和普及人工智能知識，對于不良信息和應用進行過濾和選擇，引導未成年人正確使用人工智能技術，幫助他們逐步成為數字時代的主人和有責任感的公民。

“技術工具規范”圍繞可用性、適用性、安全性、價值觀對AI學習工具的設計、開發和應用全過程提出規范要求，旨在從應用監管角度保障未成年人的使用體驗，讓人工智能賦能的各類學習工具更有效地服務于未成年人的心理特征、心智特征、年齡特征，體現AI向善原則。企業可以依照規范進行針對性的技術和管理調整，提高維護未成年人權益和保護未成年人安全的意識和能力。政府和監管部門應嚴格依照規范對市場上的AI學習工具進行全面監管和檢查，并積極制定和完善相關的法律和規章制度，規定和約束人工智能技術在未成年人領域的應用范圍和規范。此外，未成年人和家長也應根據規范的要求，發揮主觀能動性，選擇可能帶來更好的使用體驗的AI學習工具，加強對于不良應用和受限應用的警惕和鑒別，確保自身權益得到充分的維護和保護。

“技術倫理規范”基于以人為本、公平公正、安全可控原則，對人工智能技術倫理治理提出要求，旨在從安全倫理角度促進未成年人、社會、自然和人工智能的和諧共處，樹立未成年人的道德倫理價值觀。政府和社會可依據技術倫理規范明確人工智能技術應用的道德原則和社會責任，加強對人工智能技術的監管和監督，保障未成年人的權益，為未成年人提供更安全、健康、可控的人工智能技術環境。學校和家長也要注重培養未成年人的人文素質和倫理意識，提高未成年人對人工智能技術的理解和自我防范意識，關注未成年人的心理健康和成長。

四、 結? ?語

本文首先對面向未成年人的人工智能技術發展現狀和應用態勢進行了分析，討論了面向未成年人的人工智能技術內容規范、技術工具規范和技術倫理規范三個層面的研究現狀和存在的問題，接著提出了面向未成年人的人工智能規范體系框架，為解決未成年人和人工智能技術融合協調發展問題提供指引。圍繞“面向未成年人的人工智能技術規范”，本研究提出了技術內容規范、技術工具規范和技術倫理規范，分別指向未成年人核心素養發展、技術開發與應用監管和安全倫理價值導向，旨在推動面向未成年人的人工智能技術治理，引導智能技術健康發展，并進一步完善面向未成年人的人工智能社會治理生態體系。未來的研究也將繼續關注符合未成年人學習特征的人工智能技術產品和應用，提升未成年人的人工智能核心素養和創新創造能力，實現人機相融共進的人類命運共同體。

[參考文獻]

[1] 聯合國教科文組織.人工智能倫理問題建議書[R/OL].（2021-11-23）[2024-02-29]. https：//unesdoc.unesco.org/ark：/48223/pf0000381137_chi/PDF/381137chi.pdf.multi.

[2] 唐漢衛.人工智能時代教育將如何存在[J].教育研究，2018，39（11）：18-24.

[3] 中華人民共和國教育部.普通高中信息技術課程標準（2017年版2020年修訂）[S].北京：北京人民教育出版社，2022.

[4] 中國教育學會中小學信息技術教育專業委員會.中小學人工智能課程開發標準（試行）[S/OL].（2021-10-20）[2024-02-29]. https：//www.ttbz.org.cn/Pdfs/Index/？ftype=st&pms=51978.

[5] 中華人民共和國教育部.義務教育信息科技課程標準（2022年版）[S]. 北京：北京師范大學出版社， 2022.

[6] 聯合國教科文組織.中小學階段的人工智能課程：對政府認可人工智能課程的調研[R/OL].[2024-02-29]. https：//unesdoc.unesco.org/ark：/48223/pf0000380602_chi/PDF/380602chi.pdf.multi.

[7] 中小學人工智能課程指南課題組.中小學人工智能課程指南[J].華東師范大學學報（教育科學版），2023，41（3）：121-134.

[8] 人工智能為兒童項目組.人工智能為兒童——面向兒童群體的人工智能應用調研報告[R].北京：中國商務出版社，2021.

[9] 禹鼎，周穎，李玉順，沈希，田曼曼，楊冰鈺，蘇靜，孫延.基于 TPACK 框架的英語學習軟件調查研究[C]//中國教育技術協會信息技術教育專業委員會第十七屆學術年會.天津：[出版者不詳]，2022.

[10] 鄭智航.人工智能算法的倫理危機與法律規制[J].法律科學（西北政法大學學報），2021，39（1）：14-26.

[11] 鄧國民，李梅.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020，41（6）：39-45.

[12] JOBIN A， IENCA M， VAYENA E. The global landscape of AI ethics guidelines[J]. Nature machine intelligence， 2019，1（9）：389-399.

[13] 孫偉平，李揚.論人工智能發展的倫理原則[J]. 哲學分析，2022，13（1）：3-14，196.

[14] 張慧，黃榮懷，李冀紅，尹霞雨.規劃人工智能時代的教育：引領與跨越——解讀國際人工智能與教育大會成果文件《北京共識》[J]. 現代遠程教育研究， 2019，31（3）：3-11.

[15] 新華社.中共中央辦公廳 國務院辦公廳印發《關于加強科技倫理治理的指導意見》[EB/OL].（2022-03-20）[2023-04-12]. http：//www.gov.cn/zhengce/2022-03/20/content_5680105.htm.

[16] 張學軍，董曉輝.人機共生：人工智能時代及其教育的發展趨勢[J].電化教育研究，2020，41（4）：35-41.

[17] 蔡星月.人工智能的“標準之治”[J].中國法律評論，2021（5）：94-103.

[18] 國家標準化管理委員會，中央網信辦，國家發展改革委，科技部，工業和信息化部.關于印發《國家新一代人工智能標準體系建設指南》的通知[EB/OL]. （2020-07-27）[2024-02-29]. https：//www.gov.cn/zhengce/zhengceku/2020-08/09/content_5533454.htm.

[19] 中國人大網. 中華人民共和國未成年人保護法[EB/OL]. （2020-10-23）[2024-02-29]. https：//www.moj.gov.cn/pub/sfbgw/jgsz/jgszzsdw/zsdwflyzzx/flyzzxzcxx/zcxxzcfg/zcfgfl/202010/t20201023_188560.html.

[20] 王沛楠.西方人工智能的數字倫理規制：困境與進路[J].青年記者，2022（13）：95-96.