算法產業促進與治理法(建議稿)*

孫占利

(廣東財經大學 法學院,廣東 廣州 510320)

一、引 言

1.算法簡介。算法可被簡單理解為一種可以反復采用的計算方法。算法是人工智能的核心技術或靈魂,其優劣直接決定著人工智能系統的質量。一般認為,算法之于智能時代,如同蒸汽機之于工業革命,代表著一個時代的生產力上限。21世紀人工智能的興起和規?；瘧靡蕾囉谌齻€基礎因素:算法、數據、算力,這三大生產要素是以智能化為核心的新一輪科技與產業革命的驅動力,同時也構成了企業、行業、地區乃至國家的核心競爭力,被業界認為是智能時代或數字經濟的“三駕馬車”,分別指向生產關系、生產資料及生產力。關于三者的關系,以自動駕駛汽車為例,算法就像是汽車的自動控制系統或大腦,數據可類比為汽油,算力則如同發動機,三者協同推動汽車安全與穩定地運行。

2.立法意義。算法在促進經濟社會發展的同時,也產生了“大數據殺熟”、算法黑箱、算法歧視、算法合謀壟斷、算法自動決策侵權等新型問題。如果不對算法進行倫理審查和安全監管,就可能產生算法奴役、“信息繭房”及“深度偽造”等社會風險,甚至危及人類自身的安全。對算法進行系統性專門立法,可以防止算法風險問題和促進算法產業的健康發展,維護國家安全、社會公眾利益及各方的合法權益,也有助于我國搶占智能化時代的戰略制高點。

3.立法現狀。我國已將人工智能發展上升為國家戰略,2017年國務院印發的《新一代人工智能發展規劃》提出,到2025年初步建立人工智能法律法規、倫理規范和政策體系,到2030年建成更加完善的人工智能法律法規、倫理規范和政策體系。我國關于算法的立法見于《中華人民共和國電子商務法》《中華人民共和國個人信息保護法》《中華人民共和國數據安全法》《中華人民共和國反壟斷法》《互聯網信息服務算法推薦管理規定》等法律法規、部門規章、地方性法規及規范性文件,在算法產業促進和治理方面已經取得了積極成效。

4.立法發展。我國在算法治理立法方面取得了積極成效,但尚存在系統性和協調性不足、算法產業促進措施不到位及算法風險不能充分有效監管等問題,這必然影響到算法產業的發展速度與質量。智能化時代的社會發展已經為算法立法提出了更高的要求,需要對算法進行系統性的專門立法,以促進和保障算法產業規范有序地發展。

5.本建議稿。本建議稿在借鑒已有立法、政策及研究成果的基礎上,對算法產業促進與治理立法進行探索,以期拋磚引玉,共同推進算法立法的發展。在本建議稿起草過程中,學習借鑒了本領域專家學者們的杰出研究成果,謹致誠摯的謝意!本建議稿的起草工作得到廣東省法學會的大力支持,佛山市順德區人民檢察院朱鳳茹全程協助起草,廣東財經大學白雪梅副教授、劉薇副教授、蔡孟兼副教授、李振宇講師及廣東技術師范大學法學與知識產權學院朱騰偉副教授、廣東財經大學華商學院陳敏講師、珠海市橫琴創新發展研究院法律與規則銜接研究所鄧鑫研究專員等提出了寶貴的修改意見。由于起草人的水平有限,本建議稿一定存在諸多問題或不足之處,公開刊發的目的在于希望收到更多批評指正意見,以期進一步完善本建議稿。衷心歡迎專家學者們提出寶貴意見,起草人聯系郵箱為:sunzhanli@vip.126.com。

二、目 錄

第一章 總則

第二章 算法產業促進

第三章 算法安全監管

第四章 算法企業的權利與義務

第五章 算法救濟

第六章 法律責任

第七章 附則

第一章 總 則

第一條【立法目的】為了促進算法技術的創新發展,推進算法在經濟社會領域的深度融合應用,規范算法研發與應用活動,保護公民、法人和非法人組織的合法權益,維護國家安全和社會公共利益,制定本法。

第二條【適用范圍】中華人民共和國境內的算法研發、應用及監管等活動,適用本法。中華人民共和國境外的算法應用對境內經濟社會發展產生負面影響的,適用本法。

第三條【產業發展理念】算法產業遵循綠色發展、協調發展、安全發展理念,弘揚社會主義核心價值觀,維護算法公平與正義,推動各行業領域轉型升級和可持續發展。

第四條【產業發展原則】算法產業發展應當遵循融合創新、安全可控、開放合作、公平競爭、協同治理的原則,防范和控制算法風險,保障特殊群體的合法權益,消除數字鴻溝。

第五條【產業發展規劃】國務院負責制定算法產業發展規劃,優化算法創新研發與融合應用環境,加強算法產業生態培育與發展。

地方各級人民政府負責實施上級人民政府的規劃部署,協調解決算法產業發展中的重大問題,統籌推進算法產業創新與安全發展。

第六條【安全監管原則】算法安全監管應當堅持總體國家安全觀,遵循依法依規、鼓勵創新、包容審慎、主動防控風險的原則,建立健全分類分級監管體系,綜合運用法律、倫理、道德、技術等手段進行科學監管。

第七條【安全監管機制】中央國家安全領導機構負責國家算法安全工作的決策和議事協調,研究制定、指導實施國家算法安全戰略和有關重大方針政策,統籌協調國家算法安全的重大事項和重要工作,建立國家算法安全工作協調機制。

各地區、各部門對本地區、本部門工作中的算法安全負責。

工業、電信、交通、金融、自然資源、衛生健康、教育、科技等主管部門承擔本行業、本領域算法安全監管職責。

公安機關、國家安全機關等依照本法和有關法律、行政法規的規定,在各自職責范圍內承擔算法安全監管職責。

第八條【協調機制】中央國家網信領導機構負責建立算法產業安全與發展協調機制,統籌推進算法產業的總體布局、整體推進和檢查落實協調機制。

國家網信部門依照本法和有關法律、行政法規的規定,負責統籌協調算法安全與發展及相關監管工作。

縣級以上地方人民政府建立本級算法產業安全與發展協調工作機制,協調各主管部門的管理工作,推進算法產業與其他產業的融合發展。

第九條【部門職責】各級人民政府的發展和改革部門負責擬制本級算法產業發展戰略、規劃和政策,推進算法產業發展重大工程和重點項目實施。各級人民政府的工業和信息化部門負責算法產業發展的具體工作。

各級人民政府的網信、科技、教育、公安、財政、統計、人力資源保障、交通運輸、商務、衛生健康、國有資產監管委員會、市場監督管理、政務服務數據管理、中小企業服務等有關主管部門在其職責分工范圍內促進算法產業健康發展。

第十條【地方政府職責】地方各級人民政府及其有關部門鼓勵和支持符合算法倫理和法律法規的算法新技術、新產業、新業態、新模式的探索和創新,建立與之相適應的監管機制。

第十一條【算法治理】國家統籌規劃加強對算法研發與應用的科學治理,推動政府、企業、社會組織及公眾共同參與算法治理,保障自然人、法人和非法人的合法權益,促進算法產業的健康發展。

第十二條【行業自律】國家鼓勵相關行業組織加強本行業算法研發與應用的行業自律,建立健全行業自律準則,組織制定行業標準,促進本行業的算法技術與應用創新,推廣具有較高經濟社會價值的算法技術應用,督促和指導會員建立健全算法管理制度和服務規范,依法提供服務并接受社會監督。

第十三條【標準制定】國家推動制定算法領域的國家標準,支持制定行業標準、地方標準、團體標準和企業標準。

鼓勵和支持高等院校、科研機構、行業協會、企業及專業人士參與制定算法領域的國際標準、國家標準、行業標準、地方標準、團體標準及企業標準。

第十四條【算法企業】算法企業應尊重社會公德和科技倫理,促進算法技術、產品和服務的創新發展,依法落實算法治理責任,不得損害國家安全、社會公共利益和他人的合法權益。

第十五條【交流與合作】國家鼓勵跨學科、跨領域、跨地區、跨國界的交流與合作,加強國際組織、政府部門、科研機構、教育機構、企業、社會組織的交流與合作,推進算法技術創新和賦能經濟社會發展。

第二章 算法產業促進

第十六條【總體部署】國家依法制定算法產業促進政策,在資金、人才、技術、信息、平臺等方面扶持算法企業,加強算法技術的基礎研究,促進算法核心技術和關鍵技術的突破,支持自主研發算法的部署和推廣,實現算法可信化、模塊化、系統化和平臺化,促進算法模型的創新研發和推廣應用。

第十七條【生態培育】縣級以上地方人民政府制定算法生態培育規劃,完善算法產業技術創新體系和基礎技術供給體系,加強算法技術的基礎研究和應用研究,促進算法技術創新和成果轉化,推動優質算法技術、產品和服務的普及應用,提高全社會的算法應用意識和能力,推進經濟社會的智能化發展。

第十八條【資金支持】縣級以上地方人民政府加大對算法技術與應用創新的財政支持力度,發揮區域內各類產業發展、科技創新相關專項資金的引導作用,建立與社會資本的聯動機制,對算法創新平臺建設、技術研發攻關、應用轉化落地、人才引進與培養等予以重點支持。

第十九條【數據保障】縣級以上地方人民政府依法擴大面向算法研發領域的公共數據開放,支持針對算法產業的數據服務的發展。

第二十條【應用場景保障】縣級以上地方人民政府依法加大算法應用場景的開放力度,建立全球創新算法與應用場景的對接共建機制,扶持具有重大經濟與社會效益的算法技術、產品和服務的應用推廣。

第二十一條【技術發展】縣級以上地方人民政府鼓勵和支持算法行業、企業推進關鍵算法突破升級,研制推廣標準化算法組件、預訓練模型,形成具有示范推廣效應的算法技術及其應用產品和服務,促進算法的多元供給。

鼓勵各地因地制宜建設通用算法庫、應用算法庫、前沿算法庫,推動算法池擴容與共享,建立算法評測體系,制定算法技術、產品和服務標準。

第二十二條【算法開源】各級人民政府應當培育共創、共建、共治、共享的開源理念,鼓勵打造算法開源平臺和社區,鼓勵企業參與算法開源交流與合作,有序實現國內外開源平臺和社區互聯互通,推動算法領域開源軟件國際規則互認,培育算法開源基金,保障算法開源方的合法權益。

第二十三條【人才培育】縣級以上地方人民政府建立健全算法人才培養制度,加強算法專業人才隊伍建設,探索建立算法領域人才評價標準與認證體系,加大對優秀人才與研究團隊的扶持和獎勵。

第二十四條【知識產權保護】國家針對算法領域的新技術、新產業、新業態、新模式的知識產權保護要求,完善算法知識產權保護制度,提高算法知識產權執法效能,加強算法知識產權的跨區域協作保護。

權利人可以根據算法技術與產品的特點依法取得軟件著作權或專利權,也可以選擇采用商業秘密的方式進行保護。

縣級以上地方人民政府應當指導算法企業、高等院校、科研機構、行業組織、金融機構等組建算法公共專利池,促進算法技術的應用推廣和不斷創新。

第二十五條【成果轉化與推廣】縣級以上地方人民政府支持建設算法技術的應用轉化體系,支持建設面向重點應用領域的公共算法服務平臺和算法應用信息平臺、算法復現平臺,推動創新型算法成果的轉化和推廣。

鼓勵縣級以上地方人民政府建設算法技術、產品、服務交易平臺,探索制定科學完備的交易規則和平臺管理體系。

鼓勵各類企業實現算法技術與企業業務的對接,打造算法技術轉化示范項目,加強高質量的算法技術、產品和服務的推廣。

第二十六條【智庫支持】地方各級人民政府根據需要設立算法產業發展與治理專家委員會,為本行政區域算法產業的發展規劃、重大決策和疑難問題提供專業咨詢意見。

第二十七條【協同發展】國家支持算法產業與其他產業的協同發展,推進跨區域的算法產業發展規劃銜接、技術標準互認等工作。

鼓勵高等院校、科研機構、行業協會、企業及專業人士在基礎研究、技術開發、技術引進、技術共享、人才培養等方面開展協作,協同攻關突破關鍵技術和核心技術。

第三章 算法安全監管

第二十八條【總體要求】國家建立健全算法安全監管制度,推動算法安全監管體制機制創新,加強算法倫理審查和安全治理,推動算法產業的安全發展。

算法安全監管應落實算法研發和應用企業的主體責任、各級人民政府的屬地監管責任和地方算法安全監管部門的直接監管責任。

第二十九條【監管職責】各級人民政府的有關部門依法對本行業領域的算法研發與應用進行安全監管,針對本行業領域的特點建立算法風險預警和評估機制,定期開展本行業領域的算法安全監督檢查,對發現的算法風險及時予以處理。

第三十條【監管機制】各級人民政府及其算法安全監管部門應當建立算法安全事前、事中、事后相結合的一體化監管體系,對算法的研發與應用活動實施動態風險防控,實時分析算法技術與應用的潛在風險并采取預防措施,及時對算法安全事件采取有效的處置措施。

算法企業應當配合有關主管部門依法實施的監管工作,并提供必要的技術、數據及其他協助。

第三十一條【安全審查】算法安全審查納入國家網絡安全審查工作機制,國家網絡安全審查部門負責制定算法安全審查相關制度規范、組織算法安全審查和對違反算法安全審查規定的行為進行處理。

第三十二條【分類分級監管】國家算法安全審查部門應當按照算法的應用場景、安全風險、社會影響等因素建立算法分類分級管理制度。

鼓勵促進經濟社會發展、防災救災及公共衛生事件的應急處理的算法的研發與應用,禁止危及人類社會、危害國家安全、損害社會公共利益及侵害他人合法權益的算法研發與應用。

存在較大國家安全風險、倫理風險、社會風險的算法應當在研發和應用前取得國家算法安全審查部門或其授權的省級算法安全審查部門的許可,并在許可范圍內研發和應用。

第三十三條【算法備案】具有輿論屬性或者社會動員能力的算法推薦服務及其他對社會影響較大的算法服務的提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,履行備案手續。

完成備案的算法服務提供者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

算法服務提供者的備案信息發生變更的,應當在變更之日起十個工作日內辦理變更手續。

算法服務提供者終止服務的,應當在終止服務之日起二十個工作日內辦理注銷備案手續,并作出妥善安排。

第三十四條【企業備案承諾】企業在辦理算法備案時應當承諾不利用提供算法技術、產品和服務的便利條件非法獲取用戶數據或非法操控用戶設備,無正當理由不得中斷算法產品供應或者停止技術支持服務。

第三十五條【監管沙盒】算法安全審查部門可以根據算法的應用場景、風險等級、影響范圍等因素,要求風險較高的算法在特定區域和范圍開展應用安全測試,通過安全測試后方可投入使用。未通過安全測試的算法,算法安全審查部門可以根據安全風險程度要求其退出安全測試或者對算法調整后重新申請安全測試。

第三十六條【高風險算法】算法安全監管部門依法對高風險算法采取與其風險相適應的監管措施,可以要求企業解釋說明算法風險及其防控措施,必要時可以按照執法程序遠程獲取企業用于訓練、驗證、測試算法的數據集和獲取算法設計的源代碼。

第三十七條【監測與預警】算法安全監管部門可以采用自動化系統和人工巡查同步結合的方式對算法的數據使用、應用場景、社會影響等進行動態監測,及時發現算法安全風險并予以預警。

第三十八條【應急處理】各級人民政府建立算法安全風險應急機制,根據算法安全風險等級制定相應的應急預案,配備必要的專業應急人員和應急設備。

第三十九條【安全主體責任】算法企業應當依法落實算法安全主體責任,建立健全算法倫理審查、安全評估監測、安全事件應急處置、數據安全保護和個人信息保護等管理制度,向用戶公開算法技術、產品和服務的安全應用與服務協議。

第四十條【安全評估與監督】算法企業應當依法建立算法風險評估制度,在算法的研發與應用全過程自主實施安全評估或委托第三方專業機構進行評估。

算法安全監管部門定期開展算法安全評估與監督工作,對發現的問題及時提出整改意見并責令相關企業限期整改。

第四十一條【第三方安全服務與協作】國家促進算法安全檢測評估、認證等服務的發展,支持算法安全檢測評估、認證等專業機構依法開展服務活動。

國家支持有關部門、行業組織、企業、教育和科研機構等在算法安全風險評估、防范、處置方面的交流與合作。

第四十二條【行業監管】縣級以上地方人民政府支持成立本級算法安全保護行業組織,行業組織在授權范圍內依法開展下列活動:

(一)向有關主管部門反映算法安全保護情況和提供咨詢建議;

(二)督促和指導行業組織的成員企業建立健全算法安全規范并接受社會監督;

(三)依法開展行業安全監督檢查,向行業組織的成員提供算法安全保護信息和咨詢服務;

(四)接受算法安全方面的投訴、舉報并進行調查和調解;

(五)對符合公益訴訟條件的算法安全事件,依法向人民法院提起公益訴訟。

第四十三條【保密義務】參與算法安全審查、評估與監督檢查的機構和人員應當對工作中所知悉的商業秘密、個人信息、用戶或企業提交的未公開材料及其他未公開信息承擔保密義務。未經信息提供方同意,不得將保密信息對外披露或者用于工作以外的目的。

第四章 算法企業的權利與義務

第四十四條【算法企業的權利】算法企業依法享受算法產業支持政策,平等獲得稅收、信貸、科技經費、人才引進、科技成果轉化等方面的優惠待遇。

第四十五條【算法管理體系】算法企業應當建立健全算法倫理審查、影響評估、安全防護及應急處置等算法管理體系,確保算法能夠依法合規、公平公正、安全可靠地作出自動化決策,防止損害國家安全、社會公共利益及他人合法權益。

第四十六條【算法倫理】算法企業應當建立算法倫理風險管理體系,明確管理機構、目標及工作規程,提升算法倫理審查、風險管控和應急處置能力。

第四十七條【算法合規】算法企業根據業務類型、市場規模、技術水平、行業狀況等建立算法合規管理制度,設立算法合規管理機構或專職人員,加強算法風險防控和隱患排查,提升應對安全風險的能力和水平,確保算法技術、產品和服務符合相關法律法規、安全與質量標準及業務規范的規定。

第四十八條【算法安全風險】算法企業應當防范算法安全風險,規范算法應用行為,提高算法安全風險的監測、預警和處置能力。

第四十九條【資質與標準】算法企業應當具備與其業務范圍相適應的企業資質,提供的算法技術、產品和服務的質量應符合有關的國家標準、行業標準及地方標準的要求。

第五十條【算法決策的科學性、合理性、可靠性】算法企業應確保算法決策的科學性、合理性和可靠性達到國家有關規定的要求,防止算法決策錯誤或者造成其他不利后果。

算法決策的科學性、合理性、可靠性從下列方面進行判斷:

(一)訓練數據和監測數據的全面性、規范性、準確性和可靠性;

(二)算法決策規則與參數設置的科學性、合理性和先進性;

(三)算法決策過程的邏輯性、可解釋性和可驗證性;

(四)算法決策結果的可預測性和可驗證性;

(五)用戶畫像的公正性、客觀性和真實性;

(六)其他影響因素。

第五十一條【算法公平】算法企業應當采取可靠的技術手段對其算法的分析、決策和優化等具體應用任務的公平性進行驗證,不得利用算法優勢侵害用戶或他人的合法權益。

算法技術、產品和服務的社會化應用應當尊重和幫助弱勢群體,滿足特殊群體的特別需求或提供適宜的替代方案。

第五十二條【算法透明】算法企業應向用戶明示算法決策的目的、方式和范圍,適當披露算法的基本原理、運行邏輯、決策過程、驗證方式及功能局限,并向有能力了解算法決策的利益相關方提供易訪問、可理解、可評估的路徑。

企業在公開披露算法時可以不公開核心算法技術、關鍵參數和源代碼,但應以普通用戶可理解的方式說明算法決策是否公平或是否損害用戶的合法權益。

第五十三條【算法解釋】算法技術、產品和服務的用戶有證據認為算法對其合法權益造成損害的,可要求企業對算法的決策目的、基本原理、決策規則、參數設置、運行過程、驗證方式及優化方案等進行可信解釋。

對影響國家安全、社會公共利益以及他人合法權益的算法,算法安全監管部門可要求相關企業對算法進行可信解釋,并根據解釋和審查結果采取修正后使用、限制使用范圍、禁止使用等措施。

第五十四條【算法歧視或偏見】算法企業應當遵循平等原則,不得因用戶的身份、職業、性別、年齡、民族、種族等作出具有歧視性或偏見性的算法決策。

算法企業應當主動檢查研發或應用的算法是否存在歧視或偏見,發現算法歧視或偏見時應立即停止應用并予以消除。

第五十五條【算法風險評估】企業在設計、開發算法時應根據應用場景,綜合考慮實現算法功能的準確性、代碼的正確性、目標函數的影響、訓練數據集的影響、對抗性樣本的影響和環境數據的影響等指標,對算法決策的風險進行評估。

算法應用企業應當定期對算法安全風險及其應對措施進行評估,發現較大風險或可能產生較大社會影響時應當及時上報有關主管部門。

第五十六條【算法審計】算法企業應當建立算法的安全性、合法性及正當性的內部審計制度,保障算法內部審計人員參與或指導算法研發與應用工作的權利,在系統權限管理等方面為內部審計工作提供便利條件。

企業提供的算法技術、產品和服務具有重大社會影響的,算法安全監管部門可以委托第三方專業機構對算法研發、數據安全保護、算法決策規則、數據開發利用及企業承諾執行情況等進行年度外部審計,依照有關法律法規的規定披露審計結果。

第五十七條【用戶畫像】算法企業根據用戶行為進行用戶畫像的,不得侵害用戶和其他主體的合法權益,不得危害國家安全和社會公共利益。

用戶畫像限于用戶授權或同意的范圍,且應當進行去個人化或匿名化處理,不得包含淫穢、色情、暴力等非法和不良信息。

第五十八條【算法操縱】算法企業不得利用算法操縱用戶賬號、評論、點贊、榜單、熱搜等,實施影響網絡輿論或者規避監管行為。

第五十九條【算法推送】算法推送服務企業應當加強對推送信息的審核與監管,建立健全人工干預和用戶選擇機制,最大程度地減少對用戶判斷或選擇的不利影響。

第六十條【互聯網平臺經營者】互聯網平臺經營者向消費者銷售商品或者提供服務的,應當保護消費者公平交易的權利,不得根據消費者的偏好、交易習慣等特征,利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

第六十一條【算法壟斷】禁止企業濫用算法與其他經營者達成或實施壟斷協議、對其他經營者進行不合理限制以及實施具有或者可能具有排除、限制競爭效果的其他行為。

第六十二條【勞動者權益保障】企業運用算法技術安排工作調度的,應當動態完善訂單分配、工作時間、報酬構成與支付及獎懲等的算法設計和運行規則,依法保障勞動者的合法權益。

第六十三條【特殊群體權益保障】向殘疾人、未成年人及老年人等特殊群體提供算法產品或服務的企業,應當提供適合特殊群體特點的使用模式和服務方式,簡明扼要地說明算法產品或服務的基本功能、使用方法及注意事項,維護特殊群體的合法權益。

第六十四條【數據安全】算法企業應當依法獲取用戶的個人信息,建立健全與個人信息保護相關的算法服務協議、隱私政策和算法披露制度。

算法企業應當明確算法使用數據的來源、范圍和用途,防止數據泄露與濫用。

第六十五條【安全保障措施】算法企業應當增強算法系統的魯棒性,配置應急管理和備份系統,動態檢測算法系統漏洞等安全風險,發現風險時應及時采取有效處置措施。

對與人身安全密切相關的算法,算法企業應進行針對性的風險測試和采用更高級別的安全保護措施。

算法企業應當將算法模型的修改權限限制在授權用戶和特定授權范圍,防止算法原始模型數據被第三方惡意篡改。

第六十六條【算法服務協議】算法企業依法制定算法服務協議,明確算法服務中有關各方的權利、義務及責任。

算法服務協議有較大變更時,算法企業應當在其官方網站公開征求意見,征求意見的時間不得少于一個月,并確保公眾能夠便捷、充分地表達意見。

算法服務企業應當充分采納公眾的合理意見,適時公布意見采納情況。對未采納的意見,應當說明理由。

第六十七條【算法濫用】算法企業不得濫用算法技術、產品和服務,并采取措施防止他人濫用其算法產品或服務以損害國家安全、社會公共利益或者他人合法權益。

第六十八條【應急處理】算法企業應當制定算法安全事件應急預案,發生算法安全事件時,應當立即啟動應急預案,采取相應的補救措施,并向算法安全監管部門報告。

第六十九條【算法追溯機制】算法企業應當確保算法模型、運行過程、決策結果可記錄和可留痕,妥善保存算法決策日志與相關記錄,協助用戶或有關部門查明損害結果的發生原因與產生的后果。

第七十條【算法終結機制】算法企業應當保證算法系統的可中斷性,在算法系統出現非法自動化決策、無法預測或控制其決策結果及可能產生重大社會風險時,立即終止算法系統的運行。

第五章 算法救濟

第七十一條【企業承諾】算法企業應切實履行算法服務協議,踐行在算法備案、算法審計及其他安全監管中作出的承諾,維護用戶和有關各方的合法權益。

第七十二條【算法救濟便利化】算法企業應主動收集和及時反饋用戶意見,設置便捷的用戶投訴渠道,及時處理用戶投訴,并將處理結果告知用戶。

算法企業應以提供必要的證據等方式為用戶和有關各方依法維權提供便利條件。

第七十三條【算法披露與解釋權】算法技術、產品和服務的用戶可以依法要求企業對其算法進行適當披露和可信解釋,企業不得以算法黑箱、商業秘密及用戶難以理解等為由拒絕披露或解釋。

第七十四條【知情權和選擇權】算法服務企業應告知與用戶合法權益相關的算法服務信息,為用戶提供便捷選擇或退出算法服務的選項。選項的設置不得針對用戶個人特征,并應保障用戶可以隨時選擇退出算法服務。

算法服務企業不得以個人不同意處理其個人信息或者撤回同意為由拒絕提供算法服務,但處理個人信息屬于提供服務所必需的除外。

第七十五條【拒絕權和更正權】用戶可以拒絕算法自動化決策提供的服務或拒絕接受僅通過算法自動化決策方式提供服務。

出現算法決策錯誤時,用戶可以要求企業采取更正算法輸入的數據或修改算法運行規則等補救措施。

第七十六條【維權監督】有關主管部門通過受理投訴、舉報及主動檢查等方式加強維權監督,責令相關企業及時整改發現的問題,保障用戶和有關各方的合法權益。

第七十七條【違法處理】有關主管部門發現算法技術、產品、服務存在侵權或其他安全隱患時,可約談相關企業,責令其及時采取改正措施。

第七十八條【司法救濟】用戶發現算法技術、產品、服務侵害其合法權益時,可以依法向有管轄權的人民法院提起訴訟。

第七十九條【公益訴訟】對利用算法技術、產品、服務侵害眾多用戶合法權益等損害社會公共利益的行為,法律規定的機關和有關組織可以依法向人民法院提起訴訟。

人民檢察院履行職責中發現算法技術、產品、服務侵害眾多用戶合法權益等損害社會公共利益的行為,在沒有適格主體或者適格主體未提起訴訟的情況下,可以向人民法院提起民事公益訴訟。用戶或行業組織提起訴訟的,人民檢察院可以支持起訴。

第八十條【行業組織救濟】用戶發現算法技術、產品或服務損害其合法權益時,可以向相關行業組織投訴。行業組織收到投訴后應及時予以處理,并將處理結果告知相關企業和用戶。

行業組織在處理用戶投訴時發現算法系統存在較大社會風險或安全隱患時,應及時告知相關企業修改算法或終止運行算法系統,并及時上報有關主管部門。

第八十一條【企業維權】算法企業認為監管部門、行業組織及其工作人員有失客觀公正,或者不依法履行保密等義務的,可以向有關部門投訴或舉報。有關部門收到投訴或舉報后應及時予以處理,并將處理結果告知相關企業。

第六章 法律責任

第八十二條【民事責任】有下列情形之一的,算法企業應當承擔民事責任:

(一)算法技術、產品、服務對用戶產生歧視或偏見的;

(二)無理由不履行或未適當履行算法解釋等義務的;

(三)算法產品或服務不符合約定的目的、用途和范圍的;

(四)違法處理用戶個人信息或其他數據;

(五)實施其他損害用戶或他人合法權益的行為。

發現算法技術、產品、服務正在侵犯或可能侵害其合法權益時,權利人可依法要求該算法企業承擔停止侵害、消除危險、消除影響、恢復名譽等民事責任。造成用戶損失的,依法賠償損失。

第八十三條【備案責任】企業未按規定取得許可或未履行備案義務,或者通過隱瞞真實情況、提供虛假材料等不正當手段取得許可或備案的,有關主管部門應及時撤回許可或備案,并依法給予警告、通報批評、限制開展生產經營活動、責令停產停業、罰款等行政處罰。

第八十四條【執法約談】企業違反本法的算法安全監管規定的,算法安全監管部門可依職責約談相關企業的主管人員或其他直接責任人員,責令限期改正;約談后仍不改正的,依照相關法律法規的規定予以處理。

第八十五條【行政責任和刑事責任】算法企業及其工作人員違反本法的規定,構成違反治安管理行為的,依法給予治安管理處罰;構成犯罪的,根據算法服務的風險等級不同,依法追究刑事責任。

第八十六條【記入信用檔案】算法企業違反本法規定造成嚴重后果的,除依法承擔相應的民事責任、行政責任及刑事責任外,還應當依照有關法律法規的規定記入企業信用檔案,并予以公示。

第八十七條【第三方機構的責任】從事算法評估、算法審計等的第三方專業機構及其工作人員違反本法規定的,有關主管部門依職責給予警告、通報批評、限制開展生產經營活動、責令停產停業、沒收違法所得、罰款等行政處罰;造成他人財產損失的,依法賠償損失;構成犯罪的,依法追究刑事責任。

第八十八條【寬嚴相濟】算法企業及其工作人員違法行為輕微且能及時整改,未造成危害后果的,不予行政處罰;初次違法且危害后果輕微,并及時改正的,可以不予行政處罰;違法情節或后果較為嚴重但主動報告有關情況并積極配合調查和消除危險的,可以減輕或者免除處罰。

第八十九條【容錯免責】對于算法產業創新過程中已經盡到勤勉盡責但未能避免失誤或過錯的企業及其工作人員,省級人民政府可以根據需要制定不予處罰清單,采取約談告誡、批評教育、責令改正等措施督促企業依法創新和合規經營。

第九十條【技術局限免責】算法技術、產品、服務投入市場時的科學技術尚不能發現存在缺陷的,算法技術、產品、服務提供者可以主張免除法律責任,但未能結合科學技術的發展對其技術、產品、服務進行動態優化以致造成重大損失的除外。

第七章 附則

第九十一條【定義】本法下列用語的含義:

本法所稱“算法”是為一個問題或一類問題給出的解決方法與具體步驟,是對問題求解過程的一種準確而完整的邏輯描述。

本法所稱“算法企業”是指從事算法研發和向社會提供算法技術、產品和服務的企業。

本法所稱“算法推薦”是指通過機器學習、統計或其他數據處理形成的向用戶提供個性化推送、排序精選、檢索過濾、調度決策等信息內容的計算程序。

本法所稱“算法推薦服務提供者”是指使用算法推薦技術提供算法推薦服務的企業或其他組織。

本法所稱“算法黑箱”是指機器學習時其復雜的神經元網絡中存在的不為人所能直觀捕捉到的隱層。

本法所稱“算法歧視”是指算法研發人員對事物的認知存在某種偏見或算法學習、運行時使用了帶有偏見的數據集等,導致該算法產生歧視性的結果。

本法所稱“可靠性”是指算法在一定時間和一定條件下可以無故障地實現特定的功能,以及在輸入數據出現問題時能夠作出適當反應或者進行有效處理。

本法所稱“魯棒性”是指算法系統遇到輸入、運算等問題時處理錯誤和繼續正常運行的能力。

本法所稱“可驗證性”是指輸入某組特定數據時同一算法會產生相同的結果,可用于解決算法解釋與算法追責問題。

本法所稱“可解釋性”是指算法企業應盡可能地對算法的過程和特定的決策提供解釋,以維護算法用戶的知情權和拒絕權,避免和解決算法決策的錯誤性和歧視性。

第九十二條【例外情形】其他法律對特定類型的算法技術、產品、服務及其監管另有規定的,依照其規定。

第九十三條【實施】本法自 年 月 日起實施。