算法推薦技術對消費者權益保護的影響與應對

張惠彬,王思宇

(1,2.西南政法大學 民商法學院,重慶 401120)

我們生活在一個算法社會,在算法推薦技術的幫助下,平臺根據用戶所提供的以及來自其他各種渠道的數據,確定用戶的興趣、愛好、口味,然后為用戶推薦更多他們認為其喜歡的內容。這些數據包括用戶點的每一個“贊”,看的每一條短視頻,點擊的每一個鏈接,它們都被記錄存檔。平臺算法的使用能為用戶提供更精準的服務,降低用戶的搜索成本,但也容易“算計”消費者,諸如外賣平臺大數據殺熟等問題逐漸成為社會關注的熱點。

網絡平臺巨頭的算法使用行為在促進數字經濟發展的同時也給市場秩序、消費者權益保護乃至國家安全帶來新的挑戰。為應對算法推薦技術給社會治理帶來的挑戰,國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合發布了《互聯網信息服務算法推薦管理規定》(以下稱“管理規定”),《管理規定》為全球首個專門針對算法推薦技術規范的立法(部門規章)。本文以《管理規定》中確定的算法推薦技術分類為標準,剖析每類算法推薦技術可能給消費者權益造成的損害,并結合域外經驗與《管理規定》,總結梳理我國的治理路徑與應對策略,以期為數字經濟時代“被算計”的消費者開拓有效的權利保障路徑。

一、數字經濟時代算法推薦技術的市場應用

算法推薦技術是指相關平臺利用機器學習、深度學習等技術,整合加工、分析解釋用戶數據,以提供與用戶需求相匹配的個性化信息服務技術。算法推薦技術包含生成合成、個性化推送、排序精選、檢索過濾和調度決策五種類型。其中,生成合成類算法推薦技術,是指利用算法、虛擬合成技術和自動化運行指令生成的文本、新聞、視頻等信息內容服務。此類技術被廣泛應用于AI換臉、語音導航及修復照片等場景;個性化推送類算法推薦技術是以“大數據殺熟”為典型的算法技術,指互聯網平臺運用算法技術采集消費者數據,以此形成用戶數字畫像,并借此向用戶提供個性化信息服務的算法;排序精選類算法推薦技術是一種個性化表示與結果排序算法,它利用模糊推理技術聚類分析用戶瀏覽的歷史文檔,發現用戶對各分類的喜好程度,繪制體現用戶個性的搜索結果的算法[1]。App的推薦排序和搜索引擎結果排序是該種算法推薦技術的主要應用場景;檢索過濾類算法推薦技術涵蓋過濾算法和檢索算法兩大分支,是指平臺基于用戶的檢索信息、評論分析和文本挖掘向用戶提供關聯推薦的算法。譬如,電商平臺的關聯推薦功能及關鍵詞聯想功能等;調度決策類算法推薦技術是指平臺根據用戶數據和系統的資源分配策略向用戶提供的最優決策算法。外賣平臺的訂單分派便是典型。盡管五大類算法推薦技術的側重點和應用場景有所差異,但技術邏輯卻有趨同性,“收集—分析—轉換”三步走依舊是算法推薦技術的主要行為路徑。

(一)信息提取:集成消費者數據群落

互聯網平臺實施算法推薦的第一步就是提取用戶信息。用戶信息的提取分為兩種方式,其一是登錄注冊時,經過用戶知情同意錄入的基本個人信息。其二是互聯網平臺利用算法技術,收集用戶的瀏覽歷史、設備信息、服務記錄以及行為偏好等數據信息?；ヂ摼W平臺采取的收集用戶信息的方式具備循環、互動的特點?；ヂ摼W平臺將信息收集模型設置在用戶系統的多個接口,以便采集到用戶的全階段數據。同時,采集到的數據源還可以參與到價值產生的各個階段,普遍存在記錄數據源行為的機制和相互溝通、反饋的渠道,產生的數據可以是一種交互式、循環式的數據,而非一次性的單一方面數據,以便充分發揮數據價值[2]。通過上述手段,互聯網平臺便可將散落在不同組織機構和信息系統中的用戶數據集合在一起,形成聚合態體系的數據存儲模型,為后續開展的數據挖掘和機器學習打下堅實基礎。

(二)數據分析:形成消費者個人標簽

互聯網平臺得以提供信息服務的重要前提之一,是對海量用戶數據進行抽象分析?；ヂ摼W平臺實現數據價值的最大化要依托對數據的機器學習和聯合分析。只有借助各種分析方法提煉出蘊含在數據內的關鍵信息,互聯網平臺才能繪制出用戶畫像、形成用戶標簽,進而匹配用戶的個性化需求。在數據分析過程中,互聯網平臺往往會借助三類信息技術完成數據分析。其一,是算法和云計算技術?；ヂ摼W平臺將存儲在信息系統中的用戶數據進行結構處理和統計定量處理,再貼合對應的消費者個人標簽。例如,平臺可對消費者的消費和瀏覽數據進行分析解構,由此梳理出該消費者的消費頻率和價格敏感度,之后貼上對應標簽,建立用戶畫像。其二,是機器學習和深度學習技術?；ヂ摼W平臺可利用該技術構建交易模型、智能識別傳感網絡和機器輔助分析等方式,解釋用戶數據、析出用戶信息,并由此將用戶信息整合分類,形成用戶剖面圖。最終通過服務接口,對照用戶標簽,向用戶提供信息服務。其三,是隱私計算技術?；ヂ摼W平臺可運用聯邦學習和安全多方計算等隱私計算技術,通過算法協議進行聯合機器學習,結合多方數據源完成建模,再將得到的模型結果匯總至中心節點,之后再進行二次訓練得到最終需求結果。

(三)合成轉換:輸出互聯網信息服務

互聯網平臺的最終目的是向消費者提供信息服務。因此,平臺在形成用戶數據池、解構用戶數據、預測用戶需求之后,便可結合輸出模型和結果數據,在客戶終端對用戶投放不同場景的信息服務。以個性化推送類算法推薦技術——“大數據殺熟”為例,互聯網平臺運用算法技術采集消費者數據,形成消費者數字畫像,并推測出消費者愿意支付的最高價格,最終輸出趨近于最大支付意愿的個性化價格,實現“千人千價”,完成了由數據至服務的轉換。

二、算法推薦技術侵害消費者權益的表現

數字經濟時代,算法推薦技術一方面能夠為消費者提供個性化服務,提高交易效率,提升產品和服務的質量,造福消費者。但另一方面,算法推薦會不當利用消費者數據,甚至泄露消費者隱私信息,使消費者的數據安全和個人信息難以得到保障。除此之外,互聯網平臺利用算法推薦技術實施的算法價格歧視損害了消費者的公平交易權;互聯網平臺濫用用戶標簽推送關聯產品或服務侵擾了消費者的自主選擇權;互聯網平臺利用算法的不透明性操縱搜索引擎排序結果侵犯了消費者的知情權。這些均加劇了消費者的弱勢地位,給算法推薦技術下的消費者權益保護帶來了新的挑戰。

(一)數據過度收集侵害消費者數據權益

2022年3月11日,中國消費者協會發布了《2021年網絡消費領域消費者權益保護報告》。報告顯示侵害網絡消費者權益的典型表現之一便是網絡交易經營者利用算法等技術手段非法收集、分析、使用消費者數據,損害消費者的信息自主權。除此之外,在2022年央視3·15晚會上,消費者協會曝光了“瀏覽網頁就能泄露手機號”的消費者數據泄露現象[3]。據工作人員介紹,相關企業會利用消費者手機對應的MAC號,在消費者瀏覽該網站時獲得明碼手機號碼。更有甚者會利用算法等技術手段竊取消費者終端或手機里的個人信息,以此精準抓取消費者興趣點,進行個性化推送,損害消費者數據權益。由此可見,企業過度收集消費者數據現象仍為常見,數據泄露等數據侵權問題頻發,消費者數據權益難以得到保障。究其原委,主要有以下幾點:首先,雖然消費者在互聯網平臺遺留的數據總數呈現指數性增長態勢,但是海量數據散落在不同的平臺和信息系統中,數據來源分散、數據間流通共享困難等問題仍然存在,“數據孤島”現象依舊殘存。對此,為融合多方數據、打通數據互動通道、最大程度釋放數據價值,互聯網平臺間開始開展數據協同工作,將多方數據進行聯合建模分析,實現數據跨層級、跨領域融合應用。但此種數據協作合作機制可能增加數據泄露的風險。而在數據流轉過程中,任何一方泄露了消費者數據均可能損害消費者的隱私及個人信息。其次,盡管《中華人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)明確規定收集個人信息需遵循“最小目的”原則,但平臺在利用算法等技術收集個人信息時,往往會超出最小必要原則,從而過度收集用戶信息,致使消費者信息安全難以得到保障。最后,互聯網平臺利用算法、云計算和隱私計算等技術分析消費者數據形成的用戶畫像,可以展示數據主體的偏好、習慣等尚未公開的敏感信息,從而扯開了數據主體隱私空間的面紗,削弱了消費者對個人隱私信息的掌控能力。

(二)算法價格歧視損害消費者公平交易權

公平交易權是消費者權益的核心內容,《中華人民共和國消費者權益保護法》(以下簡稱《消費者權益保護法》)所指稱的公平交易權,要求經營者給予所有消費者以公平的待遇。而算法推薦技術的應用卻可能給消費者公平交易權帶來損害。根據北京市消費者協會2022年3月公開的調查問卷結果顯示,86.91%的受訪者認為自己有被大數據“殺熟”的經歷[5]。2021年12月,浙江省紹興市中級人民法院審理的胡紅芳訴上海攜程商務有限公司侵權責任糾紛案,胡紅芳認為攜程公司通過采集其個人非必要信息,對其實施價格歧視,引發了社會對“大數據殺熟”的廣泛關注(1)參見浙江省紹興市中級人民法院(2021)浙06民終3129號民事裁判書。?！按髷祿⑹臁?又稱算法價格歧視,是個性化推送類算法推薦技術的一種實際應用,其內含的定價算法技術的隱蔽性和不透明性給消費者的公平交易權帶來損害。

互聯網平臺利用算法技術采集消費者的“元數據”,并運用機器學習等手段分析消費者的“元數據”,形成消費者用戶畫像。在此之后,互聯網平臺借助算法定價技術,預測消費者的最大支付意愿,輸出趨近于最大支付意愿的價格,完成“千人千價”的個性化定制價格推送,達到“殺熟”的效果。在此過程中,由于互聯網平臺僅根據消費者的瀏覽歷史、消費記錄等數據,便對消費者提供不同的價格,違背了基于成本與收益的定價規則,使得價格與商品或服務質量呈現非正相關關系,損害了消費者的公平交易權。同時,算法的不透明性及算法黑箱現象加劇了互聯網平臺與消費者之間的信息不對稱。消費者支付的價格與獲得的商品或服務價值相當是公平交易權的核心。然而,“大數據殺熟”利用算法的不透明性實施的差別定價,導致消費者支出的費用與獲得利益不對等,進而違反了交易的實質公平,有損消費者的公平交易權[6]。

(三)濫用用戶標簽侵擾消費者自主選擇權

自主選擇權是消費者享有的一項基本權利?！断M者權益保護法》層面的自主選擇權是指,消費者有依不同標準自由地對商品或服務作出選擇,并自由地決定是否購買商品或接受服務的權利[7]。在算法推薦技術廣泛應用的當下,消費者的自主選擇權可能受到侵害。具體而言,算法推薦技術的有效實施有賴于精準的用戶標簽,在這之中,個性化推送類、排序精選類和檢索過濾類算法推薦技術對用戶標簽的依賴最強。為向消費者提供個性化信息服務和決策支持,互聯網平臺在實施個性化推送類算法推薦技術時就需提前掌握消費者的行為偏好和消費傾向,為每位消費者貼上專屬用戶標簽,以便對其提供精準的服務,視頻類App中的個性化信息交流服務便是典型。為給消費者提供精選列表,平臺在實施排序精選類算法推薦技術時,便會根據消費者的瀏覽記錄繪制消費者用戶畫像,以此推出搜索引擎結果排序。為方便消費者查找到感興趣的商品或服務,檢索過濾類算法推薦技術便會追蹤消費者的收藏記錄,構建消費者用戶剖面圖,將消費者喜歡的標的物過濾出來,形成關聯推薦,加快交易效率。以上種種都是互聯網平臺以用戶標簽為基點,結合算法推薦技術,向消費者提供的個性化信息服務。

但如若互聯網平臺過度依賴用戶標簽,以至濫用用戶標簽,則會侵害消費者的自主選擇權。近年來,一種新型定制服務——反向定制,逐漸進入消費者視野。反向定制是生產者通過分析消費者數據,得到消費者偏好,并由此形成用戶標簽,其后,生產者再根據用戶標簽生產個性化產品。反向定制雖然能夠滿足消費者的個性化需求,但也大大限制了消費者的選擇范圍,損害了消費者的自主選擇權。具言之,消費者的自主選擇權有兩個基本要件,其一是消費者具備自由意志并能進行自主選擇。也即消費者的購買行為是基于本人的真實意愿作出的,且該種購買行為能夠滿足個人的生活需要,達到自身利益的最大化。其二是排除他人的不正當干涉。也即消費者的購買行為沒有受到外力的不正當與不合理干涉[8]。但在算法推薦技術的框架下,以購物平臺中的“猜你喜歡”與關聯推薦和視頻平臺中的關鍵詞推薦為主導的個性化推送功能,削弱了消費者獲取信息的主動性及信息篩選能力,間接干涉了消費者對商品或服務的正常選擇,影響了消費者的自主選擇權。同理,在“大數據殺熟”案件中,互聯網平臺利用用戶標簽,預測出消費者的最大支付意愿,進而對消費者提供不同的價格,而該種價格違背了消費者的自由意志,未達到“明碼標價”的要求,侵害了消費者的自主選擇權。

(四)算法不透明損害消費者知情權

因算法技術的不透明引發的“算法黑箱”現象,使消費者無從知曉自己的數據是否被訪問、如何被使用,更無從知曉算法是如何影響自己的決策的?；ヂ摼W平臺可能會利用算法技術不完全提供商品或服務的信息,致使平臺與消費者之間的信息不對稱現象加劇,由此造成對消費者知情權的損害。

《消費者權益保護法》層面的知情權是指,消費者有權知曉包含價格、產地、用途、性能及主要成分等在內的商品或服務的真實情況。知情權是消費者進行消費活動的前提,也是消費者的一項基礎性權利。但在“大數據殺熟”案件中,商品或服務的價格并非是按照“成本—收益”的基本規則提供的,而是依靠定價算法技術定制出來的。消費者對定價算法運行機制的茫然,加之算法的不透明性加劇了互聯網平臺與消費者之間掌握的服務信息的不對稱,從而導致互聯網平臺與消費者之間的權利義務不對等,消費者知情權無法得到保護。此外,在2022年1月北京海淀區法院審理的全國首例人工刷量平臺干擾搜索引擎算法不正當競爭糾紛案中,“我愛廣告任務網”幫助用戶制造虛假點擊數據,擾亂原有的客觀搜索排序結果,阻礙了信息交流,從而使搜索引擎排序無從降低消費者的信息搜索成本,導致消費者知情權的損害[9]。

三、算法規制中消費者權益保護的域外嘗試

數字經濟時代,算法成為互聯網信息服務產業發展的重點,也成為提升交易效率、增強用戶粘性的重要抓手。算法技術不僅廣泛應用于國內互聯網消費市場,算法商業化在域外也被如火如荼地推廣運用。美國、歐盟及英國基于各自的發展現實與實踐經驗,先后形成了各具特色的算法規制體系。消費者數據賦權與隱私強化保護、算法影響評估機制等嘗試,均可以為我國算法規制消費者權益保護提供有益的經驗。

(一)數據賦權以強化消費者數據權益

互聯網平臺利用算法技術向消費者提供信息服務依托于一定量的消費者數據。因此,為規制諸如算法個性化定價等問題,部分國家和地區采取了規范數據收集行為的措施。在這之中,萌芽于數字單一市場的,具有顯著功能特性的歐盟《一般數據保護條例》站在基本權利保護的立場,通過為數據主體賦權的方式,保護用戶的個人數據[10]。

具體而言,《一般數據保護條例》賦予數據主體以知情權、更正及刪除權、訪問權、拒絕權和自動化決策自決權等八種權利。其中,知情權與訪問權是指,當數據主體的數據被采集時,數據主體有權知曉數據控制者處理數據的目的、合法基礎及儲存期限等相關信息(2)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 12-15。。也即《一般數據保護條例》首先確保數據主體能夠知悉自己的數據是被誰收集、收集目的為何以及如何被處理等信息。再經由數據主體權衡后,根據自己的意愿自主決定是否允許數據控制者收集其數據,以換取相對應的服務[11];更正及刪除權是指,數據主體有權要求數據控制者即刻更正與其有關的錯誤的個人數據,并且,當數據收集和處理的目的已不再必要或是出現個人數據被非法處理的情形時,數據主體有權請求數據控制者立即刪除與其相關的個人數據(3)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 16-17。。更正及刪除權有助于減輕因數據的錯誤處理給數據主體帶來的消極影響;拒絕權是指,當數據處理是出于直接營銷的目的時,數據主體有權隨時拒絕為該種營銷目的而處理其個人數據的行為(4)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 21。。拒絕權能夠有效制止個性化推薦等行為,賦予數據主體自主選擇的自由;自動化決策權是指數據主體有權不受僅基于自動化決策得到的結果的束縛,并且數據主體有權表達對決策結果的觀點及異議(5)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 22。。該條明確賦予用戶介入算法決策的權利,保障了數據主體的自主選擇權。除此之外,《一般數據保護條例》還額外賦予數據主體在數據被違法處理時的限制處理權,這些權利都能使數據主體實際控制數據的處理。而澳大利亞為平衡創新發展和消費者數據使用安全的關系,對消費者數據采取了較為周密的保護措施,即授予消費者對互聯網交易的開放訪問權,并以此達到消費者對個人數據的控制效果。更為具體的保護措施包括:第一,要求數據持有者和數據接收者公開其對數據管理的政策。第二,消費者可以劃定其同意收集和使用的數據范圍,且數據接收者必須告知消費者數據收集的情況。第三,一般情況下,數據接收者不得使用或披露消費者數據,除非消費者、《消費者數據權》規則或其他法律要求使用或披露數據。第四,禁止數據接收者利用數據對消費者進行營銷。第五,數據接收者必須提供對數據進行去身份標識的選擇(6)Competition and Consumer(Consumer Data Right)Rules 2020。。

(二)行業約束以維護消費者公平交易權

為規制包括“大數據殺熟”在內的算法歧視現象,美國采取了自律性規制的規范路徑。此種規范方法通過制定算法決策和運行的基本原則,強化行業內的自我約束,最終實現對算法歧視的有效規制。美國計算機協會于2017年發布了《關于算法透明度與責任制的聲明》,在該份聲明中,美國計算機協會明確了算法透明度與責任制的七項原則,并要求行業內的算法開發者和使用者遵守上述原則(7)Statement on Algorithmic Transparency and Accountability.USACM 2017。。這七項原則包括:一是偏見意識原則。該原則要求算法開發者、使用者和其他利益相關者意識到在算法設計、實施和使用過程中存在的偏見及其可能造成的損害。二是算法救濟原則。監管機構應采取各種機制,給受到算法決策不利影響的個人或群體提供救濟渠道。三是算法負責原則。該原則要求算法使用者對算法的運行結果承擔責任。四是算法解釋原則。也即算法使用者應當對算法運行程序和決策結果作出解釋。五是算法數據證明力原則。該原則要求算法開發者說明數據的收集方式及其潛在風險。六是算法審計原則。該原則強調算法決策的可追溯性,確保算法模型、決策結果及其所依托的數據被記錄下來,方便后續的算法審計[12]。七是算法驗證及測試原則。該原則要求算法使用者定期采用嚴格的方法來驗證算法模型,以防止算法歧視的發生。這些原則能夠有效維護消費者的公平交易權。

(三)體系建構以確保消費者自主選擇權

規制數據和算法的最終目的,是保障消費者權益,實現更深層次的消費公平。美國《Markup》曾報道過一起由算法缺陷引發的事件。一個存在缺陷的抵押貸款審批算法拒絕了此前已獲審批的申請人的貸款申請,致使該申請人遭受財產損失。因此,當算法本身的缺陷成為消費者利益受損的主要緣由時,消費者的糾偏、申訴甚至退出的權利就變得格外重要。對此,為直接對話消費者訴求,完善消費者權益保護路徑,美國《算法問責法案》構建了消費者權益保障體系,從消費者退出機制、消費者權利評估機制與不利影響評估機制三方面,構建算法框架下的消費者權利保障體系。

具體而言,消費者糾偏與退出機制是指算法服務使用者應當明確告知消費者其使用自動化決策這一事實,并為消費者提供退出機制。消費者的權利評估制度是指,算法服務使用者應當評估算法系統或過程的透明度和可解釋性,以及消費者選擇退出此類系統或過程的可能性。不利影響評估機制是指,算法服務使用者應當衡量自動決策系統可能對消費者產生的任何負面影響,并評估任何可行的緩解策略。不利影響評估機制應當記錄:第一,為消除或緩解此種不利影響而采取的任何措施,包括將自動決策系統從市場上移除或終止開發等步驟。第二,不處理可能產生的負面影響的原因。第三,用于識別、衡量、減輕或消除對消費者可能產生的重大負面影響的標準協議或實踐,以及相關團隊或工作人員對此類協議或實踐的知悉途徑。此外,算法服務使用者還需要為消費者提供提出異議和申訴的通道。質言之,架構消費者權益保障體系能夠賦予消費者自主決定的權利。體系化的權利框架,能夠使消費者在算法運行的各個環節維護自身的權益,并利用糾偏和選擇退出機制保障自身的自主選擇權。

(四)算法評估以保障消費者知情權

作為底層架構的算法,雖然能夠降低消費者篩選有效信息的時間成本,提高信息推送的效率,但“信息繭房”的產生、互聯網平臺利用算法控制熱搜和過度營銷等問題也層出不窮。2022年央視3·15晚會曝光了某口碑營銷公司操縱搜索結果的新聞。該營銷公司利用技術手段,冒充真實用戶自問自答,并將這些自問自答排在搜索結果之前,達到左右搜索結果的目的,擾亂了市場公平競爭,導致網絡生態失衡。對此,面對野蠻生長的算法亂象,算法影響評估制度作為重要的算法治理方案被納入算法治理體系中,成為算法治理嘗試的關鍵一環。

美國為規制“算法黑箱”,消弭不透明的算法運行程序帶來的算法歧視,增設了算法影響評估制度。算法影響評估制度以透明、問責、合法等原則為指引,具體可以分為算法投入前評估和持續性評估兩部分。算法投入前的評估要求算法服務使用者在新算法開發之前,評估已存在的同類算法及其負面影響和新算法的優勢與開發目的,以規避算法本身的缺漏。算法使用過程中的持續性評估則圍繞算法的公正性、可問責性和透明度等方面展開,并將技術新穎性、決策應用范圍及消費者數據的敏感程度等指標納入影響評估報告。此過程的評估工作要求:首先,算法服務使用者應當持續性地記錄算法的當前及歷史表現,警惕可能產生的算法偏見和算法歧視。同時,算法服務使用者還應當評估算法可能給消費者個人信息和隱私帶來的風險及自動化決策系統可能對消費者帶來的偏見和歧視性決策的風險。其次,算法服務使用者應當保存用于訓練算法的數據及相關信息,防止數據帶來的不良影響(8)Algorithmic Accountability Act of 2022。。最后,在劃分評估后的影響等級方面,加拿大《自動化決策指令》以風險為評定基礎,將影響等級劃分為可逆且暫時的影響、可能可逆且短期的影響、難以可逆持續性影響及不可逆的永久性影響四類(9)Government of Canada.Directive on Automated Decision-making。。算法評估制度能夠及時糾正算法可能帶來的偏見與歧視,給消費者以風險警示,并增強算法的透明度,保障了消費者的知情權。

四、算法規制中消費者權益保護的完善

算法推薦技術的廣泛應用,滋生了大數據殺熟、搜索引擎競價排名、“信息繭房”甚至不正當競爭等問題。域外在解決算法規制中消費者權益保護問題時,采取了權利導向、分類治理的思路。譬如,在規制算法框架下的消費者數據權益時,域外站在數據主體的角度,強調數據賦權;在規制算法歧視時,域外采取自律性規制路徑,保障消費者公平交易權;在解決算法不透明和可解釋性問題上,域外主張體系架構的私力救濟方式;在規范算法帶來的“信息繭房”等問題時,域外采納平臺監管體系中的算法評估制度。

而我國為維持良好的市場競爭秩序,維護消費者權益和社會公平,建構算法推薦服務治理體系成為推動新技術可持續發展的關鍵。申言之,我國算法治理體系的建構應從實際出發,以我國基本國情為立足點,綜合考察行業前景、社會發展和法治進程等指標,借鑒域外有益經驗,為規制算法框架下的消費者權益保護提供中國智慧,貢獻中國方案。算法框架下的消費者權益保護應以《消費者權益保護法》和《互聯網信息服務算法推薦管理規定》為規范基礎,以促進算法生態規范發展為導向,回應消費者熱切關注的重點問題,從數據賦權、協同治理、消費者私力救濟和平臺監管下的安全評估等方面建構算法治理規則體系,為釋放算法正效能、保障消費者權益注入動能。

(一)實施消費者數據與個人信息保護機制

實施算法推薦的前提之一是互聯網平臺掌握足夠多的消費者數據。因此,管控數據成為域外規制算法技術濫用的路徑之一。2021年《中華人民共和國數據安全法》(以下簡稱《數據安全法》)與《個人信息保護法》的出臺,使這兩部法律同《中華人民共和國網絡安全法》(以下簡稱《網絡安全法》)一道,成為數據和個人信息保護領域的“三駕馬車”,消費者數據與個人信息保護的基本法律架構已順利搭建完成。但在數字經濟時代,因算法的不透明性與技術的復雜性,使得消費者難以評判自身數據權益是否受到侵害。因此,更迭并落實消費者數據與個人信息保護機制迫在眉睫。

具言之,首先,為實現算法透明,保障消費者數據權益不受侵害,我國應當落實算法推薦服務提供者的算法安全主體責任,要求算法推薦服務提供者利用技術手段和審核機制加強數據安全和個人信息保護制度,并對算法的數據使用進行日常監測(10)參見國家互聯網信息辦公室、中華人民共和國工業和信息化部、中華人民共和國公安部、國家市場監督管理總局令第9號. 《互聯網信息服務算法推薦管理規定》第七條。。其次,在數據收集階段,我國可參照適用《數據安全法》《個人信息保護法》和《網絡安全法》中關于收集和處理消費者數據和個人信息的規定。對消費者數據的收集堅持“知情—同意”和“最小必要”原則,要求互聯網平臺在收集消費者數據時,明示收集目的和范圍,不得利用隱蔽算法在消費者不知情的情況下,惡意收集消費者數據。在數據處理環節,確保數據處理合法、正當,并應當采取必要措施保障數據安全。同時,為制止互聯網平臺竊取消費者數據和個人信息,我國可借鑒澳大利亞《消費者數據權》規則。根據2021年發布的《澳大利亞消費者數據權利隱私評估》[13]顯示,自《消費者數據權》規則實施以來,該規則提供的諸如數據公開透明管理、數據使用和披露制度、數據收集規范等數據和隱私保護措施,大大降低了四大銀行的高隱私風險發生率?！断M者數據權》規則的有效實施,為我國提供了有益經驗。我國可賦予消費者對數據的開放訪問權,將數據收集的決定權交由消費者,由消費者自主劃定數據收集的范圍和使用權限,以此彌合消費者數據濫用問題。最后,由于互聯網平臺收集消費者數據的內生動力是方便構建用戶標簽,從而以此為基礎進行精準營銷。但數據的過度收集,極易形成“信息繭房”,使消費者被禁錮于有限的信息流中,進而難以獲得全面且真實的信息,最終損害消費者的知情權。因此,應當苛以算法推薦服務提供者信息安全管理的義務,完善信息入庫的標準和程序,并要求其加強用戶模型和用戶標簽管理,防止違法和不良信息損害消費者權益(11)參見國家互聯網信息辦公室、中華人民共和國工業和信息化部、中華人民共和國公安部、國家市場監督管理總局令第9號. 《互聯網信息服務算法推薦管理規定》第九、十條。。同時,為保障消費者在輸入數據層面擁有更大的自主權,我們可賦予用戶標簽選擇和刪除權,使消費者可以選擇或刪除針對其個人特征的用戶標簽(12)參見國家互聯網信息辦公室、中華人民共和國工業和信息化部、中華人民共和國公安部、國家市場監督管理總局令第9號. 《互聯網信息服務算法推薦管理規定》第十七條。。

(二)建立算法協同治理路徑

五大類算法推薦服務依托技術流,對消費者施以誤導或歧視,以致減損消費者權益。而對算法推薦服務的治理要求執法部門強化協同合作、建立部門協同聯動長效機制。因此,《互聯網信息服務算法推薦管理規定》在第二十三條明確了系統監管、多元共治的規制框架,實行對算法分級分類的治理機制,由網信部門會同電信、公安、市場監管等有關部門共同治理。但遺憾的是,《管理規定》僅概括規定了多元監管框架,并未對各部門的具體監管范圍和監管職責進行細化分工,使算法合作治理路徑無法有效落地實施。

對此,為充分釋放治理合力,提高算法治理效能,細化政府部門分工變得尤為必要。具體而言,在合作治理的分工上,根據《網絡信息內容生態治理規定》第三條和第九條的規定,國家網信部門負責統籌協調全國網絡信息內容生態治理和相關監督管理工作。具體而言,該部門應當負責跟蹤治理排序精選類和檢索過濾類的算法推薦技術,管控信息服務熱門推薦、精選、熱搜、榜單類和關聯推薦板塊,實時巡查網絡信息內容,維護版面和頁面的生態,優化信息推薦機制。國家市場監管總局項下的競爭政策協調司可以借鑒英國競爭和市場管理局嘗試的規制方法,監管算法運行。譬如,為企業提供指導并制定決策指南或是持續算法監控、構筑監管沙盒。與此同時,國家市場監管總局項下的網絡交易監督管理司可以負責監管個性化推送類算法推薦技術,對互聯網平臺在市場交易過程中實施的個性化推送予以實時監測,規范網絡交易平臺的經營秩序,彌合算法歧視等損害消費者公平交易權的現象。網絡安全管理局則負責管控生成合成類算法推薦技術,配合處理生成合成算法帶來的有害信息,對消費者數據施以信息安全監測預警,嚴格防控諸如美國聯邦貿易委員會發現的企業利用虛假評論和其他誤導性信息在社交媒體上推廣產品和服務的“欺詐行為”,保障消費者知情權。最后,公安部門可以對利用算法推薦技術實施價格歧視、網絡欺詐甚至黑灰產業等行為,依法給予治安管理處罰。

(三)設置消費者權益保護制度

為貫徹“堅持權益保障,引導算法應用公平公正、透明可釋,充分保障網民合法權益”的基本原則(13)參見國家互聯網信息辦公室等九部、局,關于印發《關于加強互聯網信息服務算法綜合治理的指導意見》的通知.國信辦發文〔2021〕7號。,我國在規制算法框架下消費者權益保護問題時,應當以《消費者權益保護法》為主體,以《互聯網信息服務算法推薦管理規定》為補充,建構消費者權益保護制度。一方面,《消費者權益保護法》規定的消費者權利,不僅能夠給司法裁判提供規范支持,也能夠有效鏈接算法價格歧視和個性化推送等問題。同時,在《消費者權益保護法》的框架內,以消費者個人為核心,主張賦予、界清、完善各種權利,能夠給予個體消費者法律武器來維護個人利益[14]。譬如,以權利為出發點的消費者“知情—同意”規則,能夠有效規制數據過度收集問題。另一方面,為彌補《消費者權益保護法》在應對新技術問題時的缺漏,《互聯網信息服務算法推薦管理規定》以專章的形式強化了在算法推薦技術框架下的消費者權益保護問題。在該章節項下,《管理規定》在明確消費者知情權以外,還創造性地提出了算法退出權。在具體內容上,首先,我國同美國《算法問責法案》一樣,賦予消費者以知情權。算法透明是消費者篩選信息和自主選擇的重要前提,對此,《管理規定》要求算法推薦服務提供者降低算法透明度和可解釋性,公示算法推薦的基本原理、目的意圖和主要運行機制,并鼓勵算法服務提供者優化對檢索、選擇、推送等規則的透明度和可解釋性。同時,當算法推薦服務提供者作出對消費者權益有重大影響的決定時,消費者有權要求其釋明。其次,為規制常見于電商平臺的“精準營銷”和“個性化推送”現象,《管理規定》承繼了《個人信息保護法》第二十四條規定的退出選擇機制,賦予消費者退出權。也即當消費者選擇關閉算法推薦服務時,算法推薦服務提供者應當立即停止提供相關服務。最后,我國額外賦予消費者申訴和投訴權,要求政府積極受理消費者的舉報和投訴,要求互聯網平臺自覺接受消費者監督并及時做好反饋工作,為消費者權利捍衛途徑提供多元的選擇道路,以此鼓勵廣大消費者積極參與算法治理工作,切實加強政府與消費者之間的信息交流及互通。

(四)構建算法評估制度

算法的不透明致使消費者很難窺見算法的運行過程及輸出結果,進而導致消費者知情權受損。而算法安全評估作為多維一體監管體系中的重要一環,可使算法推薦應用達到安全可控和可釋透明的程度,進而強化對消費者知情權的保護。對此,為加快落實監管體系,防范算法濫用帶來的風險隱患,我國可構建算法評估制度,要求算法推薦服務提供者定期評估算法機制機理、模型、數據和應用結果等,不得設置違反法律法規或者違背倫理道德的算法模型?！痘ヂ摼W信息服務算法推薦管理規定》在借鑒域外經驗的基礎上,提出了事前監管—算法評估制度的新路徑。具體而言,我國算法評估機制秉持結構細分的設計思路,設置了自評估和第三方評估兩種方式。算法自評估要求具有輿論屬性或者社會動員能力的算法推薦服務提供者自我審查與算法相關的數據和機器模型,定期審核算法的機制機理,對算法進行風險評估,使風險能在源頭得到控制。其后,算法推薦服務提供者還應當形成算法自評估報告,該報告作為算法備案的重要組成部分,是監管機構后續開展算法監督管理的基礎。第三方評估是由監管部門開展的,針對算法推薦服務的安全評估。為避免算法推薦技術損害社會公平、市場競爭和消費者權益,提高算法透明度和可解釋性,監管部門應聚焦算法的機制機理、模型、數據和應用結果等內容,重點評估算法在設計和投流環節的缺漏,深入分析算法推薦技術在應用過程中產生的安全風險,并提出治理對策,最終增強算法的可信度。

《管理規定》提出的算法評估制度是增強算法可信、管控算法風險、實現算法安全可控的重要工具。但《管理規定》僅建構出了算法評估的基本框架,尚未落實算法評估的具體程序和實施方案,使算法評估制度仍較難落地實施。對此,為落實算法評估的實施機制、明晰算法評估的各項措施,我國可以借鑒域外的算法影響評估模式,讓算法評估制度覆蓋算法開發、運行和投流的全周期,建立動態算法評估機制。具體而言,一方面,在算法系統投入部署應用之前,對其可能產生的潛在不利影響和風險進行評估,以確定是否能將該算法系統應用于特定場景之中。另一方面,在算法系統投入應用之后,還應組織相關領域的專業評估人員定期對運行中算法系統存在的不利影響和風險進行系統全面評估[15]。算法投入前評估和投入中的持續性評估能夠消弭算法運行中可能出現的算法偏見和算法歧視現象,從而保障消費者權益。除此之外,在評估完成后,相關主體還應當制作算法評估報告,向消費者釋明算法自動決策可能帶來的風險和給消費者造成的不利影響,并反饋緩解策略,保障消費者的知情權,強化算法的透明度與可解釋性。

五、結語

數字經濟興起以來,算法推薦技術作為戰略性資源喂養了商業市場中的各類互聯網平臺,并已能夠完整且成熟地參與到內容生成、個性推送、排序精選等場景中,全面提升了消費者體驗。但與此同時,算法推薦技術也給消費者權益帶來了損害。算法推薦的有效實施依托于消費者數據和用戶標簽,但數據的過度收集與用戶標簽的濫用,很可能會泄露消費者個人信息,侵犯消費者的自主選擇權。同時,算法黑箱也有損消費者的知情權和公平交易權。對此,為消除算法推薦技術帶來的危害,各國嘗試了數據賦權、算法評估等多項措施。我國《互聯網信息服務算法推薦管理規定》,對算法推薦框架下的消費者權益保護構建了消費者數據保護機制、算法評估制度和合作治理路徑等措施,有力驅動了“算法善用”理念的推行。誠然《管理規定》建構起了新型算法治理框架,但諸如消費者數據權利、算法評估制度和協同治理規則仍有待細化和完善。除此之外,在算法推薦快速滲透于商業領域的當下,算法推薦在給消費者權益帶來損害的同時,也給黑灰產業鏈提供了可乘之機。

技術是價值中立的,“算法”本身并無原罪。當前,算法等新技術已經滲透進金融、醫療和互聯網等領域,成為助推企業數字化轉型和國家治理現代化的新動能。因此,構建算法治理新機制,實現算法的良法善治是保障算法綜合治理工作有序推進的關鍵,也是推動數字經濟高質量發展的重中之重。對此,為合理利用算法技術,保障消費者權益,我們應當積極引導“科技向善”,實現更深層次的消費公平,塑造可持續的智慧社會。