嵌入算法價值觀:新聞生產算法系統的價值敏感設計研究

張 超

智媒時代來臨,新聞生產正發生“算法轉向”(algorithmic turn),算法日漸深入地成為新聞業的底層基礎設施,驅動新聞生產的技術迭代、流程再造、模式轉型和觀念革新。由于“算法黑箱”“算法知溝”和媒體技術力量薄弱等問題的存在,新聞業面臨算法控制權、新聞生產權、價值觀界定權讓渡給算法研發者的風險,這些風險將消解新聞業的專業性和合法性。

新聞實踐是一種以既定價值體系為基礎的實踐,其中包括新聞價值及社會責任。(1)S.Doherty &P.Worthy,“Exploring journalistic values through design:A student perspective”,OZCHI’17:Proceedings of the 29th Australian Conference on Computer-Human Interaction,2017,https://doi.org/10.1145/3152771.3156140,2023-02-01.當算法嵌入新聞生產成為“算法代理者”(algorithmic agent)時,如何讓算法體現所屬媒體價值觀成為一個問題。面對平臺推薦算法“流量至上”的價值觀,業界和學界提出了“黨媒算法”“主流算法”的理念,要求將主流媒體的價值觀嵌入算法。在國家層面,2021年9月印發的《關于加強互聯網信息服務算法綜合治理的指導意見》指出要樹立算法正確導向;2022年3月施行的《互聯網信息服務算法推薦管理規定》要求算法推薦服務的提供者應當堅持主流價值導向。在國外,公營媒體明確提出了“公共服務算法”(public service algorithm)的理念,BBC要求機器學習技術的開發要反映BBC的價值觀。(2)G.Straub,“Scaling responsible machine learning at the BBC”,https://www.bbc.co.uk/blogs/internet/entries/4a31d36d-fd0c-4401-b464-d249376aafd1,2023-02-01.

然而,如何將新聞價值觀有效嵌入算法設計卻鮮有研究。技術圈層關心的是工程層面的效率和技術優化,而非價值觀嵌入或倫理問題;學界和業界關心的是算法應有價值觀以及應該體現價值觀。但是技術圈層與學界、業界缺少對話的基礎,對算法技術的理解不同。如何彌合這個鴻溝?算法價值觀何以生成,又何以嵌入?本文運用技術哲學的“經驗轉向”(empirical turn)和批判算法研究(critical algorithm studies)解答以上問題。

自20世紀80年代以來,技術哲學出現了“經驗轉向”。經驗轉向要求把關于技術及其效果的哲學分析建立在對技術的充分的經驗描述之上,技術哲學不能只有規范性、評價性的研究,也必須有經驗性、描述性的研究,前者以后者為基礎。(3)程海東:《實踐語境中的技術認識研究》,北京:中國社會科學出版社,2020年,第1—2頁。當前技術哲學的一個重大改變是從外在進路(external approach)轉到內在進路(internal approach),因此,“經驗轉向”中的“經驗”指的是工程師眼中技術研發的經驗,而不是哲學家眼中技術使用的經驗;“轉向”指的是從技術哲學的“外在進路”到“內在進路”的轉變。

批判算法研究是圍繞算法展開批判的研究領域。其中,算法內嵌的價值觀(embedded values)與偏見、算法意識形態等是重要的研究議題。(4)方師師:《雙強寡頭平臺新聞推薦算法機制研究》,《傳播與社會學刊》2018年第1期。技術哲學的“經驗轉向”對批判算法研究也有借鑒意義。人文社科學者主要關注的不是算法或其底層系統的技術細節,而是算法系統可能具有的意義和含義。(5)T.Bucher,“The multiplicity of algorithms”,https://doi.org/10.1093/oso/9780190493028.003.0002,2023-02-01.通過“經驗轉向”的內在進路,可以讓批判算法研究更具有經驗性,提供更多現實和個案證據。

當前學界對算法“何以有價值觀”這個問題的探討并不深入,很多研究的預設是算法有價值觀,實際上,技術圈層大部分人不認為算法有價值觀,這一點從一些學者的前期調查研究和筆者對程序員的深度訪談中可以得到印證。學界和業界需要改變從技術整體論的視角看待算法和算法設計,應當從技術研發經驗去理解和探討算法價值觀,如此才能促進技術圈層與學界、業界的相互理解。本文的貢獻之一在于從技術哲學“經驗轉向”的“內在進路”探討算法價值觀何以生成這一問題。

近年來國內外有一些研究提出運用價值敏感設計(value sensitive design)的方法設計新聞生產算法系統,價值敏感設計被整合到現有技術人工物設計研發的實踐受到多重因素的影響,(6)劉瑞琳、陳凡:《技術設計的創新方法與倫理考量——弗里德曼的價值敏感設計方法論述評》,《東北大學學報》(社會科學版)2014年第3期。其如何與新聞生產算法系統進行具體結合則鮮有研究,本文的貢獻之二在于提出新聞生產算法系統的價值敏感設計機制,深化學界和業界對價值觀如何嵌入算法的認識,為日后研究、設計符合新聞媒體的算法價值觀提供借鑒。

一、算法價值觀生成的內在路徑

在計算機科學中,算法是抽象的解題步驟,是解決問題的基礎。當我們在談論算法時,實際上經常是algorithms(復數),而不是algorithm(單數),因為單個算法固然存在,但在一個系統、一個平臺中,為了解決復雜的問題,所謂的算法其實是算法的集合——算法系統。

算法是否有價值觀?自2017年人民網三評算法推薦之后,算法價值觀問題引發了新聞業界和學界的廣泛關注,而“算法是否有價值觀”爭論的根本原因在于不同利益相關者(Stakeholders)理解算法的視角不同。

(一)理解算法價值觀的兩種視角

技術圈層傾向于從技術工具論的視角理解算法,“作為工具的算法”將算法視為“中立”的工具。技術工具論主張技術是服務于使用者目的的工具,技術沒有自身的價值內容。(7)[美]安德魯·芬伯格:《技術批判理論》,韓連慶、曹觀法譯,北京:北京大學出版社,2005年,第4頁。按這種邏輯推演,算法也屬于技術,因而也沒有價值觀。技術工具論用這些論斷遮蔽了算法的價值觀,將算法視為自然化、透明化、不帶有任何意向性的工具,算法設計是一個純粹的技術問題,與社會、文化、價值觀沒有關系。因此,很多技術公司和平臺以此為“避風港”逃避算法的社會責任和監管責任。

“作為人工物的算法”將算法視為體現人的價值觀的人工物,這是學界所持的主要立場。人工物是人以自己的意志、知識、能力和價值觀,運用技術和技術手段通過生產勞動作用于自然或人工自然而產生的,滿足人或社會需要的第二自然物,是構成人工自然的細胞。(8)王德偉:《試論人工物的基本概念》,《自然辯證法研究》2003年第5期。技術人工物具有技術功能、物理結構、設計情景和使用情景的“四重性”,屬于事實與價值的統一產物。(9)郭延龍、湯書昆:《技術治理中技術人工物設計的底層屬性探析》,《科技管理研究》2020年第20期。

從這個角度理解算法,算法是包含人的價值意圖的。算法不可避免地以社會世界的愿景為模型,并受到商業或其他利益和議程的影響。算法不僅在社會環境中產生,也是社會世界不可分割的一部分,它們被編織進實踐和結果,這些結果通過模型回到算法設計中,形成遞歸過程。(10)[英]大衛·比爾,張韻譯:《算法的社會權力》,石力月主編:《傳播、技術與社會研究讀本》,上海:上海交通大學出版社,2020年,第170頁。

(二)算法價值觀何以生成

算法為何會有價值觀?如果以人工物的視角進行三段論推理,自然可以得出這個結論:人工物有價值觀,算法是人工物,所以算法也有價值觀。但這種推理是邏輯上的,不足以深刻揭示和解釋“算法何以有價值觀”這一問題。

人文傳統的技術研究把技術作為一個整體,站在技術之外探尋技術與人類世界中其他非技術方面之間的關系。(11)程海東:《實踐語境中的技術認識研究》,第59頁。對于算法何以有價值觀的回應,學界主要是從外在路徑:算法是社會性的,因為算法在設計和學習階段都受到人類價值結構的影響,并且產生了價值和道德后果。(12)陳文勝:《嵌入與引領:智能算法時代的主流價值觀構建》,《學術界》2021年第3期。

安德魯·芬伯格(Andrew Feenberg)認為,應當從一種生成論的觀點去審視技術內部,分析技術的內部機制和生成過程,才能全面把握技術的本質。(13)于騏鳴:《后現代網絡技術哲學思想研究》,武漢:華中科技大學出版社,2019年,第57頁。對于算法價值觀的研究,也應從“生成論”的角度去進行探討。這與技術哲學的“經驗轉向”不謀而合?！敖涷炥D向”要求把關于技術及其效果的哲學分析建立在對技術的充分的經驗描述之上,技術哲學不能只有規范性、評價性的研究,也必須有經驗性、描述性的研究,前者以后者為基礎。(14)程海東:《實踐語境中的技術認識研究》,第1—2頁。

算法價值觀生成的根本原因在于“算法形式主義”(algorithmic formalism)。形式主義是算法的核心要義。形式主義讓算法解決問題的思路變得清晰,讓復雜的問題易于處理。(15)B.Green &S.Viljoen,“Algorithmic realism:Expanding the boundaries of algorithmic thought”,FAT*'20:Proceedings of the 2020 Conference on Fairness,Accountability,and Transparency,2020,https://doi.org/10.1145/3351095.3372840,2022-12-05.

在算法設計中,算法價值觀體現在理解問題、訓練數據和算法設計中。

在理解問題上,算法形式主義本身是識別問題、理解問題和解決問題的框架。例如,平臺媒體算法強調精準推送,但如何理解精準推送?如果用語言表達,精準推送就是滿足用戶的個性化需求,但在算法形式主義看來,這種界定和闡釋無法量化,也不能直接轉化成計算問題。算法需要對輸入、輸出和目標有明確的數學表達,因此用戶的個性化需求便可能被理解為向用戶提供他們喜歡內容,喜歡的界定標準就是該用戶或同類用戶點擊量多或停留時間長的內容。

算法的運行需要訓練數據。數據的本質是對現實世界的“表征”而非“鏡像”。數據本身也是蘊含價值觀的。選擇什么數據、如何界定標準,都涉及價值判斷。例如,由于中央廣播電視總臺和互聯網公司業務場景的差異,總臺在引入算法時不會直接使用,在應用前會用總臺數據進行針對性訓練。(16)靳巾:《人工智能算法在融合媒體業務中的實踐應用》,《廣播與電視技術》2021年第8期。實際上,數據的價值觀更加隱蔽,如果了解數據的采集語境和方法,數據蘊含的價值觀便可以被揭示。

在算法設計階段,算法的本質是一種看待、解決問題的方法論。如何看待和解決就設計價值判斷的問題,自然也涉及價值觀。針對同樣的問題,算法設計路徑有多種,但由于技術的局限,不可能同時滿足多個要求,因此就存在不同的優先級,這就導致某個或某幾個價值觀被傾向于優先考慮。另外,技術圈層所說的一些“優化”問題,看似是單純的技術問題,不涉及價值觀,但是由于解決問題是目標導向的,最后的結果便是客觀上形成了價值觀。例如,“以用戶體驗為中心”的算法推薦邏輯實際上是“流量至上”的商業邏輯和壟斷邏輯,是鼓勵低俗內容快速傳播的價值觀,社交平臺假新聞屢禁不止的關鍵原因在于假新聞的傳播與算法設計中的激勵機制相一致。(17)E.Bell &T.Owen,“The platform press:How Silicon Valley reengineered journalism”,https://www.cjr.org/tow_center_reports/platform-press-how-silicon-valley-reengineered-journalism.php,2022-12-05.

此外,算法設計中長期形成的慣例和解決思路會被技術圈層視為價值觀的“擋箭牌”,事實上由于脫離了當初的設計情境,這些慣例和解決思路被自然化了而已,本身就存在價值觀。正如美國計算機科學家葛來迪·布奇(Grady Booch)所言:“我們寫的每一行代碼都有道德和倫理上的含義?！?18)J.Whittle,M.A.Ferrario &W.Simm,et al.,“A case for human values in software engineering”,IEEE Software,Vol.38,No.1,2021,pp.106-113.

在實際業務環節中,某算法技術公司主管表示,很多媒體在引進算法技術時并不能找到契合自己媒體價值觀的算法,一方面是根據媒體需要設計的定制算法研發成本較高,很多媒體的算法其實并非定制;另一方面是模塊化的算法系統較有市場,而模塊化的算法并不屬于定制,因此有主流媒體抱怨推薦系統不行。(19)訪談時間,2022年12月5日。算法研發者研發的是通行版本,而非針對特定媒體的個性化版本,導致算法價值觀與媒體自身的價值觀并不匹配,影響媒體運營和品牌形象。

二、新聞生產算法系統的價值敏感設計機制

新聞生產是具有意識形態和輿論導向屬性的,并不是一個自動化的中立過程。當算法這種自動化技術引入新聞生產中時,算法就成了所屬媒體的代理者,因而必須賦予其與人工新聞生產同樣的價值觀,確保自動化生產契合媒體自身的定位。

新聞生產算法系統的本質是將新聞工作自動化。將新聞工作視為一個可以自動化的過程意味著解構記者的工作方式,盡管新聞工作不能僅僅被簡化為需要完成的任務總和。除了是一種職業活動外,新聞還包括但不限于一種職業文化和意識形態,包括共同的價值觀、戰略和規范。這些方面是基于一套專業實踐中的信念系統。(20)L.Dierickx,“News automation,materialities,and the remix of an editorial process”,https://doi.org/10.1177/14648849211023872,2022-12-05.如何將算法價值觀嵌入新聞生產算法系統中,讓其充分體現新聞業對技術的掌控?價值敏感設計是可行的思路。

(一)價值敏感設計

價值敏感設計是一種基于理論的技術設計方法,在整個設計過程中,以原則性和綜合性的方式考慮人類的價值。(21)B.Friedman,P.H.Kahn,Jr.& A.Borning,“Value sensitive design:Theory and methods”,UW CSE Technical Report 02-12-01, 2002,https://faculty.washington.edu/pkahn/articles/vsd-theory-methods-tr.pdf,2022-12-06.價值敏感設計一詞最早出現在20世紀90年代中期巴蒂亞·弗里德曼(Batya Friedman)和彼得·卡恩(Peter Kahn)的一篇文章中,試圖將人的價值和道德應用于計算機系統的設計中。(22)陳凡、孔璐:《價值敏感設計方法新探:能力敏感設計》,《世界哲學》2022年第6期。

價值敏感設計的主要觀點包括:(1)價值在技術中是可以表達和嵌入的;(2)被一些人決定的價值和選擇會實實在在影響他人;(3)有意識的、明確的思考賦予我們發明物的價值觀,這在道德上意義重大;(4)在技術設計和開發過程的早期,在價值考慮因素仍然可以發揮作用的時候,就需要闡明道德考慮。(23)J.van den Hoven,“Ethics for the digital age:Where are the moral specs? Value sensitive design and responsible innovation”,in H.Werthner &F.van Hannes(eds.),Informatics in the Future:Proceedings of the 11th European Computer Science Summit(ECSS 2015),Gewerbestrasse:Springer Nature,2017,pp.69-70.

在具體實施時,價值敏感設計分為概念調查(conceptual investigations)、經驗調查(empirical investigations)和技術調查(technical investigations)三個部分。

概念調查主要是設定研究問題的背景、識別價值及價值沖突、識別直接利益相關者(direct stakeholders)和間接利益相關者(indirect stakeholders),特點是對價值進行哲學性探索、重視間接利益相關者的價值、關注潛在的價值沖突;經驗調查主要是識別利益相關者對互動語境下個人價值的認知、識別預期和實際操作的差異,特點是關注實際場景、關注利益相關者的認知;技術調查主要是對現有技術進行回顧性分析、對新技術進行前瞻性分析、識別技術如何阻礙或支持某些價值,特點是關注技術本身、將價值映射到技術中。(24)古天龍、馬露、李龍、閆茹:《符合倫理的人工智能應用的價值敏感設計:現狀與展望》,《智能系統學報》2022年第1期。

(二)新聞生產算法系統的價值敏感設計

價值敏感設計作為一種設計方法,如何與新聞生產算法系統的設計相結合,國內外還沒有相關研究進行專門探討。筆者借鑒史蒂文·烏姆布雷洛(Steven Umbrello)和伊本·范·德·普爾(Ibo van de Poel)提出的人工智能技術價值敏感設計流程(VSD design process for AI technologies),提出新聞生產算法系統價值敏感設計的雙輪驅動模式(見圖1)。

圖1 新聞生產算法系統價值敏感設計的雙輪驅動模式(25)筆者在Steven Umbrello和Ibo van de Poel人工智能技術價值敏感設計流程圖基礎上進行了修改。S.Umbrello &I.van de Poel,“Mapping value sensitive design onto AI for social good principles”,AI and Ethics,Vol.1,No.3,2021,pp.283-296.

價值敏感設計主要有情境分析、價值觀識別、技術轉譯、原型開發四個階段,在實際設計中,這個流程并不一定是線性的、單向的,而是循環的、迭代的。

1.情境分析

情境分析(context analysis)是對用戶將來使用目標系統解決某個具體問題的方法和結果進行分析。(26)張海藩、牟永敏:《軟件工程導論(第6版)》,北京:清華大學出版社,2013年,第58頁。價值敏感設計承認技術設計可以從離散技術本身開始,也可以從使用的情境開始,或者從某個特定的價值觀開始,情境分析是至關重要的。(27)S.Umbrello &I.van de Poel,“Mapping value sensitive design onto AI for social good principles”.

情境分析主要運用的方法是經驗調查,包括社會科學研究中的定量和定性方法,如觀察、訪談、調查、實驗操作、文件收集、用戶行為的測量等。(28)古天龍、馬露、李龍、閆茹:《符合倫理的人工智能應用的價值敏感設計:現狀與展望》。

首先,算法設計應置于廣泛的文化和社會背景中,不能孤立地將算法視為設計對象。(29)M.Bastian,N.Helberger &M.Makhortykh,“Safeguarding the journalistic DNA:Attitudes towards the role of professional values in algorithmic news recommender sesigns”,Digital Journalism,Vol.9,No.6,2021,pp.835-863.情境分析首先要分析的就是算法所處的社會情境、使用情境。例如,在中國語境下,新聞生產算法系統需要傳播主流價值觀,避免低俗、媚俗和不良信息傳播等;在西方實行公營體制的國家,公營媒體要向社會提供多樣化的信息、觀點和討論等。

其次,要確定利益相關者,并與之進行合作,在算法早期創建中發現利益相關者的價值觀。(30)H.Zhu,B.Yu &A.Halfaker,et al.,“Value-sensitive algorithm design:Method,case study,and lessons”,Proceedings of the ACM on Human-Computer Interaction 2,https://doi.org/10.1145/3274463,2022-12-05.利益相關者是與某一新聞生產算法系統相關的利益者,分為直接利益相關者和間接利益相關者:直接利益相關者是指直接與計算機系統或其輸出進行交互的各方(個人或組織);間接利益相關者是指受系統使用影響的所有其他各方。(31)B.Friedman,P.H.Kahn,Jr.& A.Borning,“Value sensitive design:Theory and methods”.直接利益相關者包括算法監管者、算法設計研發者、算法所有者、算法使用者(記者、編輯等媒體內部人員)、算法使用者(該媒體的用戶);間接利益相關者是社會潛在群體。價值敏感設計將間接利益相關者納入其中,這與一些其他算法設計方法明顯不同,因為在算法設計過程中,間接利益相關者通常會被忽略。

再次,要確定算法解決的問題是什么。例如,計算新聞發現需要解決“具有新聞價值的選題”;新聞推薦算法要解決“推送主流價值內容”“增強用戶體驗”等問題。

最后,要調查現有的針對擬解決問題的算法技術。一般來說,解決同一個問題,可能有多種算法解決方案,而最終“勝出”(占主流)的算法模型是技術因素與非技術因素(社會因素)互動演化的結果。(32)賈開:《算法社會的技術內涵、演化過程與治理創新》,《探索》2022年第2期。因此,有必要審視當前業已存在的算法技術。例如,在不同算法價值觀的指導下,個性化算法推薦出現了“個性化的平臺邏輯”和“個性化的新聞邏輯”兩種明顯不同的個性化推薦技術?！皞€性化的平臺邏輯”特點是用戶數據海量,對算法推薦的任何編輯控制或監督的強烈抵制;“個性化的新聞邏輯”特點是用戶數據有限,強大的編輯控制和專業文化。(33)B.Bodó,“Selling news to audiences:A qualitative inquiry into the emerging logics of algorithmic news personalization in European quality news media”,Digital Journalism,Vol.7,No.8,2019,pp.1054-1075.

研究顯示,精通技術的專家不太關心人工智能技術創新的負面后果。(34)C.Porlezza &G.Ferri,“The missing piece:Ethics and the ontological boundaries of automated journalism”,https://isoj.org/research/the-missing-piece-ethics-and-the-ontological-boundaries-of-automated-journalism/,2022-12-01.在情境分析這個階段,需要算法研發者具備道德想象力(moral imagination)。道德想象力概念最早由美國著名哲學家約翰·杜威(John Dewey)在20世紀20年代提出,初始性內涵是指移情投射和創造性發掘情境中的種種可能性。(35)楊慧民、陳錦萍:《網絡意見領袖道德想象力:內涵、特性及其價值》,《學術界》2020年第6期。道德想象力的內涵包括:通過情感投射“設身處地”為情境所牽涉的每個人的處境著想;洞察情境中所有可采取的行為方式和行為傾向,并嘗試對其未來行為結果進行富有遠見的預示;當道德困境處于一籌莫展或非此即彼的境地時,仍繼續尋求新的行為選擇可能性。(36)楊慧民、王前:《道德想象力:含義、價值與培育途徑》,《哲學研究》2014 年第5期。

算法研發者要借助道德想象力理解新聞生產算法系統中利益相關者的處境、在乎的價值觀以及存在的價值觀沖突,而非單純從字面去理解。另外,在設計時需要理解利益相關者所確定的價值觀所處的各種情境,提出針對性的技術解決方案。

2.價值觀識別

價值觀識別(value identification)是識別并確認嵌入算法的價值觀。價值觀識別運用的方法是經驗調查和概念調查。概念調查主要涉及對價值觀內涵的界定與處理,如對利益相關者的價值觀進行文獻上的梳理,深入理解這些價值觀的內涵。概念調查也可以用社會科學方法,如半結構化訪談、調查、觀察、實驗設計、探索性調查和縱向案例研究等。(37)古天龍、馬露、李龍、閆茹:《符合倫理的人工智能應用的價值敏感設計:現狀與展望》。

算法價值觀的來源有三個:設計提倡的價值觀、設計所尊重的價值觀,以及除以上兩個來源之外的特定語境的價值觀。(38)S.Umbrello &I.van de Poel,“Mapping value sensitive design onto AI for social good principles”.

在價值觀識別的環節中,需要思考的核心問題是將哪些價值觀嵌入到算法系統中。由于算法系統涉及多個利益相關者,不同利益相關者的訴求也存在差異,在價值識別中需要考慮不同利益相關者的價值共識與分歧。芬伯格認為,技術的形成和特定的利益相一致,處于技術網絡中的人都有一定的利益訴求,但利益不可能針對整個社會群體,在滿足一部分群體的利益時,必然有另一部分人的利益被忽視或被壓抑。(39)于騏鳴:《后現代網絡技術哲學思想研究》,武漢:華中科技大學出版社,2019年,第64頁。算法設計應平衡多個利益相關者的需求、動機和利益,并有助于實現重要的集體目標。(40)H.Zhu,B.Yu &A.Halfaker,et al.,“Value-Sensitive Algorithm Design:Method,Case Study,and Lessons”.某平臺算法工程師表示:“AI技術系統需要滿足不同利益方的訴求,隨著平臺發展階段動態調整,算法扮演的角色就是綜合最大化各方的利益,不斷取得平衡”。(41)趙璐:《算法實踐的社會建構——以某信息分發平臺為例》,《社會學研究》2022年第4期。

價值觀識別會面臨兩個抉擇:價值觀相同和價值觀相異。無論是相同還是相異,在該階段需要用概念調查來確定價值觀的真正內涵是什么。因為即便利益相關者的價值觀看起來是一致的,但具體內涵可能并不一致。例如,在新聞推薦算法中,多樣性(diversity)很重要,多樣性究竟是什么意思,哪種程度的多樣性才算足夠?在價值觀相異方面,需要思考算法背后的商業邏輯(為用戶提供他們喜歡的相關內容)和試圖說服公眾參與偶然新聞消費(serendipitous news consumption,即面對和用戶相反的觀點)在多大程度上是可以調和的。(42)J.Hendrickx,A.Smets &P.Ballon,“News recommender systems and news diversity,two of a kind? A Case Study from a Small Media Market”,Media,Vol.2,No.3,2021,pp.515-528.

確定價值觀的最好方法是利益相關者互相理解、協商。BBC在確定推薦算法的價值觀方面,約有80名編輯人員參與了討論,約有40名設計與工程人員觀察了這些討論,編輯人員和數據科學家通力合作。(43)A.McGovern,“Understanding public service curation:What do ‘good’ recommendations look like?”,https://www.bbc.co.uk/blogs/internet/entries/887fd87e-1da7-45f3-9dc7-ce5956b790d2,2022-12-01.如果協商存在問題,運用辯證思維進行利弊大小的比較和價值選擇。(44)楊小麗、趙寶軍:《智能時代的價值沖突及其化解路徑》,《河海大學學報》(哲學社會科學版)2021年第4期。在涉及價值觀排序時,還可以采用價值級序策略。價值級序是指價值在相互的關系中具有一個“級序”,根據這個級序,一個價值要比另一個價值“更高”或者說“更低”,而更高或更低的判定標準不是絕對的,而是相對的。(45)[德]馬克斯·舍勒:《倫理學中的形式主義與質料的價值倫理學》,倪梁康譯,北京:商務印書館,2011年,第146—148頁。如此,各個價值觀的排序便可一目了然,有助于算法研發人員確定技術方案。

3.技術轉譯

技術轉譯(technical translation)是將識別后的價值觀轉化為設計要求,從技術上“嵌入”價值觀的問題。之所以用“轉譯”一詞,意味著價值觀與技術的實現不一定是鏡像關系。技術轉譯很大程度上決定了算法價值觀在技術上的實現程度和效果。

技術轉譯環節主要運用的方法是技術調查,技術調查涉及現有的技術屬性如何支持或阻礙特定的人類價值,還涉及系統的前瞻性設計,以支持和實現概念調查中確定的價值觀。(46)J.Simon,P.Wong &G.Rieder,“Algorithmic bias and the value sensitive design approach”, Internet Policy Review,Vol.9,No.4,2020,https://doi.org/10.14763/2020.4.1534,2022-12-01.在一些問題的解決上,技術領域可能會形成通行的規則和方法,形成某種技術經驗。這些技術經驗實際上依循較為固定的思維方式。因而有必要對這些技術常規進行反思,尤其是洞察技術常規支持或阻礙了哪些價值觀,是否有新的技術可以解決等。

與概念調查和經驗調查將重點放在利益相關者及其所關注的價值觀不同,技術調查更具體地指向技術的設計。因此,技術轉譯是算法價值觀真正落地的環節。

技術轉譯的過程經歷了兩次“從抽象到具體”和一次“從具體到抽象”的轉譯過程。首先,將價值觀的抽象內涵轉譯為具體的規范,之后將具體的規范運用算法思維轉譯為技術上的抽象問題,最后根據技術上的抽象問題將具體的技術任務分解,轉譯成具體的設計要求(見圖2)。

圖2 技術轉譯的過程(47)筆者在Evgeni Aizenberg和Jeroen Van Den Hoven價值層級圖的基礎上進行了改進。E.Aizenberg &J.van Den Hoven,“Designing for human rights in AI”,Big Data &Society,Vol.7,No.2,2020,https://doi.org/10.1177/2053951720949566,2022-12-01.

技術轉譯過程是比較復雜的,因為“從價值到規范”的第一次轉譯是語言、哲學問題,“從規范到算法思維”的第二次轉譯是算法形式主義問題(將現實問題轉化為數學問題),也是最難的轉譯環節。由于算法形式主義的出現,只有那些在算法語言中可讀的考慮因素才被認為是重要的設計和評估考慮因素。(48)B.Green &S.Viljoen,“Algorithmic realism:Expanding the boundaries of algorithmic thought”.因而這個過程并不是鏡像的過程,而是映射關系,算法設計者需要理解利益相關者的訴求,并從數學意義上加以解決。當然,在這個過程中也需要利益相關者盡可能將價值觀的表述明確、可量化,符合算法形式主義的邏輯。例如,BBC新聞實驗室的產品經理意識到,最具挑戰性的部分是闡明這些規則的非常具體的內容,盡管這些標準通常在新聞風格指南或其他相關指南中都有很好的描述,但將其編碼成程序化格式需要非常詳細的說明。(49)S.Danzon-Chambaud,“Automated news at the BBC”,https://www.bbc.co.uk/rd/publications/automated-news-at-bbc-algorithmic-journalism,2023-01-05.

《華盛頓郵報》設計的“線索定位器”(Lead Locator)旨在幫助政治記者確定在2020年美國大選中對選民有潛在興趣的地理區域。如何界定線索是否具有新聞價值?在算法設計時,他們將新聞價值的內涵具體歸納為三個維度:新穎性(novelty)、政治相關性(political relevance)和規模(magnitude)?！靶路f性”的技術設計要求被界定為與中心傾向的對比、與已知關系的對比以及與地理環境的對比;“政治相關性”的技術設計要求被界定為一個地點對2020年選舉結果的重要性;“規?！钡募夹g設計要求被界定為用縣人口作為數量的度量來直接操作。(50)N.Diakopoulos,M.Dong &L.Bronner,et al.,“Generating location-based news leads for national politics reporting”,https://par.nsf.gov/biblio/10206645-generating-location-based-news-leads-national-politics-reporting,2023-01-05.

4.原型開發

原型是提出解決方案的簡單實驗模型,用于快速和廉價地測試或驗證其概念的想法、設計假設和其他方面,以便相關設計師可以在方向上進行適當改進或可能的更改。(51)R.F.Dam &T.Y.Siang,“Design thinking:Get started with prototyping”,https://www.interaction-design.org/literature/article/design-thinking-get-started-with-prototyping,2023-01-05.對于算法設計而言,原型開發(prototyping)也被稱為beta階段或beta測試,初始項目在完全開發之前由較小規模的用戶進行評估。

算法設計思路不同,開發出的原型也不同。例如,由于對于多樣性的理解不同,新聞推薦系統形成了四種模式:(1)自由模式(the liberal model),不僅在內容方面反映公眾的利益和偏好,在風格、語言和復雜性方面也反映公眾的利益和偏好;(2)參與模式(the participatory model),使人們能夠在社會中發揮積極的作用。它重視共同利益而不是個人利益。不同的用戶不一定看到相同的文章,但要看到相同的主題,反映了社會上普遍存在的聲音;(3)審議模式(the deliberative model),在社會中提出不同的觀點和價值觀,目的是就不同的價值觀達成共識或達成一致,推薦中呈現出多個聲音和觀點;(4)批判模式(the critical model),強調來自邊緣群體的聲音。(52)S.Vrijenhoek,M.Kaya &N.Metoui,et al.,“Recommenders with a mission:Assessing diversity in news recommendations”,CHIIR’21:Proceedings of the 2021 Conference on Human Information Interaction and Retrieval,2021,https://doi.org/10.1145/3406522.3446019,2022-12-05.

原型開發階段主要運用的方法是技術調查和經驗調查。原型建立后,需要對其進行小規模測試。在測試中,需要對價值觀進行內部算法審計。電氣與電子工程師協會(IEEE)對審計的界定是對軟件產品和流程與相關法規、標準、指南、計劃、規范和程序是否一致進行獨立評估。(53)J.A.Kroll,J.Huey &S.Barocas,et al.,“Accountable algorithms”,https://scholarship.law.upenn.edu/penn_law_review/vol165/iss3/3/,2022-12-05.算法審計(algorithmic auditing,algorithm audit)是測試智能機器是否有盲點或偏見的一系列技術的集合,(54)A.Salkever,“Why your company may need an algorithmic audit”,https://workflow.servicenow.com/it-transformation/algorithmic-audit/,2022-12-05.是一種證明算法存在偏差的研究方法。之所以進行算法審計,很重要的原因在于技術上合理的算法也可能損害利益相關者的價值觀。(55)C.E.Smith,B.Yu &A.Srivastava,et al.,“Keeping community in the loop:Understanding Wikipedia stakeholder values for machine learning-based systems”,CHI’20:Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems,2020,https://doi.org/10.1145/3313831.3376783,2022-12-05.

算法審計中如果發現原型開發的偏差,就需要進行修正,直至達到可接受的水平。當然,原型開發不是算法設計的終點,任何算法系統如果要運行下去,都需要進行迭代、優化,并隨著情境的變化而變化,如此再進入“情境分析-價值觀識別-技術轉譯-原型開發”的流程中。

三、對新聞生產算法系統價值敏感設計的省思

價值敏感設計雖然可以將新聞價值觀嵌入算法之中,但應批判看待,不能抱有技術樂觀主義態度,否則會陷入“唯技術論”的陷阱中。

(一)價值敏感設計嵌入的是有限度的價值觀

不是所有的新聞價值觀都能嵌入算法。理論上可以采用概率論、數理邏輯、形式邏輯、知識表示等數學和人工智能方法描述人類的各種價值、倫理范疇與規則,再采用邏輯程序將倫理范疇組成的倫理規則編寫為“道德代碼”或者“倫理算法”。(56)莫宏偉、徐立芳:《人工智能倫理導論》,西安:西安電子科技大學出版社,2022年,第176頁。但事實上這些方法不可能涵蓋所有的新聞價值觀。給算法嵌入價值觀實際上是一種“理想化”的狀態,價值觀與算法設計不是一一對應的“鏡像關系”,而是存在偏差的“映射關系”,甚至有時可能形不成映射關系。在這種情況下,價值敏感設計的應用便遇到局限。

從可以嵌入價值觀的層面看,價值敏感設計能嵌入的具體價值觀是有限度的。這依然是由于算法形式主義造成的。形式主義意味著堅持規定的形式和規則,算法需要輸入、輸出和目標的明確數學表達,(57)B.Green &S.Viljoen,“Algorithmic realism:Expanding the boundaries of algorithmic thought”.并將解決方案公式化、抽象化和規則化,整個過程是一個轉譯的過程,而轉譯意味著偏差,因為模型的抽象和世界的復雜性之間存在鴻溝。(58)B.Green &S.Viljoen,“Algorithmic realism:Expanding the boundaries of algorithmic thought”.

例如,新聞多樣性(news diversity)這一價值觀,如果將多樣性從技術上理解為信息源多樣性(source diversity,將新聞媒體包含的多個信息源視為一個故事的構建模塊)、內容多樣性(content diversity,用戶通過單一新聞渠道或多個新聞渠道接觸到的話題)、觀點多樣性(viewpoint diversity,新聞媒體在報道某一問題時所包含的視角的多樣性)時(59)R.Evans,D.Jackson &J.Murphy,“Google news and machine gatekeepers:Algorithmic personalisation and news diversity in online news search”,Digital Journalism,https://doi.org/10.1080/21670811.2022.2055596,2023-01-20.,相關界定雖然在語言表達上是清晰的,但落實到每一個指標時都必須量化,每一個量化方案也很復雜,算法的有窮性(finiteness)決定了量化程度的有限性,所以能嵌入的價值觀也是有限度的。

(二)價值敏感設計成功的關鍵在于利益相關者的協同參與

價值敏感設計不能以算法研發者為中心,雖然他們在技術上擁有優勢,但是他們未必理解具體的情境和價值觀的內涵。在研發的時候,主要是靠研發者理解相關問題,但這種理解可能是片面、理想化的,甚至是錯誤的。在現實中,很少有工作專注于面向記者的算法系統,之前也沒有試圖從人類價值觀的角度為記者提出人工智能系統的要求、設計或評估。(60)T.Komatsu,M.G.Lopez &S.Makri,et al.,“AI should embody our values:Investigating journalistic values to inform AI technology design”,NordiCHI’20:Proceedings of the 11th Nordic Conference on Human-Computer Interaction:Shaping Experiences,Shaping Society,2020,https://doi.org/10.1145/3419249.3420105,2022-12-05.News.me高級設計師表示,應用設計和新聞價值觀之間的脫節是由于專業文化沒有交叉。(61)M.Ananny &K.Crawford,“A liminal press:Situating news app designers within a field of networked news production”,Digital Journalism,Vol.3,No.2,2015,pp.192-208.因而在價值敏感設計中,迫切需要一些有算法思維能力的新聞從業者轉變成為“元記者”(meta journalists)參與到算法價值觀的設計之中,不同利益相關者的有效溝通、理解和分工寫作至關重要?！度A盛頓郵報》新聞編輯室工程團隊與新聞編輯室的記者和編輯合作,設計了線索定位器。(62)N.Diakopoulos,M.Dong &L.Bronner,et al.,“Generating location-based news leads for national politics reporting”.學者林登(Carl-Gustav Linden)建議,數據的選擇和評估應該是記者的任務,而驗證、標準化和規范化是程序員的任務。(63)C.Linden,“Decades of automation in the newsroom”,Digital Journalism,Vol.5,No.2,2017,pp.123-140.如此協同,讓利益相關者不再是算法設計的旁觀者,而是參與者,讓媒體的價值觀有效嵌入數據和算法系統中。

(三)價值敏感設計應遵循設計倫理

新聞生產算法系統的公共性、自主性和合規性決定了在進行價值敏感設計時要遵循設計倫理,涉及的倫理維度主要包括透明性、可解釋和可審計。由于新聞生產算法系統中的算法包含兩類,即面向媒體自己內部使用的內部算法(如計算新聞發現算法)和面向公眾提供服務的外部算法(如個性化推薦算法),導致不同算法價值敏感設計的利益相關者存在較大差異,以上倫理維度在面向不同算法系統類型時所實踐的具體對象和內涵略有差異。

1.透明性原則

透明性(transparency)的本質是“后臺前置”,通過披露相關事項接受利益相關者的監督。在價值敏感設計中,透明原則貫穿于語境分析、價值觀識別、技術轉譯和原型設計四個環節中,根據內部算法和外部算法的差異性向對應的利益相關者公開決策過程、設計思路和最終方案。

透明性原則不要求絕對透明,而是相對透明,追求“有意義的透明”(meaningful transparency),即應當把關鍵問題的所涉事項公開,而非事無巨細地全部公開,淹沒關鍵信息;也非選擇性公開,對關鍵問題避而不談。是否達到“有意義的透明”,需要根據利益相關者的透明性訴求而定。

2.可解釋原則

可解釋(explainability)是指在價值敏感設計環節中,技術方案的思路、原理、實現過程是可以解釋清楚的,不能以技術黑箱為由拒絕解釋或者無法解釋?？山忉屧瓌t主要存在于技術轉譯和原型設計環節,具體包括三個維度:可解釋的數據(explainable data),闡明用于訓練模型的數據,數據的類型和內容,選擇它的原因,如何評估公平性,以及是否需要努力消除偏見;可解釋的預測(explainable predictions),具體說明所有激活或用于達到某種輸出的模型特征;可解釋的算法(explainable algorithms),揭示模型所包含的各個層次,并解釋它們如何對預測或輸出作出貢獻。(64)Aporia,“Explainable AI:How it works and why you can’t do AI without it”,https://www.aporia.com/learn/explainable-ai/explainable-ai/,2023-02-05.可解釋原則是利益相關者有效理解、討論、洞察和監督價值觀是否有效嵌入算法系統的關鍵原則。

可解釋原則要遵循便于理解原則、相關性原則和層級原則。(65)徐漢明、孫逸嘯:《算法媒體的權力、異化風險與規制框架》,《西安交通大學學報》(社會科學版)2020年第6期。便于理解原則是指要技術圈層利益相關者要考慮到非技術圈層利益相關者的算法技術認知水平,以易于用戶理解為最低標準;相關性原則是指解釋的內容與利益相關者關心的利益相關(如某個價值觀是如何有效嵌入的);層級原則是指可解釋原則不是只有一個標準、一個層次,而是因利益相關者而異,應當根據利益相關者在價值敏感設計中的地位和關系確定,并根據不同的情境來確定可解釋的范圍、水平、層次。

3.可審計原則

價值敏感設計是一個復雜的價值觀嵌入過程,受制于算法形式主義的存在和算法系統在真實環境下的運行影響,有可能需要繼續迭代,或者為后續追溯責任時進行問責、審計提供線索和依據,因此可審計(auditability)原則勢在必行?？蓪徲嬍侵柑峁┛梢杂糜谑潞髮徲嫷南嚓P資料和運行數據,保證技術人員能夠審計出價值敏感設計中各環節的疏漏?？蓪徲嬙瓌t在實際場景中可用于內部審計,例如,原型設計階段的算法審計,也可以用于外部審計,例如,利益相關者想要通過第三方審計算法系統是否體現了預期的價值觀?？蓪徲嫷那疤崾且凶銐?、充分的全過程資料和數據,因此在價值敏感設計中需要設計方記錄各個環節的決策結果、原因和具體方案,對特定問題的局限以及處理方式做出說明,在技術轉譯環節詳細記錄算法設計思路和步驟,并對訓練數據、算法測試性能等主要技術指標進行詳細說明和闡述,確保審計時可以探查出問題根源。

四、結 語

算法如今已經成為重要的基礎設施嵌入新聞生產流程中,新聞生產作為滲透著意識形態和價值觀的專業實踐不應忽視算法價值觀給自身運營帶來的影響。不同類型、不同體制的媒體有不同的價值觀,算法系統也應有相匹配的價值觀,能保證人工新聞實踐和自動化新聞實踐在價值觀上的同一性。本文提出運用價值敏感設計的方法給新聞生產算法系統嵌入價值觀,一方面揭示算法價值觀的嵌入原理,另一方面提醒新聞從業者應主動與研發者進行對話。當然,由于算法形式主義的存在,新聞價值觀轉譯為算法價值觀并非理想化的鏡像,而是映射。作為人工物的算法只能是一定程度上體現新聞價值觀,這需要通過技術上的迭代方式進行優化,另一方面新聞生產依然要確保人在環路中(human in the loop)。