“透明”亦“黑箱”:當代西方數字資本主義的技術邏輯與內在悖論

柴云超,連水興

(福建師范大學 傳播學院,福州 350117)

20世紀末,美國傳播政治經濟學者丹·席勒(Dan Schiller)敏銳地指出:傳統工業資本主義正借助計算機網絡技術的發展向數字資本主義轉型。因為,“信息網絡以一種前所未有的方式與規模滲透到資本主義經濟文化的方方面面,成為資本主義發展不可或缺的動力與工具”[1]。時至今日,數字資本主義已不再只是資本主義的轉型趨勢,而是徹底成為數字時代的內在結構與發展現實。其中,以谷歌、臉書為代表的數字平臺構成了當代社會賴以運轉的基礎設施,并進一步形塑著人們的生活方式與行動邏輯。尼葛洛龐蒂(Nicholas Negroponte)所預言的“數字化生存”(being digital)——“計算不再只和計算機有關, 它決定我們的生存”[2],已經成為人們習焉不察的生活寫照。正是基于當今“數字化生存”的現實,互聯網巨頭依靠其平臺壟斷地位對用戶的線上活動與數字蹤跡展開全景化的實時監視,并通過后臺一系列專業算法程序將監視所產制的海量數據進行篩選、分析和競賣,進而影響乃至操縱用戶行為,獲取源源不斷的商業利益。監視與算法共同構成了當代西方數字資本主義體系在數字時代發展穩固的技術邏輯。

一、全景監視:“透明社會”的數字化基礎

監視作為權力的一種表現形式,往往通過不對稱的目光和單向的可見性來實施。在英國左翼學者克里斯蒂安·?？怂?Christian Fuchs)看來,監視不僅象征著“一種特定的信息收集、存儲、處理、評估和使用,涉及潛在或實際的傷害、脅迫、暴力、不對稱的權力關系、控制、操縱、支配或懲戒權力”[3],而且本質上是一種通過犧牲他人或特定群體的權利,以滿足自身特殊利益的工具和手段。監視的權力屬性早就為人所洞察,并成為人類社會維持等級秩序與權威運行體系的基礎。但直到?？?監視才得以超越單純的權力視角,被當作一項社會規訓技術來研究。

?？略谘芯可鐣幱柕目臻g形式時,曾詳細描述了由英國法理學家邊沁(Jeremy Bentham)設計的“圓形監獄”。這種監獄“四周是一個環形建筑,中心是一座瞭望塔。瞭望塔有一圈大窗戶,對著環形建筑。環形建筑被分成許多小囚室,每個囚室都貫穿建筑物的橫切面?！ㄟ^逆光效果,人們可以從瞭望塔上與光源恰好相反的角度,觀察四周囚室里被囚禁者的小人影”[4]193。由此可見,正是通過“圓形監獄”的建筑形式,管教權威將外在的監視行為經由空間上的不對稱結構轉化為犯人內心的“自我監禁”[5],從而提高了監視效率,并以最小的人力成本實現了監視效果的最大化。在這里,由處在整個建筑空間中心的瞭望塔投注而來的監視目光,往往是在一種不可見的壓力與恐懼中,促使每個犯人都成為自己的監視者。?？峦ㄟ^回顧和剖析邊沁的“圓形監獄”形式及其監視作用機制,提出了這一空間構造的價值核心——“全景敞視主義”,即“一種分解觀看/被觀看二元統一體的機制。在環形邊緣,人徹底被觀看,但不能觀看;在中心瞭望塔,人能觀看一切,但不會被觀看到”[4]226。在此,一個不可見的中心扮演著監視眾人一切生活舉動的“老大哥”式角色。

大衛·里昂(David Lyon)認為:“必須根據不斷變化的環境,特別是日益集中的消費和信息技術的采用來理解當代監視?！盵6]隨著互聯網與信息技術構成當今社會的數字基礎設施,?？乱饬x上的全景監視也變得無處不在,并且逐漸具備“自動化、匿名化、分散化和自我強化”[7]的新特征。人們的社會生活被快速擴張的互聯網嵌入到數字資本主義的生產與消費體系之中,并時刻為不斷涌現的新興數字技術所形塑。借助互聯網永遠在線的意識形態和數字終端便攜高效的監測能力,作為資本主義控制系統的數字監視,已經在很大程度上完成了去屬地化,從而擺脫了監視執行流程的時空限制[8]。邊沁式的圓形全景監獄不僅失去了具體的空間形式與建筑實體,而且已經從針對某一特殊群體——“犯人”的專門監視,轉向了一種面向全體社會成員的普遍監視。

全景監視從一種由特定的圓形建筑空間所構造的監獄技術形式逐漸演變為數字化時代人類的普遍生存境況,表明數字資本主義日益依賴監視技術來創造一個“透明社會”(transparent society)的現實趨向。關于透明社會的作用機制與發展前景,存在兩種截然不同的觀點。其中,在美國學者大衛·布林(David Brin)看來,互聯網和數字技術將帶來一個更為民主的透明社會。信息技術的潛力可以粉碎一切秘密的陰謀和由知識壟斷造成的特權階層,并以透明的信息公開方式促進社會公正與知識民主化[9]386。此外,由于社會的“透明”必然推動權力的公開化和分散化,傳統的民族國家將逐漸式微,而人們則會作為不同公民社會團體的成員共享“公民身份的核心認同”[9]440。與之相對,韓炳哲則認為透明社會對民主并無裨益,其本質仍是監控社會。因為,透明社會的運行有賴于一個建立在數字化技術基礎上的全景結構。這一全景結構與相互隔絕的邊沁式圓形監獄不同,生活在結構之內的人們往往被鼓勵借助發達的網絡媒體系統進行聯系與交流,并通過主動的“自我展示和自己揭露”[10]79,最終融入到龐大的社會監視體系中。所謂的透明社會其實是一個充滿“不信任的、懷疑的社會”[10]81,它會日漸喪失支撐其存在的公共價值與道德基礎,進而走向分裂。

審視數字時代的發展現實,大衛·布林所暢想的透明社會在技術層面已獲實現。但這個社會的真實樣貌如韓炳哲所描繪,技術烏托邦式的民主幻想注定破滅。究其原因,互聯網科技公司長期奉行技術例外論,認為數字技術作為科學理性的進步,不應受制于社會法律和“物質空間”的傳統規范[11]。加之政府管控的相對滯后,數字技術便在一種“科學”意識形態的掩護下成為了以互聯網巨頭為代表的資本集團,執行監視與擴大盈利的工具?；ヂ摼W和信息技術的發展帶動了傳統資本主義向數字資本主義的全面轉型,但形成透明社會的一系列數字技術非但未能帶來民主,反而進一步在技術層面強化了資本主義結構的社會控制,并催生出數字資本主義的新維度——監視資本主義。

早在工業資本主義時代,馬克思就曾指出:“正如軍隊需要軍官和軍士一樣,在同一資本指揮下共同工作的大量工人也需要工業上的軍官(經理)和軍士(監工),在勞動過程中以資本的名義進行指揮。監督工作固定為他們的專職?！盵12]工業資本家為了維護其工廠內部的資本主義生產秩序,并在最大程度上規訓和剝削產業工人,便已將監視作為一項特殊功能嵌入到資本主義的生產體系之中。隨著資本主義生產秩序的社會化、日?；?以及數字監視技術的發展,美國學者肖沙娜·朱伯夫(Shoshana Zuboff)在馬克思的理論框架和數字資本主義的基礎上,進一步提出了“監視資本主義”(surveillance capitalism)的概念,直接切中了數字監視體系背后的資本主義生產結構。朱伯夫認為,在以社交媒體為代表的數字平臺背后貫穿著監視資本主義的運作邏輯,即它們通常將用戶的個人資料與行為數據視作一種免費資源,并往往以改進產品或服務為名將這些數據轉化為可以預測用戶行為的信息商品,打包出售給各類企業,從而獲得巨額收益[13]。監視資本主義作為數字資本主義發展的新維度,正是依靠日益普及的數字網絡與移動終端將人們的社會生活全部納入其實時監視之中,并通過大數據收集與分析技術將監視產生的海量個人數據轉變為可以盈利的信息產品。

克里斯·格雷(Chris H Gray)認為,“監視資本主義的原罪在于把利潤動機植入到技術的可供性中”[14]。數字技術的發展并不是一個自然而然抑或客觀中立的過程。相反,資本的天然逐利性使它無時無刻不在尋求更為便捷的增殖模式,而數字技術就是在資本的支持和推動下才得以快速發展的。當資本主義從工業時代轉入信息時代,它便要求數字技術全方位地接入整個社會的生產生活,致使“一切事物都變成了赤裸裸的數據”[15],而互聯網用戶則時刻面臨著成為一種可量化、可交易之信息商品的命運。由此可見,互聯網基礎設施的完善和數字技術的發展,不僅為資本主義發展模式的轉型提供了技術動能,而且為資本主義社會結構的運轉建構了更為有效的監控方式。在這里,社會控制背后的權力體系和資本逐利反映的經濟秩序逐漸在監視資本主義模式中融為一體,而那些掌握大量監視數據的資本集團則對公共利益構成了一種新的威脅。

二、算法操縱:“黑箱社會”的科學性化身

監視作為互聯網平臺系統收集用戶個人信息和數字痕跡的技術手段,其目的在于構建一個龐大的用戶信息數據庫,但這僅是其數字資本主義運行程序的一部分。如果要將龐雜零散的原初用戶數據轉換為信息商品,離不開算法的篩選、分類和畫像、建模等技術支持。那么,究竟何為算法,它又何以構成一種操縱性的技術力量,從而有可能導向“黑箱社會”,就成了另一個亟待回應的問題。

算法源于數學,現已成為各領域的關注對象與應用技術。在唐納德·克努斯(Donald E. Knuth)看來,算法是給出解決特定類型問題的一系列操作的有限規則集,具有有限性、確定性、輸入、輸出和有效性五個重要特征[16]。羅賓·希爾(Robin K. Hill)則認為,算法可以被視為“一種有限的、抽象的、有效的、復合的控制結構”[17],可以通過預設的規則來服務于特定目的。簡言之,算法就是一套數學處理程序,它基于統計模型或運行規則自主地執行決策過程,而無需人工干預。

互聯網平臺的崛起和數字技術的發展,使得算法成為人們普遍接觸與廣泛談論的對象,但其實人類對算法的應用可以追溯出漫長的歷史?；仡欉^去,“人們一直在設計、修改并分享著算法,這一活動早在算法這個詞出現之前就開始了?！捅葌惾颂幚矸墒聞諘r會用到算法,古時候拉丁語老師檢查語法時會用到算法,醫生靠算法來預測病情,無數遍布全球的普通人曾試圖用算法預測未來”[18]。隨著當代社會的數字轉型,人類的社會生活面臨著全方位的數據化進程,而算法作為“真理的決策者和仲裁者的角色和力量”[19]也愈發為人所重視。與此同時,在計算機和人工智能技術的發展下,算法也從只能執行簡單設計程序的初級階段發展到具備“獨立進化,自我改進、從自己的錯誤中學習”[20]的高級階段,日益成為數字資本主義進行監視數據處理的核心技術支撐。

算法作為網絡信息技術的發展成果和社會生活加速數字化的現實需要,其廣泛應用大大提高了海量數據的處理效率與個性化服務的定制水平。與此同時,其公正性、透明度以及對公私權限的把控也引發諸多爭論。這是因為,當今社會中的數據和算法不僅深入到各行業的生產運營中,而且日益成為影響公共決策的重要依據。其中,包括“搜索引擎和個性化的在線新聞系統,還有教育評估、市場運營和政治活動、城市公共空間的設計,甚至是福利和公共安全等社會服務的管理方式”[21]。由于大量算法的復雜性與非開源性,對普通用戶或公民而言,其編制和運行往往都缺乏透明度并難以接近,更談不上進行必要的公共審查。算法是否會為了特殊的商業利益和企業價值來預置偏見,進而以技術系統所代表的科學理性之名義來執行不公正的意識形態,就成為了人們擔憂的焦點。

針對算法偏見所帶來的歧視現象,伊恩·艾瑞斯(Ian Ayres)曾指出:“形式上沒有種族歧視的計算程序有時也會被質疑為促進了某種實質性的歧視?！盵22]這種帶有實質算法歧視的根源在于,大多數算法分別“將特定種族、婚姻狀況、年齡、性取向和宗教信仰的人劃分到了一起”[23],并依據相應的篩選標準將部分人群自動的排除在外。與此同時,當下的主流算法程序大多是基于對用戶歷史數據的綜合分析而建構出的基本預測模型,帶有濃厚的保守色彩,而在具體的使用過程中也更傾向于重現并強化代表過去的評估與決定[24]。至于算法程序的非透明性問題,其關鍵則在于互聯網科技公司普遍將算法視為一種技術創新成果或企業內部的核心商業機密,因而有權保持對后臺算法中所包含的運行規則、價值導向和核心邏輯的私屬權與秘密性。在這樣一套商業邏輯的背后,互聯網巨頭再次重申了其根深蒂固的“技術例外論”思想,并往往以更好滿足受眾的個性化需求為口號,試圖掩蓋其有意逃避公共監督與社會責任的逐利動機。

基于算法的復雜性與不透明性,它極易成為一個數字世界的“黑箱”,并隨著算法技術邏輯在整個數字資本主義體系內全方位地滲透,可能將人們引向一個充滿著技術操縱的“黑箱社會”(black box society)。黑箱隱喻內涵著一個信息時代的重要悖論,即“數據在廣度和深度上都變得令人震驚,但對我們來說最重要的信息往往超出了我們的能力范圍,只有內部人士才能獲得”[25]。換言之,用戶作為數據產制的主體,卻并不擁有對自己數據的所有權和處置權,也無從得知數據收集與算法分析的運行機制,更無法干預或共享數字資本主義平臺由此獲得的巨大利益。相反,掌握海量用戶數據資源的互聯網平臺和資本公司,則可以通過一系列算法程序將用戶數據轉變為可資利用的商業秘密或明碼標價的信息商品。由此可見,算法黑箱之“黑”既體現在算法之于用戶的不可見性,也體現在用戶與平臺在數據所有權、收益權的劃分上存在著極端不平等。因而,那些將算法完全客觀化、中立化和科學化的觀點是值得警惕的,這不僅刻意掩蓋了算法本身就代表某種特殊商業利益的本質,而且有意將算法標榜為理性的化身,往往成為互聯網巨頭為自身商業模式辯護的宣傳話語。

算法黑箱在社交媒體和信息聚合平臺中的負面影響則主要表現為個性化算法推薦可能造成的用戶認知窄化與共享現實缺失。因為,算法在信息系統中起著控制技術的作用,它不僅會為用戶生成的內容進行排名,而且決定著哪些信息會被挑選出來主動推送給特定的用戶[26]。目前,主流的協同過濾算法就是通過分析用戶的同類群體偏好和歷史瀏覽記錄來進行后臺的用戶畫像,并依據畫像的內容標簽進行信息推送。這種算法推薦模式固然滿足了人們個性化的信息需求,但如果為了保持用戶黏性而無限制地迎合用戶偏好,也就難免忽略個性偏好之外攸關公共價值的信息呈現。

黑箱社會作為描述當下數字生存現狀及其未來發展前景的一種隱喻,其間充滿著人們對包括算法在內的數字技術,既深度嵌入個人與社會生活的方方面面,卻又在資本主義逐利邏輯的驅動下充滿不可見性、不可控性乃至操縱性的擔憂。一方面,伴隨數字化浪潮對整個社會全方位的改造,包括人類自身的一切事物都必須轉化成計算機可以識別并處理的“0”“1”代碼,也即一連串可供企業進行數學分析與價值轉化的數據材料。至于那些無法數據化的人或事物,則不可避免地在數字資本主義體系中喪失商業價值,并逐漸被邊緣化。另一方面,在整個社會全面走向數據化的同時,大量的“廣告商和營銷者需要資源來解釋這些數據,并利用這些數據來促進他們的利益”[27]。數字算法作為應對數據大爆炸的關鍵,便迅速成長為數字資本主義體系不可或缺的技術邏輯。通過各種算法分析程序,人們往往在沒有直接參與和主觀承認的情況下被完全數據化,并依據算法分析的結果被賦予帶有絕對意義的個性標簽。然而,作為具有很強主觀性和歷史復雜性的主體,基于大數據的算法分析并不總能準確感知人類的個性,而“當我們具體化的個性被忽視時,我們不僅會越來越失去對生活的控制,而且會越來越失去對如何定義生活本身的控制”[28]。

三、一種數字資本主義內在的技術悖論

馬克思認為,“各種經濟時代的區別,不在于生產什么,而在于怎樣生產,用什么勞動資料生產”[29]。當代資本主義的生產方式正在加速轉向數字化,而數字資本主義已經成為人們社會生活的本質特征。但必須看到,數字資本主義體系的技術基礎并非穩固不搖、一片和諧,其內部也充滿著無法調和的矛盾。其中,監視與算法作為支撐數字資本主義體系的技術邏輯,就面臨著一種資本主義內在的發展悖論,即一方面將致力于以科學理性創造的透明社會烏托邦作為其未來愿景,另一方面卻無所顧忌地運用全景監視技術和高效的算法程序將人們的線上活動轉化為可以牟利的數據商品,從而服務于資本永無止境的逐利性,并在客觀上將人類引向充滿著專制與操縱的黑箱社會。

在監視方面,互聯網時代數字監視機制的運行是基于平臺和用戶之間不平等的權力關系。但值得注意的是,這種以監視為核心的權力關系已經在數字資本主義野心勃勃的逐利計劃下,從資本家的私人工廠擴展到了整個社會。當人們逐漸習慣于通過社交媒體或數字平臺來進行信息傳遞、社會交往和生活安排時,也就將自己大量乃至全部的社會活動完全暴露在數字平臺的全景監視之下,并進一步面臨被數據技術數據化、標簽化以及商品化的命運。在巴拉西·維羅妮卡(Barassi Veronica)看來,“將數據技術納入社會生活的不同領域,是基于這樣的假設:我們需要在生活展開的過程中進行即時監控,我們可以通過數據跟蹤技術記錄并進而控制日常生活的不同維度”[30]。觀照當下,數字技術對生活的控制的確加強了,但它并不歸屬于個人,而是成為了少數互聯網巨頭及其資本集團的盈利工具?；诖?美國傳播學者馬克·波斯特(Mark Poster)在?？隆叭氨O獄”的基礎上,進一步用“超級全景監獄”來形容數字化時代人的生存境況,因為互聯網出于利潤動機就“像監獄一樣,連續不斷地在暗中有系統地運作著,收集個人資料并組合成個人傳略”[31]。

在算法方面,有學者認為,其作為數字平臺進行監視數據處理的核心技術,傾向于滿足少數群體的特殊利益并反復強化利潤最大化的商業標準,從而削弱現實建構中的公共利益與社會責任,最終鞏固和創造新的社會不平等[32]。因為,人們基于數字平臺的一切活動幾乎都可以被記錄、存儲與監控,而由此產生的各類數據主要是被互聯網公司以算法方式進行商品化處理,也就難免將盈利目的凌駕于公共利益與社會平等之上。通過算法程序的分析過程,用戶在數字平臺的原創內容和行為記錄不僅時刻為自己在后臺構造著“新的虛擬身份,一個數字自我”[33],而且會作為免費獲取的數據資源進一步被制成待價而沽的信息商品。在這里,不斷生成的用戶數據構成了互聯網公司持續盈利的原材料,而算法則為數字平臺隱秘嵌入歧視原則、刻意影響乃至操縱用戶的行為與決策,披上了合理性的外衣。由此可見,包括監視和算法在內的數字化技術在一定程度上已經為資本主義體系所馴化,并憑借其相互耦合的技術優勢構成了當代西方數字資本主義的技術邏輯與核心動能。

本質上,數字資本主義的技術悖論仍是由生產的社會化與生產資料私人占有,這一資本主義社會的基本矛盾所決定的。隨著網絡信息技術的發展與數字平臺的擴張,數字化成為當今社會最顯著的時代特征,而“信息的占有成為社會重要性的惟一標準”[34],數字技術和信息資源開始作為新的生產資料全方位地介入資本主義的生產過程。這不僅推動了資本主義生產從工業資本主義階段向數字資本主義階段的轉型,而且使得數據和信息成為當下最為重要的生產資源。由此,數字資本主義系統地利用網絡平臺和數字技術將用戶的無償“數字勞動”(digital labour)置于自己的監視之下,并將其轉化為一系列商業資產。其中,互聯網公司作為數字資本主義體系的先鋒,就憑借其平臺壟斷優勢和用戶的依賴性對所有線上活動展開全景化的監視,并通過后臺算法將用戶自主產制的海量數據加工成用于交易的信息商品。一方面,全景化的平臺監視在某種程度上將整個數字社會引向透明化,另一方面,這種透明卻包含著極端不平等的權力關系,即代表數字資本利益的互聯網巨頭可以借助其優勢地位將用戶變成商品化的“透明人”,而普通用戶卻對其算法黑箱難有所知,只能在信息不對稱中遭受黑箱社會可能帶來的技術歧視、權益侵害、乃至隱含的價值操縱。在數字資本主義的運作結構中,透明社會的技術實現可能與黑箱社會的政治經濟現實所產生的矛盾,既反映著資本主義社會基本矛盾在數字時代的延續性,也構成了一種內在于數字資本主義體系的技術悖論。