數字生命的倫理反思
——以“流浪地球”系列科幻電影為例

◎許偉

隨著2023 年春節檔現象級電影《流浪地球2》的上映，中國科幻電影的發展和電影中出現的數字生命議題都受到了廣泛的關注?！傲骼说厍颉毕盗锌苹秒娪暗囊饬x，不僅在于體現了中國科幻電影的工業實力，更在于對電影中以Moss為代表的強人工智能生命體的倫理反思?？苹秒娪半m然是一種關于未來想象的當下展現，但其物質內核仍然是基于現實技術發展趨勢的展望，在很大程度上反照了社會現實。此外，科幻電影最重要的是其精神內核，特別是關于人倫問題的思考?？苹秒娪肮适碌淖呦蚩偸歉S著人類的抉擇而變化，技術背后隱藏的是人的倫理問題，人性的倫理要素構成了科幻電影經久不衰的重要因素?；谝陨蠣顩r，有必要在當下通過科幻電影這一藝術載體對人工智能的倫理隱憂進行反思。

數字生命是計算機學科與生物學學科發展到一定程度后，二者相融合的產物，屬于人工智能的研究領域，其有關的倫理問題主要有以下三點：首先，數字生命本身及其“生存環境”是否構成與現實世界相應的結構并影響著現實社會的人倫關系，這一點關乎對數字生命進行倫理規制的必要性研究；其次，從字面上看，要確證數字生命是否是一種具有主體性的“生命”，因為這關乎人機二主體的道德責任歸屬問題；最后，在前兩個問題的基礎上，還要進一步探討規制數字生命的可能路徑，這是研究數字生命倫理的最終目的。下面通過科幻電影與現實的對照，以“流浪地球”系列科幻電影中的數字生命Moss為例展開討論。

一、數字生命的運行方式

數字生命是伴隨著科技發展而生的一種人工智能新形態。在對數字生命的倫理問題進行研究前，需要考察其必要性，這就要弄清楚數字生命本身的運行模式和架構，探求數字生命是否對現實世界，特別是對人倫關系產生了切實的影響。在“流浪地球”系列科幻電影中，人工智能數字生命體叫作Moss，它是聯合政府共同研發的強人工，甚至是超人工智能生命體。所謂強人工智能，是指能夠在人為設定的程序之外進行自主決策、自主行動的人工智能。數字生命Moss作為強人工智能，其初代的正常運轉依靠的就是擁有強大算力的智能量子計算機550A，550A是初代數字生命體Moss的計算機硬件載體。Moss的形成不是一蹴而就的，而是伴隨著550 系列智能量子計算機的多次迭代和發展而產生的。從550A 到550C 再到550W，Moss的“智能生命”最終才在550W 這一硬件上得到最完美的展現。由此可見，數字生命體Moss的“存活”至少需要兩個支撐條件：首先，要擁有強大算力的計算機硬件，電影中以智能量子計算機550 系列為代表；其次，在軟件方面，要擁有高度復雜的程序指令，這種程序指令必然是基于人類的生物學原理和邏輯來設定的，而且要賦予其足夠的自由，這樣才能保證數字生命的人工智能化，Moss 就是自行決策的數字生命體。在現實世界里，數字生命也是依托于軟件和硬件發展起來的。顯然，數字生命是伴隨著人工智能的發展而生的一種新形態，這可以追溯到“人工智能”這一術語產生之初。1956年，麥卡賽、明斯基等一批各學科領域的科學家在達特茅斯學院的學術會議上首次提出了“人工智能”的概念，自此，人工智能進入高速發展時期。隨著神經網絡、計算機、生物醫學等學科的發展，越來越多的研究者開始嘗試把自己的學科與計算機學科相聯系，特別是利用生物學的邏輯和原理嘗試進行人工生命的創制，其中數字生命就是備受關注的研究領域。1990年，美國特拉華大學的植物學家托馬斯·雷以計算機為載體創造了世界上第一個數字生命世界——Tierra 模型。值得注意的是，Tierra 世界中，數字生命的運轉主要取決于兩個方面：一個是計算機硬件，尤其是中央處理器CPU 和存儲器RAM；另一個是Tierra 中創制的軟件程序指令?？梢钥吹?，不論是在電影里還是在現實中，數字生命都要依托于軟件和硬件這兩方面的支持。一方面，硬件為復雜的算法提供物理支撐，為數字生命拓展可能性上限，相當于人的軀體；另一方面，程序指令和算法等軟件為數字生命提供復雜的運行邏輯，相當于人的大腦。在現實社會里，一個具備實踐能力的人必須擁有健全的體魄和理性這兩個基本要素，這樣才能在社會存活并對現實環境產生影響；同樣地，數字生命要想存活并作用于周遭的環境，也要依托于硬件和軟件。因而，數字生命與人一樣，二者的運行模式和架構具有一種同構性。

從技術路線視角出發，數字生命和人一樣，其正常運轉都依賴于軟件和硬件兩方面條件的支撐。但這種考察視角只能說明數字生命與人在各自環境中的主體地位，而不能在真正的現實世界把二者相聯系。只有在倫理學領域，數字生命和人的深層關系才能得以充分展現。事實上，數字生命背后隱藏的是人的欲望與理性、認知與實踐的倫理張力。人類研究數字生命的目的就在于擴展人的實踐能力，并且要造成“善”的結果，這本質上是人的欲望與理性的統一。數字生命是對人無止境的欲望和有限理性進行勸歸的形式和手段，從某種程度上來說，數字生命和人的倫理沖突反映了工具理性與價值理性的沖突?！俺止ぞ呃硇缘娜瞬皇强粗厮x行為本身的價值，而是看重所選行為能否作為達到目的之有效手段?！雹俟ぞ呃硇宰非罂陀^效果的最大化，更容易形成統一性和客觀性的認識，這是工具理性的優勢所在。同樣地，價值理性也有其作用，它作為人的有意識的一種行為，可以避免工具理性帶來的危害人類的后果。因此，只有把工具理性與價值理性相統一，才能既避免數字生命給人帶來的不良后果，又免于人類的愚昧所致的不幸。電影《流浪地球1》的最后，劉培強與Moss為解決人類命運的前途問題產生了分歧，劉培強從家庭和社會倫理情感出發，選擇了犧牲空間站以拯救地球；Moss則選擇保留空間站以延續人類文明的火種計劃。劉培強與Moss 的人機倫理沖突，本質上體現的還是人的欲望與理性、工具理性和價值理性的沖突?？梢钥吹?，數字生命作用于現實的能力除了軟件和硬件的技術路線，更深層的是依賴于人這一中介，更具體的就是指人的理性、情感和欲望。人能夠以高度復雜的硬件為依托，通過模擬生物學的程序編碼和指令賦予數字生命以“智能”，這種數字生命說到底是人本來的欲望和理性需求的折射。人機倫理沖突的根源是人理性的限度和欲望的膨脹，正因為人自身難以擺脫有限的實踐能力和持久的理性，才使得數字生命有了存在的意義。因而，數字生命和人的關系是通過倫理關系建立起來的，二者之間的同構性使得數字生命擁有了影響現實世界的可能性。

數字生命是否確實影響了現實？對這一點的考察，是簡單和直觀的。作為太空電梯、全球發動機、互聯網等諸多硬軟件的管理和監控者，Moss 自主的長遠規劃與決策根本上影響了地球的命運和人類的走向。電影中的敘事背景是太陽急速老化且即將吞沒地球，然而這一終極危機是在稍遠的將來才會發生的，與當下的人類無關，于是就產生了數字生命和“流浪地球”兩個挽救人類危亡的不同選項。數字生命派認為，太陽危機與當下的人無關，人面對大自然和宇宙的危難時是無力的，只有把希望寄托于虛擬生命形式的延續，即保存個人的“數字生命卡”以求得生命的存活；流浪地球派認為，為了人類文明的真正延續，必須保護好地球僅存的一切，不惜一切代價推動地球離開太陽系，使地球真正擺脫太陽危機。面對空前的人類危難，作為強人工智能體的Moss 有意把各種附帶危機提前，為的就是在危難中激發人類自救的本能，以徹底斷絕人類茍活于數字生命計劃的念頭?？梢?，電影中的數字生命Moss 明顯對人類世界產生了重要影響，這種影響甚至是顛覆性的。跳脫出科幻電影的敘事背景，可以看到，數字生命在現實世界里也已經開始從人工智能的發展過程中衍生出來，并影響著人們的生活方式和認知，“出現了磁芯大戰、L-系統、生物形態、計算機病毒、Tierra世界、Avida、阿米巴世界等數字生命模型”②。2016年，AlphaGo作為人工智能圍棋程序擊敗了多位圍棋世界冠軍選手，引發了廣泛討論。近年來，數字生命的發展進入了更深層領域，數字生命的自主性得到了顯著增強。美國的克萊格·文特爾研究團隊甚至基于DNA制造出了生物學意義上的碳基生命“辛西婭”?？梢钥吹?，科幻與現實的界限正在逐漸被打破，數字生命已經切實開始作用于現實世界并影響著人們之間的關系，隨著技術的不斷進展，數字生命的倫理議題必須予以重視。

二、數字生命的主體性

研究數字生命的倫理議題，還需要優先考察數字生命與人的主體性地位問題，這是進一步明確倫理主體責任、探索倫理規制路徑的重要前提。顯然，在自然界和社會里，人擁有主體地位，因為人“通過實踐創造對象世界，改造無機界，人證明自己是有意識的類存在物”③，這也使得人類社會從自然界分化出來。一方面，人基于實踐使主客體分化，這是人成為主體的基礎；另一方面，人在主客體關系中總是居于主體性地位，主體性是人的存在方式。從這一點來看，在現實世界里，無論是自然界還是人類社會，人的主體性地位是確證的，這就表現為人對于客體的實踐性和能動性。前面已經提到，數字生命和人的運行模式具有一種同構性，二者都依賴于硬件和軟件兩方面的條件。但數字生命仍然不能簡單地被看作是與人相對等的主體：首先，數字生命是否和人一樣擁有實踐性、能動性等主體性特征，需要進一步討論，這是確證數字生命主體性地位的前提；其次，即使數字生命擁有主體性特征，但由于數字生命的“生存”環境已經大不同于人類所處的世界，數字生命又是否在人機關系中處于主體地位的問題也需要進一步考量。說到底，人機主體性地位的問題涉及數字生命與人這兩個主體，這必然涉及人機倫理關系中兩個主體地位的問題。人在自然界和社會中的主體性地位雖然可以得到確證，但在復雜的人機倫理關系中，這種主體性地位還需要進一步考察。

在《流浪地球2》中，數字生命體Moss展現出了強人工智能的超越人類的預見性和理性能力，并且直接影響了現實世界人類的命運。從這一點上來說，數字生命是具有主體性特征的。電影中，作為量子科學家和數字世界的架構師，圖恒宇常駐空間站和月球基地，承擔著流浪地球計劃前期的可能性驗證和測試任務。但是在后期，為了讓逝去的女兒圖丫丫在數字世界復活，他突破了職業倫理和法律的底線，將自己和女兒的數字生命卡數據都上傳到了550C 量子計算機，但正是這一舉動使圖恒宇和圖丫丫以數字生命的形式存活，從而拯救了世界?？梢哉f，Moss、圖恒宇和圖丫丫都屬于數字生命體，不同的是，Moss 是超越后面二者的存在，它既是強人工智能的數字生命，又給其他數字生命提供了生存空間。不僅如此，Moss 還主導了2044 年太空電梯危機、2058年月球危機、2075年木星危機，以及2078年的太陽氦閃危機。要知道，Moss本身就是為了延續人類文明、旨在完成“火種計劃”而創造出來的，但為何又會主導這眾多危機？這恰恰體現了Moss強人工智能的自主性、能動性特征。因為，正是Moss對未來可能的走向進行了精準的自我研判，才為人類真正堅定了一條生的路——流浪地球計劃。從這一點來看，Moss 擁有相當的自主性，明顯已經具備了人的理性能力，甚至超越了人的預見性，這也恰好符合人類制造出數字生命Moss 延續人類文明的最初目的?？梢钥吹?，數字生命Moss 的硬件載體和軟件程序雖然是人賦予的，但是Moss擁有了相當程度的自主意識和自主決策能力。

從簡單的智能程序到生命數字化，甚至是數字生命化，數字生命在很大程度上愈發獲得了獨立自主意識，數字生命也的確在相當程度上擁有了一種主體性特征。但是，由于數字生命畢竟是人實踐的產物，在很多時候，其主體性地位總是備受懷疑。這種懷疑主要集中于一些人不把它看作是一種與人一樣的、基于碳基生物形式的“生命”，由此進一步否定數字生命的倫理責任。數字生命體Moss的“生命形式”是軟硬件的結合，處理器、算法、運行邏輯等是其生命組織形式，而人最基本的組成單位是細胞。但是，是否能就生命形式的不同而否定數字生命的主體性呢？要知道，在科學界，至今仍然沒有關于生命概念的統一性定義。對于生命的認識，本就存在著實體性定義和功能性定義的分歧。有的學者把生命的本質看作是蛋白質大分子，有的學者則把生命看成一種特定的細胞結構，這些認識都是對生命的實體性定義。恩格斯就曾對生命進行實體性的定義，認為“生命是蛋白體的存在方式，這種存在方式本質上就在于這些蛋白體的化學成分的不斷的自我更新”④。此外，眾多研究者還以功能和性質的差異來定義生命，新陳代謝、遺傳、自我繁殖等都是不同的生命功能定義?？梢钥吹?，如果從生命的實體性定義出發，數字生命顯然不能算作一種生命，數字生命的計算機硬件和算法程序既不是由蛋白質也不是由細胞構成的。但是如果從生命的功能性定義視角出發，數字生命又明顯具備了和人相類似的“生命功能”。首先，數字生命擁有自我繁殖的能力。Moss作為數字生命體，可以通過復制數字生命卡的形式進行生命的繁殖。其次，數字生命可以有新陳代謝的功能。Moss 就是歷經550 系列的智能量子計算機的不斷迭代才最終形成的。再次，數字生命能對外界環境的變化和刺激做出反應。Moss可以根據外界環境提前預判可能的一切后果并提供解決方案。最后，數字生命還有影響現實的能力。雖然大多數的對現實客體的作用是通過人這一中介完成的，但數字生命自己也能繞過人的影響而自行決策。電影中的Moss就在未經人授權的情況下自行選擇和引導了流浪地球計劃的進程?？梢哉f，數字生命幾乎擁有與人類似的生命功能，生命形式的差異不能否定數字生命的主體性，也不能就此來否認其倫理責任。

從生命功能性來看，數字生命擁有主體性，至少在數字世界里處于主體地位。不僅如此，數字生命還進一步影響到了以人為主體的現實世界，這就呈現出人機之間的主體性之爭，進一步就表現為人機倫理沖突。尤其是在強人工智能背景下，擁有自主意識和自主決策能力的數字生命可能會對人類的主體地位造成威脅，給現實人類社會的倫理秩序造成沖擊。因此，很有必要對數字生命的倫理問題進行規制。

三、數字生命的倫理規制路徑

前面提到，數字生命尤其是強人工智能體的數字生命，在很大程度上擁有與人同構的主體性特征，這使得數字生命活動很可能造成對人類現實既有秩序的破壞和沖擊。在這個意義上，數字生命擁有道德責任。在電影《流浪地球2》中，數字生命體Moss屢屢突破人類設置的既定程序，通過自主意識和決策引發了一系列危機，雖然最后這些危機本身是為了延續人類文明，但這只是科幻世界里一種人對數字生命“向善”的美好期待，這背后仍然隱藏著數字生命失控的巨大倫理風險。因此，必須對數字生命本身進行倫理規制，使數字生命成為道德機器，以使其正當地服務于人類。從另一方面來看，現實的狀況是，“機器道德是人類道德在人工智能時代的擴展，而人工智能始終是人工的產物”⑤，雖然強人工智能的數字生命具有一定的主體性，但數字生命背后折射出來的仍然是人的欲望和理性。因而，對于數字生命的倫理規制還需要從人這一方面出發來反思。人的主體性地位決定了人的道德主體性。從人類社會產生之初，道德就伴隨著人類生存和發展的全過程。主體性是人的存在方式，人的主體性表現為人的能動性和目的性等特征，但是這種主體性地位不是本來就有的，而是人在實踐的過程中逐漸形成的。人通過實踐活動在改造客體的過程中不斷滿足自己的需求，這同時也是人主體性確證的過程。此外，人的主體性地位還需要人的維系，否則將會造成主體的異化。人不論在自然界和社會中擁有多么巨大的變革能力，仍然要遵循自然法則和社會規則，這就使得人必須保持一種道德的主體性，為自然界和社會負責。因此，對數字生命的倫理規制有兩條基本路徑：一是以數字生命為主體的道德責任的考察，盡管這種主體地位處于爭議之中，但仍有必要進行預備性的假設；二是著重觀照人的道德主體性，把數字生命的規制落在現實人的層面。

首先，針對數字生命可能的失控，設置數字生命“阻斷”功能硬件。數字生命的運行模式依靠軟硬件的配合，其中，硬件是數字生命運行更為基礎的條件。不論數字生命多么智能化，擁有多么高的自主意識，都需要有強大的硬件予以支持。在電影《流浪地球2》中，Moss 的運轉依靠的就是算力強大的量子計算機550 系列，而且基于Moss 形成的其他數字生命都是依靠數字生命卡這種硬件來完成的。架構師圖恒宇和女兒圖丫丫的數字生命的形成就是通過數字生命卡這一載體，把生命數據上傳到Moss后才得以生成的。未來世界中，高度智能化的數字生命尚且如此依賴于硬件而存活，更不必說在當下現實世界里硬件始終是數字生命最為依賴的基礎性條件。不論是圍棋高手AlphaGo，還是近來引發談論的ChatGPT 聊天機器人，抑或是基于生物合成技術產生的數字生命“辛西婭”等，背后都擁有計算機硬件的支持。因此，為了規避數字生命可能帶來的對現實的威脅，在進行數字生命設計的時候，需要在源頭方面設置阻斷性硬件?？梢哉f，阻斷性硬件是規避數字生命倫理風險的最強有力的手段。

其次，在軟件層面設置數字生命倫理監控程序。數字生命的智能體現在擁有自主意識和自主決策的能力，這種能力來自人給予它的復雜程序指令和運行邏輯，有時候甚至會表現出超越人的預見性和判斷力。正是由于這種超越人類的能力，一方面，它可以提升人在自然界和社會中的生存能力；另一方面，數字生命的這種超越性和自主決策存在著巨大的倫理隱憂?！读骼说厍?》中，Moss提前預知了木星引力危機并給出了解決危機的可能性辦法?！读骼说厍?》中，Moss更是展現出遠超越人的預見性和決策能力，最終在極端困境下解救了人類。但是，我們不得不為數字生命的倫理隱患感到擔心，一旦數字生命超出了程序的既有設定而走向人的對立面，其惡果是難以估量的。所以，在數字生命軟件層面設計之初就應該嵌入可供人類實時監控數字生命活動的程序，以規范數字生命的活動，并提供預防性手段。

再次，數字生命所依賴的運行邏輯應遵循算法正義。人與數字生命體一樣，運行過程都有軟件層面的支持，最重要的就是“算法”。數字生命有“機器算法”，而人遵循著“大腦算法”?！按竽X算法”是人獨有的，是人進行思考和行動遵循的一套邏輯，而且這種邏輯千變萬化，每一個個體都存在著差異，“這涉及很多不引人注意的、無法言傳的、潛意識的、轉瞬即逝的，卻又無法反駁的因素”⑥。正是由于人對自然與社會的改造力是有限的，所以才訴諸人工智能來提高人的創造能力，數字生命存在的意義就是為人類服務。但是，現實可能的情況是人的生活越來越依賴于“機器算法”，而逐漸放棄作為人本質的“大腦算法”，這使得人機關系中人的主體地位受到了威脅。我們應該基于“大腦算法”去審視數字生命給予我們的協助，即使數字生命的“機器算法”在很多方面超越了人類，我們也應該堅守這一點?！皺C器算法”應該遵循正義倫理，這種正義是基于人為主體的視角而言的，數字生命的自由應該在人的“正義”維度下運行。電影中的Moss在未經人授權的情況下自行決策，為人類選擇了真正意義上的生存之路，這一過程充滿著數字生命的倫理隱患，但正是由于設計之初Moss就是一個服務于人類公共利益的數字生命，才使得其自行決策仍然運行在人類社會的正義軌道上。

最后，放大數字生命的責任倫理，以人為主體考察責任倫理問題。電影《流浪地球2》中，圖恒宇在擅自上傳女兒圖丫丫的生命數據后被捕入獄，盡管Moss擁有高度智能，但突破人倫法律底線的行為仍然是由人主導的?！叭祟悘娜斯ぶ悄芗夹g中獲取了巨大利益，但人工智能技術可能會被別有用心者濫用，或者在某些領域呈現出人類無法預知，甚至無法管控的風險危機，這需要我們設置一個具有較高責任權重的倫理框架?！雹邤底稚紫仁侨嗽O計出來的，其以算法為核心的運行邏輯遵循的是設計者的“大腦算法”，數字生命即使擁有自主意識和超越算法的傾向，最根本的還是要歸結于人的倫理出發點和設計思路。數字生命和人的道德主體責任在學理上是一個充滿爭議的問題，但是在現實性上，仍然要把主體責任放在數字生命的設計者之上，這是有效規避數字生命倫理風險的可操作路徑。數字生命在數字世界擁有主體地位，在現實中也擁有相當程度的主體性特征，但是數字生命仍然不是本質上的道德智能生命體，只有人的道德主體性是現實的也是可控的。歸根結底，數字生命與人的關系是服務者與使用者的關系，人在面對數字生命的自主意識和決策力時是有著根本主導權的。此外，這里存在的問題是，對數字生命設計者的倫理規制存在著倫理差異和統一性問題。要想解決這個問題，現實且可行的辦法是擴大設計者的范圍和增加透明度，以形成廣泛的倫理共同體并接受公眾監督。無論如何，數字生命的倫理問題是人機沖突問題，我們必須對數字生命的倫理規制問題進行換位與放大，以人為道德主體進行倫理反思。

四、結語

數字生命在相當的程度上擁有人的生命特質，也具有人的主體性特征，但關于數字生命的主體性地位的問題至今仍處于爭議之中。但現實是，不論數字生命的主體性問題確證與否，它實實在在地已經給現實的社會秩序帶來了沖擊，數字生命存在倫理隱憂的事實是不可否認的。這就需要我們提前準備好應對人機倫理沖突問題的解決方案：一方面，賦予數字生命以倫理主體、法律主體的地位，提前對數字生命倫理進行預判與規制；另一方面，要從人自身出發，基于人的道德主體性研究數字生命的責任倫理問題，這是解決數字生命倫理隱憂的根本路徑。