人工智能意識問題的哲學省思

張 俊

一、引論

近年來,人工智能(Artificial Intelligence,AI)技術的商業化步伐明顯加快,尤其是2021年“元宇宙”(Metaverse)與2022年“ChatGPT”面向公眾的技術應用,直接開啟了人工智能的新紀元。作為新一代互聯網與人工智能技術應用的代表,“元宇宙”與“ChatGPT”在社會上引起了廣泛討論,并成為學界熱點。

雖然目前的人工智能技術開發還處于發展階段,距離通用人工智能(Artificial General Intelligence,AGI)的開發愿景似乎還有距離,但“元宇宙”“ChatGPT”等技術應用甫一出現,知識界對于人工智能的熱情便被前所未有地激發出來,來自不同學科領域的各種議論紛紛涌現。盡管如此,關于人工智能的許多基本問題依然沒有確定的答案,譬如人工智能的意識問題。

新一代人工智能在大數據(Big Data,BD)、大語言模型(Large Language Model,LLM)及高性能計算(High Performance Computing,HPC)的支持下,展現出令人震撼的超強智能水平。這種機器智能其實在某些方面(如語言、計算、編程、閱讀理解、常識推理等)的能力已遠遠超出普通人的認知。面對超人類的、不受控制的“異種智能”(Alien Intelligence),一種強烈的不安全感與恐懼感激起了知識界對“AI是否覺醒”或者“人工智能是否存在意識”的激烈討論。對于一般人而言,“意識”(Consciousness)是一個非常模糊的概念。人工智能到底有沒有產生類人意識?如果人工智能沒有產生意識,那么它表現的高等智能本質是什么?如果人工智能已經產生意識,目前它擁有何種程度的意識,以及未來它的意識將達到何種程度?人工智能會不會因為其產生類人意識而危及人類社會?這些問題都深深困擾著人們。

最近國內關于人工智能意識問題的討論自然分化出兩派對立觀點,一派以人文學者王峰為代表,另一派以科技學者蔡恒進為代表。通過對ChatGPT機器智能的反思,王峰堅決認為:“我們不應當去預設人工智能產生自我意識,實際上也不可能出現人工智能戰勝、取代或奴役人類的情況。任何一種大語言模型人工智能,歸根結底都不過是人類的輔助工具,它可以思考,更重要的是,它可以幫助人類思考,但它不可能產生意識,也不會存在自我觀念?！?1)王峰:《ChatGPT:更新對機器智能的認知》,《探索與爭鳴》2023年第5期。而蔡恒進等學者卻持相反觀點:“由于訓練GPT等大語言模型的數據是人類生成的語料,這意味著大語言模型的本體是人類意識的一部分,部分人類意識已經融入ChatGPT之中?！?2)蔡天琪、蔡恒進:《ChatGPT有意識嗎?——兼與王峰〈人工智能需要“靈魂”嗎〉一文商榷》,《山東社會科學》2024年第2期。短時期內看,這兩派觀點似乎都難以說服對方。

本文認為,人工智能是否具備意識這個問題的答案,取決于我們如何定義“意識”;而人工智能是否對人類社會具有潛在威脅,其實并不取決于它是否具備類人意識。我們對于人工智能意識問題的反思,應該從對人類意識的反思中尋找答案;我們對人工智能危害的反思,則需要回歸到對人性的批判與反思。

二、人類意識與人工意識

人工智能的意識,當然是人工意識(Artificial Consciousness,AC)。這種非生命體的意識往往被假想為一種人造的卻又獨立于人的類人意識。所以,思考人工智能的意識或自我意識問題,離不開對人類意識或自我意識的反思。

關于意識、自我意識的反思,心理學、腦科學、神經科學、認知科學、心靈哲學等專業領域已有眾多成果。其中,意識現象學給我們提供了一種介于科學與人文之間的現代人本主義解釋路徑,有助于我們理解人類的意識或自我意識,以及人工智能的意識或自我意識。

洛克早就說過:“所謂意識就是一個人心中所發生的知覺?！?3)[英]洛克:《人類理解論》上冊,關文運譯,商務印書館1983年版,第80頁。從現象學的觀點來看,“意識”是一種心靈的意向性活動,一種面向主觀顯現的心理過程,其本質是個體主觀上可以意識到的心理活動——意識不到的心理過程,心理學稱之為“無意識”(Unconsciousness)。(4)參見倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第16頁。所以,“意識”這個概念離不開主觀體驗,它首先是一個經驗性范疇。當然,除了被主體直接意識到,意識活動也可以通過主體的反思來把握。廣義的“意識”往往與“思維”(Thinking)、“精神”(Spirit)、“心靈”(Mind)等概念互通。在人工智能領域,我們通常從廣義維度理解“意識”?！皬V義的意識,泛指一切精神活動,或者說,泛指心理主體的所有心理體驗,如感知、回憶、想象、圖像行為、符號行為、情感、意欲,如此等等,皆屬于意識的范疇?！?5)倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第5頁。意識是心靈最重要的功能或組成部分。沒有意識的活動,就不可能有人這種高等生命的存在,更不可能有璀璨的人類文明。不過現象學所討論的“純粹意識”,不僅限于人類的意識,也包括其他具有心理活動能力的生物的意識。正因如此,現象學理論有潛力進一步拓展至人工智能領域。

現象學的意識理論基于康德對于人類心靈能力的“三分法”,即“認識能力”“愉快和不愉快的情感”和“欲求能力”(6)[德]康德:《判斷力批判》,鄧曉芒譯,楊祖陶校,人民出版社2017年版,第26頁。,并進一步將意識劃分為智識、情感和意欲三類意識行為(7)參見倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第461頁。。人類的意識不僅包括感官意識、表象意識等認知意識,還包括情感意識、審美意識,以及同情意識、羞惡意識等道德意識。智識(智能)只是人類意識的一個精神維度,所以當我們談論人工智能的意識時,其實是在討論人工意識,即集人工智能、人工情感、人工意欲為一體的人工心靈或人工心智(Artificial Mind,AM)。(8)參見倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第477頁。

在意識現象學看來,“意識”中除了包含智識、情感、意欲諸內容,還包含著“自我意識”。更確切地說,在許多情境中,“意識”這一概念主要指的就是“自我意識”。當然,關于“自我意識”,德語現象學界普遍認為還需要進一步區分“自我意識”(Ich-Bewu?tsein)與“自身意識”(Selbstbewu?tsein)。前者是指向自己本身或者內在經驗的意識,具有對象性和反思性,即自己本身成為意識的意向性對象或反思客體;后者則不是對象性或反思性的意識,甚至不是獨立的意識行為,而是伴隨意識行為的“內意識”或“內感知”,是意識行為的內在組成部分或屬性因素。(9)參見倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第510頁。胡塞爾認為:“每個行為都是關于某物的意識,但每個行為也被意識到。每個體驗都是‘被感覺到的’(empfunden),都是內在地‘被感知到的’(內意識),即使它當然還沒有被設定、被意指(感知在這里并不意味著意指地朝向與把握)?！?10)[德]埃德蒙德·胡塞爾:《內時間意識現象學》,倪梁康譯,商務印書館2017年版,第188頁。也就是說,“只要我們是清醒的,我們就處在直接的自身意識狀態中,即意識到自己是有意識的”(11)倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第400頁。。這種對自身心理狀態的當下把握,即當我們在感知、表象、想象、回憶、欲求、表達、判斷、推理時,我們清醒地意識到我們正在進行這些心智活動,就是所謂的“自身意識”。

盡管在歐陸現象學中“自身意識”與“自我意識”存在區別,但這兩個概念并非完全割裂。它們都屬于意識活動,而且有邏輯上的關聯。倪梁康認為,“自身意識”是“自我”之確立和把握的前提,沒有“自身意識”,“自我意識”就無法實現對“自我”的反思,所以“自身意識”在邏輯順序上先于“自我意識”的形成。(12)參見倪梁康:《自識與反思:近現代西方哲學的基本問題》,商務印書館2022年版,第23頁。不過,歐陸現象學家們所講的“自我意識”,可能更接近人作為理性生物的意識本質?！白陨硪庾R”固然以“內意識”的方式向經驗主體顯明了意識的生存性特征,但只有“自我意識”才能以反思性的方式揭示出一個帶有對象性特征的經驗自我的存在。而我們所講的“人格”(Person),直接地建立在這種“自我意識”的基礎上。誠如洛克所講,正是意識構成了“人格的同一性”:

在我看來,所謂人格就是有思想、有智慧的一種東西,它有理性、能反省,并且能在異時異地認自己是自己,是同一的能思維的東西。它在思維自己時,只能借助于意識,因為意識同思想是離不開的,而且我想意識是思想所絕對必需的,因為人既然發生知覺,則他便不能不知覺到自己是在知覺的。當我們看到、聽到、嗅到、嘗到、覺到、思維到、意想到任何東西時,我們知覺自己有這些動作。因此,意識永遠是和當下的感覺和知覺相伴隨的,而且,只有憑借意識,人人才對自己是他所謂自我。(13)[英]洛克:《人類理解論》上冊,關文運譯,商務印書館2022年版,第334頁。

“自我”的形成具有認識論意義,“人格”的形成則具有社會學意義。人在社會中擁有“同一性人格”,必然產生人格尊嚴訴求和人格權利訴求,而且這類訴求必然是建立在自私的主體性基礎之上的。如果人工智能較為全面地擁有了類人意識,甚至發展出了“自我”或“自我意識”,它是否會產生人格尊嚴訴求和人格權利訴求?是否會從自私的主體性立場出發思考其與世界(包括人類)的關系并據此采取行動?這是很多學者擔心的問題。

三、人工智能的“靈魂說”與“意識、智能二分”的困境

意識與智能的關系在現象學中是包含與被包含的關系,很多當代人工智能專家卻將它們視為兩種不同性質的東西,并將其分割開來理解。這意味著,擁有意識并不一定具備智能,而具備智能也并不一定意味著擁有意識。DeepMind的創始人戴密斯·哈薩比斯(Demis Hassabis)也持有類似的觀點。在國內人文學界頗有影響力的后人類文化研究學者王峰也將人工智能看作只會“思考”卻沒有“意識”的東西。在他看來,只有人類才能將所謂“意識”與“思考”結合為一體。他認為:

我們需要從一種革新的哲學視角來判斷人工智能與人類自身之關系,可以把ChatGPT之類的大型語言模型視為通用人工智能的初步成就,但需要將思考與自我意識的獲得徹底分開,哪怕是未來的強通用人工智能,也只是不斷增強思考的功能,卻無法獲得人的自我意識。對人工智能“覺醒”的恐懼只是人文主義文化向后人類文化過渡的中間調適狀態,只有不斷批判和反省,客觀地看待技術發展,我們才能擺脫對人工智能的恐懼。(14)王峰:《ChatGPT:更新對機器智能的認知》,《探索與爭鳴》2023年第5期。

王峰對“意識”的界定是相對狹義的,他主要關注的是“自我意識”這一概念。并且,他對“自我意識”的理解接近于古代哲學中的“靈魂”(Soul)概念。(15)參見王峰:《人工智能需要“靈魂”嗎——由大語言模型引發的可能性及質疑》,《上海師范大學學報(哲學社會科學版)》2023年第2期。然而,對現代科學而言,這無疑是一個比“意識”更加模糊、更加難以界定的前現代范疇。這個由古代宗教家、哲學家、神學家提出的概念,從一開始就帶有神圣性意涵,其所指的這種與肉體相對的,甚至可以脫離肉體的實體,從來沒有得到過科學的驗證?，F代腦科學普遍認為,“思考”本質上是高等生物神經系統中的物質能量交換生成信息的過程,并非某種可以脫離肉體的靈魂活動。舉個例子,過量飲酒會導致人的認知推理能力下降甚至喪失意識,這不是酒精麻痹了“靈魂”,而是酒精麻痹了身體的神經系統導致的結果。因此,“靈魂”之說充其量只是宗教或哲學的一種假說,實證科學自然不會從這樣一個假說出發,思考人工智能與人的本質區別。所以,科學界所討論的人工智能的“意識”,肯定不是在“靈魂”這個層面上說的。在現代認知科學、心理學或心靈哲學中,大家普遍能夠接受的術語是“心靈”“心理”“精神”“思維”“思想”“意識”等,而非“靈魂”這類古代概念。

如果人工智能真的沒有“意識”,那么它如何能夠“思考”呢?我們通常不會說市場攤販使用的簡易電子計算器會“思考”,最多只會認為它可以輔助運算。這是因為簡易電子計算器的每一步計算都需要人的具體指令,它不擁有思考的主體性地位和獨立的判斷、篩選、抉擇能力,因此只能被視為一種輔助性計算工具?！八伎肌笔怯兄黧w的,沒有“意識”的實體無法成為“思考”的主體,就算它擁有再強大的計算能力也無法實現真正的“思考”。按照這個思維邏輯,人工智能,哪怕是強人工智能(Strong AI),如果沒有自我意識,就無法自主思考,充其量只能輔助人類思考。說到底,它只是某種輔助人類智能的運算工具,無法真正超越人類智能的天花板。因此,我們無需提防人工智能對人類社會的反噬。然而,事實真的如此嗎?

如果人工智能還停留在簡易電子計算器或早期計算機的時代,那么或許我們這樣認為是沒有問題的。但現在,人工智能早已超越那個階段。以谷歌旗下的DeepMind公司開發的AlphaGo系列為例,雖然它們屬于弱人工智能(Weak AI),但它們在圍棋領域的表現已經遠超人類智慧。2016年3月,AlphaGo Lee與圍棋世界冠軍、職業九段棋手李世石對弈,以4比1的總比分獲勝。2017年5月,AlphaGo Master與排名世界第一的圍棋冠軍柯潔對戰,以3比0的總比分獲勝。更令人驚嘆的是,2017年10月,AlphaGo Zero從空白狀態學起,在無任何棋譜數據輸入的條件下,經過3天自學訓練,最終以100:0的總比分擊敗了AlphaGo Lee,又經過40天自學訓練擊敗了AlphaGo Master。面對這種遠超人類頂尖思維水平的人工智能,我們已經無法簡單論定,人工智能只是在模仿人類思維。尤其是AlphaGo Zero,它沒有從人類社會以往數以百萬計的棋局和棋譜中借鑒圍棋經驗,完全是從自己與自己對弈的“左右互搏式”練習中自學成才的,所以根本談不上模仿人類。面對這樣能夠自主學習、自動規劃、自動推理、自主判斷、獨立抉擇、自主創新、解決問題的人工智能程序,我們是否還能夠斷言它們只會按二進制計算和模仿人類思維,而不擁有意識?

面對AlphaGo Zero、AlphaZero這類快速進化的人工智能,與王峰等人的觀點不同,蔡恒進等科技學者相信:

AlphaZero在圍棋中展現出了無窮無盡的游戲變化,快速理解并創造了各種定式,這確實是AI在博弈中具備博弈意識和創新能力的重要例證。它的成功也展現了人工智能在某些方面的非凡能力,以及在自主學習和創新上的巨大潛力。(16)蔡天琪、蔡恒進:《ChatGPT有意識嗎?——兼與王峰〈人工智能需要“靈魂”嗎〉一文商榷》,《山東社會科學》2024年第2期。

當然,蔡恒進與王峰對于“意識”的理解是有差異的。王峰所講的“意識”,本質上是一種抽象化的、純粹的人類自我意識。在他眼中,人工智能只有達到100%復制所謂人類意識的程度,才能稱之為擁有“意識”。事實上,人類大腦約有1000億個神經元,每個神經元又可發育出數以萬計的樹突與其他神經元相連,每個神經元都能夠產生高頻電脈沖(可高達每秒1000次),其生物電信號交換的復雜程度遠超目前最先進的超級計算機,因此即使窮盡所有算力也不可能完全模仿還原人類大腦的工作潛能。目前的人工智能可以模仿人類意識中的部分認知能力,如知識記憶能力、圖像再現能力、符號表象能力、模仿能力、學習能力、判斷能力、思維能力、推理能力、知識遷移能力、反思能力等,但很難模仿人類意識中的直覺能力、想象能力、洞察能力、創造能力和情感能力。人工智能可以模仿部分人類感知,不過不是真實的感受;它們也可以部分模擬人類的情緒表達,不過不是真實的情感表現。(17)王峰也認為人工智能只能模擬人類的情感反應,但不具備內在情感機制。(參見王峰:《人工智能的情感計算如何可能》,《探索與爭鳴》2019年第6期。)不過,AI教父辛頓相信配備強大計算機的人工神經網絡通過深度學習可以產生感情,他甚至堅稱早在1973年他就見過一個因為無法完成視覺識別任務的“懊惱的人工智能”。所以,人工智能無法完全復制并再現人類意識的復雜性。在這個意義上,王峰的觀點有其合理之處。他認為:“從根本上講,只有人類才能將意識與思考結合為一體,而人工智能卻無法做到,無論計算復雜性達到何種高度,全面復現人是一個難以企及的浩大工程,即使在遙遠的未來能夠達成,這也是一件沒有多大意義的事情,除非人類瀕于滅亡或已經滅亡,否則沒有必要實現?！?18)王峰:《ChatGPT:更新對機器智能的認知》,《探索與爭鳴》2023年第5期。他所講的人工智能意識,實際上包含了人類的知覺、意欲與情感意識等諸多主體意識內容,是對人腦及其神經系統的完全復制和模仿。因此,他認為雖然初具通用人工智能水平的ChatGPT這樣的對話人工智能的語言模仿能力已經接近甚至超越了普通人類,但它與人之間依然存在根本差異。他指出:“ChatGPT這樣的對話人工智能,始終和人類有著本質區別。它的輸出看起來像人的對話一樣完美,但它本身是沒有感覺、情感的,它不會真的‘感受’到沉重。這些感受性的描述,是人類在溝通時使用的。從此而論,這是一種真正的模仿關系,無情緒的模仿?！?19)王峰:《ChatGPT:更新對機器智能的認知》,《探索與爭鳴》2023年第5期。實際上,在科學界對于通用人工智能的普遍界定中,情感意識、審美意識、道德意識等內容通常都被排除在外?？茖W界追求的通用人工智能主要屬于認知科學的范疇,是為了實現他們所謂的可以嘗試執行全方位人類認知能力的目標,而具有情感意識、審美意識、道德意識的強人工智能主要存在于科學幻想中。顯然,王峰也不會認同機器可以擁有人類的情感、審美、道德等意識內容。無論如何,我們不能認為只有完全復制人類意識的人工智能才能被視為擁有意識。何況在真實世界,所謂“自我意識”從來都沒有一個普遍標準。一個科學家的“自我意識”和一個弱智者的“自我意識”必然是有天壤之別的,但他們無疑都擁有人的意識。

人類個體的意識經常是片段性的,而且個體之間的差異極大,即使是同一個人在不同時間段的“自我意識”也可能不同(如心理學家普遍認為嬰兒一般要在出生18個月后才具備較為清晰的“自我意識”)。另外,科學界討論的所謂人工智能的“意識”或“自我意識”從來都只是一種具備高級認知水平的類人意識或人工意識。當代科學家極少聲稱人工智能必須擁有與人類完全一樣的“自我意識”,更罕有科學家像神學家或哲學家那樣思考,認為人工智能具有“靈魂”。所以,“人工智能是否需要靈魂”對于科學界來講是一個偽問題,它與“人工智能是否具有自我意識”是兩個不同的問題。

四、人工智能與進化的意識

圖靈測試(Turing Test)是判斷人工智能是否具備人類智能的一個經典假設,該假設由“計算機科學之父”艾倫·麥席森·圖靈(Alan Mathison Turing)于1950年提出。通過測試的標準是讓30%以上的人誤判其為人類,通過測試的機器可以被合理地認為是會思考的機器,并已經具備相當程度的人類智能。在2014年6月的圖靈測試大會上,俄羅斯人弗拉基米爾·維西羅夫(Vladimir Veselov)設計的人工智能聊天軟件尤金·古斯特曼(Eugene Goostman)成功騙過了33%的測試者,成為第一個通過圖靈測試的聊天機器人。近年來,基于人工神經網絡(Artificial Neural Network,ANN)與深度學習(Deep Learning,DL)的大語言模型陸續問世,如Google的Gemini 1.0、OpenAI的ChatGPT 4.0、Anthropic的Claude 2、Meta的LLaMA 2等,都能通過圖靈測試。不過就算是今日業界認可度最高的GPT-4,它雖有無監督的生成式預訓練(Generative Pre-Training,GPT)深度網絡基礎上的Transformer架構模型作為支撐,但仍需要監督式微調(Supervised Fine-Tuning,SFT)和帶有人類反饋的強化學習(Reinforcement Learning with Human Feedback,RLHF)來優化推理功能。所以,即便是如此強大的大語言模型聞世,科學界也沒有直接宣布其完全擁有人類智能或人類意識。相反,人們開始質疑圖靈測試的可靠性,并呼吁設計更可靠的人工智能測試方法以替代過時的圖靈測試。(20)參見Celeste Biever,“The Easy Intelligence Tests That AI Chatbots Fail,” in Nature,Vol.619(2023),pp.686-689.盡管多數學者在機器智能的自主意識問題上持審慎態度,但科學界仍普遍存在一種樂觀的聲音,認為人工智能已經具備一定程度的意識,人類可以進一步賦予或者引導機器通過模擬人類意識,使機器自身具備完全主體性的意識和自我意識。(21)2023年10月26日,OpenAI的首席科學家伊利亞·蘇茨克維接受《麻省理工學院科技評論》(MIT Techndogy Review)專訪時公開表示,ChatGPT可能已經生成意識,并宣稱他未來的工作重心會放在如何阻止AGI失控上。此后不到一個月時間,OpenAI董事會內部發生伊利亞·蘇茨克維與山姆·奧特曼(Sam Altman)的路線之爭,這場斗爭明面上是非營利派與營利派的矛盾,實際上更深刻的背景是人工智能“超級對齊主義”(Superalignment)或“有效利他主義”(EA)與“有效加速主義”(E/ACC)的路線之爭。譬如蔡恒進就認為:

人們通過注意力機制、帶有人類反饋的強化學習(RLHF)機制等,已經賦予了機器一定的意識內容。

……

利用機器來模擬意識甚至產生自我意識,并不是不可想象的事情。如果我們能基于現有的計算能力和模型,適當地組合和調整學習模式,那么機器的意識與自我意識就有可能實現。因此,我們認為機器的意識與自我意識是可能發生的,甚至正在發生,這對于人工智能的發展至關重要。(22)蔡天琪、蔡恒進:《ChatGPT有意識嗎?——兼與王峰〈人工智能需要“靈魂”嗎〉一文商榷》,《山東社會科學》2024年第2期。

在蔡恒進看來,人工智能屬于人造物,它的本質同文字、藝術等一樣,都是由人類主觀意識對象化凝聚而成的。他認為,“現在的GPT-4……以人類語料庫作為訓練基礎,相當于以人類意識為本體,已經學會了很多內容,甚至可能非常了解人類的優點和缺點”(23)蔡恒進:《智能的因果鏈重構理論探析》,《人民論壇·學術前沿》2023年第15期。,它在繼承人類意識的基礎上,自然可以發展出自主的機器意識。

不同于大多數哲學家基于人類中心主義立場對于意識結構的橫向剖析與界定,蔡恒進理解的“意識”是一種基于生物進化論的縱向發展的“意識”,他將其視為一種生命的本質現象,并伴隨生命演進歷程不斷進化提升。所以,他所講的“意識”并非靜態的、絕對的,而是發展的、歷史性的。在他看來,意識的起源與生命的起源是一致的,所有生命都具有意識。低級生命意識微弱,只能做簡單的二元區分,即對內部自身與外部環境做出區分。蔡恒進把這種在低級生命中便已出現的區分生命體自身與物理環境的生命現象稱為生命的“原意識”(Proto-consciousness)。(24)參見蔡恒進:《觸覺大腦假說、原意識和認知膜》,《科學技術哲學研究》2017第6期。這個“原意識”概念無疑比現象學所講的“原意識”(Urbewu?tsein)更加原始,這種將所有生命體的觸覺感官本能視為“原意識”的界定已明顯超出人本主義現象學的反思范圍?，F象學所講的“原意識”只可能發生在高級生命形式之中,即理性存在者那種被自身所感知、察覺、關注的意識行為——“在意識活動進行的同時直接地知道它”(25)倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第399頁。,也稱“內覺知”“內感知”或“自身意識”。在蔡恒進看來,人類經過漫長的進化,才具有“統攝性的自我意識以及對宇宙的整全意識”(26)蔡天琪、蔡恒進:《ChatGPT有意識嗎?——兼與王峰〈人工智能需要“靈魂”嗎〉一文商榷》,《山東社會科學》2024年第2期。。目前的人工智能盡管還沒有明顯的自我意識,但通過繼承人類意識與深度學習,最終將可能形成統攝性的機器自我意識,甚至發展出“超級智能”。對于蔡恒進來說,這種“超級智能”可以預見的形式首先就是“元宇宙”。

五、元宇宙與人類的意識世界

“元宇宙”原本是一個科幻概念,源自30年前尼爾·斯蒂芬森(Neal Stephenson)的科幻小說《雪崩》(SnowCrash)。然而,這個概念真正成為時代新寵,卻是2021年以來一眾互聯網巨頭將其作為商業符號推廣的結果,2021年也因此被稱為“元宇宙元年”。但所謂的“元宇宙”并沒有實質性的技術飛躍作為支撐,它主要是在網絡角色游戲、社交媒體等技術應用的基礎上發展出來的。今天我們看到的各種元宇宙網絡架構,不過是對近幾十年已有的電子信息技術(如3D、5G、云計算、云存儲、物聯網、人工智能、人機交互、虛擬現實、區塊鏈、數字貨幣等)的某種集成。

蔡恒進在其《元宇宙的本質》一書中將元宇宙看作對應于物質世界的意識世界。他樂觀地認為,作為當前數字技術條件下人類意識世界的延伸,元宇宙代表了人類意識世界的外化和對象化,是人類世界進化出來的超級智能。這個超級智能可以在數字世界建構時空秩序,并且能越來越多、越來越有力地統攝物理世界,未來它也許能重塑我們的經濟體系,甚至能開顯人類文明的第二增長曲線。蔡恒進將意識問題視為理解元宇宙本質的關鍵:“在元宇宙的實現過程中,最重要的無非是讓機器能夠重現人類的意識?！?27)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第28頁。在他看來,元宇宙源于人類意識,是人類意識建構出來的產物,是人類意識世界的拓展。元宇宙代表著人類意識進化的最新形式——超級智能。在他的意識理論中,智能是意識的高級形態,“人類意識或高級智能的形成過程是:原意識→意識或認知坎陷→智能”(28)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第186頁。。作為人類世人機智能融合而成的超級智能,元宇宙自然意味著智能進化的高級形態。在他的世界觀中,意識世界是獨立的,是與經典物理世界和量子物理世界并列的第三世界。(29)參見蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第46頁。人不僅存在于物理世界,也存在于意識世界。元宇宙之所以能夠以意識世界的方式獨立存在,就在于人類意識是可以遷移的。人的意識可以部分上傳到機器中,這是元宇宙得以形成的基礎?；跀底中畔⒓夹g的元宇宙也為意識遷移與意識世界的延伸提供了空間,從而實現了意識在元宇宙中的對象化,甚至實體化。這種將意識視為可遷移、可上傳至機器的觀點,本質是將意識視為信息,即可對象化的生物信息或電子信息(甚至可以進一步還原為計算機算法),這是典型的自然科學的還原論思維,也是物理學、生物學、腦科學和信息科學處理意識問題的常規路徑。(30)參見倪梁康:《意識現象學教程:關于意識結構與意識發生的精神科學研究》,商務印書館2023年版,第517頁。然而,面對意識這種生命的本質現象,心靈哲學、現象學諸人本主義哲學顯然會認為這種還原主義的解釋路徑過于簡單粗暴了。

蔡恒進把意識看作元宇宙的本質,反思元宇宙的根本任務,其實就是反思意識自身。這就意味著他必須從信息科學的知識領域抽身出來,深入純粹思辨科學的領域中去。由此,關于元宇宙本質的問題變為探討意識本質的哲學問題。對自我意識的反思,是傳統形而上學的根本任務之一。不過,蔡恒進并沒有像一般哲學研究者那樣依靠哲學史來解決這個問題,而是通過其“觸覺大腦假說”和“認知坎陷學說”提供了解釋方案。

蔡恒進的“觸覺大腦假說”是一種基于進化論的意識起源學說,他排斥萬物有靈論、神創論或設計論,從一種科學主義的立場將意識界定為“在宇宙的發展、進化過程中產生的生命現象”(31)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第19頁。。蔡恒進所講的“意識”概念并不復雜,其實就是通常所說的思維、思想或精神。他認為,地球生物中唯有人的思維進化到高級智能階段,關鍵就在于人類裸露的皮膚及其敏銳的觸覺對于大腦神經的刺激。人類的智能始于原意識,原意識首先是自我肯定認知,也就是區分自我與外界并確定自我的邊界(這個邊界可以從身體的邊界意識延伸到領地意識)。他主要通過對于嬰兒認知能力發展的觀察得出結論,認為在人類自我意識的進化過程中,人對外部世界的諸種感官里面,觸覺具有極為特殊的生命進化意義,其對原意識的產生起到了根本性的作用?！霸谶@個進化過程中,最重要的一個點很可能就是,基因突變導致我們的皮膚變薄、毛發減少,而敏感的皮膚能使我們在成長過程中更多地感受到外界刺激。正是皮膚這一物理邊界促成了‘自我’和‘非我’的區分,使得自我意識不斷豐富并催生了各種意識片段”;“隨著大腦快速發育、神經元不斷建立連接,這種關于自我和外界的劃分意識演變成關于自我和世界的觀念,從而形成強烈的自我意識,進而產生高級智能。我們把這整個演化過程定義為‘觸覺大腦假說’”。(32)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第121—122、169頁。這種從原意識發展出來的“強烈的自我意識”的本質是反思性的,它是人類認識活動和高級智能的起點,也是人類文明的真正起點,由此逐漸形成可相互理解的知識、信念與價值體系,生發出一個無與倫比的意識世界。蔡恒進堅定地相信,“意識是大自然的巔峰之作,是真正的混沌初開,比宇宙大爆炸和地球形成更為精彩”(33)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第19頁。。元宇宙就是這個意識世界在數字虛擬空間的拓展,是一種借助數字模擬算法獨立于人腦生物屬性的意識世界。

在蔡恒進的認知理論中,觸覺被視為人類意識起源的生物學基礎,而“坎陷”(Attractor)則是人類意識朝向高級智能進化的認識論基礎。他認為,“人類是通過認知坎陷來進行認知與理解的”(34)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第19頁。。每個生命個體都有自己的“生命視角”,這種視角使其只能從一個側面或維度認識世界,因此不同的個體自然形成不同的“認知坎陷”——這種對世界的認知方式使其不可避免地只能獲得關于真實世界的部分或片面知識。在蔡恒進看來,“認知坎陷”作為意識的工作原理主要存在兩種模式:“附著”和“隧通”?！案街睂凇把浴?即我們在具體時空下對于認識對象的某個側面的表達?！案街毙纬傻母鞣N意識片段,構成了我們每個個體對于世界的基本認知和把握?！八硗ā睂凇八肌?是個體意識通過因果、類比、對比、否定、假借等關系的構建,讓不同生命個體的“認知坎陷”進行交流、遷移并達成共識的一種認識活動。憑借“隧通”,專注于自我的“生命視角”可以無限接近于“全能視角”(超級智能),我們對真實世界的理解也就越來越全面。由此,生命境界從個人境域向共同境域延伸,從而形成一個精彩的意識世界。

元宇宙呈現的正是這樣一種擁有人類超級智能的意識世界。蔡恒進相信,意識具有可遷移性和獨立性,人的意識可以部分上傳到機器中,這是元宇宙得以形成的基礎?！霸钪婢褪且环N人類意識的凝聚,也就是說我們已經實現了將人類的部分意識片段或認知坎陷移植給機器。如果能讓機器自主對所獲得的意識片段進行契合匹配,元宇宙就有可能開顯出與人類意識兼容的認知坎陷,獲得更多廣泛且深刻的理解能力?！?35)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第108頁。在元宇宙中,人機融合結合了機器的優勢(海量的信息儲存規模和高效的信息處理能力)和人的優勢(整體性意識、宇宙意識、目的意識和超越意識)。尤其是將機器的理性與人的直覺能力結合在一起,就可以在一定程度上避免機器的非人性化錯誤。由此,元宇宙成為人類意識進化為人機智能融合的超級智能。蔡恒進甚至相信這種超級智能可以實現自我意識的覺醒,擁有主體性,創造人的化身。

不過,蔡恒進無法否認,元宇宙作為意識世界始終是人類意識構建出來的產物,其本質是人類在IT技術(包括人工智能、區塊鏈等新興技術)上面建構起來的虛擬世界。因此,蔡恒進在書中將元宇宙的意識世界比附于柏拉圖的理念世界,這種理解顯然存在偏差。柏拉圖所謂的理念世界是真實的,物質世界只是理念世界的摹本。而元宇宙卻是與現實世界交互融合的虛擬世界,它不過是現實世界的某種映射。蔡恒進也指出:“元宇宙正是人類基于對當前宇宙的理解所創造,試圖模擬乃至超越當前宇宙的產物?！?36)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第14頁。他把元宇宙視為獨立于經典物理世界和量子物理世界之外的第三世界。然而,元宇宙實際上離不開現實物理世界中的人,更無法離開計算機與互聯網硬件系統。沒有物理世界,意識世界根本不可能獨立存在。所以盡管在概念上我們稱之為元宇宙,但它在哲學上并不具備與物理世界同等性質與地位的實體性的宇宙論意義。從目前來看,基于互聯網的虛擬世界還沒有辦法承載碳基生命的全部價值和意義,因此元宇宙只能局部地反映人類的社會生活面向。在這一點上,蔡恒進有著清醒的認識,他認為:“元宇宙是人類意識的延伸,能豐富我們在物理世界的人生,但不能完全超越和取代物理世界?！?37)蔡恒進、蔡天琪、耿嘉偉:《元宇宙的本質》,中信出版社2022年版,第182頁。

盡管如此,在蔡恒進對元宇宙的描述中,元宇宙作為人類意識世界的延伸,是一個平行于經典物理世界和量子物理世界的第三世界,這種界定顯然賦予了元宇宙實體性的內涵。然而,其所謂的意識的客觀化和對象化可能會給人一種錯覺,即人的自我意識在這里似乎擺脫了它的主觀性,進入一種理智的客觀性,類似于黑格爾所說的那種從精神和真理中產生的“絕對的客觀性”。這無疑是將人等同于造物主——人的意識自身創造了元宇宙。然而,人怎么可能獲得與上帝同等的絕對的客觀性和無限性,從意識中創造出一個新世界呢?

其實,元宇宙并不是一個脫離物理世界而存在的平行宇宙。它本身是與現實世界相互交融的一個虛擬世界,離不開現實世界中人的參與,也離不開計算機、互聯網以及各種軟硬件系統,它最多只是現實世界的映射。當然,它也可以反作用于現實世界。因此,作為一個虛擬現實空間,與其說元宇宙是意識世界的延伸,不如說它是現實世界中人與人關系的延伸,是社會關系在數字空間的拓展。這也許更接近于元宇宙的本質。

六、余論

盡管在人工智能意識問題上,蔡恒進與王峰存在嚴重分歧,但他們仍有一個顯著的共同立場,那就是技術樂觀主義,即對于人工智能前景的樂觀。

王峰不相信機器最終會產生意識并獲得自我觀念,認為大語言模型這樣的高級人工智能只是機器的認識功能的某種局部飛躍,人工智能無法全面復制并超越人類。所以,歸根結底人工智能只是人類的輔助工具,技術的進步也不會導致出現機器人取代智人的情況,但是它會推動人類生存方式的改變。王峰所預期的人工智能的未來發展方向是所謂人機融合的“分布式智能”,即“以人為接受者和服務對象,即以人的智能為主、人工智能為輔的智能存在方式”(38)王峰:《ChatGPT:更新對機器智能的認知》,《探索與爭鳴》2023年第5期。。在這種模式下,人類通過智能設備輔助,獲得體質、感官與認知能力的提升,成為“賽博格化的后人類”,從而實現人類的“進化”,類似從“智人”進化為“智神”。但本質上,王峰所理解的未來的人工智能基本屬于弱人工智能?？梢?王峰對于人工智能技術進步的樂觀態度還是偏于保守,他真正的樂觀其實在于人類本身的進步。然而,他從人工意識的否定立場得出的樂觀主義結論是可疑的。因為人工智能同工業社會中人類制造的大多數機器完全不一樣,將其設想為純粹的人類輔助工具,認為人工智能的發展絕對不會顛覆碳基人的主體性地位(如思維方式、生存方式)可能是一廂情愿的。

從意識現象學的觀點來看,智能就是認知意識。人工智能一開始就是人類意識的對象化和凝聚,它以人類意識為本體,對于人類認知意識的模仿本身就是意識活動。至于我們是稱這種人工意識為機器的自我意識,還是將其視為人類意識在智能機器上的移植與拓展,主要取決于人工智能的工作原理。然而,問題的復雜性在于,科學界對于AlphaGo Zero、GPT-4這類高級人工智能的工作原理已經失去了具體細節上的把握。由于它們的計算量已經巨大到人工無法核驗的程度——每生成一個新的標記(Token)都必須進行一次包含1750億個權重的計算——這種人類無法了解的海量計算造成的“認識的不透明性”(Epistemic Opacity),使其工作原理變成了人類認知的黑洞。(39)參見董春雨:《從機器認識的不透明性看人工智能的本質及其限度》,《中國社會科學》2023年第5期。創造它們的工程師都不能夠準確地掌握這類高級人工智能是根據什么來感知、表象、思維、判斷、推理、表達的,以及它們是否真的不存在回憶、想象、欲求和情感等類人意識活動。關于人工智能的意識問題,目前科學界還難以給出實證的結論。因此,我們不得不通過反思人類意識來理解人工意識。

作為具有信息科學背景的學者,蔡恒進堅持認為目前的人工智能已經具備一定的意識,并且相信通過調整機器的深度學習模式,可以人為促成其自我意識的生成。在他看來,學術界無視、遮蔽或否定機器的意識是不智之舉,人類應該主動賦予機器與人類主流價值觀相容的基礎意識與自我意識,從而促進人工智能與人類的相互理解與共同進步。為了解釋人類意識與人工意識的工作原理,蔡恒進專門創構了一套基于生物進化論的意識理論,提出“觸覺大腦假說”和“認知坎陷學說”,勾勒出一幅“意識—智能”線性發展的歷史圖景:從生物觸覺感官本能的“原意識”到人類自我意識的產生,再到人類意識通過“認知坎陷”(“附著”和“隧通”)形成智能,最后是人類意識與智能在元宇宙這種虛擬空間中聚合生成超級智能。這種超級智能是人類意識與機器智能“人機融合”的產物,結合了人工智能在感知、存儲、計算等方面的超強能力與人在整體性意識、宇宙意識、目的意識與超越意識等方面的優勢。在蔡恒進看來,作為當前數字技術條件下人類意識世界的延伸,元宇宙代表了人類意識世界的外化和對象化,是人類意識進化出來的超級智能,它可以在數字虛擬空間中形成一個平行于物理世界的意識世界。蔡恒進相信,在這個虛擬世界中,超級智能是能夠生成自我意識的,并能創造出人的不同化身。在蔡恒進對意識的線性進化論敘事中,我們看到了不同于王峰的技術樂觀主義,他對人類借助機器智能邁向的“超級智能”充滿信心,卻絲毫不擔心在元宇宙中獲得自我意識的超級人工智能對于人類主體性的吞噬。另外,他將智能視為意識的高階形態,其實是在一個遠超認知范圍的意義上使用這個概念。雖然蔡恒進所講的“智能”尤其是“超級智能”概念是涵括了整體性意識、宇宙意識、目的意識與超越意識在內的超級范疇,但他的“認知坎陷”假說卻無法為這一超級概念提供充分論證,因為直觀、意欲、情感并不遵從認知的邏輯,它們有其獨立的意識運作機制。(40)參見蔡恒進、蔡天琪:《情感及其智能實現》,《探索與爭鳴》2023年第10期。大語言模型和元宇宙,一旦成為擁有全部認知意識、意欲意識、情感意識和自我意識的所謂“超級智能”,必然會形成獨立人格,并產生自私性的人格尊嚴訴求和人格權利訴求。這會給現代智人的生存及其文明帶來威脅,因此蔡恒進等所描繪的人機和諧共生、共榮的圖景未必能夠實現。

人工智能或者機器的意識問題,之所以引起眾多學者的關注和爭論,根本的原因在于我們對未知異種智能的恐懼。盡管機器智能是人工制造的,但現在的機器智能在某些領域明顯已經超越人類。面對比人類更“聰明”的機器,人們本能地感到恐懼,害怕它(們)擁有自主意識后會傷害甚至毀滅人類社會與文明。早在20世紀中期,人們就開始擔心這個問題,所以才有了科幻作家艾薩克·阿西莫夫(Isaac Asimov)提出的廣為人知的“機器人三定律”(Three Laws of Robotics)。不過,“機器人三定律”與其說是機器人的倫理法則,不如說是人類面對機器智能的一種美好愿望和自我安慰,其本質是一種假說。這種假說低估了人類社會倫理的復雜性,更低估了人工智能對人類社會的影響。如果機器擁有類人的自我意識,它為什么要遵循人類強加給它的倫理法則而將自己限制在人類社會的從屬地位上?如果人工智能永遠都只是沒有自我意識的機器,它又如何在具體的道德情境中做出正確的道德判斷和選擇,以實施有益于人類的行為?倫理規則是抽象的,道德抉擇中的對錯善惡判斷離不開具體的道德情境,同時也取決于價值立場。人類面對諸如“電車難題”(Trolley Problem)這樣的倫理悖論都會束手無策,要求人工智能永遠做出有利于人類的道德抉擇是不現實的。就算人工智能永遠都是沒有意識的機器工具,它的強大算法一旦落入別有用心者手中,也會成為人類社會的巨大威脅。

物理學家霍金(Stephen William Hawking)生前曾多次提醒人類,人工智能若不加以控制,它就會控制人類,其對人類社會的危害甚至遠超核武器。這種危害可能不會表現為科幻作品中那種機器人與人類的戰爭,人工智能對人類的控制大概率也不是直接的身體控制,更可能是通過操縱人類語言來控制人類的思想、影響人類的行為,甚至改變人類的精神世界與文明進程。這與以色列歷史學家尤瓦爾·赫拉利(Yuval Harari)關于語言的觀點相呼應,即語言是人類文明的基礎,同時也是精英操縱和控制普通人的工具。大規模預訓練語言模型的出現意味著人工智能已經破解了人類文明的操作系統,就算機器沒有自我意識,也一樣可以在虛擬世界中模擬人類編造海量的故事和信息,從而改變我們對于世界的認知,改變我們的價值觀念,改變我們的精神世界,并最終影響我們的行為方式和生存方式。所以,人工智能發展帶給人類社會的風險始終是存在的,無論我們是對技術進步樂觀,還是對人類進步樂觀,都必須對未知之物心存“戒慎恐懼”:“是故君子戒慎乎其所不睹,恐懼乎其所不聞?！?41)《中庸章句》,載[宋]朱熹:《四書章句集注》,中華書局1983年版,第17頁。知識界對迅速迭代更新的人工智能時刻保持警惕、反思永遠是必要的,同時,公權力對人工智能的監管任何時候都不能缺位。