人機交互的互誘導性

摘要：以ChatGPT、Bard、Copy.AI為代表的人工智能的出現將AIGC推上了風口，帶來了人類信息傳播范式的根本性轉變，使創作主體由用戶轉向機器，顛覆了傳統的大眾傳播模式和社交媒體傳播模式，即以內容為中心和以用戶為中心。AIGC誕生于人機交互的新時代，是一次技術革命。ChatGPT的出現代表人工智能技術開始從量變轉向質變，進入人與技術交互的新階段，即人與技術互為尺度。但在欣喜于新技術取得突破的同時，新的擔憂也隨之產生，必須深入思考人與技術將走向什么樣的未來、人在AIGC營造的虛擬世界中能否理智生存、人與技術之間的互誘導性是否會將人類帶入更深層次的“AIGC繭房”等問題。這是人類信息傳播方式的巨變，也是治理范式的重大轉變。每一種新的應用都帶著偷懶的誘惑。當前的AI會話仍然具有不透明性、不穩定性等缺陷，人與機器互為主體，協同生產，隱蔽的互誘導性極易將人類帶入更難逃脫的“AIGC繭房”。效率的提升及傻瓜式的內容生成，場景拓展與智能交互下的智能操作，無限制的沉浸式體驗等加固了“信息繭房”。對此，文章提出治理人機交互時代的“信息繭房”，關鍵在于正視新的技術浪潮，重塑身份，理性看待技術的誘導性，秉持“技術向善”的理念；以AI對AI，允許算法多元性的存在，用競爭消弭誘導性；建構權力分配的新范式，用社會治理共同體的身份構建人機傳播的新生態，打破技術對人類的全景式窺視。

關鍵詞：人機交互；AIGC；互誘導性；AIGC繭房

中圖分類號：G206；TP18 文獻標識碼：A 文章編號：1004-9436（2023）10-0-04

0 引言

相較于傳統的UGC（用戶生成內容）、PGC（專業生產內容），AIGC（人工智能生成內容）的創作主體從人變為人工智能，擁有數據巨量化、認知交互力、內容創造力等獨特的技術特征。早期的AIGC大致分為文本生成、圖像生成、音頻生成、視頻生成等幾個領域，隨著AI技術的日新月異和元宇宙應用場景的出現，由產業驅動的AIGC迎來爆發式增長。

英國技術哲學家大衛·科林格里奇曾經指出，一項技術如果已經成為整個社會政治、經濟、文化的一部分，控制它就為時已晚，技術有可能走向失控，此時解決它帶來的后果會耗費大量的時間和精力，甚至難以改變［1］。因此，本文從人機交互的視角，考察AI時代互誘導性的產生及其帶來的“AIGC繭房”的成因與破解之道。

1 AIGC與互誘導性

AIGC成為數字基礎設施的同時，互誘導性隨之產生。人類對技術的不斷突破使AI成為可以在人類世界中自主參與社會互動的主體，形成“人+機器人”的傳播格局，人機互動成為一種可想象的社會圖景［2］。人機交互不僅帶來了社會結構的變化，還暗含互誘導性。誘導性指媒介通過直接刺激受眾的各種感官，傳播信息、意義和情感，對受眾預期的認知、態度、觀點的改變，導致受眾使用行為的改變?；フT導性以人機交互為前提，是AIGC發展過程中人工智能通過“對話”或“技術偷懶”等方式改變人的主體意識，使人對機器產生工具依賴；在無限制的技術使用下，人也許會誘導技術從事違法生產等活動。AI時代出現互誘導性的原因包括以下兩個方面。

1.1 人與機器互為主體

ChatGPT的爆火背后隱藏著生產力的巨大變革。AI從生成簡單語句到生成一定篇幅但毫無邏輯的段落，再到如今的“正常交流”，體現了人對智能化信息處理模式的不斷改進。從信息的生產、傳播到消費，用戶如今變成了媒介內容的主動生產者與傳播者，但機器對人的生產活動的滲入程度也在不斷加深，用戶在內容生產的主導模式中不斷隱身，技術的主導地位逐漸明顯，由此AIGC帶來用戶與機器互為主體下生產力的變革。

1.2 人與機器協同生產

AIGC的內容生成主要由人來設置和輸入指令驅動，在這個過程中延伸了AI在現實生活中的應用場景。AIGC生成的內容又轉變為人類數據被AI學習，循環往復形成了人機協同參與的創作運動。內容生產在人機協同中被賦予了新的內涵，衍生出人與機器共存的新范式，即相互影響、相互嵌入、相互依存、協同共進，從人對機器的單向使用變成了人與機器的雙向依存，形成人機交互的“同構性”。

2 互誘導性下“AIGC繭房”的成因

“信息繭房”是由美國學者桑斯坦在數字時代個性化信息逐步興起的背景下提出的概念，指人們只聽自己選擇的和能讓自己感到愉悅的東西［3］。但在人與技術同構現實社會的Web3.0時代，“信息繭房”悄然發生了變化，人與技術之間互誘導性的存在強化了“繭房效應”。當前的AI會話、內容生成仍然具有不透明性、不穩定性，AI創造的高級版碎片化形成的“AIGC繭房”將比以往更加難以突破?！癆IGC繭房”的生成主要表現在以下三個方面。

2.1 效率：傻瓜式內容生成必然導致“信息繭房”產生

人在數字空間中輕易產生多巴胺時，會對工具上癮。AIGC除了包含語音識別、自然語言理解等核心技術之外，還可以利用生成式對抗模型（GAN），利用神經網絡算法生成內容識別圖像內容表征，并在特定神經網絡層對圖像進行重構，這就使AI畫作能夠模仿特定風格的藝術作品［4］。AIGC是學習型人工智能，除了在算法上實現了模擬加工、內容上實現了流程自動化等以外，還節約了內容的生成時間，提高了內容生產效率，更重要的是延伸了人類的感官與行動能力，拓展了人的腦力與體力。

ChatGPT僅上線5天，用戶數量就突破了100萬，馬斯克稱“許多人陷入了該死的瘋狂ChatGPT循環中”。首先，技術使用門檻的降低填平了用戶之間的“能力溝”，生成效率的提升直接解放了人類的雙手，增強了用戶黏性；其次，技術的推出與推廣需要用戶支撐，為了獲取足夠多的利益，算法本身就帶有偏見；最后，AIGC的核心動力是內容生產變革，ChatGPT能夠為用戶帶來媲美真人對話體驗的關鍵在于其是基于預訓練使用的偏好數據及評分算法，除了大規模的公開語料之外，還有“幾萬人工標注”的數據，這些數據均為人工偏好知識，導致用戶非理性與圈層化的“情緒繭房”的形成。人對機器的詢問以及機器選擇回答本身就意味著對某個暗含假定事實的承認，AI在幫人們作出選擇的同時，“AIGC繭房”逐漸形成。人創造了AI，AI反過來也在以自身的技術意向結構“規訓”社會主體［5］。

2.2 智能：場景拓展與智能交互導致“信息繭房”擴大

人在數字空間中感到方便舒適時，會對同質化信息、同質化交往成癮。AIGC通過“本地+云+邊緣計算”的模式實時感知人、物、環境，并與之實時交互。例如人形機器人，通過神經網絡、計算機視覺工作，實時感知和計算文本、圖片、視頻、觸覺等多模態數據，化身“工程師”“藝術家”等身份，完成具有創造性的工作。ChatGPT擁有多達1750億個模型技術支撐其解決實際問題，相較于分析式人工智能，AIGC能夠以細粒度更高的方式，在個體需求指令的基礎上展開合理想象，實現更加細膩和精準的連接，深度模擬人際交往方式。

AIGC的內容生成以用戶需求為導向，突破了時間、場景、個性的限制，使人與機器之間的關系更加密切。技術的進步為人類的進化插上了想象的翅膀，智能交互下場景的拓展延伸了人的生存空間，場景時代是媒介作為“人的關系連接”在現實世界的最高形式［6］。人在技術進步的洪流中慢慢“技術成癮”，技術提供的智能交互與場景復刻也更具有欺騙性。AIGC在多模態情境下可以采用文本、語音、視頻等“半真半假”的形式欺騙用戶，這被稱為“騙子的紅利”［7］。例如2022年5月，有詐騙集團利用深度偽造技術冒充馬斯克生成談話視頻，欺騙受害者投資其加密貨幣交易平臺。深度偽造技術的存在，導致“AIGC繭房”擴大，憑借其“真實性”誘導用戶上當，而目的不單純的用戶也利用AIGC獲取了利益。

2.3 體驗：用戶體驗無限制沉浸導致“信息繭房”加固

人在數字世界里感到自我超越時，會對現實世界產生反感。AIGC是在擬真度和功能維度上新的里程碑，其內容生成圍繞形態迭代與創意驅動這兩個維度展開，更加注重用戶體驗。利用仿真技術、計算機圖形學等人工智能手段，AIGC在視覺、聽覺、觸覺等多感官的基礎上為用戶帶來沉浸式、無邊界、仿生級感官體驗。

AIGC實現了虛擬世界中感官的全方位“連接”，但這種器官“遮蔽”導致信息的密度和含量越來越大，出現信息的“膠狀體”，導致信息發生折射、模糊。信息空間之間的壁壘越來越厚，“信息繭房”的存在更加明顯。此外，早期的VR、AR設備佩戴舒適度較低、使用感不佳，只是對現實世界的復制。與其不同的是，AIGC是對現實內容的數字孿生，如Replika聊天機器人通過養成式設定，使用戶體驗到其具有邏輯性的情感體察和細膩化的聊天。仿真情感的背后，很容易帶來用戶無限沉浸的體驗，這種器官“遮蔽”導致公域與私域的界限模糊。AI直接嵌入人體，實現人機交融，現實身體與虛擬場景相連，實現身體的持續在場和想象意識的“具身化”［8］。值得注意的是，人在運用AIGC實現沉浸式體驗的同時，身體會被數據化，化身數字勞工為AIGC貢獻數據，同時產生離身感危機。

3 對“AIGC繭房”的思考

當前已不是弱人工智能時代，必須承認技術與人類的共存性，互誘導性的產生是必然的。需要明確的是，“AIGC繭房”出現的根源是人們的選擇性接觸心理，虛擬世界的誘惑就像潘多拉魔盒，表現為人與媒介、存在與意識的共生。桑斯坦對“信息繭房”的定義，從根本上說，是生理上驅動并不斷強化的“自反性沉迷”，這是虛擬生存癥候群的潛在邏輯［9］。如果“AIGC繭房”固化，就會形成“信息、意見—利益、社會”的“板結化”的連鎖反應，造成社會偏見下的矛盾沖突，進而引爆社會危機。因此，從這個意義上說，在討論“AIGC繭房”帶來的負面影響時，不應僅僅指責技術的消極性，更應思考如何避免人與技術的相互誘導。無論技術會帶來更好還是更壞的社會結構，問題的根源都是掌握技術權力的人與掌握政治和社會權力的人之間的深層矛盾。

3.1 身份重塑：治理共同體祛魅偏見性的技術認知

正視技術的存在，理性看待其誘導性。需要明確的是，任何技術的社會化落地，實質上都是技術與社會選擇“互構”的結果［10］。媒介環境學派認為，技術會形成一種“媒介環境”，并影響受眾的認知、態度和行為，“AIGC繭房”是人與技術的互誘導性下的產物。首先，AIGC是基于用戶的偏好進行的預訓練模型基礎，從一開始就具有數據的傾向性；其次，用戶的選擇性接觸心理帶來工具依賴，在AI技術的誘導下，繼續擴大其原有的偏好信息選擇范圍。

從互聯網到元宇宙，技術已經成為現實世界的一部分，當人類產生過度的工具依賴時，不應一味指責技術帶來的負面效應，而是要重塑身份，采取社會治理共同體的手段應對“AIGC繭房”。首先，要打破對AI的“技術崇拜”。ChatGPT的文本生成仍然需要用戶的指令前綴，其本質上還是一個大型的語言模型，屬于深度學習的框架，人在面對AI技術時具有主動控制力。其次，“賦魂”智能模型，堅持控制算法模型的核心邏輯，將社會公允的價值判斷“賦魂”至算法模型中，使其始終保持技術向善的秉性，如對語料庫的選擇和訓練模型的價值邏輯建構。最后，社交媒體、監管部門和網絡平臺要積極投身于治理共同體。例如，主流媒體的功能與角色定位須轉向“To B”模式，充分利用耗散結構下的超循環理論、突變論等原理進行新的社會傳播的“再組織”。

3.2 生態構建：AI對AI及人力物力的良性匹配布局

允許算法多元性的存在，用競爭消弭誘導性。算法市場存在利益競爭，以AI對AI，不僅可以更加精準地解決技術問題，而且能夠使人與機器的生態環境更加平衡。

AIGC的核心任務是對人類自然語言語料數據進行模型匹配、擬合，在擬合的基礎上根據一定的數學邏輯甚至是非確定邏輯輸出，導致不可預測性永遠存在，進而導致互誘導性的不確定和隱蔽性。面對隱蔽的互誘導性，只能采用技術對技術的策略進行反制。應針對不同語言模型的技術特點提前調研與創新，不斷優化人工智能內容生成監測系統。例如，針對AI或人工生成的文本進行內容識別，給予用戶更多的選擇權，逃出單一的信息囚籠。此外，AIGC生成的文本有時會出現語義錯誤和語義不一致的情況，也會出現人為生成虛假信息的情況，虛假信息會擾亂社會秩序，導致媒介公信力下降，增加群體極化的風險。對此，可以從邏輯、語義語法等方面開發內容檢測工具，通過分析語言特征和上下文信息來識別虛假信息。

AIGC主要圍繞算力、算法、算據這三個方面建構，但算法不是萬能的，需要在這三個領域做好人力物力的充分布局，與AI形成良好的匹配和互補。當用戶深陷在AI所創造的超現實環境中，沉溺在“AIGC繭房”中并對技術的誘導性渾然不覺時，需要利用更警醒的技術喚醒人類，避免任何一種算法成為用戶近乎唯一的選擇。

3.3 協同分工：主動讓渡下構建權力分配的新范式

權力運作及分配需要新的協同分工，只有這樣才能打破“AIGC繭房”。在AI時代，權力運行方式從表現向交流轉變，從規范性向事實性轉變，從外部的高高在上向內在生命化轉變［11］。由AI建構起算法無所不至的傳播權力，需要分析其背后的權力結構。低門檻、對話式的AIGC的出現打破了傳統的“網絡信息—算法技術—監管部門—一般民眾”的傳播鏈，形成了“算法技術—網絡信息—一般民眾”這一新的傳播鏈，作為權力驅動的監管部門的存在不再明顯，算法技術賦能賦權，掌握權力的命脈，導致信息傳播結果的新一輪“窄化”，也帶來算法運作范式的“黑箱”。

英國文化研究專家斯科特·拉什強調，“在一個媒體和代碼無處不在的社會，權力越來越存在于算法之中”［12］，因此要建構權力分配的新范式。第一，監管平臺要主動承擔責任，進行自我賦權，做好對隱藏在幕后的資本力量的市場監管工作，針對不符合社會治理規范的AI技術及時頒布禁令；第二，媒體要重視倫理和道德規范，始終保持獨立思考，對AI技術保持理性思考，及時反饋AI技術引發的倫理問題等；第三，讓渡算法公司自主權，同時考慮到用戶的合法權益，包括不被算法監控的權力；第四，用戶要積極爭取權力的讓渡，具備參與設計自身信息接收框架的意識，避免被過度沉浸式體驗和情感誘惑固化自身的信息偏好，積極打破“AIGC繭房”帶來的誘導性，打破技術對自己的全景式窺視。

4 結語

在復雜的人類世界中，很多影響其運行的初始變量早已產生，AI只是在加速這一進程；“鴻溝”原本就存在，技術只是在擴大“鴻溝”；互誘導性一定存在，人的選擇性偏好心理導致“信息繭房”產生。當數字不平等在加速時，人的抵抗不能失速。在AIGC為人類提供的“超真實”世界中，人們與其共生，它成了人們衡量世界的尺度，但在共生的征途中，必須警惕互誘導性的存在及其帶來的“AIGC繭房”。在Web3.0時代，人仍然是衡量機器的尺度，人們要為科技的進步狂歡，同時保持人文的謙卑，對數字化生存中的人的欲望保持警醒。在未來，應該如何減少“信息繭房”的負面影響，利用AIGC創造出烏托邦式的世界，值得深入研究。

參考文獻：

［1］ 大衛·科林里奇.技術的社會控制［M］.倫敦：法國出版社，1980：3-15.

［2］ 張洪忠，段澤寧，韓秀.異類還是共生：社交媒體中的社交機器人研究路徑探討［J］.新聞界，2019（2）：10-17.

［3］ 凱斯·R.桑斯坦.信息烏托邦：眾人如何生產知識［M］.畢競悅，譯.北京：法律出版社，2008：7-8.

［4］ 虞怡晶，柴利.基于神經風格轉移的無覆蓋圖像隱寫術［C］//第十四屆國際數字圖像處理會議. 2022：870-878.

［5］ 劉千才，張淑華.從工具依賴到本能隱抑：智媒時代的“反向馴化”現象［J］.新聞愛好者，2018（4）：13-16.

［6］ 喻國明，馬慧.互聯網時代的新權力范式：“關系賦權”：“連接一切”場景下的社會關系的重組與權力格局的變遷［J］.國際新聞界，2016，38（10）：6-27.

［7］ 切尼斯.B.深度造假：隱私、民主和國家安全面臨挑戰［J］.加利福尼亞法律評論，2019（107）：1753.

［8］ 張洪忠，斗維紅，任吳炯.元宇宙：具身傳播的場景想象［J］.新聞界，2022（1）：76-84.

［9］ 杜駿飛.“未托邦”：元宇宙與Web3的思想筆記［J］.新聞大學，2022（6）：19-34，119-120.

［10］ 喻國明，蘇健威.生成式人工智能浪潮下的傳播革命與媒介生態：從ChatGPT到全面智能化時代的未來［J］.新疆師范大學學報（哲學社會科學版），2023（3）：1-10.

［11］ 斯科特·拉什，程艷.后霸權時代的權力：變化中的文化研究［J］.江西社會科學，2009（8）：248-256.

［12］ 斯科特·拉什.霸權之后的權力：突變中的文化研究？［J］.理論、文化與社會，2007，24（3）：55-78.

作者簡介：張琴（1997—），女，江蘇泰州人，碩士在讀，研究方向：網絡輿情。