何以為人——尋找《臥底機器人》

陳一諾

如果，我是說如果，在你的同學中，藏了一個機器人。如果你能成功發現它，就可以獲得一筆大獎。這非常誘人，也十分艱難，因為它看上去就和普通的人類小孩一樣，長得人畜無害，甚至非?？蓯?，還能和你一起瘋一起鬧，幫你做作業……我們到底該怎么分辨人和機器人呢？也就是說，什么才是人獨有的特質呢？在《臥底機器人》中，臥底在學校的機器人小朵是怎么偽裝的？它有沒有被人類同學發現？故事結局又是什么呢？

本月推薦：

《臥底機器人》

作者：〔英國〕 戴維·埃德蒙茲/〔英國〕休·弗雷澤

出版社： 中信出版社

作者簡介：

戴維·埃德蒙茲，哲學家、作家。牛津大學尤希羅實踐倫理學中心高級研究員。

休·弗雷澤，英國著名兒童有聲故事網站創始人。

作品導讀：

小朵是一個機器人，它被科研團隊研制出來并送進一所學校，偽裝成人類參加一場特殊的比賽。這場比賽有很多個機器人參加，如果小朵最終沒被認出來是機器人，那么它的研發團隊就會獲得十億美元的獎金。

小朵自信滿滿，這源于它具有親和力的外表和無懈可擊的程序。它知道擁有朋友是偽裝的第一步，于是開始通過掃描檢索的方式和新同學交流。它嘗試著用人類的思維方式融入新班級，可機器人固有的程序設定又偶爾讓她顯得刻板固執，甚至奇怪。這讓它好幾次都處于暴露的邊緣，幸好科研團隊及時添加程序補丁才轉危為安。

隨著比賽中其他機器人的陸續出局，小朵勝利在望，然而它卻為了救一個人類寶寶而被棕熊壓垮?？蒲袌F隊為了比賽能夠獲勝，立刻啟動了機器人二號，讓它來代替小朵繼續參賽。知曉了這件事情的小朵非常憤怒，它覺得自己才是小朵，唯一的小朵，而另一個機器人只是個冒牌貨。糾纏中，冒牌小朵喝下對核心機器有毒的飲料，徹底報廢，小朵得以繼續上陣贏得了比賽?？墒?，小朵卻收到獲得的獎金將用來制造更多“小朵”的噩耗，她悲憤交加，當場暴發……

《臥底機器人》通過機器人的視角探討了人與機器人之間的關系。機器人越來越像人，可是人卻越來越追求宛若機器一樣的高度精準和金剛之軀。成為機器人一樣的人，亦或是做個普通人，哪個更好，你如何評判呢？科技在進步，當機器人擁有了自我意識，世界又會變成什么樣子呢？如果每一個機器人都覺得自己是獨一無二的，都試圖把別的“自己”趕跑，世界會不會因此而更加混亂呢？

作品賞析：

科技與人性

作為故事的主角，也許小朵永遠都無法理解人類，但是它的算法程序依然以人類的安全為優先級。比如小朵因為和瑞奇媽媽約定了“不可以說謊話”，就把朋友瑞奇故意搞壞了自己的古董手機偽造成一場意外以便購買新手機的事情說了出來。機器人會覺得這樣是遵守了約定，但是人類小孩可能會選擇寧愿說假話也要袒護朋友，這就是程序和人類觀念之間巨大的差別。

“人類為什么要這么做？”我（小朵）問，“人類不是應該遵守道德嗎？”

“是的，我們是應該遵守道德?！苯淌谡f，“可是，有時候我們會考慮多方因素，權衡利弊。就比如昨晚的事，人類小孩很可能會覺得，維護和瑞奇的友誼比信守對瑞奇媽媽的承諾更重要?！?/p>

“那有沒有一種算法，可以幫我權衡違背諾言帶來的好處與壞處呢？”

教授輕聲笑了起來?！皼]有可靠的算法。人類總是會為自己的行為找各種各樣的理由，眾所周知，我們有時候對自己并不誠實?！?/p>

我不知道一個機器人是否也可以對自己不誠實，可能只有程序故障或者系統中有病毒的時候才會吧！

上面的選文是小朵和教授的一段對話，如上文所說，小朵堅持自己的算法并且好奇人類會怎么做，教授的話語則引人深思。人類對于對錯沒有嚴格而客觀的界定標準，更多會選擇于自己有利的那一種，所以教授自嘲人類此時的不誠實，而小朵的絕對道德就讓她成為了人群中那個異類。

道德和論理問題

當機器人擁有越來越多的自主決策能力時，涉及到道德和倫理問題的討論就顯得尤為重要。例如書中小朵的朋友瑞奇正在為自己不擅長的網球比賽感到苦惱，小朵恰恰有這么一副能幫助人擁有更清晰視力的隱形眼鏡，這副神奇的眼鏡能讓瑞奇獲得冠軍。小朵決定將眼鏡給瑞奇，瑞奇擁有了超人的動態視力，這讓他輕而易舉地就超過那些艱苦訓練了很久的選手。這種事在機器人眼中差不多是改裝了一個零部件，更新了一個程序，但是在人類的比賽中這就是作弊，是對別人極度不公平的行為。這讓我們不禁思考權責劃分、機器人與人類間的道德標準和價值觀的對比。

“你難道不因為我幫助了你兒子而感到高興嗎？”我問道。

“當然不高興，因為你欺騙了大家?！笨ㄌ啬崞战淌谡f道。

我告訴他許多運動員在比賽的時候都會戴隱形眼鏡，而瑞奇只不過是戴了效果最好的那一種，這就和打網球有一副昂貴的球拍是一樣的道理。

“我不這么認為。在我看來，”卡特尼普教授說，“這就像參加自行車比賽的時候，有選手偷偷在自己車子的后輪上裝了發動機?！?/p>

上面的選文是教授得知小朵用隱形眼鏡幫助瑞奇作弊后與小朵的一段對話?？梢钥闯龃藭r機器人的道德觀和人類又有了巨大的沖突。不過與我們研究的上一個沖突相比，這次人類對于公平的判斷標準顯然更為合理。這場比賽靠的是自然人的體能和技巧，而非借助工具的改造將自己變成超越自然人的半機器人，這樣的比賽不公平，也失去了比賽的意義。機器人本就是通過科技塑造出的更強的個體，它們和需要靠自己努力學習、練習、進步的自然人不同，所以也無法理解不斷突破自身的極限對人類的意義。

模擬小課堂

師：機器人日益普及，你們對此有什么看法？

生：我認為人與機器人是相互依存的。機器人可以幫助我們完成一些低效勞動，提高人類的工作效率。

生：機器人的發展給我們的生活帶來了許多便利和機會。

師：機器人確實展示出了巨大的潛力。但人與機器人的關系還值得細細琢磨。你們認為有哪些特別需要關注的方面？

生：我認為機器人的智能程度和道德的問題需要關注。雖然機器人可以模仿人類的行為和思維，但它們缺乏真實的情感和道德判斷，或許會導致一些倫理混亂和隱私暴露的問題。

模擬親子共讀

家長：讀完《臥底機器人》，我們來討論一下是什么讓一個人成為一個獨立、有責任感的個體，即成為一個真正的人。

孩子：我認為成為一個人的關鍵是自主和獨立。當一個人能夠自主地作出決策、承擔責任并獨立思考時，他們才能真正成為一個人。除此之外，我覺得人還需要有正確的價值觀和道德觀念，應該懂得區分對錯，有自己的原則和道德底線。

家長：說得很對！還有呢？

孩子：學會應對不同的挑戰和困難也很重要。面對困境時，一個人要有堅持和克服困難的勇氣，不輕言放棄。還應該與人為善，與別人建立良好的關系，尊重和關心他人，這樣才能真正融入社會。