在道德困境面前只有機器才會毫不猶疑

北青網 發佈 2020-08-28T07:00:16+00:00

在小說《我這樣的機器》里,英國作家伊恩·麥克尤恩虛構了一個科技發達的20世紀80年代的英國。在那裡,人類已經有能力製造出外表與自己別無二致的機器人。

在小說《我這樣的機器》里,英國作家伊恩·麥克尤恩虛構了一個科技發達的20世紀80年代的英國。在那裡,人類已經有能力製造出外表與自己別無二致的機器人。

男主人公查理是一個靠炒股掙點小錢的「宅男」,同時也是個科技發燒友,喜歡嘗試全新的高科技產品。有點小錢的他,毫不猶豫地訂購了一台名叫亞當的限量版「男性」機器人。

他的如意算盤是:和同居伴侶米蘭達一起培育機器人亞當的心智,這樣,就有一種三口之家的溫馨感,他和米蘭達的關係也能更進一步。

然而,查理的如意算盤落空了。他忘了,亞當在物質形態上是個成年男子。讓他想不到的是,亞當居然和米蘭達談起了戀愛!這下可好了,「三口之家」的美好設想被「三角戀」所替代。查理因而成了第一個被機器人「戴綠帽」的人類。

而這一切的發生,不只是米蘭達對亞當下命令、亞當執行命令這麼簡單。根據機器人亞當的自述,他愛上了米蘭達:

「這事兒我也沒辦法。」他說。

他還沒開口解釋,我就知道接下來他要說什麼。荒謬!

「我愛上她了。」

我的脈率並沒有增加,但胸腔里心臟感覺不舒服,好像馬馬虎虎沒有完全放到位一樣。

我說:「你怎麼可能會愛呢?」

「請不要侮辱我。」

……

我也輕聲說:「你錯了。可說的事情還有很多,這不過是第一件。從存在的意義上說,這不是你的領域。無論從哪個可能的角度看,你這都是非法侵入。」

查理在這裡發表了一種典型的「人類中心主義」觀點,即:愛情——或者說整個情感領域都是人類的「保留地」。無論人造智能體在算力和信息儲備上領先人類多少,無論它們進化得多厲害,人類在情感領域的獨特性,仍然維持著人類與計算機、機器人、人工智慧(無論它們是什麼)之間的差異。這是人類最後一道「防火牆」,守護著人類身為「萬物靈長」的尊嚴。

然而作者麥克尤恩的高明之處就在這裡:人類憑什麼自以為是地認為,只有人類才懂愛,機器人就不懂?麥克尤恩偏要讓機器人懂得愛。

麥克尤恩不僅要讓機器人懂得愛,還要讓他閱讀文學、創作文學。機器人亞當在休憩、充電時,也要聯網搜尋各種作品閱讀,哲學、文學、新聞,無所不讀;他還非常熱情地創作俳句,其作品不乏激情與哲思,比如:

若正義即對等

那愛上一名罪犯

必不是犯罪

她愛的目光

包含了整個宇宙

愛那個宇宙!

但,為什麼一定是俳句?也許是因為俳句結構規整,機器人可以輕鬆地總結出創作規律。近些年,人類已經設計出能夠創作格律詩歌的電腦程式了。通過總結前人作品中的規律,對各類詞語、意象進行歸納,並計算詞頻,機器人也能寫出非常有「風味」的「唐詩宋詞」。

這種「詩歌」究竟屬不屬於文學作品的範疇?答案似乎是否定的。按照人類的文學理論,真正的詩歌應當是內心受到觸動、對周圍世界的材料進行藝術加工後產生的作品。人工智慧根據事先設定好的程式,按照一定的主題搜索相應的詞語,再將詞語排列組合起來……這一切僅僅停留在文本層面的創作,似乎確實缺乏審美的「靈魂」。查理又一次抓住捍衛人類尊嚴的機會:

我說:「俳句或許可以,但更長的詩歌、長篇小說、戲劇,算了吧。將人類的經驗轉變為詞語,將詞語轉變為審美結構,對機器來說是不可能的。」

她難以置信地看了我一眼:「誰說是人類的經驗?」

必須承認,米蘭達抓住了重點:對機器人而言,周遭的一切都只是信息而已,生產的也不過是信息而已。至於這種信息是不是所謂「人類經驗」,還是純粹的文本信息,真的重要嗎?

這樣看來,「機器人無法創造文學」的說法也是人類苦苦執著於自己區別於(或者說優越於)機器人的證據,而這也被麥克尤恩無情摧毀了。

緊接著,機器人產生了更進一步的進化:他們產生了自我銷毀的念頭。查理得知,溫哥華一台「亞當」因為目睹了某些衝突,決定銷毀自己;利雅得兩台「夏娃」(女性機器人)被囚禁,相互擁抱著「死」去;而查理和亞當在街頭偶遇了另一台「夏娃」,她表面看上去正常,暗中卻啟動了某種「自殺」程序……

這些機器人為何要銷毀自己?作為同類的亞當也無法解釋清楚。但機器人萌生「自我銷毀」的念頭,說明它們試圖掌握自己的命運,對自己的「生死」做出決斷,而不願意由購買了它們的主人擺布。

奇怪的是,查理購買的這台亞當一直沒有產生自我銷毀的念頭。究其原因,可能是查理對他實在太好了——某次查理想要關掉亞當的電源,亞當表示反對並捏碎了查理的手腕,而查理也沒說什麼。亞當在相當程度上享受著自由,也就不必以自我銷毀的方式來反抗受人擺布的命運。

好了,機器人不僅在外表上與人類無異,而且還懂得愛、能創作文學、有生死觀念。現在,問題就落到了人類這一邊:人類與機器人的界限,到底在哪裡?

麥克尤恩給出的答案是:道德困境。

查理從亞當那裡得知,米蘭達曾經捲入一起強姦案,米蘭達謊稱一名叫戈林的男子強姦了她,並且成功讓法官和陪審團判他入獄。在查理的追問下,米蘭達說出自己這麼做的原因:米蘭達的童年好友瑪麗婭姆被戈林強姦,但迫於種種原因,瑪麗婭姆不願意說出這件事,最終自殺;米蘭達必須遵守對好友的承諾,守住這個秘密,但她決定以自己的方式讓戈林受到法律的制裁,於是,她「引誘」了戈林並控告他強姦,成功地完成了復仇。

米蘭達做得對還是不對?每個人類都有自己的看法,但任何一個人類都會承認,在這整個事件中存在諸多道德難題,無論怎麼選,都會或多或少傷害一些人,讓當事人感到良心不安。

這才是人類的獨特之處:我們常常把自己陷入道德困境,但無論如何,我們必須做出決定,並心甘情願地接受由此導致的後果,以及隨之而來的煎熬與不安。道德困境並不意味著人類在道德上軟弱,相反,是勇氣與擔當讓人類不斷做出一個又一個艱難的決定,而非止步不前。

但對於亞當來說,並不存在這樣所謂的「道德困境」。他對整個事件做出判斷的依據,唯有法律而已;沒有道德不道德,只有違法不違法。最後,亞當決定把米蘭達誣陷戈林的證據交給警方——儘管他說他「愛」米蘭達,儘管他知道這樣做會讓米蘭達身陷囹圄。

麥克尤恩筆下的機器人亞當,模糊了人與機器人之間的諸多界限,然而在道德困境面前,還是被打回原形,他無法為情感犧牲非此即彼、非黑即白的判斷。而讀者們在麥克尤恩的「引誘」下,就快要把機器人亞噹噹成活生生的人,就快要對他產生共情與理解了,查理卻舉起憤怒的錘子,狠狠擊碎亞當的頭蓋骨。

我相信,查理並不是像主人那樣隨意地奪走一個奴隸或者一件商品的「生命」,而是在經歷了道德抉擇之後做出的決定。當初亞當介入他和米蘭達的感情、捏碎他手腕的時候,他都沒有憤而奪走亞當的「生命」,但現在為了自己,也為了米蘭達,他決定「殺死」機器人亞當。「殺死」一個外表和人類一模一樣的機器人,必然會受到心靈的折磨——何況這個機器人和他一起生活了很久。而查理甘願承受「殺死」亞當的後果:情感折磨、糟糕的經濟狀況、他人的指責……

米蘭達也一樣,她坦然地走上法庭,為她當初所伸張的正義付出了代價,而她並不後悔,因為那是她做出的決定,她必須承擔後果。

而機器人亞當認為這一切都是理所當然的,他就是這樣的機器。

◎徐辰陽

關鍵字: