機器人應該享受「機器人權」嗎?

Image copyright Getty

凱特·達靈(Kate Darling)喜歡讓你對可愛的機器人做一些可怕的事情。在她今年組織的一次實驗中,達靈讓人們跟Pleo機器人一起玩了一會兒,這是一種專為兒童設計的綠色玩具恐龍。Pleo用柔軟的材質製成,閃爍著令人信任的目光,一舉一動都彷彿蘊含深情。當你從盒子裏拿出這樣的恐龍時,它就像是一隻出生不久、懵懂無助的小狗 — 它還不會走路,你必須教它認識周圍的世界。

然而,當人們與這些可愛的小恐龍玩耍嬉戲了一個小時後,達靈卻變成了劊子手。她給參與者提供了刀子、斧子和其他武器,下令他們虐待和肢解這些玩具。接下來發生的事情「遠遠超出了我們的想像,」她說。

達靈是麻省理工學院的一名研究人員,對她來說,我們在機器人遭受虐待時所作出的反應具有重要意義,因為目前正在湧現一批全新的機器,迫使我們必須重新考慮人與機器之間的關係。

於心不忍

達靈通過Pleo實驗發現,虐待某些機器人很快將變成不被社會所接受的行為。她甚至相信,我們有可能需要制定一套「機器人權」。如果是這樣的話,什麼情況下虐待或謀殺機器人可以被人接受?究竟是什麼使得你在虐待一台機器前遲遲不肯下手?

直到最近,「機器人權」的想法還只存在於科幻小說中。或許是因為現實生活中的機器相對比較簡單,沒有人會因為扔掉烤麵包機或遙控玩具車而感到難過。然而,社交機器人的出現卻改變了這種狀況。

達靈表示,它們可以展現自主的行為,甚至表現出某種思維傾向,而且還會化身成寵物或與人類相似的形態。換句話說,你會感覺它們是有生命的。這便能激發你的情感, 而且往往令你不能自已。

例如,在廣播節目《Radiolab》2011年進行的一個小實驗中,麻省理工學院的弗雷德姆·拜耳德(Freedom Baird)要求孩子們抓著芭比娃娃、倉鼠和菲比精靈的腳,讓它們保持頭腳顛倒的姿勢,直到他們感覺不舒服為止。

孩子們可以一直抓住芭比娃娃直到手臂酸痛,但當他們這樣對待不斷扭動的倉鼠時卻很快停了下來,他們稍後也放下了菲比精靈。這些孩子的年齡已經足夠大,完全可以明白菲比精靈只是一個玩具,但程序中設定的哭聲和「我害怕」的呼救還是讓他們於心不忍。

事實上,不只是兒童,成年人也會與這些由電線和電路板組成的機器產生令人意外的情感紐帶。達靈說,有些人會給自己家的Roomba吸塵器起名字,還有的士兵甚至會給自己的機器人授予「獎章」,或者為其舉行葬禮。

她提到了一台令人難忘的軍用機器人,這是一種通過主動踩雷的方式完成任務的排雷機器人。在測試過程中,爆炸的地雷幾乎完全炸毀了這台機器人的腿,但步履蹣跚的機器人仍然一瘸一拐地前進。

據《華盛頓郵報》報道,看到這台機器人掙扎前行的景象,負責該項目的指揮官叫停了實驗,因為他認為這種做法「慘無人道」。

Image copyright Getty

殺手本能

一些研究人員認為,如果機器人表現得像是有生命、有思維的生物,這種最簡單的模仿也會促使我們對其產生同情,即便我們知道這都是人造產物。

德國杜伊斯堡-艾森大學的一些研究人員使用一台功能性磁共振成像掃描儀和其他設備來測量皮膚電傳導,以此了解人們看到有人虐待Pleo恐龍時的反應 — 視頻中的虐待者會讓Pleo窒息,把它放進塑料袋裏,或者用力打它。

儘管受測者知道Pleo只是一個機器人,但研究人員從他們身上測得的生理和心理反應的強度卻遠超預期。

達靈發現,當她在日內瓦的一次會議上讓人們虐待Pleo機器恐龍時也會出現同樣的情況。而她在上文所說的實驗中還設計了更加令人不舒服的環節。

在跟Pleo玩了一個小時後,人們都拒絕使用達靈提供的武器傷害這些機器恐龍。於是,達靈開始耍起了心眼。她告訴受測者,只要殺死別人的恐龍就能保住自己的恐龍。即便如此,人們還是不為所動。

最終,她告訴人們,除非有人主動殺死一個Pleo,否則所有的機器恐龍都會遭到屠殺。經過一番交涉後,一位男士很不情願地拿著斧子站了出來,對著一個Pleo砍了下去。

達靈回憶道,經歷了這個殘忍的場景,整個房間都鴉雀無聲,時間長達數秒。人們的情緒反應之強烈似乎令他們感到意外。

立法建議

由於可能出現這種強烈的情緒反應,歐洲的機器人專家幾年前就曾建議為機器人開發工作制定一系列全新的道德凖則,並且希望根據現代社會的情況採納作家艾薩克·阿西莫夫(Isaac Asimov)著名的《機器人法律》。

這部法律的五大原則之一是:「機器人的設計不應使其具有欺騙性……它們的機器特性必須保持透明。」換言之,必須要打破人們的錯覺,不再讓他們誤以為機器人有情感和意識,而是應該還原其本來的面貌,讓人們明白它們只是由電線、驅動器和軟件組成的機器。

但達靈認為,我們不能局限於幾個倫理方面的指導方針,而是應該更進一步去保護「機器人權」。

雖然這聽起來很荒謬,但達靈卻指出,虐待動物罪其實給出了很好的參照。

我們為什麼要立法保護動物呢?僅僅是因為它們遭受了傷害嗎?達靈質疑道,倘若果真如此,我們為什麼制定了嚴刑峻法來保護某些動物,但對其他動物的遭遇卻置之不理?

很多喜歡吃肉的人對產業化經營的農場中的惡劣環境不為所動,腳下踩到了昆蟲也毫不動容,可一旦鄰居家的貓受到了虐待,或者鯨魚遭到捕殺,他們就會怒不可遏。

達靈認為,人類之所以制定這樣的法律,是因為我們意識到這些動物的遭遇與我們自己非常相似。我們制定這些法律主要原因或許在於,我們不想看到殘忍的行為。關鍵不在於動物的感受,而在於我們自己的情緒。

所以,儘管機器人只是機器,但達靈還是認為,一旦虐待行為 — 而非虐待結果 — 超過某個臨界點,便會讓我們難以忍受。

Image copyright SPL

感受痛苦

事實上,潛在的危害並非總是我們決定監管某項技術的唯一原因。來看看一個與此完全不同的東西:英國醫學會曾經表示,應該在英國的室內公共場所禁止使用電子煙。

英國醫學會認為,儘管吸煙者及其周圍的人不會因此面臨健康風險,仍然應該禁止這種行為,因為這會導致在公共場所吸煙再次變成正常行為。

再來看另外一個例子:試想,如果一位父親當著4歲的兒子虐待機器人,這種行為是否能被人接受?孩子的思維往往沒有成年人那麼健全,虐待機器人可能會讓他們以為,在某種情況下給別人製造痛苦是恰當的行為。

或者再極端一點:如果有人從實驗室裏得到了一個兒童模樣的機器人,然後把它賣給心懷不軌的戀童癖者。社會應該允許這種行為嗎?

隨著科技的發展,今後的機器人可能會像我們一樣感受到痛苦。事實上,一些研究人員已經開始開發這樣的機器人。有人擔心機器人有朝一日也可能擁有基本的存在感,倘若如此,結果恐怕就會令人擔憂。

正因如此,哲學家托馬斯·梅辛格(Thomas Metzinger)認為我們根本不應該繼續開發智能機器人。

梅辛格表示,第一台有意識的機器人可能會像懵懂而無法自理的嬰兒一樣,顯然與科幻小說中那種能力非凡的人工智能場景相去甚遠,所以把它們當做傳統機器來對待本身就是一種虐待。

行為底線

他表示,如果機器人擁有基本的意識,那麼無論這種意識是不是人工模擬的都不重要。它相信自己是有生命的,它也的確能感受到痛苦。

梅辛格說:「我們應當努力克制,不能以任何方式增加宇宙中的痛苦總量。」

有一點是非常明確的:機器人的「生命力」存在一定的範圍,從基本的模擬動物行為,到未來的獲得痛苦感受。

但達靈的Pleo機器恐龍實驗表明,要激發我們的情緒反應其實並不需要太高深的技術。問題在於,我們是否能夠,或者是否應該,在對待機器人時劃一條不得逾越的界限。

你的界限在哪裏?是機器人疼痛哭泣或者向你求饒嗎?是它認為自己遭受了痛苦嗎?還是要等到它受傷流血為止?

請訪問 BBC Future 閱讀 英文原文

(責編:郱書)

更多有關此項報導的內容