機器人和真人 我們更願意相信誰?

Image copyright
Image caption 是敵是友?(圖片來源:Credit: Yoshikazu Tsuno/ AFP/ Getty Images)

凱利·費舍爾(Kelly Fisher)一年半以前開始使用機器人顧問,因為她認為這種方式比通過人類顧問進行投資更方便、更容易。但出乎她意料之外的是,她對這種機器人的信任度遠超坐在桌子對面那些活生生的同類。

這位家住舊金山的零售業高管通過機器人顧問創建了一個8,000美元的投資賬戶。這其實就是一些網站,它們會詢問一系列問題,然後提供與投資者的風險承受能力和生活方式相匹配的基金。費舍爾之所以使用這些網站,並不是因為她有什麼見不得人的地方。但她表示,對他人進行評判是人性使然,而向一個人類財務專家敞開心扉會讓她感覺不舒服。而面對機器人顧問時,費舍爾會更加誠實地透露自己的財務狀況。

「當有人開始向我詢問淨資產時,我就會感覺不舒服。」費舍爾說,「機器人顧問肯定不會對此作出任何評判。無論是背負債務,還是想要花錢度假,抑或希望大發橫財,我在它們面前都不會感覺恥辱。」

費舍爾在電腦面前的這種放鬆狀態並非個例——有越來越多的研究表明,與人類相比,我們更加信任機器人和自動化的在線表格。除了成本外,這正是機器人顧問有可能成為個人首選投資方式的重要原因——到2020年,這類服務管理的資產有望達到2.2萬億美元,遠高於目前的500億美元。

得州達拉斯的蓋爾·盧卡斯(Gale Lucas)多年以來一直在研究人類對機器人的信任感。作為Organizational Wellness and Learning Systems的研究總監,她發現人們在向電腦披露信息時的確展現出更強的信任感。這不僅涉及普通問題,也包括更加隱私的信息。

她在2014年的一篇論文中寫道,「在涉及違法、不道德或有違文化傳統的信息時,這種誠實回答的現象尤其明顯。」

盧卡斯解釋道,財務問題屬於後一類。例如,人們會對負債持有負面觀點。人們討論這類問題時感覺不舒服,甚至有可能向人類財務顧問隱瞞自己的負債金額。

「他們感覺非常尷尬,不想承認自己的信用卡有多少負債。」盧卡斯說,「這會產生焦慮,所以必須要找到一個讓你願意向其吐露心聲的人。你願意告訴這個人,你很擔心自己可能永遠還不清這些債務。」

不作評判

研究顯示,人們更容易對自動化工具吐露心聲,因為他們認為電腦不會對自己作出評判,並且認為電腦比人類更有道德。

Image caption 機器人將不再僅僅充當餐廳服務員,過不了多久,它們還將為你制定財務計劃(圖片來源:ChinaFotoPress/ GettyImages)

加拿大溫哥華的市場研究公司Intensions Consulting今年3月發佈的一項研究顯示,26%的加拿大成年人認為,沒有偏見的電腦程序比職場領導者和管理者更值得信任,也更有道德。而在20至39歲的年輕群體中,這一比例更是高達31%。

該研究還發現,26%的加拿大人更願意讓沒有偏見的電腦程序負責篩選、招募以及評估他們的工作表現。該研究的聯合作者、未來學家尼克·拜德明頓(Nick Badminton)在新聞稿中表示:「人們正在對人類管理人員失去信任,其實理應如此。你應該信任誰?是有個人偏見和觀點的人類,還是充滿理性且不偏不倚的(人工智能)?」

盧卡斯的研究也提出了相同的問題,但卻是從心理健康的背景出發。她希望了解,與醫生相比,創傷後應激障礙症患者是否會向機器人透露更多個人信息——她在研究中使用了像人類一樣的虛擬機器人。

這些由她參與設計的「虛擬代理」會詢問一些探索性的個人問題,例如:「你有沒有遺憾?」「有沒有什麼事情是你想要忘記的?」在她的研究中,有的參與者被告知其溝通對象是電腦,其他人則被告知在與人類溝通。

盧卡斯表示,幾乎在所有情況下,被告知與電腦溝通的參與者都會披露更多信息。她隨後詢問參與者,他們是否感覺自己被對方評判,或者是否擔心屏幕後面的人或電腦會對自己作出負面評價。被告知與電腦溝通的人給出了否定回答,其他人則給出了肯定回答。

「這就是問題的關鍵。」她說,「認為自己在跟虛擬代理溝通的人知道,他們的數據都是匿名的,非常安全,沒有人會評判他們。」

千禧一代撬動市場

加拿大多倫多Accenture Wealth & Capital Markets公司董事總經理肯德拉·湯普森(Kendra Thompson)表示,機器人顧問領域目前的吸引力不在於匿名性。相關企業並沒有通過這些網站提供複雜的建議。便利和成本才是真正的吸引力所在,有些企業的年費僅為已投資資產總額的0.15%,而人類顧問收取的費用則高達1%至2%。

但她表示,這種情況可能發生變化。在亞洲,數字投資工具的需求正在高速增長。在其他地方,人們對沒有偏見的長期機器人顧問的需求也在擴大,但主要來自比較年輕的儲戶。

富達投資2014年的一項調查發現,1980至1989年間出生的人中,每4個人就有1人在與金錢相關的信息上不相信任何人。而美國銀行的報告則顯示,富裕的千禧一代比其他幾代人更有可能給予科技「極大的」信任,「在財務顧問服務領域同樣如此。」

Image caption 在與金錢有關的問題上,我們真的更信任機器人,而不是人類顧問嗎?(圖片來源:LoicVenance /AFP/Getty Images)

湯普森表示,與顧問的私人關係較好的人更容易敞開心扉,但仍然很難消除被人評判的感覺。

「有的人可能會說,『我不知道這些建議從何而來』或者『我不知道為什麼顧問會問我這些問題』。」她說,「這就是這些工具的優勢所在——你可以戲弄它們,而不會感覺自己被完全暴露給別人。」

機器人終歸是機器人

雖然自動化的設備似乎比人類更值得信任,但我們必須明白的是,機器人終歸是機器,它們可以被終端用戶操縱。

美國喬治亞理工研究院(Georgia Tech Research Institute)的社交機器人研究員阿蘭·瓦格納(Alan Wagner)展開了一項研究,模擬了一棟大樓著火的情形,並要求志願者跟隨機器人前往安全地點。該機器人把他們帶入了錯誤的房間,還帶著他們來到了後門,而沒有到達正確的出口,而且(故意)在緊急出口中央出現故障。

然而,儘管出現了種種問題,但志願者們仍然跟隨機器人在大樓裏四處搜尋,希望它能帶領他們逃出火場。這項研究證明人們懷有「自動化偏見」。換句話說,即使在不應該相信自動化系統的情況下,人們依然會繼續相信這些機器。

「人們認為這套系統比自己更了解情況。」瓦格納說。為什麼?因為機器人給人們的印象是「無所不知」。之前與自動化系統的互動都表現不錯,所以我們會認為每套系統都能提供正確的答案。

另外,由於機器人不會對人們表達的內容作出反應或給予評判,我們自己的偏見也會投射到這些自動化系統中,讓我們以為機器人會無條件支持我們。

但瓦格納表示,必須牢記一點:這些機器人其實都是由共同基金或人類顧問控制的,目的是達到他們想要的結果。這並不意味著人類不應該信任機器人,但這些系統同樣也會犯錯。

「你必須能夠告訴它們:我現在不應該信任你。但這確實非常困難。」瓦格納說。

請訪問 BBC Capital 閱讀 英文原文

(責編:友義)

更多有關此項報導的內容