人工智能专家看最新《终结者》电影

Image copyright Reuters
Image caption 第五集《终结者》电影在全球上映

除非你喜欢看直升机与液态金属机器人带来的狂拽炫酷场面,《终结者:创世纪》实在不值得一看。那晚在电影院观看时,全场只有五位观众,而且还有两位提前离场。如果你以前看过 T2 (如果没看过,强烈推荐),这一部实在没什么新意可言。

自詹姆斯·卡梅隆 (James Cameron) 自 1984 年《终结者》引入天网 (Skynet) 幽灵这个角色,至今它还在满世界地追杀人类。《终结者》系列这五部电影的叙述前提是:在不远的将来,不愿再被人类奴役的机器人将掌控世界,并试图消灭人类。

我不明白为何机器人要消灭人类,而不是将我们关进动物园。当第一部《终结者》在上世纪八十年代上映时,我就明白这个前提似乎是个玩笑。上世纪五十年代和六十年代,人工智能(AI)曾备受追捧,但后来又遭遇了艰难时期——通常被人们喻为人工智能的“寒冬”。

如此看来,人工智能似乎不大可能掌控世界,反而似乎有消失的态势。在英国,1973年莱特希尔的《人工智能评估报告》对人工智能做了全面评估,同时也使该领域遭受了沉重打击;人工智能几乎没什么重大的商业价值,自此陷入沉寂。

Image caption 著名物理学家史蒂芬·霍金担心人工智能可能是我们最后的发明,人类的终结者

现如今,当代一些极具影响力的人物仍对人工智能忧心忡忡。埃伦·穆斯克 (Elon Musk) 担忧人工智能是在“召唤恶魔”,而且史蒂芬·霍金 (Stephen Hawking) 也担心人工智能可能是我们最后的发明,人类的终结者。

7 月 1 日,未来生命研究院 ( Future of Life Institute) 宣布投资 700 万美元(450 万英镑)用于支持研究“如何让人工智能对人类有利”,这笔钱大部分出自穆斯克个人。这位研究院院长警告说,这部新电影可能会使现实和虚构混淆。麦克思·泰格马克 (Max Tegmark) 说道:“终结者现象存在的隐患不在于电影场景会在现实生活中发生,而在于转移人们视线,忽视未来人工智能带来的真正问题。”

碰巧的是,上周我与几位业界领袖以及身负重任的企业巨头谈论了人工智能问题。由于英国皇家国际问题研究所(Chatham House)有“特别规则”,我不便透露相关细节,但是有两件事情已然十分明了:首先,一些非常聪明的人都十分担心人工智能,其次,无人清楚未来将会发生什么。在一场私下的会后讨论中,怀疑者和担忧者各执一词,这使得未来更加扑朔迷离。

反抗机器

有一个关键问题在电影中几乎没有提及:机器人会关注人类是为了伤害我们?还是他们试图占领我们的资源?没有人可以明确回答。

Image copyright AP
Image caption 机器人为何要伤害我们?

对此,我认为:天网和它手下配有重型武器的机器人(以及可任意改变形状的液态机器人),其设计是荒唐的。任何时候,机器人也不能在遥远的地方轻易变成阿诺·施瓦辛格的模样;这一点,上个月观看过美国国防部高级研究计划署 (DARPA) 机器人大赛的人都清楚,看过视频分享网站 (YouTube) 上热门搞笑机器人仰面朝天视频的人也清楚。

当前人工智能的表现实在泛善可陈,尤其是模仿人类的人工智能(人们也称之为机器人)。我们可能将于 2017 年拥有全球联网的操作系统 (正如《终结者》电影所说),但可以肯定的是,短期内不会出现随心所欲操纵人类世界的机器人。(但是随着液态金属机器人的到来,本着谨慎谦虚的态度,暂且不下定论。)

且不论天网是否会成为现实,我们可能还有其他重要问题得考虑。首先,如果对人工智能放之任之,无需装在实体机器人身上,也会对人类造成威胁;眼下,任何人都可以编写软件程序,而软件,即使不借助有形物体,也可以造成伤害。

可是,软件程序的漏洞已经造成股市“暴跌”;人们可使用的软件越多,软件造成的伤害就可能越大。(如果该部电影说对了一件事,那就是全球处处联网的风险巨大。)

其次,机器人或其他人工智能无需具有自主意识来伤害人类;我们已经生活在这样一个世界:罪犯利用人工智能窃取信用卡,垃圾邮件泛滥。机器越智能,它们就越有可能成为所谓的“坏人”的犯罪工具;这对于任何科技都有可能,但是随着越来越多的事物联网互通,这种风险就越高。例如,如果20年以后,某些不怀好意的人试图攻击全球联网的自动驾驶汽车,后果将不堪想象。

Image copyright z
Image caption 机器人坏,还是坏人更坏?

同时,当前所有关于“超级智能”的时髦论题可能都不恰当。智能不是一种单维特征(如高度或重量,可以用某个数字来衡量的事物),而是有诸多不同认知特征的复杂混合体。人工智能已经在记忆和运算方面远远超越我们,但是在计划、逻辑以及理解方面还远不及人类。随着时间的推移,每个领域都会有点滴的进步;超级智能诞生的日子也无从知晓,但是数十年来,人工智能一直都在进步发展。机器无需在智力上超越人类,也可能带来潜在威胁;它们只需强大即可。

但幸运的是,无人知晓这些合成的家伙为何会关注人类;而现在或许因为它们对人类不感兴趣,我们才十分安全。令人担心的是,无人知道如何保证现在的幸福生活——机器不具备人性,对我们的资源不感兴趣。

我们尚不能放弃人工智能带来的巨大益处:让我们更加深刻地认识科学,促进生物科技和材料科学等科学技术的进步;人工智能还可以轻易地终结贫困,为治愈癌症或阿兹海默症带来希望,而且太空旅行也见曙光(可能在几百年或几千年后),这将在小行星撞击地球或发生其他不可预见的灾难发生时,最终拯救人类。当前我们最大的智慧挑战是,愈加智能的电脑将注定成为主角。

但那并不意味着我们不会考虑人工智能的风险和回报。我欣赏《终结者》的地方在于,它让人们对那些风险有所反思,至少是片刻的反思;但难以苟同的是,电影太不真实,很难严肃看待。

似乎只在科幻小说中多见人工智能的末世危险,但现实的核武器曾经也只是在科幻小说里出现。为了防备出现真正的危险,我们必须早做准备,防患于未然。

加利·马库斯 (Gary Marcus) 是几何智能股份有限公司的首席执行官和创办人,同时也是纽约大学 (New York University) 心理学和神经科学的教授。《大脑的未来》(The Future of The Brain) 是他最新著作。

欲阅读 英文原文,请访问 BBC Culture网站。

(责编:友义)

更多有关此项报道的内容