人工智能的真正风险

Image copyright Getty
Image caption 图片来源:Getty Images

如果你相信一些人工智能观察者的看法,那么我们正在奔向奇点——届时,人工智能将超越人类智能并继续以指数增长的速度自我完善。如果出现这一情况——可能性很低——那么人类会怎么样?

在过去几年中,史蒂芬·霍金(Stephen Hawking)、伊隆·马斯克(Elon Musk)、比尔·盖茨等一些名人警告我们应加强关注超级人工智能可能带来的危险后果。而且,他们还把钱用在这方面:包括马斯克在内的几位亿万富翁为OpenAI提供支持,该组织致力于开发惠及人类的人工智能。

但是对很多人来说,这不过是杞人忧天。斯坦福大学的吴恩达(Andrew Ng)称担心杀人机器人的出现就好像担心火星上人口过剩一样。吴恩达也是中国互联网巨头百度的首席科学家。

Image copyright Getty Images
Image caption 像巴黎的无人驾驶迷你巴士这样的无人驾驶汽车正出现在全世界各个城市的街头。(图片来源:Getty Images)

不过,对人工智能的依赖日益加深并不意味着就没有风险。事实上,风险早已存在。智能系统已经进入医疗、金融、司法等重要领域的决策过程。我们生活的重要部分有可能冒着未经充分审视的风险。

更重要的是,人工智能有可能产生让人猝不及防的连锁效应,比如改变我们与医生的关系,或者改变小区的治安方式。

人工智能到底是什么?

简单来说,它就是机器做人类需要智力才能完成的事情:理解自然语言,识别照片中的面部,驾驶汽车或者基于我们先前的阅读偏好猜测我们可能会喜欢的书。

人工智能区别于工厂生产线上按照编程重复进行简单任务的机械臂,它更像是通过试错自动学习如何处理不同任务的机械臂。

人工智能有哪些好处?

机器学习是目前人工智能的领先技术,经过训练的程序能够在大量数据中寻找规律并作出反应,比如在图片中识别人脸或者在下围棋时选择正确的一步。该技术可应用到各类问题中,比如让计算机寻找医学影像中的规律。谷歌的人工智能子公司DeepMind正在与英国国家医疗保健服务(National Health Service,NHS)展开合作,其中的一个合作项目就是让软件学会根据扫描结果诊断病人是否患有癌症或眼部疾病。其他的项目包括通过机器学习捕捉心脏病和阿兹海默症的初期症状。

Image copyright Getty Images
Image caption 人工智能可能很快在医疗、病情诊断方面发挥不可替代的作用,比如通过医学影像诊断眼部疾病和癌症。(图片来源:Getty Images)

人工智能还被用来分析数量庞大的分子信息,以寻找新药的候选品——如果让人来完成这一过程,耗时过长,没有分析的价值。的确,机器学习可能很快在医疗方面发挥不可替代的作用。

人工智能还能帮助我们管理全球船运网络这样的高度复杂的系统。以悉尼博塔尼港(Port Botany)的集装箱码头为例,这里的核心系统管理着数千个集装箱进出港口的事项。它在一个完全无人的区域管理一批无人操纵的集装箱跨运车。在采矿业也有类似的情况,越来越多的优化引擎被用于规划和协调资源的运输,比如将铁矿石运输到巨大的无人驾驶采矿卡车上,再运送到运货列车上,最后把铁矿石送到港口。

人工智能的用途遍及各行各业,从金融业到运输业,它监控着股票市场上的可疑交易行为,帮助控制地面和空中的交通。它们甚至可以帮你阻挡垃圾邮件。这还只是人工智能的开端。随着技术的进步,它的用途也会越来越多。

那么问题出在哪里?

与其担心人类被人工智能统治,不如思考因为我们过分相信我们制造的智能系统而可能带来的真正风险。还记得机器学习的工作模式吧:训练软件寻找数据中的规律。一旦训练完成,人工智能的机器就开始分析新的数据。但是当机器作出回答时,我们通常无法知道它的解答过程。

这就存在明显的问题。机器的准确性取决于它学习时所使用的数据的准确性。比如一个系统了解了肺炎患者的死亡可能性较高,所以系统有可能让患者住院。系统在无意中会把哮喘病患者归位风险较低者,这是因为在正常情况下,有哮喘病史的肺炎患者会被直接送至重症监护病房,这种治疗方式会大幅减低死亡风险。但是机器通过学习会认为这意味着哮喘+肺炎=较低的死亡率。

Image copyright Getty Images
Image caption 算法正在被用于很多能改变人一生命运的决策方面,比如在什么情况下犯人可以保释,但是算法的准确性取决于我们提供的数据的准确性(图片来源:Getty Images)

由于人工智能广泛应用于生活的方方面面,从你的信用评级,到工作职位的匹配度,再到罪犯再次犯罪的概率,一旦人工智能犯错——我们并不一定知道——的风险也会增加。

由于我们提供给人工智能的很多数据都是不完美的,我们也不应期待人工智能一直能提供完美的答案。认识到这一点是管理风险的第一步。我们需要加强审视基于人工智能的决策过程。由于我们按照自己的样子制造出人工智能,它就很可能兼具人类的优点和缺点。

请访问 BBC Future 阅读 英文原文

更多有关此项报道的内容