人工智能:永远铁面无私的入境边检员

(Credit:Getty) Image copyright Getty Images

跨国旅客的数量正在快速增长。2017年,有14亿人次出国。2030年,这个数字预计将增至18亿。

这意味着等待入境的队伍会越来越长。被限制入境者当中,绝大多数不会造成威胁,但却让本已冗长的入境手续变得更为缓慢。边检人员的工作很艰难。每小时要做出数百次判断,决定是否应该让旅客入境。在恐怖主义、人口贩卖和走私的威胁下,要把事情做对做好有很大的压力。

虽然边检人员可从电脑系统上获取一些额外情报,但他们检视大多数旅客,都是凭借经验和直觉。对许多边检人员而言,这种经验可能并不多——这个职位人员流动率很高;美国边检人员的辞职率是其它执法部门的两倍。

任何一个入境时被拦下来的人,都会知道这是一个多么令人沮丧、倍感压力的经历,即便是很短暂的停留也是如此。在边防人员检查你的护照时直视他们无情的双眼,永远是让人精神紧张的经历。

但很快就可能有一种看不见的边检人员,我们既无法和他们说理,也不能用一个微笑改变他们的想法。

Image copyright Getty Images
Image caption 边检人员往往没有什么同情的态度,但更加依赖科技可能让入境审查流程彻底没有了人情味(Credit:Getty)

全球多个政府正在开发人工智能系统,协助评估入境旅客。

美国科技公司Unisys开发的系统就是其中之一。该公司在2001年“9/11”恐怖袭击事件后,开始与美国海关和边境巡逻队合作研发新技术,用于在登机前确定危险乘客。 他们的威胁评估系统被称为LineSight,收集来自不同政府机构和其他来源的旅客数据,进行数学上的风险评估。

他们还把这项技术用于寻找有潜在威胁的旅客或者货物上。Unisys的边境及国家安全项目总监肯达尔(John Kendall)用两名虚构的旅客的例子解释了LineSight的运作方法。

罗曼(Romain)和桑德拉(Sandra)都持有有效护照和签证。大部分情况下,他们能直接通过安检系统,无需接受盘问。但LineSight的算法发现了罗曼旅行中的一些可疑之处——她在过去几年多次前往某国,带着许多不同姓氏的小孩同行,预测分析将此与人口贩卖联系起来。

肯达尔还表示:“罗曼买机票所用信用卡的发卡银行与东欧一个贩卖性工作者的人口走私集团有关联。”LineSight能从罗曼搭乘的航空公司获取这些信息,并与执法部门的数据库进行交叉核验。

Image copyright Molly Kendrick
Image caption Unisys已经在研发人脸识别以及其他技术,帮助边检人员找出可能构成威胁的旅客(Credit:Molly Kendrick)

肯达尔还补充说:“在罗曼和桑德拉登机之前,就可以搜集所有信息,发送给边检人员。我们从多个来源搜集数据。不同的政府搜集不同的信息,有的来自政府自己的数据库,还有的来自旅行社。这些数据各式各样的都有。”

这个系统可以用类似分析货运信息的手段,将可能的走私信息整合起来。

Unisys人工智能的强大之处在于可以短时间内搜集并评估海量数据——LineSight只需两秒钟就能处理所有相关数据并完成威胁评估。

但也有人担心这种用人工智能分析数据的方法。用历史数据训练出的算法在识别规律或行为时可能带有这些历史数据里存在的偏见。例如,人们发现,利用美国司法系统数据训练的算法就对非洲裔被告存在偏见。该算法会做出不正确的判断,认为非洲裔被告再次犯案几率是白人的两倍,反映的正是美国司法系统里人类的偏见。

布瑞南司法中心(Brennan Center for Justice)的普赛(Erica Posey)担心,类似的偏见可能会悄然植入入境检查的算法中。

Image copyright Getty Images
Image caption 人工智能可为边检官员提供更多触手可及的旅客信息(Credit:Getty)

“用过去被禁止入境旅客的信息对现有数据集进行训练,训练出的预测性算法几乎都极度依赖过去数据中的代表性,进而复制过去的规律。”普赛说。

根据肯达尔的说法,Unisys希望通过允许算法从过去的错误中吸取经验来应对这一问题。

“如果他们把某个人拦下来,结果发现此人并没有什么不妥,这就会让算法自动更新。”他说。“因此我们每做一次评估,算法就变得更加智能。这并不是基于直觉,也不是基于我的偏见——而是基于通过边境的所有旅客。”

该公司还表示,LineSight并不会让某一条数据的权重高于其他数据,而是将所有相关信息呈递给边检和海关人员。

但还有其他团队计划更进一步,让机器决定是否可以相信旅客。边检人员基于一个人的肢体语言和回答问题的方式作出判断。还有一些人希望人工智能可以更好地发现欺骗的迹象。

圣地亚哥州立大学(San Diego State University)的计算机科学家埃尔金斯(Aaron Elkins)指出,人类通常只能发现他人54%的谎言。相比之下,人工智能驱动的机器视觉系统在多个研究中准确率超过80%。可以检测到血流变化的红外摄像头以及可以检测出细微变化的规律识别系统都得以运用。

Image copyright Getty Images
Image caption 旅客入境流程自动化有助于减少排队,但也有人担心旅客会因为不公正的原因被拘留(Credit:Getty)

埃尔金斯自己就是筛查系统Avatar(自动化实时判断真伪虚拟员工)的投资人之一,这一系统很快就会和边检工作人员一起合作。Avatar的显示界面有一个虚拟的机器人向旅客提问,并仔细分析旅客的姿势、眼动以及声音的变化。

在实验室对数万名对象进行测试后,Avatar团队认为,他们已经教会了系统识别欺骗行为。

另一个名为iBorder Ctrl的系统即将在匈牙利、希腊、拉脱维亚三国的陆上边境进行测试。该系统已经经过说谎或说实话的人的视频训练,也有自动面试功能,会对旅客展开询问。

英国曼彻斯特城市大学的计算机智能专家科洛奇特(Keeley Crocket)是iBorder Ctrl的研发人员之一,表示该系统寻找人们的微表情——非语言的、细微的面部表情信息,包括脸红以及轻微的前后移动。科洛奇特对第一阶段的现场测试寄予厚望,称团队希望现场测试时该系统的“准确率达到85%”。

Image copyright Getty Images
Image caption 现在自动护照检查机在很多机场都很常见,很快这些机器就能在旅客通过时进行询问(Credit:Getty)

科洛奇特警告说:“除非我们完成了(这一阶段的测试),否则我们无法确定。”

不过,关于人工智能“谎言探测器”是否真的有用还存在争论。

谎言检测研究员以及iBorder Ctrl技术的声音分析师旺德(Vera Wilde)指出,科学尚未证明我们的外在行为和欺骗之间的明确联系,这正是为什么测谎仪结果在法庭上不被接受的原因。

她说:“并没有能检测到的特别的‘谎言反应’。”

即使这种关联性强到科学能够证明,在边境口岸使用时也会引起棘手的法律问题。马萨诸塞州综合医院法律、大脑与行为中心(Massachusetts General Hospital Center for Law, Brain and Behavior)的联合主任埃德斯海姆(Judith Edersheim)表示,谎言检测技术可能造成非法搜查和扣押。

她说:“强制性筛查是对你思想的攫取,是对人思维的检索。”在美国,这么做需要有逮捕令。在欧洲也可能存在类似的问题。 《通用数据和保护条例》(General Data and Protection Regulation)第22条保护欧盟公民免受此类侧写分析(profiling)。 iBorder Ctrl是否足够透明,能否证明它没有使用某些侧写分析元素?

值得注意的是,在这个阶段,测试iBorder Ctrl的旅客都是志愿者。此外,在他们真正进入这些正在开展测试的国家之前,仍将面对真人边检人员。该系统将为真人边检人员提供由iBorder Ctrl的人工智能确定的风险评估分数。

Image copyright Getty Images
Image caption 受过训练的犬类可以在边境关口嗅出行李内的非法物品,但人工智能可以帮助海关人员在走私物品到达边境之前就将其辨认出来(Credit:Getty)

在边检方面,人工智能似乎永远不会完全取代人类。 Unisys、Avatar和iBorder Ctrl团队都认为,无论技术变得多么成熟,他们仍然会严重依赖人类来解释信息。

但依靠机器来决定旅客能否进入某个国家,仍然引起了人权和隐私倡导者的极大关注。 如果旅客被确定为高风险,边境巡逻机构是否会告诉他们原因是什么呢?

“关于如何开发和实施算法本身,如何在算法计算中对不同类型的数据进行加权,如何训练人类决策者来解释人工智能系统的结论,以及如何对系统进行审计,透明度是必不可少的。”普赛说。“从根本上说,如何对个人和整个系统的影响进行评估,透明度也是必需的。”

然而,肯达尔认为,人工智能可能是处理国际边境挑战的重要工具。

“这是一系列复杂的威胁,”他说。“几年后,我们面临的威胁将和今天的大不相同。”

人工智能边检的成功不仅取决于他们能否比那些构成威胁的人抢先一步,而且也取决于它们能否让18亿希望周游列国的人更轻松地出行。

请访问 BBC Future 阅读 英文原文

相关主题内容

更多有关此项报道的内容