人工智能:永遠鐵面無私的入境邊檢員

(Credit:Getty) Image copyright Getty Images

跨國旅客的數量正在快速增長。2017年,有14億人次出國。2030年,這個數字預計將增至18億。

這意味著等待入境的隊伍會越來越長。被限制入境者當中,絶大多數不會造成威脅,但卻讓本已冗長的入境手續變得更為緩慢。邊檢人員的工作很艱難。每小時要做出數百次判斷,決定是否應該讓旅客入境。在恐怖主義、人口販賣和走私的威脅下,要把事情做對做好有很大的壓力。

雖然邊檢人員可從電腦系統上獲取一些額外情報,但他們檢視大多數旅客,都是憑借經驗和直覺。對許多邊檢人員而言,這種經驗可能並不多——這個職位人員流動率很高;美國邊檢人員的辭職率是其它執法部門的兩倍。

任何一個入境時被攔下來的人,都會知道這是一個多麼令人沮喪、倍感壓力的經歷,即便是很短暫的停留也是如此。在邊防人員檢查你的護照時直視他們無情的雙眼,永遠是讓人精神緊張的經歷。

但很快就可能有一種看不見的邊檢人員,我們既無法和他們說理,也不能用一個微笑改變他們的想法。

Image copyright Getty Images
Image caption 邊檢人員往往沒有什麼同情的態度,但更加依賴科技可能讓入境審查流程徹底沒有了人情味(Credit:Getty)

全球多個政府正在開發人工智能系統,協助評估入境旅客。

美國科技公司Unisys開發的系統就是其中之一。該公司在2001年「9/11」恐怖襲擊事件後,開始與美國海關和邊境巡邏隊合作研發新技術,用於在登機前確定危險乘客。 他們的威脅評估系統被稱為LineSight,收集來自不同政府機構和其他來源的旅客數據,進行數學上的風險評估。

他們還把這項技術用於尋找有潛在威脅的旅客或者貨物上。Unisys的邊境及國家安全項目總監肯達爾(John Kendall)用兩名虛構的旅客的例子解釋了LineSight的運作方法。

羅曼(Romain)和桑德拉(Sandra)都持有有效護照和簽證。大部分情況下,他們能直接通過安檢系統,無需接受盤問。但LineSight的算法發現了羅曼旅行中的一些可疑之處——她在過去幾年多次前往某國,帶著許多不同姓氏的小孩同行,預測分析將此與人口販賣聯繫起來。

肯達爾還表示:「羅曼買機票所用信用卡的髮卡銀行與東歐一個販賣性工作者的人口走私集團有關聯。」LineSight能從羅曼搭乘的航空公司獲取這些信息,並與執法部門的數據庫進行交叉核驗。

Image copyright Molly Kendrick
Image caption Unisys已經在研發人臉識別以及其他技術,幫助邊檢人員找出可能構成威脅的旅客(Credit:Molly Kendrick)

肯達爾還補充說:「在羅曼和桑德拉登機之前,就可以搜集所有信息,發送給邊檢人員。我們從多個來源搜集數據。不同的政府搜集不同的信息,有的來自政府自己的數據庫,還有的來自旅行社。這些數據各式各樣的都有。」

這個系統可以用類似分析貨運信息的手段,將可能的走私信息整合起來。

Unisys人工智能的強大之處在於可以短時間內搜集並評估海量數據——LineSight只需兩秒鐘就能處理所有相關數據並完成威脅評估。

但也有人擔心這種用人工智能分析數據的方法。用歷史數據訓練出的算法在識別規律或行為時可能帶有這些歷史數據裏存在的偏見。例如,人們發現,利用美國司法系統數據訓練的算法就對非洲裔被告存在偏見。該算法會做出不正確的判斷,認為非洲裔被告再次犯案機率是白人的兩倍,反映的正是美國司法系統裏人類的偏見。

布瑞南司法中心(Brennan Center for Justice)的普賽(Erica Posey)擔心,類似的偏見可能會悄然植入入境檢查的算法中。

Image copyright Getty Images
Image caption 人工智能可為邊檢官員提供更多觸手可及的旅客信息(Credit:Getty)

「用過去被禁止入境旅客的信息對現有數據集進行訓練,訓練出的預測性算法幾乎都極度依賴過去數據中的代表性,進而複製過去的規律。」普賽說。

根據肯達爾的說法,Unisys希望通過允許算法從過去的錯誤中吸取經驗來應對這一問題。

「如果他們把某個人攔下來,結果發現此人並沒有什麼不妥,這就會讓算法自動更新。」他說。「因此我們每做一次評估,算法就變得更加智能。這並不是基於直覺,也不是基於我的偏見——而是基於通過邊境的所有旅客。」

該公司還表示,LineSight並不會讓某一條數據的權重高於其他數據,而是將所有相關信息呈遞給邊檢和海關人員。

但還有其他團隊計劃更進一步,讓機器決定是否可以相信旅客。邊檢人員基於一個人的肢體語言和回答問題的方式作出判斷。還有一些人希望人工智能可以更好地發現欺騙的跡象。

聖地亞哥州立大學(San Diego State University)的計算機科學家埃爾金斯(Aaron Elkins)指出,人類通常只能發現他人54%的謊言。相比之下,人工智能驅動的機器視覺系統在多個研究中凖確率超過80%。可以檢測到血流變化的紅外攝像頭以及可以檢測出細微變化的規律識別系統都得以運用。

Image copyright Getty Images
Image caption 旅客入境流程自動化有助於減少排隊,但也有人擔心旅客會因為不公正的原因被拘留(Credit:Getty)

埃爾金斯自己就是篩查系統Avatar(自動化實時判斷真偽虛擬員工)的投資人之一,這一系統很快就會和邊檢工作人員一起合作。Avatar的顯示界面有一個虛擬的機器人向旅客提問,並仔細分析旅客的姿勢、眼動以及聲音的變化。

在實驗室對數萬名對象進行測試後,Avatar團隊認為,他們已經教會了系統識別欺騙行為。

另一個名為iBorder Ctrl的系統即將在匈牙利、希臘、拉脫維亞三國的陸上邊境進行測試。該系統已經經過說謊或說實話的人的視頻訓練,也有自動面試功能,會對旅客展開詢問。

英國曼徹斯特城市大學的計算機智能專家科洛奇特(Keeley Crocket)是iBorder Ctrl的研發人員之一,表示該系統尋找人們的微表情——非語言的、細微的面部表情信息,包括臉紅以及輕微的前後移動。科洛奇特對第一階段的現場測試寄予厚望,稱團隊希望現場測試時該系統的「凖確率達到85%」。

Image copyright Getty Images
Image caption 現在自動護照檢查機在很多機場都很常見,很快這些機器就能在旅客通過時進行詢問(Credit:Getty)

科洛奇特警告說:「除非我們完成了(這一階段的測試),否則我們無法確定。」

不過,關於人工智能「謊言探測器」是否真的有用還存在爭論。

謊言檢測研究員以及iBorder Ctrl技術的聲音分析師旺德(Vera Wilde)指出,科學尚未證明我們的外在行為和欺騙之間的明確聯繫,這正是為什麼測謊儀結果在法庭上不被接受的原因。

她說:「並沒有能檢測到的特別的『謊言反應』。」

即使這種關聯性強到科學能夠證明,在邊境口岸使用時也會引起棘手的法律問題。馬薩諸塞州綜合醫院法律、大腦與行為中心(Massachusetts General Hospital Center for Law, Brain and Behavior)的聯合主任埃德斯海姆(Judith Edersheim)表示,謊言檢測技術可能造成非法搜查和扣押。

她說:「強制性篩查是對你思想的攫取,是對人思維的檢索。」在美國,這麼做需要有逮捕令。在歐洲也可能存在類似的問題。 《通用數據和保護條例》(General Data and Protection Regulation)第22條保護歐盟公民免受此類側寫分析(profiling)。 iBorder Ctrl是否足夠透明,能否證明它沒有使用某些側寫分析元素?

值得注意的是,在這個階段,測試iBorder Ctrl的旅客都是志願者。此外,在他們真正進入這些正在開展測試的國家之前,仍將面對真人邊檢人員。該系統將為真人邊檢人員提供由iBorder Ctrl的人工智能確定的風險評估分數。

Image copyright Getty Images
Image caption 受過訓練的犬類可以在邊境關口嗅出行李內的非法物品,但人工智能可以幫助海關人員在走私物品到達邊境之前就將其辨認出來(Credit:Getty)

在邊檢方面,人工智能似乎永遠不會完全取代人類。 Unisys、Avatar和iBorder Ctrl團隊都認為,無論技術變得多麼成熟,他們仍然會嚴重依賴人類來解釋信息。

但依靠機器來決定旅客能否進入某個國家,仍然引起了人權和隱私倡導者的極大關注。 如果旅客被確定為高風險,邊境巡邏機構是否會告訴他們原因是什麼呢?

「關於如何開發和實施算法本身,如何在算法計算中對不同類型的數據進行加權,如何訓練人類決策者來解釋人工智能系統的結論,以及如何對系統進行審計,透明度是必不可少的。」普賽說。「從根本上說,如何對個人和整個系統的影響進行評估,透明度也是必需的。」

然而,肯達爾認為,人工智能可能是處理國際邊境挑戰的重要工具。

「這是一系列複雜的威脅,」他說。「幾年後,我們面臨的威脅將和今天的大不相同。」

人工智能邊檢的成功不僅取決於他們能否比那些構成威脅的人搶先一步,而且也取決於它們能否讓18億希望周遊列國的人更輕鬆地出行。

請訪問 BBC Future 閲讀 英文原文

相關主題內容

更多有關此項報導的內容