Facebook將會如何打擊恐怖主義內容?

Facebook標誌 圖片版權 Getty Images
Image caption Facebook被批評沒有盡力打擊與恐怖主義有關的內容

社交媒體Facebook(臉書)宣佈一系列措施移除與恐怖主義有關內容。

各國政府向科技公司施壓,要求它們採取更多行動移除恐怖主義相關的內容。

Facebook領導層近期發表博客及接受BBC訪問時,都表示Facebook希望更加公開透明,讓公眾知道Facebook如何打擊恐怖主義的內容。

Facebook對BBC說,現時正使用人工智能去辨認與恐怖主義有關的圖片、視頻、文字及假賬戶。

「我們希望能在其他人看到之前,立刻找出與恐怖主義有關的內容。」

網路並非恐怖分子的」安全空間

所謂的」伊斯蘭國「擅用科技招攬成員,引起各界質疑網絡巨擘的現行做法。

有批評指網絡公司的平台被利用傳播極端主義及鼓吹他人使用暴力。

各國政府──尤其是英國政府──近月要求這些公司作出更多行動。歐洲各國都有更多聲音要求以立法或監管手段解決問題。

圖片版權 Getty Images

英國首相特里莎‧梅及法國總統馬克龍今周在巴黎開展運動,確保互聯網不能成為恐怖份子及犯罪者的安全空間。

他們說,其中一項議題是,當公司未能移除一些內容的時候,它們需要承擔法律責任,譬如繳交罰款。

Facebook說它們致力尋找新的方法去找出及移除不當內容,現時它希望外間更了解進行的工作。

Facebook全球公共政策主管莫妮卡•比克特(Monika Bickert)對BBC說:」我們需要對我們的社群坦誠布公,我們正在做甚麼去確保,恐怖組織難以在Facebook生存。」

英國國安官員批評指,科技公司依賴他人舉報有關極端主義者的內容,而非主動採取行動。

Facebook早前宣佈將會招聘額外3000人去檢視其他用戶檢舉的內容。

不過,Facebook亦曾表示,過半數被關閉、支持恐怖主義的用戶,是由Facebook自行找出來的。

Facebook說現時已使用新科技去提升行動的水平。

「我們知道我們能使用科技──尤其是人工智能──去做得更好、阻止恐怖主義內容的傳播。」

圖片版權 AFP
Image caption 英國和法國領袖都希望網路不會成為恐怖分子的安全空間

自動分析

配對影像是Facebook採取的新技術之一。

假如有人嘗試上載與恐怖主義有關的相片或視頻,系統會將之與已被辨認的內容比較,阻止這些內容上線。

令人工智能了解甚麼文字推廣恐怖主義,是另一個實驗中的範疇。

一些讚美或支持如「伊斯蘭國」等的恐怖組織的內容被移除後,人工智能通過分析去嘗試尋找支持恐怖主義的文字訊號。

演算法會以這些分析為基礎,學習如何辨認類似的內容。

機器學習意味著,過程將會越來越進步。

Facebook說現時應用演算法去偵測支持恐怖主義的用戶「群」或影像。

演算法將要尋找各種訊號──例如,用戶有否與大量因支持恐怖主義被停用的戶口成為「朋友」。

有些用戶不停開設新帳號上載恐怖主義資料、或企圖繞過現時制度。Facebook指它們正在發展新方式去追蹤這些「重犯者」。

比克特對BBC說:「我們看到恐怖主義的威脅在網上不停進化,我們的技術亦會一直進步。」

「我們針對問題的解決方法必須靈活多變。」

不過,系統自動化面臨的其中一個大問題是,演算法可能會移除與恐怖主義有關的內容,而並非支持恐怖主義的內容──譬如是有關「伊斯蘭國」的新聞報道。

任何性侵兒童的影像都是違法並可移除,但與恐怖主義有關的影像──例如是一名「伊斯蘭國」成員揮舞旗子的照片──可以歌頌恐怖主義,也可以用作反恐宣傳。

圖片版權 AP
Image caption 在二月,馬克·扎克伯格(Mark Zuckerberg)說Facebook會使用人工智能檢視內容

「最先進的科技」

Facebook說,演算法理解不同情境的能力仍然比不上人類。

Facebook說已擴展專家團隊,現時有150人專注反恐範疇。這些員工包括反恐的專家學者、前檢察人員、前執法者、分析員及工程師。

比克特說:「我們必須有能夠審核內容的人。」

「使用電腦做電腦擅長的工作、派人負責人類擅長做的事,我喜歡這樣想。」

還有很多挑戰。利用假名開設用戶幾分鐘後,我能夠找到「伊斯蘭國」完整版的宣傳影片。

有批評指,Facebook有20億用戶使用,處理問題挑戰嚴峻。不過,Facebook營收以十億美元計,絶對有能力投入更多資源──及頂尖工程師──去處理問題。

Facebook說已開始使用「最先進的科技」打擊恐怖主義內容,並相信外界需要看到它們的行動。

相關主題內容

更多有關此項報導的內容