給色情視頻換上明星臉 AI視頻網上遭禁

Image caption 娜塔莉·波特曼在視頻中的面部是由計算機對數百張照片計算後生成的

社交媒體網站Reddit禁止了AI換臉色情視頻——在未經允許的情況下,將色情電影角色的臉部修改為明星的面部。

隨著人工智能技術的發展,用計算機生成明星臉部特徵的視頻片段變得容易得多。

網站Reddit已經成為分享和討論此類視頻最受歡迎的地方之一。

在推特、Gfycat等網站開始禁止這類視頻後,Reddit面臨的輿論壓力越來越大。

然而,這可能會導致一些Reddit用戶不安,因為在2017年關閉網站內兩個另類右派論壇之後,外界已經擔心該平台變得不那麼「開放」。

明星換臉視頻怎麼來的?

在網站Reddit上,這類視頻被稱為Deepfakes。它使用人工智能軟件來創建由計算機生成的人臉,然後與視頻中本身的人臉進行替換。

視頻所用的算法被認為是去年開發的。製作這樣一個視頻,需要有從不同角度拍攝的約500張人物臉部照片,以及一段視頻,最終可生成效果較好的換臉視頻。

Image caption 多個換臉視頻用女演員蓋爾·加朵的面部特徵進行替換

去年12月這種做法開始引起較廣泛關注,一家新聞網站報道這種技術是如何被用來製作女演員蓋爾·加朵的換臉影片。

但是1月網上流傳一個名為FakeApp的軟件,它使這一過程變得非常簡單,只需按一個鍵就能實現。

並不是所有換臉視頻都是色情的,其中很多都是關於美國總統特朗普的惡搞,一個用戶則把自己妻子的臉放到好萊塢電影的場景中。

Reddit最新的政策禁止了換臉的視頻和圖片在該網站上的傳播。這類視頻在Reddit上的頻道有超過91,000名用戶,也是新政實施後第一個被刪除的頻道。

Image caption Reddit上的相關頻道已被關閉

最近,Deepfakes群體裏也有人擔心,一些用戶在使用這項技術來收集和替換16歲以下兒童的臉部特徵,從而生成虐待兒童的影像。

Reddit表明了其在這類問題上的態度,「Reddit禁止任何涉及未成年人或看似未成年人的性內容。」

Reddit仍然允許發佈由FakeApp軟件創建的其他視頻。

一些網友表達更深的憂慮——有用戶聲稱他們在利用身邊熟人或者社交網絡上陌生人的照片製作這種換臉色情視頻。這種視頻製作技術門檻越來越低,普通人成為受害者的風險急劇上升。

相關主題內容

更多有關此項報導的內容