딥페이크: 중국의 얼굴 바꿔치기 앱, 보안·금융사기 우려

이 앱이 중국의 국가안보에 위협이 될 수 있을까? Image copyright MOMO
이미지 캡션 이 앱이 중국의 국가안보에 위협이 될 수 있을까?

영화나 텔레비전 프로그램 등장인물의 얼굴을 사용자의 얼굴로 바꾸는 인공지능 앱이 중국에서 논란이 되고 있다.

'자오'라는 이름의 이 앱은 안면 인식 시스템을 교란시킬 수 있다는 우려와 개인정보에 관한 우려를 일으켰다.

이 앱은 지난 8월 29일 중국에서 출시된 이후 많은 인기를 얻었다.

그러나 앱 개발사 '모모'는 사용자의 사진에 대한 관리를 박탈한 최종사용자 약관에 대해 사과해야 했다.

앱이 인기를 끌자 개발사는 값비싼 서버의 수용 능력이 한계에 달할 것에 대한 우려를 표했다.

중국의 인터넷 대기업 알리바바의 전자결제 사업체인 알리페이는 소위 '딥페이크'로 통칭되는 이러한 앱으로 만든 영상이 자사의 안면 인식 시스템을 속이는 게 불가능하다고 발표하기까지 했다.

Image copyright MOMO/WEIBO
이미지 캡션 자오는 기존의 영상 자료에 사용자의 얼굴을 씌운다

딥페이크 앱이 금융사기에 악용될 수 있을까?

8억 7천만 명의 사용자를 거느린 세계에서 가장 큰 모바일 결제 플랫폼인 알리페이는 자오로 만든 영상을 자사의 안면 인식 시스템을 속이는 데 사용될 수 없다고 밝혔다.

사용 기기에서 미디어 재생이 지원되지 않습니다
딥페이크 영상의 위험성

알리페이 사용자 상당수는 이 플랫폼에서 '스마일 페이' 시스템을 쓴다. 상점이나 음식점에서 카메라를 바라보는 것만으로 지불 승인이 되는 시스템이다.

알리페이의 모기업인 알리바바는 정지 화상이나 딥페이크 영상에 시스템이 속지 않도록 복잡한 검증 알고리즘을 사용하고 있다고 밝혔다.

이 알고리즘은 사용자의 얼굴이 맞는지를 확인하기 전에 먼저 이 화상이 정지 화상인지 아니면 프로그램으로 만든 가짜 영상인지를 판별한다고 한다.

작년 중국의 한 학자는 알리페이의 안면 인식 시스템이 "이론적으로는 통상적인 패스워드 사용보다 더 안전하고 간편하다"고 차이나데일리에 말한 바 있다.

Image copyright Getty Images
이미지 캡션 알리페이는 세계에서 가장 큰 모바일 결제 시스템이다

각계의 반응은?

이 앱에 대한 우려는 중국의 국영 매체에까지 전해졌다.

글로벌타임스는 인공지능이 사용된 앱이 악용될 수 있는 또다른 사례라고 평했다.

중국 정부는 이미 인공지능으로 얼굴을 덮어씌우는 기술에 대해 규제를 강화할 것을 검토하고 있다고 이 매체는 전했다.

한편 한 법학 교수는 중국의 국영 통신사 신화통신에 이렇게 말했다. "사람들은 개인 신상과 재산 등의 정보가 담긴 모바일 앱을 사용하고 코드를 스캔하고 모바일 결제를 하지만 자신이 사용하는 앱이 정확히 어떤 정보를 습득하는지 모릅니다. 정말 위험한 일이죠."

Image copyright MOMO
이미지 캡션 자오는 출시되자마자 중국의 앱 인기순위 정상에 올랐다

베이징뉴스에 실린 한 논평은 심지어 이 앱이 "국가안보에 위협"이 될 수 있지 않느냐고 묻기까지 했다.

광저우데일리는 사설에서 이렇게 썼다. "얼굴을 바꾸는 영상은 재미있지만 그 잠재적인 보안 위협은 무시할 수 없다."

더페이퍼는 자오의 인기가 한순간일 수는 있어도 이 앱의 등장이 얼굴 뒤바꾸기 기술을 악용하기 쉽게 만들었다고 평했다.

관련 토픽

관련 기사 더 보기