'AI 스피커가 대화를 엿듣고 남들에게 보냈다'

과연 우리의 대화는 안전할까? Image copyright Reuters
이미지 캡션 과연 우리의 대화는 안전할까?

아마존의 AI 스피커 알렉사가 주인 모르게 사적 대화를 녹음하고 연락처 명단에 있는 사람들에게 이를 발송한 것으로 알려졌다.

어떻게 이런 일이 일어난 걸까?

농담이 현실로…

오리건주 포틀랜드에 사는 한 부부는 무엇이든 알아듣고 명령을 수행하는 아마존 알렉사를 보며 '우리 몰래 대화 엿듣는 거 아니냐'며 농담하고는 했다.

그러나 그 농담이 현실이 되리라고는 상상하지도 못했다.

대화는 녹음되는 것도 모자라 연락처 명단의 지인에게 보내졌다.

녹음파일을 받고 당황한 지인이 연락해 자초지종을 묻자 부부는 대답했다.

"당장 아마존 알렉사 꺼!"

Image copyright Amazon
이미지 캡션 과연 우리의 대화는 안전할까?

어떻게?

대니엘(가명)은 미국 ABC 방송에 사건 경위를 설명했다.

어느 날, 대니엘의 남편의 동료로부터 한 통의 전화가 왔다.

"남편 동료가 전화해서 우리가 집에서 대화하는 내용이 담긴 녹음파일을 받았다고 하더라고요."

"남편은, '뭐? 그럴 리가 없어!'라고 반응했죠."

"그러자 남편의 동료가 그러더라고요. '너희 목조 바닥재에 관해 이야기했잖아.'"

"뭐라고? 진짜 들은 거야?"

아마존의 해명

무서운 일이다.

이번에는 목조 바닥재에 대한 대화였지만 다음에는 부부의 달콤한 시간이 그대로 녹음돼 보내질 수도 있다.

이에 대해 아마존 대변인의 대답은 무엇일까?

"AI 스피커가 작동 신호인 '알렉사'와 비슷한 말을 듣고 작동된 상태에서 '메시지 전송'과 비슷한 말을 들은 것 같아요."

"그러다가 어쩌다 "누구에게 보낼까요?"라고 말했을 것이고, 또 어쩌다 부부가 연락처 내 명단에 있는 사람의 이름과 비슷한 말을 꺼낸 거죠."

"알렉사는 "[동료 이름]이 맞나요?"라고 큰 소리로 물어봤을 것이고, 부부의 대화에서 "맞아(right)"라는 소리를 들은 것으로 보여요."

"이런 일련의 일들이 비현실적으로 들리는 건 알지만…"

"이런 사례가 발생할 가능성을 더 줄이기 위해 여러 옵션을 고려하고 있습니다."

하지만 대니엘은 아마존의 해명과는 다르게 어떤 경고도 알아채지 못했다고 말했다.

사건의 경황과 별개로 이번 일은 AI 음성인식 기기의 취약성을 보여주는 사건으로 남을 것이다.

문제가 해결되지 않는다면, 우리의 대화도 언젠가 우리 모르게 누군가에게 보내질지 모른다.

관련 기사 더 보기