뒤로가기
인터넷 악몽
[인터넷 악몽㉙] 안전지대가 없다, ‘딥페이크’의 위협
2020. 06. 09 by 박설민 기자 ihatefree1@sisaweek.com
4차 산업혁명 시대가 도래하면서 인공지능(AI) 기술도 빠르게 발전하고 있다. 그런데 AI를 이용해 사람의 얼굴을 합성하는 ‘딥페이크(Deep fake)’이 디지털 성범죄에 악용되면서 그 피해사례가 급증하고 있다./ shutterstock

시사위크=박설민 기자  불법촬영(몰카)에 대한 단속, 처벌, 수사 등이 강화되고 있지만 대다수 여성들의 불안감은 여전하다. 불법촬영과 같은 디지털 성범죄는 그동안 우리 사회의 음지에서 너무나 깊게 뿌리를 내린 상태이며, 이를 완전히 뿌리 뽑기 위해선 시간과 노력이 상당히 필요하기 때문이다.

이로 인해 안타깝게도 여성들이 범죄를 ‘조심’해야 하는 불합리한 대응책은 당분간 지속될 것으로 보인다. 그런데 최근 여성들이 주의를 기울이고, 불법 설치된 카메라들을 단속하더라도 피할 수 없는 디지털 성범죄가 나타나고 있다. ‘불법 합성물’ 제작·유포 범죄가 바로 그것이다.

◇ 연예인부터 일반인까지 노리는 ‘딥페이크’ 합성… 단속·처벌 어려워

정보통신(ICT)기술은 하루가 다르게 발전하면서 신식 ICT기술을 이용한 합성 음란물을 제작하는 범죄행위가 새롭게 등장하고 있다. 인공지능(AI)를 이용한 ‘딥페이크(Deep fake)’의 악용이 대표적인 사례다. 

‘딥페이크’는 인공지능(AI)를 이용해 동영상 속 등장인물의 얼굴과 목소리를 다른 사람으로 바꾸는 합성 기술이다. 이 기술을 이용하면 누구나 쉽게 영상 합성이 가능하다. 이를 통해 영화, 방송, 교육 등 다양한 콘텐츠 분야에서 이용될 수 있어 기술적 가치가 크다는 평가를 받고 있다. 

그러나 딥페이크 기술은 사람의 얼굴을 정교하게 합성할 수 있다는 점에서 다양한 범죄에 악용될 가능성이 높기도 하다. 특히 디지털 성범죄에 악용될시 일반 불법 합성 음란물보다 훨씬 정교해 실제와 구분하기도 힘든 수준이다.

네덜란드 사이버 보안 연구업체 ‘딥트레이스’가 발표한 보고서에 따르면 온라인상에서 불법으로 유통되고 있는 딥페이크 음란물 중 25%가 우리나라 여성 아이돌 가수를 합성해 제작된 것이다. 이에 경찰은  지난 4월부터 수사에 나선 상태다. 사진은 딥페이크 영상이 유포되고 있는 해외 불법 성인 사이트. / 홈페이지 캡처

딥페이크를 활용한 합성 음란물들은 우리나라뿐만 아니라 세계적으로 빠르게 증가하는 추세다. 지난해 10월 네덜란드 사이버 보안 연구업체 ‘딥트레이스’가 발표한 보고서에 따르면 지난 2018년 12월 기준 약 8,000개에 달했던 딥페이크 영상물은 2019년 기준 1만4,698개로 증가했다. 이중 96%는 불법 음란물 제작을 목적으로 다른 사람의 얼굴을 합성한 영상들이다.

국내에선 여성가수, 연예인들이 큰 피해를 받고 있는 것으로 나타났다. 온라인상에서 불법으로 유통되고 있는 딥페이크 음란물 중 25%가 K-POP가수들을 합성해 제작된 것이다. 이는 피해자 중 41%를 차지한 미국 여배우에 이어 2위인 수치다. 딥트레이스 측은 해당 영상들 대부분은 중국에서 제작된 것으로 추정했다.

이에 경찰은 지난 4월부터 국내외 IT 기술 개발자들이 딥페이크 음란물을 조직적으로 제작 유포한 정황을 포착해 수사에 나선 상태다. 경찰 측에 따르면 수사 중인 피해자는 약 100여명의 여자 연예인인 것으로 알려졌다.

그런데 최근 딥페이크 범죄의 손길이 연예인들을 넘어 일반인들에게도 닿고 있다. 최근 ‘지인 능욕’ 범죄가 급증하기 시작하면서다. 

지인 능욕이란 자신이 알고 있는 지인이나 SNS(사회 연결망 서비스) 등에 올라온 일반 여성들의 사진을 딥페이크 기술로 합성하는 디지털 성범죄를 말한다. 친구, 직장동료, 가족까지 지인 능욕으로 인한 피해 범위는 매우 넓다. 또한 몰카 등 불법촬영물처럼 직접적인 단속도 어렵고, 피해자들이 자신이 모르는 사이에 음란물에 얼굴을 합성 당해 온라인상에서 유포될 수 있다. 

실제로 지인 능욕 등 자신이 알고 있는 여성들을 합성해준다는 글들을 SNS 등 온라인 상에서 쉽게 찾아볼 수 있다. 이들은 심지어 미성년자를 대상으로 한 지인 능욕 합성물도 생산한다고 소개하고 있었으며, 해당 영상물 제작을 요청할 시 금전적 요구까지 하는 것으로 알려졌다.

그러나 지인 능욕의 경우, 유통되는 경우가 적고 텔레그램 등을 활용한 1대1 거래가 많아 수사에 어려움이 따른다. 또한 현재까지 딥페이크 음란물에 대한 처벌 규정은 미비한 상태로 적시에 처벌할 수 없거나, 명예훼손 또는 음란물 유포 등의 요건이 충족되는 경우에만 범죄로 처벌이 가능하다. 때문에 딥페이크 음란물과 관련된 범죄 행위에 대해 제대로 된 처벌이 어려운 상황이다. 

지인 능욕 합성물 제작을 요청받고 있는 SNS 계정. 최근까지 해당 계정에 지인능욕 합성물 제작을 의뢰하는 다수의 이용자들이 방문하고 있는 모습을 볼 수 있다./ SNS 캡처

◇ 25일부터 딥페이크 제작·유포자 처벌 가능... 소지자 및 시청자는 처벌 안돼

이 같은 딥페이크를 활용한 디지털 성범죄가 점점 심각해지자 강경한 대응책이 필요하다는 목소리가 점점 커지고 있다. 이에 국회는 지난 3월 딥페이크 영상물의 제작·유포 등 행위에 대한 처벌을 강화한다는 내용이 담겨있는 ‘성폭력범죄의 처벌 등에 관한 특례법’ 일부개정법률 공포안이 국무회의에서 의결했다. 

개정안에서는 딥페이크 음란물을 제작·유포한 자를 ‘5년 이하의 징역 또는 5,000만원 이하의 벌금’으로 처벌하도록 명시돼 있다. 영리를 목적으로 제작·반포할 경우에는 ‘7년 이하의 징역’으로 가중 처벌할 수 있다.

법무부는 “향후에도 새롭게 대두되는 디지털 성범죄에 신속히 대응할 수 있도록 법과 제도를 지속적으로 개선할 것”이라며 “성범죄에 대한 처벌 공백이 발생하지 않도록 만전을 기하겠다”고 밝혔다.

다만 이번 개정안조차 딥페이크를 활용한 디지털 성범죄를 제대로 막을 수 있을지 우려도 커지고 있다. 해당 법안에는 영상물 소지와 시청에 대한 처벌 조항이 없기 때문이다. 

제작·유포자를 체포한다 하더라도 영상물을 소지하거나 시청한 자들은 처벌 대상에서 제외된다. 사회적으로 큰 충격을 줬던 ‘n번방 사건’처럼 성 착취물 영상을 소지만 해도 처벌 대상이 되는 것과 차이가 있는 셈이다.

이에 대해 법무부 검찰국 형사법제과 김진우 검사는 <시사위크>와의 통화에서 “불법 음란물 시청 및 소지자에 대한 처벌 규정은 지난 4월 국회를 통과한 ‘n번방 방지법’에 포함된 내용”이라며 “이보다 이전인 3월 17일 국무회의서 의결된 ‘성폭력범죄의 처벌 등에 관한 특례법’ 개정안의 경우 딥페이크 제작·유포에 관한 처벌 내용은 담고 있으나, 소지 및 시청에 관한 규정은 논의가 되지 않은 것으로 알고 있다”고 전했다.

아울러 ‘딥페이크를 이용해 일반 음란물 혹은 합법적인 성인물(에로영화 등)에 다른 사람의 얼굴을 합성하는 경우 어떤 처벌 규정을 적용해야하는가’에 대한 의문도 제기되고 있다. 

특히 일반인을 합성하는 지인 능욕의 경우, 합성된 당사자가 누군지 모르는 사람은 해당 영상이 지인 능욕 음란물인지, 일반 음란물인지 구분하기 힘들다. 만약 단순 에로영화로 착각한 시청자가 해당 영상을 공유한다면 개정안에 따라 처벌 받아야 하는 것일까. 

이에 대해 법무부는 유포자에게 ‘고의성’이 있었는지에 따라 판결이 달라질 것이라고 보고 있다. 일반 성인물 혹은 음란물로 착각해 딥페이크 음란물을 유포했다면 관련된 다른 음란물 처벌 법안을 적용해 판결을 내리게 된다는 것이다.

김진우 검사는 “이 경우에 대해선 ‘고의성’의 유무로 판단하게 될 것”이라며 “영상물이 딥페이크 음란물인지 인지하지 못한 채 시청하고 공유한 자에 대해선 해당 법안이 적용되지는 않을 것”이라고 설명했다.