2020-08-13 03:38
진짜보다 진짜같은 '가짜' 딥페이크의 위협
진짜보다 진짜같은 '가짜' 딥페이크의 위협
  • 박설민 기자
  • 승인 2019.12.05 16:19
  • 댓글 0
이 기사를 공유합니다

디지털 성범죄, 가짜뉴스 생산, 금융 범죄 등 악용 가능
지난 2018년 미국의 뉴스‧엔터테인먼트 콘텐츠 제작사 버즈피드가 공개한 버락 오바마 전 미국 대통령의 '딥페이크'동영상. 실제 오바마 전 대통령의 동영상으로 착각할 수 있을 만큼 정교하다./ 유튜브 캡처

시사위크=박설민 기자  최근 주목받고 있는 ‘딥페이크(Deepfake)’는 인공지능(AI)를 이용해 동영상 속 등장인물의 얼굴과 목소리를 다른 사람으로 바꾸는 합성 기술을 말한다. 이를 이용하면 기존의 영상 합성보다 높은 품질과 누구나 쉽게 합성할 수 있다. 

현재 딥페이크는 영화, 방송 등 다양한 미디어 콘텐츠 분야와 교육 등에서 활용될 수 있어 상업적 가치가 크다는 평가를 받고 있다. 하지만 이런 높은 품질과 접근성 때문에 범죄에 쉽게 악용되고 있다.

딥페이크 악용 범죄 중 가장 활성화된 것은 바로 디지털 성범죄다. 연예인 혹은 일반인을 음란물 동영상에 합성한 뒤 유포하는 범죄는 급속도로 증가하는 추세다. 특히 한국 여성 연예인의 피해가 막심한 것으로 나타났다.

영국의 BBC가 사이버 보안 연구회사 ‘딥트레이스’의 딥페이크 연구 보고서를 인용한 보도에 따르면 2018년 12월 약 8,000개로 집계됐던 딥페이크 비디오가 2019년 현재 1만4,698개로 증가했다. 이는 약 1년 만에 약 2배 가량 증가한 셈이다. 이 영상들 중에 96%는 음란물이며 특히 국내 여성 가수의 경우 25%를 차지했다. 딥트레이스는 이 영상들 대부분이 중국에서 제작된다고 전했다.

딥페이크를 활용한 금융 범죄도 올해 9월에 발생했다. 독일의 신용보험사 율러 헤르메스 그룹의 본사 CEO(최고 경영자)의 목소리를 딥페이크 기술을 통해 위조한 사건이다. 이 때문에 율러 헤르메스 그룹의 고객사는 22만 달러를 범죄자에게 송금했다. 

딥페이크는 영상 매체와 언론의 신뢰도 역시 무너뜨릴 수도 있다. 지금까지 영상은 사진에 비해 신뢰도가 높은 편이었다. 영상의 조작이 사진에 비해 난이도가 높기 때문이다. 그러나 딥페이크 기술의 등장으로 누구나 손쉽게 실제 같은 가짜뉴스를 생산할 수 있게 됐다.

실제로 지난 2018년 미국의 뉴스‧엔터테인먼트 콘텐츠 제작사 버즈피드는 버락 오바마 전 미국 대통령이 도널드 트럼프 현 미국 대통령을 강한 어조로 모욕하는 조작영상을 올린 바 있다. 영상을 올린 버즈피드는 딥페이크에 대한 부작용을 알리기 위해 제작한 동영상이라고 밝혔다. 이는 딥페이크가 가짜뉴스 생성에 악용될 경우 큰 혼란을 초래할 수 있음을 경고해주는 사례다.

이에 국제사회도 딥페이크로 인한 피해를 줄이기 위해 대응 방안 마련에 나서고 있다. 먼저 미국은 딥페이크의 피해자의 경우 프라이버시 보호 및 명예훼손의 차원에서 법적으로 보호받을 수 있다. 주정부 차원에서는 ‘사이버 스토킹 법’ 등에 근거해 제작자를 처벌할 수도 있다. 버지니아 주는 지난 7월부터 딥페이크 음란물 영상 및 사진을 ‘리벤지 포르노’ 범주에 포함시키는 법안을 시행하고 있다.

아울러 올해 6월 상원 7인과 하원 4인이 ‘2019 딥페이크 법안’을 제출했다. 법안의 주요내용은 딥페이크 기술의 상태와 활용현황을 평가하는 심층조사와 보고서 발표, 공청회 개최 등이다. 또한 같은 달에 이벳 클락 하원의원은 딥페이크의 발신에 레이블(공통선 신호 방식에서 각 통화 회선을 식별하기 위하여 사용하는 부호)을 의무화하는 규제법안을 발의했다.

유럽 연합(EU)에서는 딥페이크 피해자가 ‘개인정보보호규정(GDPR) 제17조 잊힐 권리’에 따라 딥페이크 관련 콘텐츠를 삭제 요청할 수 있다. 개별 국가의 경우 딥페이크 범죄를 독일은 ‘네트워크법집행법’, 프랑스는 ‘정보조작대처법’에 따라 처벌 등을 처리하고 있다.

또한 EU는 2018년 ‘딥페이크를 비롯한 허위정보 전반에 대응하기 위한 전략’을 발표했다. 이를 통해 모든 형태의 허위정보식별을 위해 정보의 출처 및 신뢰성 여부를 쉽게 알 수 있도록 조치하게 하고 있다.

국내의 경우 현행법상 딥페이크 기술을 이용한 성범죄를 처벌할 수 있는 근거규정이 없다. 이 때문에 형법상의 명예훼손죄나 음화제조죄 등을 적용해 처벌하는 실정이다. 이에 따라 국회에서도 이 문제를 해결하기 위한 움직임을 보이고 있다.

자유한국당 박대출 의원실은 지난 4일 박대출 의원 외 11인이 딥페이크 문제 해결을 위한 법안 2건을 발의했다고 밝혔다. 발의된 법안은 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’과 ‘성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안’이다. 두 개정안에는 각각 △AI 기술을 이용한 허위 음향·화상 또는 영상 등의 정보를 식별하는 기술의 개발·보급 △ AI 기술을 이용한 허위 음향‧영상 제작 등을 처벌하는 조항을 담겨있다.

법안을 대표 발의한 박대출 의원은 “딥페이크의 기반인 인공지능 기술 산업은 중요한 산업이지만 음란 영상물 등 사회적 문제를 일으키는 부분은 강력한 처벌이 필요하다”고 밝혔다.

전문가들은 앞으로 4차 산업혁명 시대에 높은 잠재력을 가진 딥페이크의 기술이 활성화됨에 따라 관련 범죄도 급격히 증가할 것으로 보고 있다. 또한 딥페이크 범죄는 일반 사이버 범죄보다 그 피해가 클 수 있어 이에 기술적‧정책적 노력이 더 필요할 것으로 지적했다.