인공지능(AI) 기술 발달에 따른 딥페이크 범죄가 최근 약 2년간 2.5배 증가한 것으로 나타났다. 정치권에서는 관련 개정안을 발의하는 등 딥페이크 범죄 확산에 힘을 싣고 있지만 여전히 개선되지 않자 정부의 적극적인 개입을 촉구하는 목소리가 나오고 있다. /게티이미지뱅크
인공지능(AI) 기술 발달에 따른 딥페이크 범죄가 단속 조치에도 여전히 급증세를 보이고 있는 것으로 나타났다. 정치권에서는 관련 개정안을 발의하는 등 딥페이크 범죄 확산에 힘을 싣고 있지만 여전히 개선되지 않자 정부의 적극적인 개입을 촉구하는 목소리가 나오고 있다. /게티이미지뱅크

시사위크=송가영 기자  인공지능(AI) 기술 발달에 따른 딥페이크 범죄가 여전히 급증세를 보이고 있는 것으로 나타났다. 지난해 정치권이 이를 막기 위한 개정안을 발의하는 등 힘을 보탰지만 확산세가 사그러들지 않고 있는 가운데 정부의 적극적인 개입이 필요하다는 목소리가 나오고 있다. 

김상희 더불어민주당 의원이 방송통신심의위원회로부터 제출받은 자료에 따르면 지난 1월부터 9월까지 차단·삭제조치된 ‘딥페이크 성적 허위영상’은 1,408건에 달했다. 단속을 시작한 후 지난해 6월부터 12월까지 차단·삭제조치된 건수(548건)와 비교하면 2.5배 가량 증가한 셈이다.

딥페이크란 ‘심층학습’과 ‘가짜’의 합성어로 타인의 얼굴 사진과 AI를 이용해 가짜 영상을 만들어내는 기술이다. 최근에는 타인의 얼굴 사진을 도용해 이를 음란물 영상에 합성하고 유포하는 등 협박을 통해 금품을 요구하는 범죄가 확산되고 있다.

이를 예방하기 위해 정치권도 지원에 나서면서 딥페이크 성적 허위영상물의 제작 및 반포 행위를 금지하는 내용의 ‘성폭력 범죄의 처벌 등에 관한 특례법 일부개정법률안’이 지난해 3월 국회 본회의를 넘었다. 개정안은 지난해 6월부터 본격적으로 시행됐다.

이 개정안은 딥페이크 영상물을 반포하거나 판매하려는 목적으로 사람의 얼굴‧신체 또는 음성을 대상으로 한 촬영물‧영상물 또는 음성물을 영상물 등의 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집‧합성 또는 가공한 자는 5년 이하의 징역 또는 5,000만원 이하의 벌금에 처하도록 규정하고 있다. 

또한 영리 목적으로 영상물 등의 대상자의 의사에 반해 사회관계망서비스(SNS) 등 정보통신망을 이용해 제2항의 죄를 범한 자는 7년 이하의 징역에 처하도록 했다. 그러나 관련법 개정에도 불구하고 범죄가 여전히 확산되고 있어 우려의 목소리가 높아지고 있다.

급기야 AI를 포함한 지능정보기술을 악용한 범죄 피해를 막기 위해 기술 규제가 필요하다는 지적도 나오고 있다. 현행 지능정보화 기본법 제31조, 제60조에 따르면 사람의 생명과 안전을 저해하는 경우 등에 한정해 이를 제한하거나 요청할 수 있도록 돼있다. 다만 AI 등 지능정보기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법이 적용된 경우는 없다.

김 의원은 “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”며 “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 말했다.

저작권자 © 시사위크 무단전재 및 재배포 금지
이 기사를 공유합니다