국민의힘이 유권자를 상대로 한 딥페이크 영상이 총선 민의를 왜곡할 수 있다며 여야가 함께 대책을 마련하자 촉구했다. 최근 쇼츠, 릴스 등 SNS의 숏폼 미디어를 통해 ‘윤석열 대통령 양심고백’ 영상이 확산되자 혼란을 줄 수 있는 딥페이크 선거운동을 차단하려는 움직임으로 보인다.윤재옥 국민의힘 원내대표는 23일 국회에서 열린 원내대책회의에서 “딥페이크 영상물로부터 민주주의 선거를 지키기 위해서는 특단의 대책을 세워야 한다”고 밝혔다.작년 말부터 동영상 플랫폼을 통해 확산한 ‘윤석열 대통령 양심고백’ 영상은 딥페이
미국·유럽을 중심으로 글로벌 인공지능(AI) 산업 규제가 강화되고 있다. 딥페이크를 이용한 가짜 뉴스·음란물 생성, 생성형 AI 콘텐츠들의 저작권 위반 문제들에 대처하기 위함이다. 다만 AI산업이 활성화되고 있는 지금, 지나친 규제는 기술 개발과 산업 발전을 저해할 수 있다는 우려도 나온다. 이에 따라 법률 전문가들과 AI개발자들 간의 충분한 논의를 기반으로 AI규제를 마련해야 한다는 목소리도 커진다.◇ 국가 단위로 규제 나서는 유럽… 세계 최초 AI규제법안 통과먼저 AI규제에 대해 가장 적극적으로 나서고 있는
지난 1일(현지시간) 영국 버킹엄셔 블레츨리 파크에선 세계 첫 ‘인공지능(AI) 안전 정상회의(AI Safety Summit)가 열렸다. 이날 회의에서 미국, 영국, 유럽연합(EU), 중국 등 세계 주요국은 AI가 우리 사회에 미칠 수 있는 심각한 피해를 막기 위한 협력을 다짐했다.이번 회의가 열리게 된 계기는 예상보다 빠르게 이뤄지고 있는 AI의 ‘일상화’ 속도에 대응하기 위함이다. 실제로 글로벌시장조사기관 ‘프레지던스 리서치’에 따르면 2032년 예상되는 AI시장 규모는 5,751억6,000만달러. 이 같은
인공지능(AI) 기술이 날로 발전하고 있는 가운데 가장 대중적으로 많이 사용되는 기술은 ‘음성 AI’ 기술이다. AI음성기술은 현재 AI스피커부터 디지털 휴먼까지 다양한 기술 산업 분야에서 이용되고 있다.이때 AI의 음성기술들 중 사람의 목소리를 흉내 내는 ‘음성 복제 기술’은 AI산업의 뜨거운 감자로 부상하고 있다. 교육, 심리 치료 등 긍정적인 방향으로 사용될 수 있다는 기대감과 범죄에 악용되거나 인권을 침해할 수 있다는 우려가 충돌하면서다.◇ 삶과 죽음의 경계를 넘어… AI, 고인의 목소리를 재현하다이 같
인공지능(AI) 기술 발달에 따른 딥페이크 범죄가 여전히 급증세를 보이고 있는 것으로 나타났다. 지난해 정치권이 이를 막기 위한 개정안을 발의하는 등 힘을 보탰지만 확산세가 사그러들지 않고 있는 가운데 정부의 적극적인 개입이 필요하다는 목소리가 나오고 있다. 김상희 더불어민주당 의원이 방송통신심의위원회로부터 제출받은 자료에 따르면 지난 1월부터 9월까지 차단·삭제조치된 ‘딥페이크 성적 허위영상’은 1,408건에 달했다. 단속을 시작한 후 지난해 6월부터 12월까지 차단·삭제조치된 건수(548건)와 비교하면 2.
불법촬영(몰카)에 대한 단속, 처벌, 수사 등이 강화되고 있지만 대다수 여성들의 불안
최근 주목받고 있는 ‘딥페이크(Deepfake)’는 인공지능(AI)를 이용해 동영상 속 등장인물의 얼굴과 목소리를 다른 사람으로 바꾸는 합성 기술을 말한다. 이를 이용하면 기존의 영상 합성보다 높은 품질과 누구나 쉽게 합성할 수 있다. 현재 딥페이크는 영화, 방송 등 다양한 미디어 콘텐츠 분야와 교육 등에서 활용될 수 있어 상업적 가치가 크다는 평가를 받고 있다. 하지만 이런 높은 품질과 접근성 때문에 범죄에 쉽게 악용되고 있다.딥페이크 악용 범죄 중 가장 활성화된 것은 바로 디지털 성범죄다. 연예인 혹은 일반