인공지능(AI)을 활용한 딥페이크 불법 합성물 문제에 대한 여러 우려가 현실로 드러났다. 딥페이크 성범죄 피해가 전국의 대학생들은 물론 교사∙여군∙미성년자들에게까지 번지면서 ‘누구나 피해자가 될 수 있다’는 공포가 커지고 있다.

최근 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 '딥페이크' 성범죄가 학생들 사이에서 급격하게 확산하고 있다.

교육당국은 타인의 개인정보를 바탕으로 음란물을 합성해 유포하는 것이 '성범죄'라는 점을 학생들에게 강조하고, 개인정보 노출에 주의해 달라고 당부했다. 피해자 신고센터와 상담소를 운영하고, 특별교육과 캠페인도 실시한다.

대전시교육청에 따르면 27일 오후 1시30분께 대전지역 여고생 A양이 딥페이크 영상물에 본인의 얼굴이 합성돼서 유포되고 있다고 시 교육청과 대전중부경찰서에 각각 신고했다.

이는 대전지역 첫 신고 건으로 알려졌다. 경찰은 신고 건을 대전경찰청 사이버범죄수사대로 이첩해 본격적인 수사를 진행하고 적발 시 엄정하게 대응할 방침이다.

현행법상 딥페이크 성착취의 피해자가 19세 미만 아동·청소년이면 아동·청소년성보호법 제11조(아동·청소년성착취물의 제작·배포 등)가 적용돼 문제 영상을 소지·시청하면 1년 이상의 징역, 제작·배포할 경우 최소 징역 3년에서 최대 무기징역까지 선고된다.

피해자가 14세 이상이면 성폭력처벌법에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형이 선고된다.

방송통신심의위원회가 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하자 텔레그램은 물론 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하기로 했다.

방심위는 28일 이번 사태와 관련해 긴급 전체 회의를 소집하고 국내 주요 포털사이트는 물론 글로벌 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다.

해외에 서버가 있는 글로벌 온라인 플랫폼 사업체 중 국내 공식 협의체가 없는 사업체에 대해서는 면대면 협의 채널을 끌어내 상시적인 협의가 될 수 있도록 추진하겠다고 설명했다.

아울러 현행법과 심의 규정 미비로 디지털 성범죄 영상물의 제작이나 소지, 유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적과 관련해 보완 입법을 관계기관에 건의하기로 했다.

또 관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다고 강조했다.

방심위는 전날부터 홈페이지에 딥페이크 성범죄 영상물 신고 전용 배너를 별도로 설치했으며, 온라인 신고뿐만 아니라 방심위 디지털 성범죄 신고 전화(1377)의 기능도 강화해 상담원이 24시간 접수 및 상담할 수 있도록 했다.

또 딥페이크 성범죄 영상의 주요 유포 경로인 텔레그램 등 주요 소셜미디어(SNS)에 대한 자체 모니터 인원을 배 이상 늘려 집중 모니터링을 통해 신속하게 적발하고 향후 전담 인력을 늘리겠다고 밝혔다.

이와 함께 영상 삭제 차단 조치와 관련해 전자 심의를 강화, 24시간 이내 영상이 사라질 수 있도록 시정을 요구하고 악성 유포자는 즉각 경찰에 수사를 의뢰하겠다고 강조했다.