방미심위는 중점 모니터링을 통해 AI로 음란물이나 딥페이크를 생성하는 해외 사이트 64건을 적발하고, 통신심의소위원회에서 이들 사이트에 대해 시정요구를 의결했다. 사진은 정부의 AI 딥페이크 탐지 분석 모델 시연 장면으로 기사 내용과 무관하다. /더팩트 DB

[더팩트ㅣ장병문 기자] 방송미디어통신심의위원회(이하 방미심위)가 AI 기반 음란물·딥페이크 생성 사이트에 대해 시정요구(접속차단)를 내리며 적극 대응에 나섰다.

방미심위는 중점 모니터링을 통해 AI로 음란물이나 딥페이크를 생성하는 해외 사이트 64건을 적발하고, 통신심의소위원회에서 이들 사이트에 대해 시정요구를 의결했다고 24일 밝혔다.

이번에 시정요구된 사이트들은 실제 인물의 얼굴이나 신체 사진을 업로드하면 성행위 등을 묘사한 이미지나 동영상을 손쉽게 생성되도록 하거나, 이용자가 입력한 문구에 따라 가상의 음란물을 만들어주는 서비스를 제공하는 것으로 확인됐다.

특히 상당수의 사이트들이 한국어를 지원하면서 소액만으로도 딥페이크·음란물을 제작할 수 있도록 하는 등, 누구든지 손쉽게 범죄의 가해자는 물론 피해자가 될 수 있다.

방미심위 관계자는 "'타인의 동의 없는 성적 이미지 생성을 금지한다'는 이용 약관을 걸어둔 곳도 있었지만, 그 문구가 무색할 정도로 제한 없이 타인의 사진을 활용해 음란물을 제작할 수 있었다"며 "성적 허위영상물은 한번 제작·유포되면 피해 회복이 어려운 만큼, AI를 악용해 이러한 정보를 유통하는 국내외 사이트를 지속적으로 모니터링 하고 엄정하게 대응하겠다"고 말했다.

jangbm@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]