'합성해드립니다' 텀블러 유저가 자신의 블로그에 사진을 보내주면 합성 콘텐츠를 만들어 준다는 광고를 하고 있다. /텀블러 캡처

지난 3월, 온라인을 뜨겁게 달군 사진이 있습니다. '휴대전화에서 유출된 실제 설현'이라는 제목으로요. 문제가 된 사진은 설현의 얼굴에 포르노 배우의 몸을 합성한 '딥페이크'였습니다. 설현은 가해자를 찾아달라며 재빨리 고소장을 제출했지만, 범인의 행적은 여전히 오리무중. 알면서 당하든 모르고 당했든 가해자를 찾기가 하늘에 별 따기라는 '딥페이크' 범죄. 비단 피해자는 연예인 뿐일까요? 그 위험한 세계에 대해 알아봤습니다. <편집자 주>

나도 모르게 내 사진이 합성당하고 있었다, 딥 페이크에 대하여

[더팩트｜성지연 기자] # 합성해드립니다. DM으로 사진만 보내주세요

고등학교 2학년에 재학 중인 김군(18)은 걸그룹 멤버 A의 팬입니다. 순정만화에서 튀어나온 듯한 A의 외모하며 맑고 청아한 목소리까지 딱 김군의 이상형이거든요. 김군은 공부하며 지칠 때마다 그녀를 떠올리며 힘을 냅니다.

김군은 오늘도 자신의 휴대전화를 이용해 A의 '움짤'(움직이는 사진)과 고화질 영상을 검색합니다. 정보의 바다, 인터넷을 누비며 A의 흔적을 찾고있죠. 그때, 김군을 놀라게 하는 사진 한 장. A의 얼굴에 누드를 합성한 사진입니다. 자극적인 포즈와 표정의 A.

그런데...누드사진에 흠칫 놀란 것도 잠시. 김군은 자신도 모르게 A양의 합성 사진을 몰래 저장합니다.

그리고 게시물을 올린 이에게 쪽지를 보내죠.

"다른 사진도 합성이 가능할까요?"

직관적인 인터페이스로 젊은 층에 인기를 끌고 있는 SNS 플랫폼 텀블러(Tumblr).

# 보급형 소라넷 '텀블러'. 정체가 궁금하다

텀블러(Tumblr). 인스타그램과 트위터, 블로그를 합쳐놓은 듯한 소셜 네트워크 서비스를 의미합니다. 국내에서 유행하기 시작한 것은 스타들이 방송에 출연해 SNS를 이용하는 장면이 전파를 타면서 부터입니다.

텀블러는 관심사와 이미지를 공유하고 구독하는 문화를 중심으로 인기를 얻었습니다. 그렇기 때문에 국내에서도 스타를 좋아하는 팬들이 다양한 사진과 '움짤'을 텀블러로 공유하며 다양한 콘텐츠를 양산하죠.

규제가 없는 자유는 때론 독으로 작용하기도 합니다. 직관적인 인터페이스 탓에 음란영상 및 사진 등의 유포 또한 굉장히 쉽기 때문입니다. 원문을 삭제하더라도 리블로그된 글이 남아있다는 것도 큰 문제입니다. 한 번 유포된 음란물이 걷잡을 수 없이 확대 재생산되니까요.

# 딥페이크를 아시나요?

딥페이크(Deep fake). 포르노 영상이나 사진을 유명인의 얼굴과 합성해 만든 편집물을 의미합니다.

인공지능을 활용한 편집기술이 발전하자 덩달아 디지털 성범죄, 딥페이크 또한 증가하는 추세입니다. 처음에는 유명인을 중심으로한 합성 편집물이 전부였지만, 최근엔 일반인을 대상으로 한 딥페이크물도 쉽게 찾을 수 있습니다. 음지에서 이뤄지는 암거래도 활발하고요.

딥페이크의 피해자 가수 설현. 설현은 악플러와 합성사진 모두 법적으로 강경대응해 처벌하겠다고 밝혔다. /더팩트 DB

국내에선 걸그룹 AOA의 멤버 설현이 딥페이크 동영상의 주인공이 되기도 했습니다. 성인배우의 누드에 설현의 얼굴을 교묘하게 합성한 딥페이크물은 메신저와 SNS를 중심으로 급속도로 퍼졌습니다.

'합성'이라는 제목 대신 '유출'이라는 제목으로 전파된 설현의 딥페이크. 그의 전 남자친구 휴대전화에서 나온 것이란 구체적인 설명까지 더해져 사람들을 혼란스럽게 했습니다.

SNS를 검색하다보면 설현 외에도 수많은 걸그룹 멤버가 딥페이크의 희생양이 된 것을 어렵지 않게 볼 수 있습니다. 남자 연예인 사진을 게이물에 합성한 편집물부터 미성년자 스타를 성인물에 합성한 것까지 다양합니다.

최근엔 일반인도 딥페이크의 피해자가 되고 있습니다. 일반인이 등장하는 딥페이크물은 대부분 '제보'로 이뤄집니다. 앳된 여학생들의 얼굴을 포르노 배우 몸에 붙여놓은 뒤 유언비어까지 함께 곁들인 게시물은 수 백, 수 천입니다.

# 솜방망이 처벌에 두 번 우는 피해자

미국기업인 텀블러. 텀블러에서는 사용자들의 계정에 올라오는 콘텐츠를 검열하지 않습니다. 이 때문에 과격하거나 폭력적인 내용, 성적인 내용, 불법적인 내용으로 텀블러를 운영하는 이들도 많습니다.

텀블러와 트위터 등 소셜네트워크서비스(SNS)에 딥페이크와 관련된 키워드를 입력해 봤습니다. 얼마안돼 수 백개의 계정이 검색됩니다. 그 중 인공지능을 활용해 정교한 합성 사진과 동영상을 만들어주는 대가로 돈을 받는 이들도 있습니다. 조악한 합성사진의 경우 무료로 배포하지만, 정교한 합성 사진은 포즈와 합성하는 몸매, 모자이크 유무로 가격을 나누어 판매합니다.

딥페이크 등을 활용한 이 같은 합성 사진과 동영상 유포는 명백한 범죄행위입니다. 하지만 처벌수위는 솜방망이 수준이죠. 합성 사진이나 영상을 상업적 목적으로 제작해 유포하는 행위는 정보통신망 이용 촉진 및 정보보호 등에 관한 법률 70조(사이버 명예훼손)나 형법 제244조(음화 제조 등) 위반 등으로 처벌받습니다.

사이버 성폭력에 대한 강력한 법적 규제를 요구하는 여성들의 모임./한국사이버성폭력대응센터

그러나 당사자의 피해 정도보다 공익 훼손에 초점이 맞춰진 탓에 유포자는 대부분 벌금형에 그치거나 가벼운 징역형을 받는 경우가 많습니다.

국회에 발의된 성폭력처벌법 개정안을 살펴봤습니다. 개정안에 따르면 타인의 신체가 찍힌 촬영물을 성적 욕망이나 성적 수치심을 유발할 수 있는 촬영물로 재편집해 이를 반포·판매·임대·제공하거나 전시·상영한 사람에 대해 3년 이하 징역이나 500만 원 이하 벌금에 처한다는 조항이 있지만, 사실상 처벌조차 쉽지 않은 실정입니다.

이들이 사용하는 SNS 플랫폼이 텀블러, 트위터 등 미국에 기반을 둔 사이트라 국제 공조가 쉽지 않기 때문입니다. 운이 좋아 범인을 잡는다고 해도 벌금이나 집행유예 정도에서 사건이 마무리되는 경우가 대부분입니다.

서울경찰청 소속 경찰 관계자는 <더팩트>에 "설령 신고를 하고 범인을 잡고자 하는 의지가 있더라도 외국에 기반을 둔 SNS 사이트에서 회원들의 개인정보를 공유하는 일은 극히 드물어 국제 공조는 사실상 어렵다"고 다소 힘빠지는 대답을 내놨습니다. 관계자는 또 "국제 공조 뿐만 아니라 수사에 착수하더라도 오랜시간이 걸리는게 보통 딥페이크 범죄의 특징"이라고도 덧붙였습니다.

amysung@tf.co.kr
[연예기획팀 | ssent@tf.co.kr]

[딥페이크 포르노를 아시나요②] '연예인은 공공재'라던 당신과의 대화 txt.

[딥페이크 포르노를 아시나요③] "유포자 검거, 기다릴 뿐"…신고 그 후