이르면 올 4월, 디지털성범죄 피해 영상을 자동으로 검색하고 삭제까지 요청하는 AI가 가동된다. 서울 디지털성범죄 안심지원센터 삭제지원실. /서울시 제공

[더팩트ㅣ이헌일 기자] #. 서울시 디지털성범죄 안심지원센터에 불법촬영 피해영상물이 접수되면 자체개발한 AI가 각종 SNS에서 관련 영상과 이미지를 검색한다. 안면인식 기반 추적시스템보다 한층 정교화된 딥러닝 기반 AI가 관련 영상과 이미지를 찾아낸다. 이렇게 찾아낸 뒤에는 각 SNS 운영업체와 방송통신위원회 등에 삭제 요청까지 보낸다.

이르면 올 4월, 이렇게 똑똑한 AI가 디지털성범죄 피해자를 돕는 모습이 현실화된다.

1일 서울시에 따르면 서울기술연구원이 개발한 AI 기반 피해영상물 검색·삭제 기술을 이달 말 시연을 실시하고, 특별한 문제가 없으면 4월 디지털성범죄 안심지원센터 피해자 지원에 본격 도입할 계획이다.

이 AI는 딥러닝을 기반으로 비디오, 오디오, 텍스트 데이터 등을 융합 분석하는 기술이 적용됐다. 기존 안면매칭 기법을 통한 검색은 정확도에 한계가 있었지만 이 AI는 영상 속 얼굴 뿐만 아니라 움직임 패턴, 오디오의 주파수, 대화 내용까지 복합적으로 분석한다.

피해 영상이나 사진이 주로 SNS를 통해 퍼진다는 점을 감안해 이 AI는 구글, 트위터, 페이스북, 인스타그램 등 4개 플랫폼에 적용하도록 개발됐다. 여기서 관련 이미지와 영상을 검색한 뒤 삭제 권한이 있는 각 운영업체와 방통위에 자동으로 삭제 요청까지 마무리한다.

서울시 관계자는 "서울기술연구원에서 시연을 위한 마무리단계에 접어든 것으로 안다"며 "시연에서 이상이 없다면 바로 4월부터 디지털성범죄 안심지원센터에서 활용할 것"이라고 말했다.

이르면 올 4월, 디지털성범죄 피해 영상을 자동으로 검색하고 삭제까지 요청하는 AI가 가동된다. /더팩트 DB

이 AI는 기존 시스템보다 정교할 뿐만 아니라 직원들이 직접 검색해 찾아내는 것보다 훨씬 빠르게, 24시간 내내 작업을 수행할 수 있다는 장점도 있다. 한 번 유포되면 삽시간에 퍼져나가는 디지털성범죄 피해에 대응하기 위해 꼭 필요한 요건이다. 추가 유포에 따른 재확산을 막기도 수월하다.

또 이 작업을 담당하는 직원들의 정서적인 피해도 줄일 수 있다. 기존에는 직원들이 직접 검색하고 처리하면서 피해 영상이나 사진을 접할 수 밖에 없었지만 이를 AI가 대신하게 된다.

디지털성범죄 안심지원센터는 피해 영상물 및 사진 검색·삭제요청부터 수사·법률, 심리·치유 지원까지 피해자를 통합지원하는 곳으로 지난해 3월 29일 문을 열었다. 개관 이후 지난해 11월까지 피해자 270명을 지원했는데 전체 5542건의 피해 유형 중 불법촬영이 804건, 유포·재유포 641건, 유포 혐박 및 불안은 1606건에 달했다.

서울시 관계자는 "올해 센터는 AI 도입과 함께 아동·청소년 지원에 초점을 맞출 계획"이라며 "구체적인 사업을 준비하고 있으며 추후 공개할 것"이라고 말했다.

honey@tf.co.kr