서울시가 디지털 성범죄 AI 삭제 시스템으로 정부혁신 우수사례 대상을 수상했다. 김선순 서울시 여성가족정책실장(오른쪽) 시상식 모습. /서울시

[더팩트ㅣ이헌일 기자] 서울시가 디지털 성범죄 AI 삭제 시스템으로 정부혁신 우수사례 대상을 수상했다.

서울시는 행정안전부 주최 2023 정부혁신 우수사례 경진대회에서 디지털 성범죄 AI 삭제지원 프로그램이 대상에 선정됐다고 28일 밝혔다.

정부혁신 우수사례를 발굴하고, 범정부적으로 공유·확산하기 위해 매년 여는 대회다. 올해는 중앙부처, 자치단체, 교육청, 공공기관 등이 제출한 533건의 사례가 경쟁했다.

전문가 심사와 2만1000명이 참여한 온라인 국민심사 등 1, 2차 예선을 거쳐 13건이 본선에 진출했다. 본선에는 전문가 10명, 국민평가단 100명이 참여해 대상 1점과 금상 5점, 은상 7점을 뽑았다.

이 프로그램은 인공지능 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 영상물을 삭제하고 재유포를 막는다. 기존 수작업에 비해 훨씬 빠르고 정확하게 검색부터 삭제까지 수행한다.

시와 서울연구원은 지난해 7월 개발에 착수, 올 3월 완료해 서울 디지털 성범죄 안심지원센터에서 운용했다. 이후 도입 7개월 동안 45만 건의 영상물을 모니터링했는데 이는 기존과 비교해 무려 1265%나 늘어난 수치다. 또 키워드 입력부터 영상물 검출까지 수작업은 평균 2시간이 걸리는데 AI는 3분이면 마무리한다.

시는 향후 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인 상에서 유포되는 피해 영상물이 많아졌기 때문이다. 이를 위해 내년 상반기를 목표로 AI 기반 아동·청소년 피해 영상물 삭제지원 프로그램을 개발한다.

김선순 서울시 여성가족정책실장은 "디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱지원을 통해 피해자들이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다"고 말했다.

honey@tf.co.kr