신규 불법 사이트까지 자동 탐지, 딥페이크·복제본 영상도 삭제… 전국 어디서나 동일한 수준의 지원

[도시경제채널 = 유주영 기자] 서울시가 독자적으로 개발한 ‘디지털 성범죄 AI 삭제지원’ 기술을 전국에 무상 보급하겠다고 3일 밝혔다. 불법 촬영물과 성착취물의 탐지·삭제를 자동화해 피해자 보호를 강화하는 이 기술은 공공재로서 무상 보급되며, 전국의 피해자들이 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 된다.

“피해자가 몰랐던 ‘숨겨진 확산’까지 찾아낸 AI”

서울 디지털성범죄 안심지원센터에 도움을 요청한 한 피해자는 “사진이 한 장뿐인 줄 알았는데, AI가 관련된 사진을 모두 찾아줬다”며 놀라움을 표현했다. AI는 피해자의 얼굴과 가방 같은 특징을 분석해 SNS뿐 아니라 상담원이 알지 못했던 신규 불법 사이트까지 추적해냈다. 이는 피해자가 혼자서는 절대 확인할 수 없었던 확산 경로를 밝혀내 피해 회복에 결정적인 역할을 했다.

“처리 속도 30배 향상, 예산 절감 효과까지”

기존에는 상담원이 수작업으로 영상물을 탐지해 삭제까지 평균 3시간이 걸렸지만, AI 도입 후 단 6분으로 단축됐다. 정확도도 200~300% 개선돼 오탐과 누락을 크게 줄였다. 서울시는 기관당 약 1억 8천만 원의 예산 절감 효과를 기대하고 있으며, 이는 피해자 지원뿐 아니라 행정 효율성에도 큰 기여를 한다.

“삭제지원 건수 6배 증가, 전국적 확산 기대”

AI 도입 이후 삭제지원 건수는 2022년 2,509건에서 2025년 15,777건으로 4년 만에 6배 이상 증가했다. 특히 폐쇄형·신규·해외 불법 사이트까지 탐지 범위를 넓혀 피해 영상물 삭제 지원이 크게 확대됐다. 서울시는 이번 무상 기술 이전을 통해 전국 지자체와 기관에서도 동일한 수준의 지원을 받을 수 있도록 한다는 목표를 세웠다.

“딥페이크·복제본까지 탐지하는 첨단 기술”

AI는 원본이 없어도 영상·음성·텍스트를 종합 분석해 복제본과 변형본까지 식별한다. 모자이크 처리된 영상이나 편집본도 신체·언어·움직임 패턴을 학습해 탐지하며, 동일 피해자의 다수 촬영물까지 자동으로 묶어내는 기능을 갖췄다. 이는 딥페이크 영상물까지 대응할 수 있어 피해자 보호의 범위를 크게 확장했다.

“재업로드 영상도 실시간 대응 가능”

가해자가 주말에 영상을 올리고 삭제하는 방식으로 범죄가 진화했지만, AI는 24시간 재탐지가 가능해 재유포된 영상까지 빠르게 대응한다. 이로써 피해자 보호의 사각지대를 최소화하고, 지능형 범죄에도 효과적으로 맞설 수 있게 됐다.

“상담원 심리적 부담 완화 효과도”

AI는 피해 영상물을 블러 처리해 상담원에게 전달하고 반복적인 탐색 업무를 대신 수행한다. 이를 통해 직원들의 정신적 고통을 줄이고 업무 지속 가능성을 높였다. 피해 영상물을 매일 봐야 하는 상담원의 심리적 부담을 덜어주는 점은 기술 도입의 또 다른 중요한 성과다.

 서울시 디지털 성범죄 AI 기술 성과. / 서울시

서울시는 이번 무상 기술 이전을 특정 기관이나 지역에 국한하지 않고 전국적으로 활용할 수 있도록 지원한다. 또한 해외 비영리 기관과의 협력도 추진하며, “피해자를 지키는 기술을 사회 전체의 안전을 위한 공공재로 확장한다”는 점에서 큰 의미를 가진다. 서울연구원과 서울시 여성가족실은 이번 결정을 “사회적 가치 실현을 위한 첫 사례”라며 전국적·국제적 확산을 강조했다.

[ⓒ 도시경제채널. 무단전재-재배포 금지]