기술에 올라탄 ‘성착취물’…AI가 쫒고 지웠지만, 필요한 건 ‘사람의 힘’[플랫]

🔗 원문 전체 보기 → Khan.co.kr

요약

직원 1인당 하루 처리량 20.8건 → 202건…도입 6개월간 9만6210건복제·재유포 막을 ‘카드’…해외 서버 기반 사이트 95.5% ‘추적 한계’10일 서울 중구 한국여성인권진흥원 4층에서 진흥원 측이 중앙디지털성범죄 피해자 지원센터 관련 언론 브리핑을 하고 있다. 이준헌 기자10일 서울 중구 한국여성인권진흥원 대교육장에서 김미순 중앙디지털성범죄피해자···

본문

직원 1인당 하루 처리량 20.8건 → 202건…도입 6개월간 9만6210건

복제·재유포 막을 ‘카드’…해외 서버 기반 사이트 95.5% ‘추적 한계’

10일 서울 중구 한국여성인권진흥원 4층에서 진흥원 측이 중앙디지털성범죄 피해자 지원센터 관련 언론 브리핑을 하고 있다. 이준헌 기자

10일 서울 중구 한국여성인권진흥원 대교육장에서 김미순 중앙디지털성범죄피해자지원센터(중앙디성센터) 센터장이 화면에 띄워진 연두색 상승 곡선을 가리켰다. 2020년부터 지난해까지 한 번 삭제 지원을 받은 뒤에도 계속 지원을 요청한 디지털 성범죄 피해자의 수치였다. 김 센터장은 “한 번 유포되면 삭제해도 계속 다시 복제되고 재유포되는 디지털 성범죄의 구조적 특징을 보여준다”고 말했다. 설명을 이어가던 김 센터장이 기자들에게 물었다. “사람의 힘만으로 이 구조를 따라잡을 수 있을까요?”

디지털 성범죄가 기술의 발전과 맞물려 복잡한 양상으로 진화하고 있다. 인공지능(AI)을 활용한 딥페이크 영상이 확산하고 정부의 삭제 조치를 피해 가는 불법 사이트도 늘고 있다. 기술에 올라탄 범죄를 기술로 막을 수는 없을까. 지난 4월부터 성착취물 삭제 업무에 AI를 도입한 중앙디성센터를 찾아 그 가능성을 물었다. 중앙디성센터는 성평등가족부 산하 한국여성인권진흥원에 설치된 조직으로, 디지털 성범죄 피해자에게 성착취물 삭제 지원뿐만 아니라 수사·법률·의료 관련 지원을 제공하는 곳이다.

국내 성착취물은 주로 어린 여성을 내세우고, 해외로 유포된다. 지난해 중앙디성센터로 신고가 들어온 피해자의 77.6%는 10·20대였고 10세 미만 아동 피해자도 있었다. 피해 영상은 해외 플랫폼과 사이트를 중심으로 유통·판매되며 불법 시장을 형성한다. 피해자가 삭제를 요청하고 수사가 시작돼도 해외에 거점을 두기 때문에 서버 위치를 숨기거나 접속 경로를 바꾸는 식으로 추적을 피한다. 사이트가 사라지면 다른 주소의 사이트가 다시 나타나는 끝없는 ‘숨바꼭질’에 대응하기 위해 정부가 꺼내든 카드가 AI다.

이날 중앙디성센터 관계자는 AI 기반 24시간 모니터링 시스템을 시연했다. 시스템에 접속하자 AI가 성착취물로 의심해 수집한 영상 목록이 모자이크 처리된 채 화면에 나타났다. 센터 직원들이 SNS와 불법사이트에서 성착취물이 게시될 때 자주 쓰이는 키워드 220여개를 입력하면 AI가 이를 바탕으로 성착취물 의심 영상을 자동으로 찾아낸다. 영상 하나를 클릭하자 ‘성착취물 확률 86%’라는 분석 결과와 함께 AI가 성착취물로 의심한 근거도 제시됐다.

10일 서울 중구 한국여성인권진흥원 4층에서 진흥원 측이 중앙디지털성범죄 피해자 지원센터 관련 언론 브리핑을 하고 있다. 이준헌 기자

AI 시스템은 성착취물 유포와 삭제 사이 속도전을 좁히고 있다. 중앙디성센터가 지난해 수작업으로 삭제를 지원한 아동·청소년 성착취물은 4만5438건이었다. AI 시스템을 도입한 올해 4~9월에는 6개월 만에 9만6210건의 삭제를 지원했다. 종사자 1인당 하루 평균 삭제 요청 처리 건수도 기존 20.8건에서 202.1건으로 약 9.7배 늘었다. 직원들이 성착취물에 반복적으로 노출되면서 겪던 정신적 부담도 줄어들었다.

[플랫]AI 성착취물 범람 뒤, ‘여성 성적 대상화’의 문제

한계도 남아 있다. 성착취물 유통 불법 사이트의 최소 95.5%는 해외 서버를 기반으로 운영되고 있다. 하지만 이들 사이트의 상당수는 정부의 삭제 요청에 응하지 않는다. 이들의 삭제 요청 불응률은 2024년 24.7%에서 지난해 28.5%로 높아졌다. 삭제 요청 4건 중 1건 이상이 받아들여지지 않는 셈이다.

정부는 해외 불법 사이트의 수익 구조를 원천 차단하고 제도적 대응을 강화하기 위해 지난 8월 성평등부·방송미디어통신위원회·경찰청이 참여하는 ‘범정부 합동 디지털성범죄 피해 통합지원단’을 출범시켰다. 지원단은 불법 사이트 개설 행위 처벌과 광고 수익 차단 등을 포함한 8개 입법 과제 등을 추진 중이다. 김성벽 성평등부 디지털성범죄방지과장은 “삭제의 효율성을 높이고 삭제가 마무리되지 않을 때에도 지속적인 제도 개선을 통해 끝까지 삭제해 나가겠다는 것이 정부의 방침”이라고 설명했다.

이 일에 필요한 것은 다시 사람이다. 기술을 피해자 지원에 활용하겠다고 결정하고 이를 위한 정책과 예산을 마련하는 것도 사람의 몫이다. 박광수 한국여성인권진흥원장은 “디지털 성착취물을 없애겠다고 작심한 전문가들의 고민과 훈련으로 여기까지 왔다”며 “피해자를 돕기 위한 처음과 끝은 반드시 사람이다. 수많은 사람의 손길이 여전히 필요하다”고 말했다.

▼ 우혜림 기자 [email protected]

플랫의 다른 소식이 궁금하시다면,
뉴스레터를 구독하세요!