성착취 영상, AI가 발견부터 신고까지 6분만에 처리... 서울시 최초 도입

성착취 영상, AI가 발견부터 신고까지 6분만에 처리... 서울시 최초 도입

강신 기자
강신 기자
입력 2025-05-21 14:08
수정 2025-05-21 14:08
  • 기사 읽어주기
    다시듣기
  • 글씨 크기 조절
  • 댓글
    0

AI 자동 삭제 신고 시스템... 24시간 가동

이미지 확대
서울시 ‘AI 자동 삭제 신고 시스템’ 프로세스. 서울시 제공
서울시 ‘AI 자동 삭제 신고 시스템’ 프로세스. 서울시 제공


온라인에 퍼진 성범죄 영상을 인공지능(AI)이 24시간 모니터링해 찾아내고 삭제 신고까지 원스톱으로 해치우는 ‘AI 자동 삭제 신고 시스템’을 서울시가 국내 최초로 개발해 시행한다. 모든 과정에 소용되는 시간은 6분에 불과하다.

21일 시에 따르면 이 시스템은 AI가 문제의 영상을 검출한 뒤 자동으로 채증해 보고서를 만든다. 이어 해당 사이트에 삭제를 요청하는 이메일을 자동으로 만든다. 이렇게 완성된 신고 이메일은 삭제지원관의 최종 확인을 거쳐 발송된다.

이 시스템을 활용하면 온라인상에 떠도는 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 약 3시간에서 6분으로 단축된다. 기존에는 삭제지원관이 직접 문제의 영상을 채증하고 보고서를 작성했으나, 이 시스템에서는 모든 과정을 AI 자동화함으로써 처리 시간을 대폭 줄였다.

영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라 AI는 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 만든다.

시는 또 서울 디지털 성범죄 안심지원센터를 통해 삭제지원을 비롯해 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다. 2022년 3월부터 올해 3월까지 3650명의 피해자를 지원했다. 지원 건수는 6만 4677건이다.

피해자 연령대는 10~20대가 가장 많다. 아동·청소년을 대상으로 한 디지털 성범죄도 적지 않다. 아동·청소년 피해자는 2022년 50명에서 2024년 624명으로 급증했다. 전체 피해자 가운데 아동·청소년이 차지하는 비율도 같은 기간 16.2%에서 22.1%로 올랐다. 아동·청소년을 대상으로 한 온라인 그루밍(길들이기) 피해는 19건에서 370건으로 급증했다.

센터에서는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 익명으로 상담을 지원하고 아동·청소년 뿐 아니라 학부모를 대상으로도 심리치료를 무료로 지원하고 있다. 또한 수사, 법률, 의료, 삭제지원까지 원스톱으로 지원한다.

김춘곤 서울시의원, 양천초 학부모 간담회서 학교 현안 청취 및 교육환경 개선 논의

서울시의회 환경수자원위원회 위원으로 활동 중인 김춘곤 의원(국민의힘, 강서4)은 지난 9일 서울양천초등학교에서 학교 현안 해결과 발전 방안을 모색하기 위한 학부모 간담회를 가졌다. 이번 간담회는 학교 현장의 어려움을 직접 청취하고, 학생들의 안전과 교육환경 개선을 위한 실질적인 의견을 수렴하기 위해 마련됐다. 간담회에는 배현정 교장, 우찬순 교감, 강진희 학교운영위원장, 정미희 학부모회장, 윤동길 총동창회 회장, 이의석 총동창회 고문 등이 참석해 학교 현안에 대해 허심탄회하게 의견을 나눴다. 간담회에서 학부모 및 학교 관계자들은 ▲학생 안전 확보를 위한 엘리베이터 설치 ▲텃밭 가는 길 경사 완화 및 계단 단차 보수 ▲전자칠판 설치와 방송 기자재 교체 ▲학생 신발주머니 걸이(쇠 갈고리)의 위험성 개선 ▲화장실 배수 문제 해결 ▲교실 내부 도색 등 학교 교육환경과 안전 관련 다양한 현장 의견을 전달했다. 간담회 후 김춘곤 의원은 교장·교감 및 학교 관계자들과 함께 교실, 복도, 화장실, 운동장, 텃밭 이동 경사로 등 학교 주요 시설을 직접 둘러보며 현장 상황을 꼼꼼히 확인하고, 개선이 시급한 부분과 단계별 추진 방안에 대해 논의했다. 김 의원은 “교육의
thumbnail - 김춘곤 서울시의원, 양천초 학부모 간담회서 학교 현안 청취 및 교육환경 개선 논의

도움이 필요한 누구나 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 홈페이지(www.8150382.or.kr)로 문의하면 된다.
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
close button
많이 본 뉴스
1 / 3
'민생회복 소비쿠폰'에 대한 여러분의 생각은?
정부가 추가경정예산(추경)을 통해 총 13조원 규모의 ‘민생회복 소비쿠폰’을 지급하기로 하자 이를 둘러싸고 소셜미디어(SNS) 등에서 갑론을박이 벌어지고 있다. 경기에 활기가 돌 것을 기대하는 의견이 있는 반면 SNS와 온라인 커뮤니티에서는 ‘소비쿠폰 거부운동’을 주장하는 이미지가 확산되기도 했다. ‘민생회복 소비쿠폰’ 여러분은 어떻게 생각하나요?
경기 활성화에 도움이 된다고 생각한다.
포퓰리즘 정책이라고 생각한다.
광고삭제
광고삭제
위로