디지털 성범죄 피해 영상물을 인공지능(AI)이 스스로 찾아내고 삭제 요청까지 6분 만에 처리하는 시대가 열렸다.

서울시는 디지털 성범죄 영상물의 확산을 막기 위해 2023년 전국 최초로 ‘AI 자동 삭제신고 시스템’을 도입한 뒤 올해 강화한 프로그램을 본격적으로 운영 시작했다고 21일 밝혔다. AI가 불법 영상물을 찾아내는 데 그치지 않고, 자동으로 채증부터 삭제 요청 메일 생성까지 수행하도록 발전한 기술이 핵심이다.

기존에 영상물 한 건당 평균 3시간 가량 소요되던 삭제 과정이 이제는 6분 이내로 대폭 단축됐고, 처리 속도도 약 30배 빨라졌다는 설명이다.

이 시스템으로 해외 서버에 게시된 불법 영상물에도 대응이 가능하게 됐다. 해외 유포 피해 영상물을 검색한 AI가 영어, 중국어, 일본어, 러시아어 등 총 7개 국어로 삭제 요청 메일을 자동 생성해 전송하기 때문이다. 서울시 관계자는 "최근 불법 영상 확산 경로가 미국 중심에서 러시아, 베트남, 중국 등으로 다변화하는 추세에 적극 대응하기 위한 것"이라고 했다.

시는 이 시스템 도입으로 2022년 2509건이던 디지털 성범죄 영상물 등 삭제지원 건수가 지난해 1만4256건으로 무려 468% 증가했다고 밝혔다. 이에 발맞춰 AI의 영상물 검출 속도도 97.5% 향상했고, 정확도도 2배 이상 개선했다는 설명이다.

AI는 사람이 일하지 않는 심야 시간대에도 상시 모니터링이 가능하고, 삭제지원관의 트라우마 예방에도 기여해 더 효과적이라는 평가다. 서울여성가족재단에 따르면 서울 디지털 성범죄 안심지원센터는 2022년 3월 개관 이래 지난 3년간 총 3650명의 피해자를 지원했다.

센터는 카카오톡 오픈채팅 '디지털성범죄 SOS 상담' 등을 통해 익명 상담을 제공하고 수사·법률·의료·심리 지원을 포함해 원스톱 방식으로 지원하고 있다. 피해자는 상담전용 번호나 센터 누리집을 통해 상담 및 지원을 받을 수 있다.

오유림 기자 [email protected]