“사진 보여줄래?” 음흉한 메시지…서울시 AI가 ‘성착취 신호’로 포착

온라인 성착취 대응 전담 ‘서울시 온라인 성착취 안심 ON 센터’ 운영
AI탐지부터 피해지원까지…전국 최초 온라인 성착취 통합센터
0초 내 포착·긴급구조팀 3분 출동·24시간 AI 모니터링

자료=서울시 / 그래픽=박종규 기자

#중학교 2학년생인 김예빈(가명)양. 최근 카카오톡 오픈채팅방에서 낯선 사용자와 대화를 나누다 "여행 가고 싶지 않니? 여행비 대줄게, 사진 몇 장만 보내줄래?"라는 메시지를 받았다. 고등학교 1학년생인 서민지(가명)양도 텔레그램으로 "집 비었는데 올래? 맛있는 거 같이 먹자. 재워줄게"라는 메시지를 받았다. 경제적 유인과 신체 노출 요구가 결합된 온라인 성착취 그루밍이다. 이제 이런 메시지가 감지되는 순간 서울시 '온라인 성착취 안심ON센터'의 AI는 이를 포착하고 긴급구조팀 출동을 준비한다.

서울시는 오는 9일부터 '서울시 온라인 성착취 안심 ON 센터'(안심 ON 센터)를 설치해 이 같은 위험 메시지를 차단하고 피해를 최소화한다고 5일 밝혔다. 지난달 시범 운영을 마친 안심ON센터의 AI 탐지 시스템이 0초 내에 이 같은 메시지를 포착하고, 3분 이내에 상담원을 투입해 피해자와 연결시킨다. 5분 이내 가해자 계정이 차단되고, 필요시 긴급구조팀이 현장에 출동한다.

전국 최초의 이 통합 센터는 아동·청소년 온라인 성착취 범죄를 예방하고 조기에 대응하기 위해 '온라인 성착취 대응'이라는 새로운 영역을 개척했다. 기존에는 사후 피해 지원에 힘을 썼다면 이제 범죄 발생 징후를 포착해 '온라인에서의 조기 개입'을 핵심으로 한다. AI의 속도와 현장의 책임성을 결합해 그루밍에서 오프라인 성착취로 이어지는 고리를 사전에 끊는 시스템인 것이다.

시가 이러한 결단을 내린 배경에는 숨 막히는 현실이 있다. 지난해 성평등가족부 자료에 따르면 아동·청소년 성범죄 피해의 80.9%가 온라인에서 발생한다. 채팅앱 42.2%, SNS 38.7%로 온라인이 성착취의 주요 통로가 됐지만, 기존에는 온라인 상에서 실시간으로 개입할 방법이 없었다.

시가 지난해 12월 개발을 완료한 AI 기반 탐지 기술 '서울 안심아이(eye)'가 24시간 위험 신호를 포착하면, 센터의 상담원이 즉시 개입해 피해를 차단한다.

가장 큰 특징은 기존의 사후 지원에서 벗어나 '온라인에서의 조기 개입'에 집중한다는 점이다. 더 나아가 온라인 접촉이 실제 만남으로 이어질 위험이 포착되면 전담 긴급구조팀이 차량으로 즉시 출동한다. 피해자 보호와 동시에 경찰과 협력해 가해자 검거까지 추진할 계획이다. 시 관계자는 "최근 아동·청소년 성범죄의 80.9%가 온라인에서 발생하고 있지만, 지금까지는 온라인 상에서 적시에 개입할 체계가 전무했다"며 "이번 센터의 AI 기술을 통해 실제 범죄를 막는 실질적 효과를 기대한다"고 설명했다.

센터는 또한 교사와 학부모를 대상으로 '게이트 키퍼' 양성 교육을 진행한다. 학교와 가정이라는 1차 방어선에서 온라인 성착취 징후를 빨리 발견하고 도움을 요청할 수 있도록 하기 위함이다. 구조된 청소년들은 센터에서 긴급 상담과 함께 산부인과 전문의로부터 직접 진료를 받을 수 있다. 지난 1월 28일부터 매주 수요일 운영하는 '나만의 닥터' 프로그램을 통해 성병 검사, 임신 검사, 응급 피임 등 긴급 의료 지원이 이뤄진다.

시는 지난해 7월 십대여성건강센터 폐지 이후에도 41명의 이용자가 의료 공백 없이 지원받을 수 있도록 산부인과·정신과 진료 전 과정을 무료로 지원했으며, 이를 안심ON센터에서 계속 이어나간다.

이날 센터 운영 기관인 서울시여성가족재단은 서울광역심리지원센터(한국심리학회)와 업무협약을 체결하고 피해 청소년들이 전문 심리 지원을 받을 수 있도록 지원할 예정이다.

마채숙 시 여성가족실장은 "성범죄가 오프라인에서 온라인으로 이동하고 있으나 지원이 부족한 상황"이라며 "'AI의 속도와 현장의 책임성을 결합한 서울시의 안심 ON 센터는 선제적 예방부터 사후 관리까지 통합 지원하는 전국 최초의 모델"이라고 설명했다.