[SWTV 강철 기자] 아동·청소년을 타깃으로 한 ‘온라인 그루밍’이 증가하고 있는 가운데, 서울시가 AI 탐지기술을 활용한 대응에 본격 나섰다.
 
‘온라인 그루밍’은 SNS, 오픈채팅 등에서 알게 된 미성년자에게 다정하게 접근해 환심을 산 후 상대에게 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다. 
 
▲ 온라인 그루밍 실태. [자료=서울시]
 
이같은 온라인 그루밍은 특히 친한 친구나 믿을 수 있는 사람이라고 생각할 정도의 친밀한 관계를 형성한 뒤 이를 이용해 성범죄를 시도하기 때문에 피해자가 이런 상황 자체를 관계의 일부로 착각해 피해 사실을 인지하지 못하는 경우가 많다. 
 
실제로 최근 3년간 디지털성범죄 등 온라인 성착취 발생 건수는 7만6042건에 달했지만, 신고율은 7.4%에 그친 것으로 나타나 선제적 개입을 통한 피해 예방이 중요하다.
 
이에 서울시는 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 전국 최초로 AI에 기반한 ‘서울 안심아이(eye)’를 개발해 24시간 탐지 및 대응에 나선다.
 
‘서울 안심아이(eye)’는 아동·청소년이 주로 이용하는 SNS와 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간 탐지해 위험 징후 포착 즉시 피해지원기관에 긴급 알림을 전송하면 해당 기관에서 초기에 차단하는 기술이다. 
 
또 피해지원기관(다시함께상담센터 등)에서는 피해 확산 방지와 예방 조치가 적극 이뤄질 수 있도록 전문 상담사를 배정해 초기 대처법을 안내하고, 상담과 수사 지원까지 한다. 특히 지속적·반복적으로 온라인 그루밍을 시도하는 계정에 대해서는 신고·고발을 병행하는 등 실질적 대응에 나설 예정이다. 
 
지난 4월 ‘아동·청소년의성보호에관한법률’ 제15조의2의 제3항에 미수범 처벌 조항이 신설됐다. 따라서 아동·청소년에게 성적 욕망을 가진 대화를 시도하는 초기 단계부터 처벌이 가능해져 범죄 초기 단계의 접근을 효과적으로 차단하고 처벌의 실효성을 높일 수 있다는 것이 서울시 측의 설명이다.
 
서울시는 앞서 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI기술을 도입했고, 지난해에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발해 성착취물을 선제적으로 삭제 지원했다. 또 올해는 서울연구원과 함께 온라인 그루밍 정황 탐지를 위한 AI기술을 연내 개발할 계획이다.
   
이 기술은 대화 흐름에서 “사진 보낼래?” “영상통화 할까?” “집이 싫으면 가출해 보심?” “용돈 받고 뭐 원하는 거 해주고 그러는 거야” 등과 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다. 
 
이는 단순히 특정 단어를 감지하는 수준을 넘어 멀티모달 지원 경량화된 언어모델(sLLM)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 분석이 가능하다. 
 
마채숙 서울시 여성가족실장은 “디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다”라고 말했다.
 
한편 서울시는 오는 2일 오전 10시 서울시청 서소문청사 제1동 13층 대회의실에서 AI 기반 온라인 그루밍 탐지 기술과 함께 온라인 그루밍에 대한 사회적 인식 확산 및 대응방안 모색을 위해 한 토론회를 개최한다. 
 
이번 토론회에서는 김준철 서울연구원 연구위원이 ‘AI 기반 온라인 그루밍 탐지 및 선제 대응 기술’을, 김보화 서울시여성가족재단 책임연구원이 ‘서울시 아동·청소년 온라인 그루밍 실태와 정책방향’에 대해 각각 발표한다. 
 
이어 KBS ‘시사기획 창’의 김도영 기자, 성유리 한국형사·법무정책연구원 부연구위원, 이은정 시립다시함께상담센터 부소장이 참여해 랜덤채팅 실태와 피해사례 등을 공유할 예정이다. 
 
또 서울시는 이날 ‘온라인 그루밍 예방 가이드’를 배포하고, 아동·청소년 성착취를 효과적으로 예방하는 정책을 소개한다.

[ⓒ SWTV. 무단전재-재배포 금지]