[더팩트ㅣ설상미 기자] 서울시가 전국 최초로 AI를 활용해 온라인 그루밍 범죄 예방에 나선다.
3일 시에 따르면 AI가 24시간 온라인 그루밍 위험 징후를 포착해 아동·청소년을 보호하는 '서울 안심아이'가 연내 개발된다. 서울 안심아이는 SNS와 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인 및 성착취 시도를 AI가 실시간으로 탐지하는 시스템이다.
이 같은 AI 도입은 아동·청소년을 대상으로 한 온라인 그루밍 증가에 따른 선제적 대응 차원에서 이뤄졌다. 온라인 그루밍은 SNS, 오픈채팅 등에서 미성년자에게 다정하게 접근해 친밀감을 형성한 뒤, 경계심이 흐려진 상태에서 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다.
실제로 서울시여성가족재단이 2316명을 아동·청소년을 대상으로 실시한 온라인 그루밍 실태 조사에 따르면, 응답자의 19%가 온라인 그루밍 시도를 경험한 것으로 나타났다. 5명 중 한 명 꼴인 셈이다. 접근자의 35.5%는 처음 만난 사람, 34.2%는 또래 친구·선후배였다. 돈·선물 등 '적극적 유인'에 응답한 비율은 16.7%였고, 이 중 28.9%는 실제 오프라인에서 만난 경험이 있었다.
접근 경로는 SNS, 1:1·오픈채팅, 게임 순으로, 특히 SNS에서 높은 비율을 보였다. 서울시가 연구 목적으로 지난 11월 14일부터 25일까지 총 862개의 익명 대화방 데이터를 수집·분석한 결과, 389개 대화방에서 온라인 그루밍이 의심되는 정황이 확인됐다.
서울 안심아이는 온라인에서 24시간 가동된다. 온라인 그루밍 및 성착취 시도를 감지하면, 해당 내용은 피해지원 센터로 자동 전달된다. 예컨대 "사진 보낼래?", "영상통화 할까?", "집이 싫으면 가출?", "용돈 받고 원하는 거 해주고 그러는 거야" 등 성범죄로 이어질 수 있는 트리거 표현이 대화방에 오를 경우 AI가 이를 포착한다. 은어와 축약어, 연속된 대화 맥락, 의도 분석도 가능하다.
다만 이번 AI 모니터링은 온라인 모든 불특정 대화방을 대상으로 하는 것이 아닌 오픈 채팅과 공개 대화방에서만 감지된다.
서울시 관계자는 "AI는 최소한의 정보를 채증해 증거를 수집하고, 권한 있는 센터로 전달해 실질적인 신고 지원과 대응이 가능하도록 설계됐다"라며 "법률적 검토와 서울시 자문을 거쳐, 오픈채팅방이나 공개 대화방 중 제목이나 방 이름에서 위험 신호가 감지되는 경우에 한해 선택적으로 모니터링을 진행한다"고 밝혔다.
피해지원기관은 전문 상담사를 배정해 초기 대처법을 안내하고 상담과 수사 지원을 제공한다. 또한 반복적으로 그루밍을 시도하는 계정에 대해서는 신고·고발 조치를 병행한다.
시는 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입했고, 지난해에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발해 성착취물을 선제적으로 삭제 지원했다.
마채숙 서울시 여성가족실장은 "디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다"라며 "미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다"라고 말했다.