[더팩트ㅣ문화영 기자] 서울시가 행정 전반에 인공지능(AI) 활용을 확대하는 가운데 자치구들도 AI를 활용한 안전·돌봄 사업에 속도를 내고 있다. 인공지능이 전통시장 화재를 감시하고 공중화장실 불법촬영 의심 행동을 감지하는가 하면 홀몸 어르신의 안부를 확인하고 복약까지 돕는 등 활용 영역도 넓어지고 있는 모습이다.
다만 생활 패턴과 행동정보 등을 지속적으로 수집하는 과정에서 개인정보 침해 가능성이 있고 고령층이 AI에 지나치게 의존할 경우 오히려 사회적 관계가 위축될 수 있다는 우려도 제기된다.
15일 각 자치구에 따르면 서울 곳곳에서 AI를 활용한 안전·돌봄 사업이 추진되고 있다. 성동구는 노후 전통시장의 화재 안전을 강화하기 위해 조성된 지 60년이 넘은 금남시장과 뚝도시장에 AI 기반 화재감지 시스템 도입을 추진한다.
AI 화재감시 시스템은 시장에 이미 설치된 약 70대의 폐쇄회로(CC)TV 영상을 AI가 분석해 화재 의심 상황을 감지하는 방식이다. AI가 화재 발생이 의심되는 상황을 포착하면 사고 전후 상황이 담긴 10초 안팎의 영상을 시장 관리자에게 전송한다. 이에 관리자는 현장에 직접 가지 않고도 상황을 확인할 수 있으며 실제 화재로 판단하면 원클릭으로 신고할 수 있다.
금남시장에서는 지난 4월부터 '자율주행 화재순찰로봇'도 운영되고 있다. 로봇은 화재 위험이 상대적으로 높은 심야시간대 시장 내부를 자율 순찰하며 이상 상황을 관리자에게 실시간으로 알린다. 화재 발생 시에는 119에 자동 신고하고 탑재된 소화기를 활용해 초기 진압도 시도한다.
용산구는 관내 다중이용화장실 40곳에 '상시형 불법촬영 탐지 시스템'을 설치했다. 해당 시스템은 열원 감지와 AI 기반 동작 인식 기술을 활용해 불법촬영 위험을 24시간 감지하는 방식이다.
화장실 칸 내부에 은폐된 초소형 카메라 등 불법촬영 기기가 발산하는 미세한 열원을 탐지하고 칸막이 위로 휴대전화를 넘기는 등 불법촬영이 의심되는 행동도 감지한다. 이러한 행동이 포착되면 현장에서 경고 방송을 송출하고 구청 담당자에게 상황을 알린다.
용산구는 해당 시스템이 실제 영상을 촬영·저장하는 방식이 아니라 탐지 대상 기기의 열원과 이상 행동을 감지하기 때문에 화장실 이용자의 모습을 촬영하지 않는다고 설명했다.
AI 활용은 안전분야뿐만 아니라 돌봄 영역에서도 확대되고 있다. 종로구는 홀몸 어르신과 노부부 등 가족 돌봄이 어려운 주민을 대상으로 오는 12월까지 '종로 365 AI 안심지킴이' 사업을 추진한다.
통합돌봄 대상자 가운데 건강 상태가 취약하고 고립 정도가 높은 고위험 홀몸 어르신 등 100가구에 화면형 AI 스피커를 지원하는 사업이다. AI 스피커는 24시간 스마트 긴급구조, 맞춤형 건강관리와 복약지도, 정서지원 등을 제공한다.
광진구는 '인공지능 기반 능동형 낙상예방 서비스'를 운영하고 있다. 가정 내 움직임 등을 감지해 일상생활 정보를 분석하고 낙상 위험을 파악하는 방식이다. 관악구는 AI 기반 약물 분석 플랫폼을 활용해 대상자의 처방 이력 등을 토대로 약물 간 상호작용과 복용 위험도를 분석한다.
폭염이 지속되자 동작구는 AI와 IoT(사물인터넷)를 활용한 안전관리에 나섰다. AI 전화발신 시스템으로 대상자의 안부를 확인하고 스마트플러그를 통해 전력 사용량 변화를 분석한다. 또 가정에 설치한 24시간 스마트 응급살핌 시스템을 통해 온열질환 관련 이상징후를 감지한다.
서대문구는 AI 돌봄로봇과 IoT 기반 안전관리 시스템을 활용해 어르신 약 530명의 이상징후를 실시간으로 모니터링하고 있다. 위험상황이 감지되면 119와 의료기관으로 연계한다. 강남구 역시 독거노인에게 AI 돌봄기기를 제공해 안전 확인과 돌봄 서비스를 지원하고 있다.
전문가들은 AI 안전·돌봄 서비스는 신속한 판단이 필요한 분야에서 기존 인력의 한계를 보완할 수 있다고 말한다. 김명주 인공지능안전연구소장은 "안전 분야는 신속한 대응이 필요한 만큼 AI를 활용할 경우 효과적일 수 있다"며 "반복적인 업무에도 지치지 않는다"고 말했다.
다만 개인정보와 사생활 침해 가능성과 AI에 대한 지나친 의존은 경계해야 한다고 설명했다. 김 소장은 "AI 돌봄은 좋게 표현하면 지켜보는 것이지만 나쁘게 표현하면 감시가 될 수 있다"며 "특히 센서를 통해 어르신의 생활패턴을 지속적으로 파악하는 경우 당사자에게 충분히 설명하고 동의를 받아야 한다. 또 AI를 통해 수집한 정보를 목적과 다른 용도로 활용해서는 안된다"고 말했다.
그러면서 "AI 돌봄 서비스 중 대화 기능을 통해 정서적인 도움을 줄 수 있지만 어르신이 지나치게 애착을 갖거나 의존할 가능성도 있다. 경로당에 가거나 다른 사람들과 대화하고 산책했을 어르신이 AI와만 시간을 보내게 될 수도 있다"며 "이런 부작용을 염두해 중독을 예방할 수 있는 기능도 넣어야 한다"고 덧붙였다.