[더팩트ㅣ김영봉 기자] 경찰청은 독일 노르트라인베스트팔렌주 경찰과 허위영상물(딥페이크), 딥보이스, 가짜뉴스 등 인공지능(AI) 기반 '허위조작 콘텐츠 진위여부 판별 시스템 개발'에 착수했다고 26일 밝혔다.

경찰청은 이날 오전 10시 서울 서대문구 청사에서 허위조작 콘텐츠 진위여부 판별 시스템 개발 착수보고회를 열었다. 이번 공동 개발은 최근 생성형 AI 대중화로 폭발적으로 증가하고 있는 가짜 콘텐츠를 탐지하기 위해서다.

연구는 숭실대를 주관기관으로, 성균관대, 연세대, 한컴위드, 독일 부퍼탈대 등 국내외 연구기관이 참여하며 2027년까지 3년간 진행된다. 연구 첫해인 올해는 딥페이크, 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 진행하고, 이후 머신러닝 운영 자동화 기반의 통합 탐지시스템을 개발해 실증 테스트를 거칠 예정이다.

최주원 경찰청 미래치안정책국장은 "이번 연구는 국가 간 연구개발의 단순한 협력을 넘어 미래치안 위협에 양국의 과학치안 역량을 결집해 공동 대응하는 첫걸음이라는 점에서 의미가 크다"며 "다양성에 기반한 데이터셋과 공정한 알고리즘 개발을 통해 허위조작 콘텐츠 문제의 해법을 제시하길 기대한다"고 말했다.

kyb@tf.co.kr