[더팩트ㅣ임영무 기자] 윤호중 행정안전부 장관이 10일 오후 서울 종로구 정부서울청사에서 AI 딥페이크 탐지 분석 모델 시연에 앞서 발언을 하고 있다.
정부가 오는 6월 지방선거를 앞두고 인공지능(AI)을 악용한 딥페이크(Deepfake) 허위 정보와 가짜 영상에 대한 전면전에 나선다. 기존보다 탐지 성능을 획기적으로 높인 분석 모델을 현장에 투입해 민주주의의 근간인 선거의 공정성을 지키겠다는 방침이다.
행정안전부는 10일 오후 딥페이크 탐지 분석 모델 고도화 시연회를 개최하고, 국립과학수사연구원과 함께 개발한 최신 AI 탐지 기술을 공개했다.
이날 시연회에 참석한 윤호중 행정안전부 장관은 "인공지능 기술의 발전 이면에 딥페이크와 같은 새로운 위협이 빠르게 증가하고 있다"며 "특히 선거철 조작된 영상과 허위 정보는 유권자의 판단을 흐리고 민주주의의 기반을 흔들 수 있다"고 경고했다.
중앙선거관리위원회에 따르면, 딥페이크 영상 삭제 요청 건수는 2024년 제22대 총선 당시 388건에 불과했으나, 불과 1년 뒤인 2025년 대선에서는 1만 510건으로 약 27배 급증했다. 윤 장관은 "딥페이크는 단순한 기술 문제를 넘어 민주주의를 위협하는 새로운 정보 범죄가 됐다"고 규정했다.
행안부는 이러한 위협에 선제적으로 대응하기 위해 지난 2024년부터 국립과학수사연구원과 협력하여 AI 기반 딥페이크 탐지 분석 모델을 개발해 왔다.
이번 시연회에서 공개된 고도화 모델은 허위 정보 탐지율을 기존 76%에서 92%까지 끌어올린 것이 특징이다. 정부는 이 모델을 다가오는 6월 지방선거에 즉각 활용할 계획이다. 온라인상에서 딥페이크 의심 이미지나 영상이 포착되면 과학적 분석을 통해 조작 여부를 신속히 판별하고, 선관위·경찰청 등 관계기관과 공유해 즉각적인 삭제 및 수사가 이뤄지도록 하겠다는 구상이다.
윤 장관은 "인공지능은 민주주의를 위협하는 창이 아니라 민주주의를 지키는 방패가 되어야 한다"며 "행안부는 국과수, 선관위, 경찰청 등과 긴밀히 협력해 허위 조작 정보에 단호히 대응하고 국민이 신뢰할 수 있는 공정한 선거 환경을 지켜나가겠다"고 강조했다.
darkroom@tf.co.kr
사진영상기획부 photo@tf.co.kr
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]