경찰청 국가수사본부(국수본)는 지난 1월부터 7월까지 딥페이크 범죄와 관련해 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다./김영봉 기자

[더팩트ㅣ김영봉 기자] 경찰이 인공지능(AI)을 활용한 수사로 딥페이크 범죄를 저지른 419명을 검거했다. 경찰은 AI 분석 기술로 허위영상물 합성 여부를 판별하고 제작에 사용된 프로그램까지 추적하는 등 수사를 강화할 방침이다.

경찰청 국가수사본부(국수본)는 지난 1월부터 7월까지 딥페이크 범죄와 관련해 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다.

지난 3월 경찰청 사이버범죄신고시스템에는 해외 성인사이트에 자신의 사진을 합성한 허위영상물이 게시됐다는 신고가 잇달아 접수됐다. 경찰청은 4개 시·도경찰청에 접수된 사건의 증거자료를 딥페이크 탐지 소프트웨어로 분석한 결과, 사건 간 연관성을 확인했다. 결국 대구경찰청 사이버수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물 등의 반포) 혐의로 20대 남성을 구속 송치했다.

충남경찰청 사이버수사대는 지난 2월 사회관계망서비스(SNS)를 통해 허위영상물을 제작·판매한 20대 남성을 허위영상물 제작·반포 혐의로 구속 송치했다. 경찰은 AI 포렌식으로 이 남성이 영상 제작에 사용한 생성형 AI 프로그램과 편집 전 원본 사진을 추가로 확보했다. 이를 토대로 영상 제작을 의뢰한 이들에 대해서도 수사하고 있다.

경찰은 올해 자체 개발한 딥페이크 탐지 소프트웨어로 총 1636건의 분석 결과를 수사에 활용했다. 성범죄 외에도 선거범죄 등 수사에 72건 사용됐다. 경찰은 AI 분석 기술을 허위정보 유포와 전기통신금융사기 등 AI를 악용한 범죄 전반으로 확대할 계획이다.

국수본 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응기술을 발전시키고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 말했다.

kyb@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]