[더팩트｜우지수 기자] 과학기술정보통신부(과기정통부)는 배경훈 부총리 겸 장관이 인공지능(AI) 안전연구소를 방문해 연구 평가 현장을 점검하고 산·학·연 전문가들과 AI 안전성 강화 방안을 논의했다고 23일 밝혔다.

배 부총리의 현장 방문은 최근 음성과 얼굴을 합성·조작한 딥페이크 피해가 확산되는 등 새로운 유형의 위험이 발생할 가능성이 커진 상황에서 AI 안전 확보 기술 현황을 점검하고 향후 정책 방향을 논의하기 위해 마련됐다.

AI 안전연구소는 영국·미국·일본·싱가포르 등 주요국이 2023년 말부터 설립한 AI 안전 대응기관과 보조를 맞추기 위해 지난해 우리나라에도 설립됐다. 연구소는 AI 안전 확보 기술 개발, 모델 평가, 글로벌 협력 등 국가 차원의 대응을 담당하고 있다.

배경훈 부총리는 현장에서 딥페이크 탐지 기술, 미래 AI 위험 연구, AI 안전 평가, AI 안전 정책 및 글로벌 협력 등 연구 현황을 살피고 관계자들을 격려했다. 이어 산업계·학계·연구계 전문가 15명과 함께 딥페이크 탐지 기술과 AI 에이전트 안전성 평가 시연을 참관했다.

이날 간담회는 두 개 세션으로 진행됐다. 첫 번째 세션에서는 딥페이크 방지 기술과 신뢰할 수 있는 AI 에이전트 개발 방향을, 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 맞춘 '국가 AI 안전 생태계 조성 종합계획(가칭)' 추진 방안을 논의했다. 참석자들은 안전하고 신뢰할 수 있는 AI가 지속 가능한 혁신의 기반이 돼야 한다는 데 의견을 모았다.

배경훈 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫걸음"이라며 "AI 안전이 산업과 국민 생활 전반에 자리 잡을 수 있도록 관계부처 및 유관기관과 협력해 올해 안에 '국가 AI 안전 생태계 조성 종합계획'을 마련하겠다"고 말했다.

index@tf.co.kr