네이버는 8일 서울시 강남구에서 개최된 인공지능안전 서울 포럼(SFASS)에서 이용자 보호까지 포함한 인공지능(AI) 안전성 관리 체계 'ASF 2.0' 버전을 공개했다. /더팩트DB

[더팩트ㅣ최문정 기자] 네이버는 이용자 보호까지 포함한 인공지능(AI) 안전성 관리 체계 'ASF 2.0' 버전을 공개했다. ASF 2.0은 AI 기술 모델의 성능과 위험 수준을 중심으로 관리했던 기존 체계에서 안전성 관리 범위를 확대해 사용자가 실제로 이용하는 서비스를 중심으로 안전성을 관리하는 것이 핵심이다.

네이버는 8일 서울시 강남구에서 개최된 인공지능안전서울 포럼(SFASS)에서 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계 그리고 앞으로의 활동 계획에 대해 공유했다.

발표에 나선 송대섭 네이버 AI 세이프티 정책 리더는 "AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하고 있다"며 "하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"고 짚었다.

네이버 ASF 2.0에는 △AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 '온 서비스 AI' 전략 △글로벌 AI 생태계에서 멀티 모델 환경 확산 △AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다.

ASF 2.0은 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하게 된다. 이를 위해 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고, 성능 중심의 단일 평가 기준 역시 맥락, 활용사례와 영향으로 세분화했다.

구체적인 처리 과정을 살펴보면, 먼저 AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화한다. 이후 AI 영향 평가 매트릭스에 따라 활용 영역 및 범위에 따른 예상 영향을 평가한다. 마지막으로, 해당 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백 등을 통해 이용자들이 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리한다.

네이버는 서비스 출시 과정에 ASF 2.0이 일괄 적용될 수 있도록 하는 전사적 실행 체계 'CHEC 2.0'도 마련했다. 지난달 공개한 대화형 AI 서비스 AI탭도 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다. 네이버는 AI 탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다.

송 리더는 "네이버는 2021년 '네이버 AI 윤리 준칙', 2024년 '네이버 ASF 베타'를 공개하며, AI 윤리 글로벌 흐름과 국내 정책 환경에 맞춰 AI 안전성 체계를 지속적으로 구체화해 나가고 있다"며 "앞으로도 AI 안전성에 대한 경험과 노하우를 축적해가며 학계, 정책, 외부 전문가와 다양한 기관과의 협업을 통해 이러한 경험과 노하우를 공유하고 발전시켜 나갈 것"이라고 밝혔다.

jay09@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]