[더팩트ㅣ이윤경 기자] 카카오가 자율적으로 계획하고 행동하는 인공지능(AI) 에이전트의 위험을 관리하기 위한 윤리 기준을 마련했다.
카카오는 지난 13일 개발자 컨퍼런스 '이프카카오(if(kakao)26)'에서 AI 윤리 원칙 'SPIRIT'과 실행 체계 'NORMA', 윤리 이행 체크리스트를 공개했다고 15일 밝혔다.
SPIRIT은 △안전 △프라이버시 △포용 △책임 △이용자 주체성 △투명성과 신뢰성 등 6개 원칙으로 구성됐다. 실행 체계인 NORMA는 조직 차원의 책임을 바탕으로 윤리 원칙을 실제 서비스에 적용하고 관련 위험을 관리하기 위한 방식이다.
카카오는 자율 에이전트의 위험을 △통제 주도권 △목표 △권한 △참조 자원 △상호작용 등 5개 영역으로 나눠 관리한다. 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등 영역별 통제 방안도 마련했다.
이를 바탕으로 만들어진 윤리 이행 체크리스트는 서비스 특성 파악, 사전 위험 검토, 통제 항목 점검·판정 등 3단계로 구성되며 연내 적용할 예정이다. 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 아동 위험 점검 요소를 체크리스트에 추가할 계획이다.
이번 가이드라인은 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 자문단이 국내외 규범과의 정합성을 검토했으며, 카카오는 실무 관점에서 내용을 점검했다.
카카오 김세웅 AI&기술윤리소위원회 위원장은 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 강조했다.
한편 카카오는 최근 인공지능안전연구소와 'AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)'을 체결하는 등 AI 안전성 확보를 위한 협력도 추진하고 있다.