[더팩트ㅣ선은양 기자] 김앤장 법률사무소가 한국정보통신법학회와 함께 인공지능(AI)의 자율적 업무 수행 과정에서 발생할 수 있는 보안 위험과 기업의 규제 대응 방안을 논의하는 세미나를 개최한다.

김앤장은 한국정보통신법학회 정보보호포럼과 공동으로 오는 13일 오후 2시 서울 종로구 크레센도 빌딩에서 '에이전틱 AI, 특화 모델 시대의 보안 이슈와 규제 대응'을 주제로 공개 세미나를 연다고 12일 밝혔다.

에이전틱 AI(Agentic AI)는 사용자의 지시에 따라 외부 도구와 시스템을 자율적으로 활용해 업무를 수행하는 기술이다. 기업의 업무 효율성을 높일 수 있지만 권한 오남용과 프롬프트 조작, 외부 시스템 연동 과정에서의 정보 유출 등 새로운 보안 위험이 발생할 수 있다는 지적도 나온다.

특히 올해 1월 인공지능기본법이 시행되는 등 관련 규제 환경이 변화하면서 기업이 AI 도입부터 운영까지 전 과정에서 보안 통제와 법적 책임 체계를 마련해야 할 필요성이 커지고 있다.

이번 세미나에서는 에이전틱 AI와 특화 모델의 확산에 따른 보안 위험을 살펴보고, 기업의 내부통제 시스템과 사이버 위기 대응 체계 구축 방안을 논의할 예정이다.

첫번째 세션에서는 이상근 고려대 정보보호대학원 교수가 '에이전틱 AI의 자율 역량과 통제 방안 동향'을 주제로 발표한다. 이어 한혜원 김앤장 변호사가 '사이버 위기 대응과 관련된 기업의 내부통제 시스템 설계의 방향'을 설명한다.

종합토론은 권태경 연세대 교수 겸 정보보호포럼 위원장이 좌장을 맡는다. 이주형 서울시립대 법학전문대학원 교수, 박기웅 세종대 정보보호학과 교수, 이종혁 과학기술정보통신부 정보보호산업과장, 민경표 카카오뱅크 최고정보보호책임자(CISO), 차윤호 김앤장 고문 등이 참여한다.

이성엽 한국정보통신법학회 회장은 "에이전틱 AI와 특화 모델의 확산으로 기업의 생산성과 효율성이 극대화되는 한편, 자율적인 도구 호출 및 시스템 연동에 따른 새로운 유형의 보안 리스크와 책임 문제가 대두되고 있다"며 "이번 세미나가 기업들이 실효성 있는 기술적 통제 방안과 내부통제 체계를 설계하는 데 도움이 되기를 바란다"고 밝혔다.

yes@tf.co.kr