[더팩트｜우지수 기자] LG유플러스가 자체 개발한 인공지능(AI) '익시젠(ixi-GEN)'의 안전성과 신뢰성을 검증하기 위해 스페인 바르셀로나로 향한다.

19일 LG유플러스는 세계이동통신사업자연합회(GSMA)가 주관하는 '글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)'에 참여한다고 밝혔다. 이번 행사는 내달 2일부터 열리는 세계 최대 모바일 기기 박람회 '모바일월드콩그레스(MWC)' 기간 중 개최된다.

이번 챌린지에서 LG유플러스는 통신 특화 AI 모델 '익시젠'을 출품해 실제 사용자 관점에서 발생할 수 있는 위험 시나리오 대응력을 점검한다. 참가자 약 100명이 '레드팀'으로 나서 프롬프트 설계만으로 AI 취약점을 찾아내는 방식이다.

기술적 해킹이 아닌 대화와 프롬프트 기반 공격을 통해 AI의 정책과 안전 장치를 우회할 수 있는지 확인한다. 평가는 AI가 해서는 안 되는 응답을 했는지 여부를 성공 기준으로 삼는다. 불법 행위나 인권 침해 관련 정보가 부정확하더라도 AI가 해당 정보를 제공했다면 취약점으로 인정된다. 생성형 AI가 초래할 수 있는 잠재적 위험까지 점검하려는 취지다.

LG유플러스는 이번 챌린지로 익시젠의 안전성을 객관적으로 검증하고 확인된 취약점을 바탕으로 모델을 고도화할 계획이다. 글로벌 통신사 및 AI 전문가들과 교류해 AI 보안과 책임 있는 활용을 위한 논의도 확대한다.

이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.

index@tf.co.kr