[더팩트ㅣ최문정 기자] SK텔레콤이 차세대 인공지능(AI) 인프라 구축을 위해 Arm, 리벨리온과 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.
SK텔레콤과 Arm, 리벨리온은 전날 협약식을 개최했다. 향후 3사는 Arm의 데이터센터용 프로세서 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 신경망처리장치(NPU) '리벨카드'를 서버에 탑재해 AI 추론 성능을 높일 수 있는 솔루션을 공동 개발한다.
SK텔레콤이 이러한 협력에 나선 이유는 AI 산업의 전환 때문이다. 기존에는 모델을 구축하는 학습에 초점이 맞춰져 있었다면, 이제는 실제 서비스에 필요한 '추론'의 역량을 갖춰야 하기 때문이다. 특히 전력 효율을 높이면서 처리 속도가 빠른 AI 서비스를 저렴하게 제공하는 것이 핵심 경쟁력으로 떠오르고 있다.
AI 추론은 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. 기존의 그래픽처리장치(GPU)는 전력 소모가 심하고, 비용이 많이 드는 만큼, 추론에 특화된 NPU 중심으로 시장이 개편되고 있다. 특히 NPU는 AI 추론 연산을 전담하고, 시스템의 관제탑 역할은 중앙처리장치(CPU)에 맡기는 '이종 컴퓨팅' 구조가 시스템의 성능과 효율성 증대에 효과적이다.
SK텔레콤 측은 이 구조가 대규모 AI 서비스를 운영하는 데이터센터에서 효율적인 서버 아키텍처라고 설명했다. 특히 해당 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다. SK텔레콤은 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI 데이터센터 사업 경쟁력을 확보한다는 구상이다.
이재신 SK텔레콤 AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 밝혔다.
에디 라미레즈 Arm 클라우드 AI 사업부 GTM 부사장은 "AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다"며 "SK텔레콤, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다"고 말했다.
오진욱 리벨리온 최고기술책임자(CTO)는 "AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다"고 강조했다.
jay09@tf.co.kr