"HBM·D램 사이사이에 새 메모리 계층 필요"
[더팩트｜우지수 기자] 안현 SK하이닉스 사장이 "인공지능(AI)이 다루는 데이터가 고대역폭메모리(HBM)와 D램만으로는 담기 어려울 만큼 늘고 있다"며 "HBM 다음 단계의 메모리를 준비하고 있다"고 밝혔다. 프로세서 위에 D램을 바로 쌓거나 낸드를 HBM처럼 쌓아 용량을 키우는 방식으로 메모리 사이의 데이터 이동 병목을 줄이겠다는 계획이다.
14일 안 사장은 서울 강남구 코엑스에서 열린 '제28회 반도체대전(SEDEX 2026)'에서 'AI 시대, 메모리 혁신의 방향을 묻다'를 주제로 기조강연을 했다. 그는 AI 수요 전망과 메모리 구조 변화, SK하이닉스의 차세대 제품 계획을 차례로 소개했다.
안 사장은 먼저 AI가 퍼지는 속도에 주목했다. 그는 "기술이 대중화되는 주기가 과거 대비 100분의 1, 1000분의 1로 줄고 있다"며 "메모리 개발과 표준화, 생산능력 확보는 수요가 생기기 전부터 미리 준비돼야 한다"고 말했다.
효율이 높아질수록 전체 사용량이 늘어나는 '제번스의 역설'도 수요 근거로 들었다. 증기기관 효율이 높아지자 석탄 소비가 오히려 급증했던 것처럼 효율 높은 AI 모델이 잇따라 나와도 토큰 사용량은 계속 늘고 있다는 설명이다. AI 모델이 한 번에 다루는 데이터 양(컨텍스트 길이)은 재작년까지만 해도 12만8000토큰 수준이었지만 100만 토큰으로 늘었고 추론 요청량은 해마다 7배씩 증가하고 있다. 안 사장이 제시한 자료에 따르면 올해를 1로 봤을 때 2030년 AI 인프라 규모는 약 20배로 커진다.
안 사장은 메모리 계층 사이의 데이터 이동을 가장 큰 병목으로 꼽았다. 그는 "모든 메모리는 대역폭을 높이면 용량이 줄고 용량을 늘리면 성능이 떨어진다"며 "S램과 HBM, D램, 솔리드스테이트드라이브(SSD) 사이사이에 또 다른 메모리 계층이 개발돼야 한다"고 말했다.
SK하이닉스의 HBM은 올해 HBM4E에 이어 내년 HBM5와 고객 맞춤형(커스텀) HBM4E로 이어진다. 안 사장은 "표준 HBM과 커스텀 HBM이 병행하겠지만 장기적으로는 커스텀 흐름이 더 확대될 것"이라고 내다봤다.
새 메모리 계층으로는 3D 스택 D램과 고대역폭플래시(HBF), 컴퓨트익스프레스링크(CXL) 기반 풀드 메모리를 제시했다. 3D 스택 D램은 그래픽처리장치(GPU) 등 프로세서 위에 D램을 바로 쌓고 실리콘관통전극(TSV)으로 이어 데이터 입출력 통로를 기존 HBM보다 수십 배 늘린 구조다. HBF는 낸드를 HBM처럼 쌓은 제품으로 대역폭은 HBM의 절반 수준이지만 용량은 10배 이상 키울 수 있다. CXL 풀드 메모리는 여러 D램을 하나로 묶어 AI 모델들이 함께 나눠 쓰게 한다.
낸드의 약점으로 꼽히는 쓰기 신뢰성과 지연시간에 대해 안 사장은 "AI 추론은 데이터를 읽는 양이 쓰는 양보다 수십만 배 많은 작업"이라며 "다음 명령을 대부분 미리 알 수 있어 데이터를 앞당겨 불러오면 지연 문제도 풀 수 있다"고 설명했다. SK하이닉스는 샌디스크와 처음 HBF 협력을 시작한 뒤 구글 등 클라우드 서비스 기업과 표준화를 진행하고 있다. 지난 7월 오픈컴퓨트프로젝트(OCP)에 사양 0.7 버전을 공개했고 내년 1월 최종 사양을 마련할 계획이다.
안 사장은 강연을 마치며 미국의 달 착륙 계획을 예로 들었다. 젠슨 황 엔비디아 최고경영자(CEO)가 AI를 '제2의 달 탐사 계획'에 비유한 발언도 언급했다. 그는 "1960년대 말 미국이 달에 사람을 보낸 뒤 가장 큰 혜택을 받은 기업은 인텔"이라며 "어려운 계획을 수행하면서 컴퓨팅 수요가 크게 늘었고 이것이 미국 반도체 생태계가 수십 년간 성장하는 동력이 됐다"고 말했다.
이어 "메모리가 대한민국 최고의 산업이라는 데 모두 공감하실 것"이라며 "AI 확산으로 대한민국에 절호의 기회가 왔다"고 강조했다. 그러면서 "국내 여러 기업과 SK하이닉스가 각자의 자리에서 개발하고 협업해 새로운 대한민국 AI 생태계를 만들기를 바란다"고 덧붙였다.
index@tf.co.kr
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]