[더팩트ㅣ이라진 기자] "응용 제품에 따라 다르지만 고대역폭 메모리(HBM) 세대가 발전하면서 훈련, 추론 인공지능(AI) 서버에 탑재되는 평균 채택 숫자는 더 늘어날 것이다."
3일 이강욱 SK하이닉스 PKG(패키징)개발 담당 부서장은 이날 대만 타이베이 난강전시장에서 열린 '이종집적 글로벌 서밋 2024'에서 'AI 시대를 위한 HBM과 어드밴스드 패키징 기술'이란 주제로 발표에 나서 이같이 밝혔다.
해당 행사는 오는 4일 개막하는 '세미콘 타이완 2024'의 세션 중 하나로 열렸다.
이 부사장은 "HBM은 AI 칩의 필수 반도체로, 늘어나는 데이터 트래픽과 이로 인한 메모리의 시스템 병목 현상을 극복하기 위한 현존 최고 사양의 D램이 HBM이다"라고 설명했다.
이어 이 부사장은 "HBM3E 8단·12단은 초당 1.18TB(테라바이트) 이상의 데이터를 처리하며 최대 36GB(기가바이트)의 용량을 지원한다. HBM4는 12·16단으로 공급되며 용량은 최대 48GB까지, 데이터 처리 속도는 초당 1.65TB 이상으로 성능이 발전한다"며 "HBM4부터는 베이스 다이에 로직 공정을 적용해 성능과 에너지 효율 향상을 기대하고 있다"고 말했다.
이 부사장은 HBM 성능 발전에 따라 HBM에 대한 수요는 AI 시장에서 더 늘어날 것으로 전망했다.
SK하이닉스는 지난 3월 메모리업체 중 최초로 5세대 HBM인 HBM3E 8단 제품을 엔비디아에 납품하기 시작했다. 맞춤형 HBM인 6세대 HBM4도 준비하고 있다.
SK하이닉스는 어드밴스드 MR-MUF 기술을 적용한 HBM4 12단 제품을 2025년에 출하한다는 목표다. 또한 오는 2026년 수요 발생 시점에 맞춰 HBM4 16단 제품 출시를 준비한다는 계획이다. 특히 HBM4 16단부터는 어드밴스드 MR-MUF, 하이브리드 본딩 기술을 모두 검토해 고객 니즈에 부합하는 최적의 방식을 쓸 예정이다.
이 부사장은 "최근 연구에서 16단 제품에 대한 어드밴스드 MR-MUF 기술 적용 가능성을 확인했다"며 "하이브리드 본딩 기술을 적용할 경우 제품 성능, 용량 증가와 열 방출 측면에서 장점이 있지만 기술 완성도와 양산 인프라 준비 측면에서 해결해야 할 여러 선결 과제들이 있다"고 밝혔다.
이에 따라 두 가지 방식에 대한 기술 완성도를 높여, 메모리 고용량을 원하는 빅테크 등 고객의 요구에 대응하겠다는 구상이다.
SK하이닉스는 HBM4 외에도 차세대 제품 개발을 준비하고 있다. 대욕폭, 용량 등 측면에서의 기술적 난제들을 해결하기 위한 2.5D와 3D SiP(시스템 인 패키지) 패키징 등 대응 방안을 검토 중이다.
이 부사장은 "(7세대 제품인) HBM4E부터는 커스텀(맞춤형) 성격이 강해질 것으로 예상돼 다양한 고객 요구에 효율적으로 대응하기 위한 생태계 구축 관점에서도 글로벌 파트너들과의 협력을 강화해 가고 있다"고 말했다.