메리츠증권 HBM은 다다익선? by AMD > 투자

• 목록

• 페이스북 공유
• 트위터 공유

[메리츠증권 반도체/디스플레이 김선우]

▶ HBM은 다다익선? by AMD

금일 진행된 AMD 실적 컨퍼런스콜에서 Lisa Su CEO가 AI를 위한 동사 GPU 가속기 (MI300) 관련 질의응답에서 메모리 (HBM)를 재차 강조한 점이 눈에 띕니다.

지난 6월 행사에서도 메모리 채용량을 늘림으로써 GPU 부담을 낮추며 AI연산 성능 향상이 가능하다고 언급한 바 있습니다.

MI300은 ~192GB의 HBM 용량을 지원하며 시장 리더 엔비디아 H100의 ~80/96GB 대비 메모리 채용량을 대폭 늘렸습니다.

엔비디아의 차기작 B100 (24년 출시 예정, ~144GB HBM3E) 이후 X100 (25년 출시 예정) HBM 탑재량은 400GB 이상으로 늘어나며 본격 용량 확대 경쟁이 발생할 것으로 예상됩니다.

이를 위한 GPU 제조사들의 HBM 확보 경쟁이 근래들어 심화되고 있습니다. SK하이닉스는 고객사들로부터 25년 HBM 물량을 위해 용인 클러스터를 활용할 것을 요청받고 있습니다.

아래는 AMD 실적 컨퍼런스콜의 질의응답 내용입니다.

Q. 경쟁사 제품 대비 AMD의 MI300이 갖는 경쟁 우위는?
A. 경쟁사 제품과 몇 가지 차별점이 있음. MI300은 연산, 메모리 용량, 메모리 대역폭에서 매우 강력한 성능을 보유. LLM을 구현할 때는 여러개의 GPU를 필요로 하는데, 메모리가 더 많이 탑재될수록 더 적은 GPU로도 모델을 구현할 수 있게 됨. 이는 고객들의 TCO(총운용비용) 관점에서 매우 유리한 점

소프트웨어 관점은 당사가 더 많이 투자했고 전념했던 부분. 당사의 고객사와 협력사는 실제로 서로 다른 하드웨어 간 연결이 필요한 영역으로 옮겨가는 중. 더 높은 프레임워크의 최적화는 새로운 솔루션 채택의 진입 장벽을 낮춰줄 것으로 기대됨. 로드맵 상에서도 계속 나아가기 위해 적극적으로 소통하고 있음. MI300은 훌륭한 제품이며 향후 수 세대를 지나면서 계속해서 진화할 것으로 기대

*동 자료는 Compliance 규정을 준수하여 사전 공표된 자료이며, 고객의 증권투자결과에 대한 법적 책임소재의 증빙자료로 사용될 수 없습니다.

추천0 비추천0