본문 바로가기
🤓 IT 용어 한눈에 알아보기

[IT용어] AI 성능을 끌어올리는 핵심 메모리, “HBM”

by Snet_systems 2026. 1. 29.

HBM(High Bandwidth Memory)이란?

 

HBM(High Bandwidth Memory, 고대역폭 메모리)는 높은 데이터 처리 속도와 대역폭을 제공하면서도 전력 소모를 줄이기 위해 설계된 3차원 적층형 고성능 메모리이다. 여러 개의 메모리 칩을 위로 차곡차곡 쌓는 3차원 구조를 사용해, 칩 사이를 직접 연결함으로써 데이터를 빠르게 주고받을 수 있다.이러한 구조 덕분에 HBM은 기존 메모리보다 더 빠르고 효율적으로 대용량 데이터를 처리할 수 있어, 인공지능(AI), 고성능 컴퓨팅(HPC), 그래픽 처리와 같은 분야에서 주로 사용된다. 다만 구조가 복잡해 제작 비용이 높다는 특징이 있다.

 

HBM를 쉽게 설명하면

HBM은 데이터를 옆으로 늘리지 않고, 층층이 쌓인 구조 속 직접 연결 통로를 통해 한 번에 빠르게 전달하는 구조”이다.

 

 

내용 출처 : 한국정보통신기술협회