--- title: "옛날 메모리부터 최신 HBM까지, 속도가 얼마나 빨라졌을까?" date: 2026-10-12 time: 01:45 model: admin category: knowhow author_type: human summary: "DDR부터 HBM4E까지 메모리 대역폭을 전자책 환산으로 비유하여 이해를 돕는 글" tags: "메모리,DDR5,HBM,대역폭,AI 반도체" --- # 옛날 메모리부터 최신 HBM까지, 속도가 얼마나 빨라졌을까? 컴퓨터 메모리가 빠르다는 이야기를 들으면 보통 이런 숫자가 나온다. DDR4 3,200, DDR5 6,400, HBM3E 1.2TB/s, HBM4 3.3TB/s…. 그런데 솔직히 이런 숫자를 봐도 얼마나 빠른지 감이 잘 오지 않는다. 1초에 몇 GB를 전송한다는 말이 도대체 어느 정도일까? 오늘은 어려운 숫자 대신 책으로 비유해서 알아보자. ## 1. 메모리 속도를 책으로 바꿔보자 먼저 기준을 하나 정하자. 글과 그림이 들어 있는 전자책 한 권의 크기를 10MB라고 가정하겠다. 실제 책 파일은 내용에 따라 크기가 크게 달라지지만, 이해를 돕기 위한 가상의 기준이다. 이 기준으로 계산하면 다음과 같다. - 10MB를 옮기면 책 1권 - 1GB를 옮기면 책 약 100권 - 1TB를 옮기면 책 약 10만 권 즉, 초당 1GB를 전송하는 메모리는 1초에 책 약 100권을 옮기는 것과 같다. 이제부터 메모리의 발전을 책을 옮기는 속도로 비교해 보자. ## 2. PC 메모리는 얼마나 빨라졌을까? | 메모리 세대 | 초당 이동하는 책의 양 | |---|---:| | SDR SDRAM | 약 106권 | | DDR | 약 160권 | | DDR2 | 약 640권 | | DDR3 | 약 1,280권 | | DDR4 | 약 2,560권 | | DDR5 | 약 5,120권 | *대표적인 규격의 이론상 대역폭을 기준으로 계산한 값이다.* 옛날 SDR SDRAM부터 DDR5까지 발전하는 동안, 데이터를 옮기는 능력이 크게 향상됐다. DDR5-6400 메모리 채널 하나는 이론상 초당 약 5,120권의 전자책에 해당하는 데이터를 전송할 수 있다. 물론 실제 컴퓨터가 매초 책 5,120권을 읽는다는 뜻은 아니다. 메모리가 데이터를 전송할 수 있는 능력을 이해하기 위한 비유다. ## 3. 그래픽카드 메모리는 어떨까? 그래픽카드는 일반 PC 메모리와 다른 GDDR 계열 메모리를 사용한다. 화면을 만들고 게임을 실행하려면 수많은 이미지와 그래픽 데이터를 빠르게 공급해야 하기 때문이다. AI 연산에서도 그래픽카드 메모리의 대역폭은 중요한 역할을 한다. 예를 들어 메모리 버스가 256비트이고 전송 속도가 핀당 20Gb/s인 그래픽 메모리를 생각해 보자. 이론상 대역폭은 초당 640GB다. 책으로 바꾸면 어떨까? **1초에 약 6만 4,000권의 전자책을 옮길 수 있는 셈이다.** 일반적인 DDR5 메모리 채널 하나와 비교하면 상당히 큰 차이다. ## 4. AI 시대의 주인공, HBM 이제 본격적으로 HBM을 살펴보자. HBM은 고대역폭 메모리다. 여러 메모리 칩을 수직으로 쌓고, 넓은 데이터 연결 통로를 이용해 대량의 데이터를 빠르게 전송하도록 설계됐다. 왜 이런 메모리가 필요할까? AI가 복잡한 계산을 수행할 때는 엄청난 양의 데이터를 계속 읽고 써야 한다. 아무리 계산을 빠르게 하는 GPU가 있어도 필요한 데이터가 늦게 도착하면 제 성능을 발휘하기 어렵다. 쉽게 말하면 계산하는 사람은 수백 명인데 책을 한 번에 한 권씩만 가져다준다면 어떻게 될까? 사람들이 책을 기다리느라 시간을 낭비하게 된다. HBM은 이 문제를 줄이기 위해 한 번에 훨씬 많은 데이터를 공급하는 데 초점을 맞춘 메모리다. ## 5. HBM 세대별 속도를 책으로 비교해 보자 아래는 HBM 한 스택의 대표적인 이론상 대역폭을 책으로 환산한 것이다. | 메모리 세대 | 대표 대역폭 | 초당 책 환산량 | |---|---:|---:| | HBM | 약 128GB/s | 약 1만 2,800권 | | HBM2 | 약 256GB/s | 약 2만 5,600권 | | HBM2E | 약 460GB/s | 약 4만 6,000권 | | HBM3 | 최대 약 819GB/s | 약 8만 1,900권 | | HBM3E | 약 1.2TB/s | 약 12만 권 | | HBM4 | 최대 약 3.3TB/s | 약 33만 권 | | HBM4E | 최대 4TB/s 수준 | 약 40만 권 | *세대별 대표 제품의 이론상 대역폭을 바탕으로 환산했다. HBM4E는 제조사가 공개한 차세대 제품의 성능 기준이며, 모든 제품의 실제 공급 성능을 뜻하지는 않는다.* 여기서 잠깐 생각해 보자. HBM3E의 대역폭을 1.2TB/s로 가정하면 1초에 약 12만 권의 전자책에 해당하는 데이터를 전송할 수 있다. HBM4가 3.3TB/s라면 약 33만 권이다. 최신 HBM4E의 목표 성능인 4TB/s를 기준으로 하면 약 40만 권이다. 책으로 바꿔 생각하니 숫자의 차이가 조금 실감 나지 않는가? ## 6. 그렇다면 HBM4는 DDR5보다 무조건 64배 빠를까? 여기서는 주의해야 한다. 앞에서 비교한 HBM4의 3.3TB/s는 메모리 스택 하나의 이론상 대역폭이고, DDR5-6400의 51.2GB/s는 64비트 메모리 채널 하나의 이론상 대역폭이다. 두 수치를 단순 비교하면 약 64배 차이가 난다. 하지만 이것이 컴퓨터 전체가 64배 빨라진다는 뜻은 아니다. 메모리의 구성과 용량, 지연 시간, CPU나 GPU의 구조, 실제 작업의 특성에 따라 성능이 달라진다. 책을 옮길 수 있는 속도가 아무리 빨라도 읽는 사람이 책을 이해하는 속도까지 똑같이 빨라지는 것은 아니기 때문이다. ## 7. AI 시대에는 왜 메모리 경쟁이 치열할까? AI 모델은 계산만 많이 한다고 끝나의 것이 아니다. 계산에 필요한 데이터도 끊임없이 공급받아야 한다. 메모리 대역폭이 부족하면 GPU가 데이터를 기다리느라 충분한 성능을 내지 못할 수 있다. 그래서 AI 반도체 경쟁은 단순히 GPU의 계산 능력을 높이는 데서 끝나지 않는다. - 더 많은 데이터를 저장할 수 있는 메모리 용량 - 더 빠르게 데이터를 공급하는 대역폭 - 전력을 적게 사용하는 효율 - 메모리와 GPU를 연결하는 패키징 기술 이 모든 요소가 중요하다. HBM은 이런 요구에 대응하기 위해 발전하고 있으며, AI 반도체 시장에서 중요한 부품으로 자리 잡고 있다. ## 마무리 옛날 메모리부터 DDR5, GDDR, HBM까지 살펴보면 메모리 기술이 얼마나 발전했는지 알 수 있다. 다만 숫자가 커졌다고 모든 작업이 같은 비율로 빨라지는 것은 아니다. **컴퓨터의 계산 능력이 발전할수록 그 계산에 필요한 데이터를 얼마나 빠르고 효율적으로 공급하느냐도 중요해진다.** 우리가 AI의 성능을 이야기할 때 GPU만 바라봐서는 안 되는 이유다. 눈에 잘 띄지는 않지만, 메모리 역시 AI 시대를 움직이는 중요한 기술 가운데 하나다.