HBM·HBF·HBC: AI 메모리 세 기술을 정확히 구분하는 방법

Mon, 22 Jun 2026 10:00:00 +0900

연결 맥락 이 글은 2027년 반도체 컨센서스는 누가 지불하는가, 창신메모리 IPO와 메모리 가격 리스크, AI 슈퍼사이클은 왜 더 길어지는가의 기술 배경편이다. 앞글들이 수요·가격·밸류에이션을 다뤘다면, 이번 글은 AI 메모리 공급 측 세 기술이 실제로 무엇이고, 얼마나 증명됐으며, 서로 어떤 관계인가를 정리한다. 관련 허브는 AI HBM 허브와 Exclusive Analysis 허브다.

TL;DR

HBM·HBF·HBC는 같은 종류의 메모리가 아니다. HBM과 HBF는 메모리 부품이고, HBC는 퀄컴의 가속기 아키텍처 이름이다. 한 줄에 세워 TB/s 숫자만 비교하면 반드시 오독한다.
세 기술은 각기 다른 벽을 공략한다. HBM은 대역폭 벽, HBF는 용량 벽, HBC는 추론 비용·전력이다.
성숙도 격차가 크다. HBM은 완전 양산(★★★★★), HBF는 시뮬레이션 단계(★★, 샘플 2026 하반기 목표), HBC는 청사진(★, 2027년 샘플 목표)이다.
셋은 대체재가 아니라 보완재다. 데이터의 ‘온도’가 자리를 정한다. 뜨거운 데이터(KV 캐시)는 HBM, 차가운 데이터(불변 가중치)는 HBF, 저비용 추론은 HBC 방향이다.
지금 HBM의 작업 메모리 자리를 위협하는 기술은 없다. HBF·HBC의 의미 있는 매출 기여는 빨라야 2027-2028년이다. [Inference]

핵심 문장

AI 메모리 전쟁에서 지금 증명된 것은 HBM뿐이다. HBF는 약속이고 HBC는 청사진이다. 셋은 경쟁자가 아니라 메모리 계층의 서로 다른 칸을 채우는 보완재다.

1. AI의 병목은 연산이 아니라 메모리다

GPU 연산력은 지난 10년간 약 80배 늘었지만 메모리 대역폭은 약 17배에 그쳤다. [Fact: NVIDIA 세대별 사양 비교] 그 격차가 오늘날 AI 가속기의 진짜 병목이다. 비싼 AI 칩이 데이터를 기다리며 노는 시간이 늘어나고, LLM이 토큰 하나를 생성하는 속도는 거의 전적으로 메모리가 얼마나 빨리 데이터를 나르는가에 달려 있다.

이 병목은 두 개의 벽으로 나뉜다.

대역폭의 벽: 데이터를 충분히 빨리 나르지 못하는 문제다. LLM 추론의 디코드 단계는 매 토큰마다 거대한 모델 가중치를 메모리에서 읽어와야 해서, 항상 메모리 속도에 묶인다.

용량의 벽: 데이터를 충분히 많이 담지 못하는 문제다. 12만 8천 토큰 문맥에서 생기는 KV 캐시만 약 343 GB로, 최신 GPU(B200)의 HBM 용량 192 GB를 이미 넘는다. [Fact: 공개 사양 계산]

HBM·HBF·HBC는 이 두 벽을 서로 다른 방식으로 공략하는 기술이다. 그리고 셋 중 하나는 메모리 부품이 아니라 한 회사의 가속기 아키텍처다. 이 구분을 놓치면 비교 자체가 무너진다.

2. HBM: 대역폭의 벽을 푼, 유일하게 증명된 기술

개념

HBM(High Bandwidth Memory)의 발상은 간결하다. DRAM 칩을 8-16층 수직으로 쌓아 GPU 바로 옆에 붙이고, 그 사이를 수천 개의 미세한 전극(TSV)으로 연결해 한 번에 주고받는 통로를 1,024-2,048비트로 넓힌다. 핀 하나가 빠른 것이 아니라 통로가 극도로 넓어서 빠른 것이다. 좁고 빠른 1차선 도로보다 조금 느려도 2,048차선 도로가 총 통행량이 훨씬 많다는 원리다.

성능과 증명도

HBM3E 한 스택의 대역폭은 약 1.2 TB/s이고, HBM4는 약 2 TB/s 수준이다. [Fact: JEDEC 사양] DDR5 대비 20-30배다. 엔비디아 H100·H200·B200, AMD MI300 등 사실상 모든 AI 가속기에 HBM이 들어간다.

증명도 ★★★★★: 세 기술 중 HBM만 완전 양산 상태다. 수년간 대규모 양산을 거쳐 수율과 신뢰성이 검증됐다. SK하이닉스가 시장의 약 57-62%를 점유하며 엔비디아 주력 공급 위치를 유지한다. [Fact: 기업 IR·시장 추정치]

로드맵과 사업자

HBM4(2026년 양산, 로직 베이스 다이 채택)에서 HBM4E(맞춤형), HBM5(2029년 목표, 4 TB/s)로 이어진다. HBM4부터 SK하이닉스는 TSMC 12nm 공정으로 베이스 다이를 만들어 메모리 회사와 파운드리가 함께 설계하는 구조로 진화한다. [Fact: 기업 발표] [Inference: HBM5의 4 TB/s는 로드맵 목표치이며 실측 미확인]

사업자는 SK하이닉스·삼성전자·마이크론 3사 과점이고, TSMC가 베이스 다이와 인터포저로 핵심을 받친다. AI 메모리 시장은 메모리 3사·TSMC·엔비디아의 합작 구조다. [Inference: 시장 규모 2025년 약 350억달러에서 2026년 450-580억달러 추정, 출처 간 편차 큼]

3. HBF: 용량의 벽을 노리는 신예, 아직 약속 단계

개념

HBF(High Bandwidth Flash)의 아이디어는 영리하다. HBM의 적층·인터페이스 방식은 그대로 빌리되, 안에 들어가는 메모리를 비싼 DRAM 대신 값싼 NAND 플래시로 바꾸는 것이다. NAND는 셀 하나에 여러 비트를 담아 용량이 크고 GB당 단가가 훨씬 낮다. 2025년 8월 SanDisk와 SK하이닉스가 표준화 협력을 발표했다. SanDisk는 이를 “HBM을 대체가 아니라 보강(augment)하는 것"이라고 설명했다. [Fact: SanDisk·SK하이닉스 공동 발표]

SanDisk는 한 스택에 약 512 GB(HBM의 8-16배)를 담으면서 대역폭은 약 1.6 TB/s를 낼 수 있다고 주장한다. [Fact: SanDisk 팩트시트]

정직하게 보는 증명도

여기서 멈춰야 한다.

증명도 ★★: HBF는 아직 양산은커녕 실물 칩의 독립 벤치마크조차 없다. 512 GB·1.6 TB/s 수치는 SanDisk 내부 시뮬레이션이며, 팩트시트 각주도 “내부 테스트·시뮬레이션, 특정 모델 가정"이라고 명시한다. [Fact: SanDisk 팩트시트 각주] 첫 실물 샘플 목표가 2026년 하반기이고, 추론 디바이스 채택은 2027년 이후다. 238단 NAND를 16층 쌓으면 총 5,000층이 넘는 적층 난이도도 넘어야 한다.

NAND의 약점이 용도를 정한다

HBF에는 두 가지 제약이 있다.

첫째, 지연: NAND는 DRAM보다 읽기가 느려 HBF의 지연은 HBM 대비 약 100배 길다(HBF 약 10 µs vs HBM 수십 ns). [Fact: 매체 특성]

둘째, 쓰기 수명: NAND는 쓰기 횟수에 한계가 있어 자주 갱신되는 작업에는 적합하지 않다.

이 두 약점이 HBF의 용도를 정한다. 거의 안 바뀌고 읽기만 하는 모델 가중치를 담는 대용량 보관소다. 이 용도에서는 약점이 거의 문제되지 않는다.

결정적 변수: 엔비디아의 채택

엔비디아가 현재 HBF에 큰 관심을 보이지 않는다. 용량 문제를 GPU 직결 고속 SSD(eSSD) 방향으로 풀려는 신호를 보이고, HBF에 관심을 보인 대형 고객은 주로 구글이다. [Inference: 업계 관찰·공개 보도 종합] 최대 고객의 채택 여부가 HBF 성패를 가르는 가장 큰 미지수다.

사업자는 SanDisk 주도, SK하이닉스 협력, 삼성 참여 구도이고, 키옥시아는 eSSD라는 다른 길을 택했다. 진영이 아직 굳어지지 않은 상태다.

4. HBC: 메모리가 아니라 퀄컴의 가속기 아키텍처다

먼저 용어 정리

‘HBC’는 함정이 있는 약어다. HBM·HBF와 나란히 놓이지만, HBC는 퀄컴이 2026년 6월 투자자의 날에 발표한 자사 AI 가속기 아키텍처의 이름이다(‘High Bandwidth Compute’). 여러 회사가 합의한 표준 용어가 아니라 한 회사의 브랜드다. [Fact: 퀄컴 공식 발표]

같은 ‘HBC’ 약어가 AMD의 ‘High Bandwidth Cache(HBCC)‘와 충돌하고, HBF와도 혼동된다. 셋은 전혀 다른 개념이다.

따라서 “HBM vs HBF vs HBC” 비교는 엄밀히는 메모리 부품 2종 vs 가속기 설계 1종의 비교다. 이 비대칭을 모르면 “HBC가 HBM보다 대역폭이 18배"같은 잘못된 등식에 빠진다(단위 기준이 다르다).

개념과 기술

HBC가 쓰는 메모리 매체는 HBM이 아니라 LPDDR(스마트폰에 쓰는 저전력 DRAM)이다. 아이디어는 이 값싼 LPDDR을 연산 로직 칩 바로 위에 3D로 쌓아 연산과 메모리의 거리를 0에 가깝게 줄이는 것이다. 비싼 실리콘 인터포저도, 비싼 HBM도 쓰지 않고 추론 비용과 전력을 낮추는 접근이다.

퀄컴은 HBM 대비 전력당 대역폭 6배, SRAM 대비 전력당 용량 200배 같은 수치를 제시한다. [Fact: 퀄컴 발표] 다만 이 수치는 카드·랙 단위로 정규화한 퀄컴 자체 주장이며, HBM의 스택 단위 수치와 직접 비교하면 기준이 달라 오독하기 쉽다.

증명도와 현실

증명도 ★: HBC를 탑재한 퀄컴 AI250 가속기는 실물이 없고 2027년 중반 샘플링이 목표다. 발표된 모든 성능 수치는 설계 목표치다. [Fact: 퀄컴 발표] HBF가 시뮬레이션 단계라면 HBC는 청사진 단계다. 마이크로소프트·메타가 퀄컴 가속기를 발주했다는 보도가 있으나 미확정이다. [Inference: 2차 보도, 미검증]

HBC를 읽는 올바른 프레임은 ‘HBM의 경쟁 메모리’가 아니라 ‘HBM을 쓰지 않고 추론을 싸게 돌리려는 한 회사의 시스템 전략’이다. 성공하면 HBM 수요의 일부 저비용 추론 세그먼트에 영향을 줄 수 있으나, HBM 전체를 대체하는 그림이 아니다. 사업자도 사실상 퀄컴 단독이다.

5. 대체가 아니라 보완: 데이터 온도가 자리를 정한다

“HBF가 HBM을 죽인다”, “HBC가 HBM을 대체한다"는 헤드라인이 자주 나온다. 검증 결론은 이것이 과장이라는 것이다. 셋은 본질적으로 보완 관계다.

근거는 추상적 시장 논리가 아니라 데이터의 물리적 성격에서 나온다.

LLM 추론에서 메모리에 올라가는 데이터는 두 종류다.

모델 가중치(차가운 데이터): 학습이 끝나면 거의 바뀌지 않고 추론 때마다 읽기만 한다. 느리지만 크고 싼 메모리(HBF)에 둬도 손해가 없다. NAND의 쓰기 수명 제약도 ‘읽기만 하는’ 가중치에는 거의 문제가 되지 않는다.

KV 캐시(뜨거운 데이터): 대화가 진행되며 매 순간 갱신된다. 반드시 가장 빠른 메모리(HBM)에 둬야 한다. 느린 메모리로 바꾸면 전체가 느려진다.

지연이 약 100배 차이 나는 HBM과 HBF는 물리적으로 같은 ‘작업 메모리’ 자리에 설 수 없다. HBF는 HBM을 밀어내는 것이 아니라 HBM이 못 담는 것을 받아주는 아래층이다. HBC는 아예 다른 트랙에서 저비용 추론을 노린다.

미래 AI 가속기는 ‘HBM이냐 HBF냐’의 선택이 아니라 HBM + HBF + 고속 SSD의 3계층으로 갈 가능성이 높다. [Inference: 기술 로드맵 분석]

단, 부분 경합은 실재한다. 용량 문제를 HBF로 풀지 eSSD로 풀지는 아직 열린 경쟁이다. 저비용 추론 시장에서 HBC 가속기와 HBM 가속기도 일부 겹친다. HBF·HBC가 성공해 ‘대용량을 싸게’ 푸는 길이 열리면 고객이 비싼 HBM을 덜 살 유인이 생기는 한계 잠식 시나리오도 있다. 다만 이 경합은 모두 2027년 이후의 이야기다.

6. 지금 지켜봐야 할 이정표

세 기술 모두 ‘약속’에서 ‘사실’로 건너오는 시점이 다르다.

HBM은 현재 진행형이다. HBM4 양산 수율, 고객 맞춤형 HBM 확산, 하이브리드 본딩 전환이 다음 관전 포인트다. SK하이닉스·삼성·마이크론 + TSMC가 당분간 AI 메모리 가치의 대부분을 가져간다. [Inference: 시장 점유율 추정]

HBF에서 가장 중요한 이정표는 두 가지다. 첫째, 2026년 하반기 첫 실물 샘플과 독립 벤치마크다. 지금까지의 모든 수치가 시뮬레이션이었으므로 실물이 나오는 순간이 결정적이다. 둘째, 엔비디아의 채택 여부다. 채택하면 HBF 진영이 빠르게 굳어지고, 채택하지 않으면 소수 진영으로 머문다.

HBC는 퀄컴 AI250의 2027년 실물 샘플과 독립 검증이 첫 관문이다. 마이크로소프트·메타 발주 확정 여부도 HBC 생태계 확산의 가늠자다.

과대광고 점검

이 분야에서 자주 나오는 주장 중 경계해야 할 것들이 있다.

“HBF·HBC가 HBM을 대체한다”: 지연·역할이 달라 보완 구조다. 대체 서사는 과장이다.

“용량 16배·4 TB VRAM·전력 6배”: 대부분 회사 내부 시뮬레이션이나 설계 목표치이지 독립 실측이 아니다.

“2026년에 HBM이 위협받는다”: HBF·HBC의 의미 있는 매출 기여는 빨라야 2027-2028년이다.

“HBC는 차세대 메모리다”: 범주 오류다. HBC는 메모리가 아니라 퀄컴의 가속기 아키텍처다.

잠재력은 인정하되, 마케팅 헤드라인과 검증된 사실을 분리해 읽는 것이 분석의 출발점이다.

본 포스팅은 공개 1차-3차 자료와 기업 발표를 바탕으로 한 기술 이해용 분석 자료입니다. 특정 종목·제품의 투자 권유가 아닙니다. HBF·HBC의 성능 수치는 다수가 회사 주장·시뮬레이션·목표치이며 독립 검증 전입니다. 빠르게 바뀌는 분야이므로 최신 1차 자료로 갱신해 확인하기를 권합니다.

퀄컴 on Korea Invest Insights