Tech

HBF(High Bandwidth Flash) 동향 | OCP 표준화 문서, FMS 2026 및 기타 발표 내용 참고

Futureseed 2026. 8. 7. 00:16
반응형

HBF(High Bandwidth Flash) 동향 Report

기준 시점: 2026-08-06 (FMS 2026, Santa Clara, 8/4~8/6)

 

본 글은 생성형 AI를 활용하여 공개된 내용을 바탕으로 작성하였습니다.

1. Executive Summary

SK hynix와 Sandisk가 FMS 2026 개막에 맞춰 HBF 첫 표준 규격을 OCP를 통해 공개했다. 2025년 8월 양사 MoU, 2026년 2월 컨소시엄 출범 이후 6개월 만의 결과물이다. 규격 원문인 HBF High-Level Base Die Specification v0.7.0은 현재 OCP 웹사이트에서 다운로드할 수 있다고 한다.

 

핵심 요지는 크게 네 가지다.

 

첫째, HBF는 단순한 패키지·인터페이스 규격이 아니라 AXI over UCIe Protocol, Command, Ordering, Error Handling, Telemetry, Firmware, Reliability, Security(Optional), Software Memory Model, Workload 까지 정의한 구현 가능한 Pre-1.0 아키텍처 규격이다.

 

둘째, 대역폭은 Grade 1~3(0.384 / 1.536 / 3.072TB/s)으로, UCIe 속도(8/16/32GT/s)와 활성 Host Channel 수, Stack 높이의 조합으로 규정된다.

 

셋째, 1차 워크로드는 추론 Weight 저장이지만 규격은 KV Cache, Multi-LLM, MoE, Multimodal, Agentic Workload까지 공식 Use Case로 포함한다.

 

넷째, 같은 행사에서 Samsung은 SLC 기반 On-device 특화 zNAND-O를 Concept으로 공개했는데, 특징은 zNAND-O에서 NPU로 직접 데이터를 제공하는 zNAND-O + NPU 결합형 구조(NAND Core Die Stack + Base Die + TSV + UCIe + 패키지 내 프로세서 직결)이다. 이는 보면 HBF와 기술적으로 상당 부분 겹치는 직접 경쟁 아키텍처이나 스펙과 Protocol 공개 수준은 HBF 표준화 내용에 비해 매우 제한적이다.

2. 표준화 현황

시점 내용
2025-02 Sandisk, 투자자 행사에서 HBF 최초 공개
2025-08 Sandisk–SK hynix 표준화 협력 MoU
2026-02 OCP 산하 HBF Technology Workstream(컨소시엄) 출범
2026-08-03 HBF High-Level Base Die Specification v0.7.0 공개 (130p)
2026-08-04 FMS 2026 개막, 양사 공동 발표
  • Primary Contributor는 Sandisk와 SK hynix
  • Google과 Tenstorrent는 규격 Acknowledgements 기준 Feedback과 Suggestion을 제공했으며 IP는 제공하지 않았다고 함.
  • v0.7.0은 v1.0 이전 문서로, Bump Map은 Preliminary이며 차기 Revision에서 Power Rail Bump 등을 보완한다고 함.

3. 스펙 상세 (OCP v0.7.0 기준)

3.1 용량·구성 [공식]

  • 1세대 대표 구성: Die당 256Gb(32GB) × 16-High Stack = 512GB. 8-High 구성도 정의되어 있음.
  • Core Die는 표준 3D NAND가 아니라 고속 인터페이스를 갖춘 특수 Die("HBF Core Die")로 HBM4와 유사한 Footprint·Stack Height·Power Profile을 목표로 함.
  • Cell Bit 수(SLC/TLC 등)는 규격상 미지정이며, Sandisk·SK hynix 모두 공개하지 않았음.

3.2 대역폭 — Grade 1~3의 정확한 정의

Grade 최대 User Bandwidth UCIe Protocol 속도 Virtual AXI I/F 최대 Stack
Grade 1 0.384TB/s UCIe-A x64 8GT/s 1·2·4 8-High
Grade 2 1.536TB/s UCIe-A x64 16GT/s 1·2·4 16-High
Grade 3 3.072TB/s UCIe-A x64 32GT/s 1·2·4 16-High
  • Grade 3 예상 구조:
    • Host Channel당 256GB/s(x64 @ 32GT/s) × 최대 16 Channel = 4,096GB/s (4TB/s)
    • AXI Link Layer Efficiency 75% 적용 시 3,072GB/s (3TB/s)
  • 표기된 1·2·4는 Physical UCIe Link 수가 아니라 UCIe Channel 내 Virtual AXI Interface 수
    •  HBF v0.7은 최대 32GT/s까지만 사용

3.3 Host 인터페이스

  • UCIe 3.0 Guideline, UCIe-A x64, Channel당 64-bit Full Duplex, UCIe Streaming Protocol, 상위 전송 Protocol은 AXI.
  • 최대 16개 독립 Host Channel. Channel 간 독립 동작하며 Clock 동기가 필수가 아님
  • Sandisk가 사용해 온 "xPU-HBF Interface"라는 명칭은 별도 Protocol이 아니라 공개 규격상 AXI over UCIe 기반 HBF Host Interface로 보임

3.4 규격 문서 포함 범위

  • Command: Set/Get Feature, Secure Erase, Get Log Page, BIST, Zone Remapping, Read UCIe Errors, Reduced Capacity 조회, Register R/W
  • Log·Telemetry: Smart Log, HBF Error Log, UCIe Error Log, Vendor-specific Telemetry, MAXPEC/AVGPEC
  • Error Handling: Invalid Address, Retired Capacity 접근, UECC, High CECC, Read Retry, Read Disturb, Write Order Violation, Incomplete 4KiB Write, Thermal Error, Program Failure, Reduced Capacity
  • Firmware·인증: IEEE 1500 기반 FW Download, Digital Signature(ECDSA·RSA 예시), CRC-16/32, Host Authentication Opcode, Channel별 Test·Repair·Disable

4. 디바이스 아키텍처

4.1 Base Die / Core Die 구조

  • 상부 NAND Core Die Stack + 하부 Base Die
  • Base Die에는 Controller, NAND-side PHY, UCIe PHY, TSV Repair, IEEE 1500/1149.1, BIST, Optional Scratchpad SRAM이 들어감
  • 최대 16개 독립 Host Channel이 각각 특정 NAND Die/영역에 연결됨. 하나의 거대한 Shared Array가 아니라 16개의 독립 NAND Local Address Space를 Base Die와 Host Software가 병렬 제어하는 구조에 가까움.

4.2 Read/Write 단위

  • Read: 64B Aligned, 64B~4KiB(64B 배수), 단일 4KiB NAND Page Boundary를 넘을 수 없음. 서로 다른 AXI ID 간 Out-of-order Completion 허용, 동일 AXI ID 내 순서 보장.
  • Write: 4KiB 단위·4KiB Alignment. Base Die가 작은 Write를 4KiB Page로 취합. Block 내 Sequential Page Write 제약 유지, 복수 Block에는 동시 Random Write 가능. Completion은 실제 Program 이후 반환.
  • 요약하면 HBF는 임의 Byte를 자유롭게 갱신하는 Memory가 아니라, AXI로 연결되지만 내부적으로 NAND Page·Sequential Program 제약을 유지하는 Host-managed NAND Memory다.

4.3 GC·Wear Leveling — 없음(Host 책임)

  • 디바이스 자체 Garbage Collection이 없음. Zone Remapping은 Host/xPU가 수행하고, MAXPEC·AVGPEC Register로 Host가 Endurance를 추적해 교체·Remapping 시점을 결정.
  • 성능 변동(QoS) 관점에서는 유리하나, Channel별 Address Allocation, Bad Block 관리, Read Disturb 대응, Weight/KV Channel Partitioning, 4KiB Write Ordering까지 Host Runtime의 관리 책임이 큼.

4.4 Memory Model — HBM과 별도 공간

  • 규격은 HBM과 HBF의 용량 격차 때문에 Memory Management를 분리해야 한다고 명시
  • Coherent UMA로 합쳐지는 것이 아니라 각 Device·Channel에 Local Address Space를 배정하고 Host가 Global Address를 관리.
  • Cache Coherence나 Page Fault 기반 Unified Virtual Memory는 현재 규격에 정의되어 있지 않음. 즉 HBF는 HBM Extension이 아니라 명시적 데이터 배치·이동이 필요한 별도 AI Memory Tier임.

4.5 Optional Scratchpad SRAM

  • Channel별 Optional.
  • 64B R/W, 수 Cycle 수준(L3 Cache 유사) Latency, Host Software가 직접 관리, 용량은 Product-specific.
  • [예상] Layer Buffer, Metadata, Translation Table, Prefetch Buffer, Hot Expert/Weight Cache 등으로 확장될 수 있는 여지를 열어둔 설계로 보임.

5. Reliability

  • Device Life 10년 또는 Endurance 100% 도달 시점. Power-on Retention은 85°C에서 24시간 보장. Power-off 상태에서는 지정 기간 이후 데이터 유지가 보장되지 않으며, 영구 저장에는 SSD 사용을 권고. Junction 0~105°C. PEC·Data Refresh는 Host가 관리.
  • 즉 OCP 규격이 전제하는 HBF의 정체는 장기 보존 Storage가 아니라 SSD에서 모델을 적재한 뒤 전원이 켜진 동안 고속 반복 사용하고 필요 시 Refresh하는 Near-compute Memory.
  • Sandisk의 2025년 자료(Non-volatile, 전원 제거 후 데이터 유지, Refresh Power 불필요)와 표현 차이가 있으나 반드시 모순은 아님.
  • Sandisk 자료는 특정 제품의 목표·마케팅 포지션, OCP 규격은 Multi-vendor 공통 최소 Requirement로 구분해 읽어야 함. 다만 "전원이 꺼져도 모델이 영구 보존되는 고속 Storage"로 가정해서는 안 된다는 점은 분명

6. 워크로드 정의

6.1 Model Weight — 1차 워크로드

  • Single LLM Serving 시 QKV/Output/Gate·Up/Down Projection Weight를 여러 UCIe Channel에 Interleaving하여 동시 Read하는 구조 명시.
  • 최대 대역폭을 얻으려면 Weight를 "4KiB × 병렬 Bank·Plane 수 × 16 Channel" 단위로 배치해야 함.
  • 모델 파일을 연속 Byte 배열로 두는 것만으로는 최대 성능이 나오지 않으며, Load 시 Weight Layout에 맞게 읽어와야 함.

6.2 확장 워크로드

  • Multiple LLM(Channel Interleaving 또는 모델별 전용 Channel), MoE, Multimodal LLM, Agentic Workload, Model Switching, AI Parameter Store·Loading이 공식 Use Case로 포함.
  • KV Cache도 명시적 Use Case. KV Cache를 HBF에 Write하고 Decode 시 Read하는 예시가 제공되며, Weight와 KV Cache의 Write Pattern·Endurance 차이 때문에 Channel 분리를 제안(Endurance 중심 균등 분리 / Capacity 중심 비균등 할당)

7. Sandisk 제품·로드맵 분석

  • 1세대: 512GB, 16-High, Die당 256Gb, Read 1.6TB/s, CBA(CMOS directly Bonded to Array), BiCS 기반, HBM4 유사 Footprint 목표.
  • [예상] 1세대(1.6TB/s·512GB·16-High)는 OCP Grade 2(1.536TB/s·16-High·512GiB 예시)와 대응됨. 사실상 Grade 2 Reference Implementation일 가능성이 높으나, 양측이 동일 제품이라고 공식 명시한 것은 아님.
  • 로드맵 [공식, 2025년 발표 목표]: Gen 2는 2TB/s 이상·최대 1TB·Power 0.8×, Gen 3는 3.2TB/s 이상·최대 1.5TB·0.64×. 현재 v0.7 최대 예시는 512GiB이므로 1TB급 단일 Device는 Density 증가, Stack 확대, 복수 Stack, 또는 차기 Revision이 필요.
  • 성능 주장의 조건 [공식/보도]: "Unlimited-capacity HBM 대비 2.2% 이내"는 Llama 3.1 405B, 8-bit Weight Read, xPU Performance Model, 단일 Kernel 실행, HBM 용량 무제한 가정의 내부 Simulation. 실제 TPS/TTFT, Long Context, KV Write, Multi-user Serving, Thermal Throttling, 실물 Silicon 성능이 입증된 것은 아님.
  • 일정 [공식/미확보]: 2025년 발표 목표는 첫 샘플 2026년 하반기, HBF 탑재 추론 디바이스 샘플 2027년 초. 이번 FMS에서 갱신 일정이 재확인되지 않았으나, 현재가 이미 2026년 하반기이고 공식 변경 발표도 없으므로 지연으로 단정할 근거는 없음.

8. SK hynix 역할과 생태계의 정확한 위치

  • SK hynix: Spec 공동 Contributor. Tiered Memory(HBM–HBF–SSD) 아키텍처를 키노트로 제시. 8/16-High, Grade 1~3 규격 공개 주도. Sandisk가 CBA 기반 제품 로드맵을 선도한다면, SK hynix는 Multi-vendor 규격화, NAND·Base Die 구현, 시스템 아키텍처, 생태계 확장 역할을 함께 수행하는 것으로 보임.
  • Google·Tenstorrent:
    • 확정 가능한 것: 표준 검토 참여, 기술 Feedback 제공, Workload·System 관점 Validation 기여(Acknowledgements 기준 IP 미제공).
    • 확정할 수 없는 것: Google TPU 채택, Tenstorrent 상용 Reference Design, 구매 약속, 차세대 칩 UCIe Port 반영.
    • [예상] Google이 자체 가속기 추론 검증을 수행할 가능성은 합리적이나 미확정. Tenstorrent가 첫 Reference Design 파트너일 가능성은 있으나 공개 근거 부족.
  • 기타 업체 부재: NVIDIA, AMD, Intel, Broadcom, Marvell, Qualcomm, Micron, Samsung은 공개 Contributor·Acknowledgement 명단에서 확인되지 않았음. 정확한 표현은 "참여가 확인되지 않는다"이며, "관심을 표명하지 않았다"로 확대 해석하면 안 됨. NVIDIA가 CMX·Storage-Next 등 자사 주도 계층을 선호할 가능성은 있으나 HBF를 구조적으로 거부한다고 단정할 근거는 없음.

9. Samsung zNAND-O

9.1 공식 발표

  • V-NAND 기반 차세대 고성능 NAND 아키텍처. 4-Layer·8-Layer 개발 중. 높은 Space Efficiency, 향상된 I/O 성능, Low Latency. Edge AI 애플리케이션 대상. 현재 Concept Model.
  • 공식 보도자료에는 Capacity, Bandwidth, Latency, Power, Endurance, Cost, UCIe Rate/Lane, Base Die 구성, 샘플 일정 등 정량 수치가 없음

9.2 발표 슬라이드·현장 보도로 추가 확인 내용

항목 공개 내용
Bit/Cell SLC
Stacking V10 BV-NAND + TSV
Integration NPU와 zNAND-O를 동일 Package에 배치
Interface UCIe Standard (Diagram 표기: UCIe-S I/F)
Package Mobile Fit-in 최적화
Scale-up / out Core Die Stacking / Multi zNAND-O
  • The Elec 현장 보도: V-NAND와 TSV 결합, 4·8-Layer로 Read Bandwidth·Response Time 향상, 전시 Mockup은 V10 NAND Platform 사용.
  • 즉 공개 구조만으로도 zNAND-O는 고속 UFS/SSD가 아니라 SLC NAND Core Die를 Base Die 위에 적층하고 UCIe로 NPU와 같은 패키지 안에서 연결하는 On-device AI Memory.

9.3 Memory 역할 분담

  • DRAM: OS·Application, KV Cache, Activation, 일시적 Working Data
  • zNAND-O: 대용량 Model Weight, Read-centric Memory Space.
  • HBF v0.7이 Weight와 KV Cache를 모두 HBF에 배치할 수 있게 한 것과 대비되는, 보다 명확한 역할 분리 포지션.

9.4 성능·경제성 주장

  • GPT-OSS 120B Simulation 기준:
    • 동일 AI 성능 유지, Memory Cost 1/6, 기존 대비 2배 큰 모델 저장, 양산용 샘플 2028년 공급 예정(키노트, 이진엽 부사장)
  • 다만 Baseline 시스템, DRAM/zNAND-O 용량·대역폭, Quantization, Context Length, Batch, TPS/TTFT, Cost 산정 범위, Power, NAND 가격 전제가 모두 미공개
  • "Cost 1/6"은 BOM 수치가 아니라 특정 DRAM-only 구조 대비 Simulation 결과로만 읽어야 함

10. HBF vs. zNAND-O 직접 비교

구분 SK hynix·Sandisk HBF Samsung zNAND-O

구분 SK Hynix, Sandisk HBF Samsung zNAND-O
공개 단계 OCP v0.7 공개 규격 Concept Model·발표 슬라이드
주 Target AI Data Center 추론, Edge 확장 On-device·Edge AI
Stack 8·16-High 4·8-Layer
Cell 규격상 미지정 SLC
Interface UCIe-A x64, AXI over UCIe UCIe Standard (그림상 UCIe-S)
Bandwidth 0.384 / 1.536 / 3.072TB/s 미공개
Capacity 규격 예시 최대 512GiB 미공개
Read / Write 단위 64B~4KiB / 4KiB 미공개
Memory Model HBM과 별도 공간, Host-managed DRAM과 역할 분리, Weight 중심
Workload Weight, KV Cache, Multi-LLM, MoE, Agentic Model Weight 중심
Protocol·Telemetry 공개 상세 공개 미공개
샘플 일정 Sandisk H2 2026 목표(재확인 없음) 보도상 2028

 

경쟁 관계 판단 [추론]: 양쪽 모두 NAND Core Die Stack + Base Die + TSV + UCIe + 패키지 내 프로세서 직결 + Weight 저장 + Array 병렬화라는 공통 구조를 가진다. 이름만 다른 별개 제품군이 아니라 같은 AI Memory 문제를 다른 System Point에서 푸는 직접 경쟁 아키텍처다. 공개 정보 기준 zNAND-O의 차별점은 SLC 기반 Low Latency·Low Power·Small Package(Mobile Fit-in)·On-device이고, HBF의 차별점은 더 큰 Capacity·Aggregate Bandwidth·공개 Protocol·Software Model이다.

11. Spec이 비워둔 영역 (Product-specific / 미정)

규격이 예상보다 상세함에도 다음은 여전히 Product-specific이거나 미정이며, 벤더 차별화가 발생할 지점.

  • 성능: NAND Read Latency(Average·Tail), Batch Read Scheduling, Read QoS, Mixed R/W 성능, Power, Thermal Throttling, Time to Ready, Cell Type
  • Base Die: ECC 구조, Scratchpad·내부 SRAM 용량, Prefetch·Cache Policy, NAND Scheduler, Controller Process Node, Power Management, FW Architecture
  • Software: HBM↔HBF Migration 정책, Compiler·Runtime API, Weight Layout 변환 자동화, Model Placement, KV Eviction, Multi-process Isolation, UVA·Coherence
  • Security: 규격상 Optional. Inline Encryption은 고대역폭에서 Power·성능 부담이 크다고 규격이 직접 언급. Secure Boot, FW Attestation, xPU-HBF 상호 인증, Weight 암호화, Channel별 Access Control, Anti-rollback, Secure Model Erase 등은 구현 차별화 영역.
  • Package: Bump Map Preliminary(v1.0에서 수정 예정). Power Rail 수, Bump Allocation, Thermal Budget, Warpage, HBM 동시 배치 시 Routing, Reference Design 미확정 가능성.

12. 최종 평가

OCP v0.7 공개로 HBF는 Concept 단계를 벗어나 Interface, Base Die, AXI Protocol, Address Mapping, Error Handling, Reliability, Software, Security, Workload까지 갖춘 구현 가능한 Pre-1.0 Architecture Specification을 발표했다. Samsung zNAND-O는 공개 기준으로 SLC, 4·8-Layer, V10 BV-NAND, TSV, UCIe, NPU 동일 패키지, Mobile Fit-in, Weight 용도, 2028 샘플 목표(보도)까지 확인되며, 스펙과 Protocol은 미공개다.

 

현재 구도는 다음과 같이 평가할 수 있다. SK hynix·Sandisk는 Open Specification과 Data Center급 성능 기준에서 앞서 있다. Samsung은 SLC·Mobile Package·On-device Use Case로 차별화를 시도하고 있으나, 공개 정보만으로는 제품 경쟁력을 검증할 수 없는 단계다. zNAND-O가 외부적으로 검증 가능한 대응 아키텍처로 평가받으려면 최소한 Capacity, Sustained Read Bandwidth, Average·P99 Read Latency, Power, Package Size, 실모델 기준 TPS·TTFT·BOM 비교의 공개가 필요하다

13. 확인 필요 항목 (Open Questions)

  1. v1.0 개정 범위·시점 — Bump Map 확정, Power Rail, Test 항목 TBD 해소 여부.
  2. Grade 수치의 기준 단위 실측 검증 — User Bandwidth의 실효 조건(Channel 활성 수, Efficiency 가정)과 실물 성능의 괴리.
  3. Latency 규격 부재 — Read Latency(Average·Tail)가 Product-specific으로 남아 있어 MoE Expert Loading 등 Latency 민감 워크로드 적용성 판단 불가.
  4. Sandisk 샘플 일정 — H2 2026 목표의 유효성. 차기 실적 발표·후속 공지 확인.
  5. Google·Tenstorrent의 실채택 여부 — Feedback 참여와 채택은 별개. 차세대 칩 UCIe Port 반영 여부.
  6. Multi-vendor 상호운용성 — Product-specific 영역이 많은 상태에서 실제 이종 벤더 HBF 호환이 성립하는지.
  7. zNAND-O 정량 스펙 공개 시점 — Capacity, Bandwidth, Latency, Power, 실측 조건.

14. 참고 자료 (References)

규격·공식 발표 (1차 소스)

언론·분석 (HBF 규격·아키텍처)

언론·분석 (경쟁 동향: Samsung·NVIDIA)

반응형

'Tech' 카테고리의 다른 글

짐 켈러 자서전 | 2024년 인터뷰 내용을 자서전 형식으로 재구성  (1) 2026.07.01
DGX Spark BOM Cost 분석 — 4,699달러 AI 슈퍼컴퓨터 원가는 얼마나 될까? AI Station 에 주목할 만한 이유와 HBF의 의미  (0) 2026.05.15
퀄컴이 다시 주목받는 이유 | 온디바이스(On Device) AI, 메모리 반도체 중요성 강화  (1) 2026.04.09
Apple Mac Studio 내부 구조 및 BOM 원가 요소 분석 /w Gemini  (0) 2026.04.07
[Paper Review] 알리바바(Alibaba)의 PolarStore: High-Performance Data Compressionfor Large-Scale Cloud-Native Databases — 클라우드 네이티브 DB의 저장 비용 감소  (0) 2026.03.20

'Tech'의 다른글

  • 현재글HBF(High Bandwidth Flash) 동향 | OCP 표준화 문서, FMS 2026 및 기타 발표 내용 참고

관련글

티스토리툴바