메모리 생태계 한방 정리 - NAND 솔루션

 

2. 다음으로 NAND-Solution을 살펴 보시겠습니다. NAND flash 는 전기가 꺼져도 데이터가 영구적으로 저장되는 메모리 반도체 소자 입니다. 요즘은 주로 SSD형태로 제작되어, 컴퓨터에서 하드디스크 대신의 보조 기억 장치로 사용됩니다. 하드디스크는 통신 속도가 많이 느렸으나, SSD는 속도가 많이 빨라서, PC의 부팅 시간이 줄어드는 등의 효과를 경험해 왔습니다.  NAND솔루션의 생태계는 아래와 같이 정리 될 수 있겠습니다. 

 

 

 

2.1 SSD(Solid State Device)

 

PCB위에 NAND die들이 붙어 있고, SSD controller 역시 붙어 있습니다. SSD는 일반 NAND flash를 사용합니다.  그렇기 때문에 Controller 는 내부적으로 NAND들과는 ONFI 또는 Toggle Mode등의 프로토콜을 사용해서 통신하고, 외부적으로 CPU와는 NVMe(PCIe)프로토콜을 사용하여 통신합니다. 물리적으로 는 PCIe를 Command Lavel 에서는 NVMe 표준을 따릅니다.  SSD는 크게 데이터, AI 서버에 사용되는 Enterprise SSD 와 Laptop 또는 PC등에 사용되는 Client SSD로 불류 됩니다.  

 

Enterprise SSD 용  Formfactor 에는 EDSFF, U.2/U.3 등이 있습니다. 아래는 Server에 다수의 EDSFF SSD들이 장착된 모습을 보여 주고 있습니다. Enterprise SSD의 가장 중요한 항목은 빠른 performance 와 큰 용량 등 입니다. 

 

EDSFF formfactors :

 

U.2/U.3 Formfactors:

 

 

 

반면 Client SSD용 Formfactor 에는 M.2 가 대표적으로 사용됩니다. Client SSD 의 가장 중요한 요소는 저전력과 가격 입니다. 그렇기 때문에  LPM(Lowpower Management) 기능이 매우 중요합니다. 

 

 

2.2 CXL NAND

역시 PCB 위에 CXL controller 와 일반 NAND들이 위치해 있고, controller는 CXL interface를 통해 CPU와 통신을하고, NAND 쪽은 ONFI 또는 Toggle Mode등의 포르토콜을 통해 통신합니다.  삼성전자 에서는 CMM-H 라는 하이브리드 모델을 이미 시장에 출시한 바 있습니다.  해당 Devicd F/F를 보면 Enterprise SSD에서 사용하는 EDSFF F/F가 그대로 사용된 것을 볼 수 있습니다. 해당 제품은 내부적으로 느린 NAND 처리 속도를 보상 하기 위해 DRAM cache를가지고 있습니다.  

 

여기서 질문이 생깁니다. SSD가 이미 매우 광범위하게 사용되고 있는데, 왜 구지 CXL NAND 솔루션을 사용해야 하지? 서버의 마더보드 상에서 봐도, 어차피 둘다 EDSFF 소켓에 꽂아서 사용하는거 아냐? 확정성도 동일하지 않나? 

이 질문들에 대한 답은 현재 상황에서는 "맞아 구지 할 필요 없어" 가 맞는것 같습니다. 현재 CXL 2.0 스펙을 준수하는 device와 Host가 시장에 나와 있지만, 아직 미완성 기술이라는 느낌이 강합니다. 실제 CXL 디바이스는 실험 단계로 제작 되었지, 시장에 팔리는 물건은 아직 아닙니다. 하지만 2026, 2027년 시간이 지나면서 이 부분은 양상이 매우 달라질 가능성이 큽니다. 이제 PCIe 6.0 시대가 열렸고, PCIe 7.0이 곧 열릴 것이며, CXL 3.X, 4.X가 실제로 구현 될 것입니다. 그렇게 되면 CXL NAND 솔루션은 SSD비해 다음과 같은 강점을 가지게 됩니다. 

 

• 메모리 자원 고립 문제(Memory Stranding) 해결
  • 자원 고립(Stranding) 이란 이런 것입니다.  특정 서버에 10TB SSD를 꽂았는데 2TB만 쓰고 있다면, 남은 8TB는 그 서버에 갇혀서 다른 서버가 쓸 수 없습니다.  SSD는 이부분에 명확한 한계를 가지고 있습니다. 
  •  CXL은 메모리 풀링(Memory Pooling)을 지원합니다. 거대한 CXL NAND 창고를 만들어두고, 여러 대의 CPU/GPU가 필요할 때마다 1TB, 500GB씩 떼어서 '메모리 주소'로 할당받아 씁니다.
  • 서버마다 SSD를 꽉꽉 채워줄 필요가 없으므로, 전체 데이터센터 입장에서 구매해야 하는 전체 낸드 용량 자체가 줄어들어 비용이 절감됩니다
• 소프트웨어 오버헤드문제 해결 (I/O Tax)
  • SSD는 데이터를 읽을 때마다 파일 시스템 → 커널 드라이버 → 인터럽트 처리 → 컨텍스트 스위칭이라는 복잡한 과정을 거칩니다. 이 과정에서 CPU 자원의 상당량이 소모되는데, 이를 'I/O Tax'라고 부릅니다.
  • CXL NAND의 경우 CPU가 그냥 DRAM 메모리 주소를 읽듯이(Load/Store) 접근합니다. 즉 커널이나 드라이버가 개입하지 않고 HW적으로 메모리 접근이 가능합니다. CPU는 오직 '연산'에만 집중할 수 있습니다.
  • 그결과 똑같은 NAND 용량을 써도 시스템 전체의 처리량(Throughput)이 훨씬 높기 때문에, '성능 대비 가격' 에서 CXL NAND가 압승합니다.
• 슬롯의 한계 극복과 확장성
  • SSD는 메인보드의 PCIe Lane 개수는 한정적입니다. 서버 한 대에 꽂을 수 있는 NVMe SSD개수는 금방 한계에 부딛힙니다. 
  • 반면 CXL NAND는 CXL switch를 사용하면 단일 포트에서도 수십, 수백 개의 낸드 장치를 연결할 수 있습니다.
  • 결론적으로 서버 설계를 변경하지 않고도 메모리 용량을을 파타바이트(PB)급으로 유연하게 늘릴 수 있습니다. 

결과적으로 CXL NAND 솔루션은 Server 입장에서 조금 느린 DRAM 같이 작동합니다. CPU가 소프트웨어 개입 없이 direct로 NAND영역에 접근할 수 있기 때문입니다. 비싼 DRAM대신 CXL NAND를 저렴한 비용으로 사용할 수 있는 강점이 있습니다. 

 

 

2.3 HBF(High Bandwidth Flash)   

요즘 초미의 관심을 받고 있는 NAND 솔루션이 바로 HBF 입니다. HBF는 HBM과 매우 비슷합니다. HBF Package를 살펴보면, HMB와는 다르게 DRAM stack 이 아니라 NAND stack이 존재합니다. HBM처럼 TSV(Through Silicon Via, 실리콘 관통 전극) 을 사용하여, 각 NAND die 사이에 수직으로 고속도로를 내 놨습니다. 또 Package의 가장 아랫단에 비메모리 반도체인 Logic Die가 있습니다. 이것이 controller처럼 사용됩니다. Logic Die는 NAND stack 통신에 Wide I/O 아키텍처를 사용합니다. 이는 HBM과 동일합니다.  Logic Die는 또한 GPU 또는 CPU와 외부적으로 통신하는 역할을 담당하기도 합니다. 

 

https://pcieblog.tistory.com/109 에서 HBF에 대한 좀더 자세한 내용을 살펴 보실 수 있습니다. 

 

HBF 는 HBM과 동일한게 GPU가속기 내부에서, HBM의 위치에 장착될 수 있습니다. 이경우 GPU와 통신하기 위한 프로토콜이 현재 활발하게 작성되고 있습니다. SanDisk 와 SKHynix가 협의하여 스펙을 작성해나가고 있습니다. 하지만 해당 스펙은 물리적인 부분에 있어서 HBM-compatiable해야 합니다. 그래야 GPU 가속기에 그대로 설치가 가능해지기 때문입니다. 

 

HBM-compatible 3대 핵심 요소

• 핀 맵 및 범프 레이아웃 (Bump Layout)
  • HBM3e 등에서 정의한 1,024개의 데이터 핀(DQ)과 명령어(C/A), 전원(VDD) 핀의 위치가 소수점 단위까지 일치해야 합니다. 그래야만 GPU와 메모리를 잇는 실리콘 인터포저(Interposer)의 회로 설계를 그대로 재사용할 수 있습니다.
• 패키지 폼팩터 (Mechanical Dimensions)
  • HBM 스택의 가로, 세로 길이뿐만 아니라 적층 높이(Z-height)까지 표준 범주 안에 들어와야 합니다.
• 전기적 특성 (Electrical signaling)
  • 신호의 전압 레벨(1.1V 등), 임피던스, 클럭 주파수 도달 범위가 HBM 규격을 충족해야 GPU의 물리 계층(PHY)이 신호를 인식할 수 있습니다.

 

하지만 HBF는 단순히 GPU 가속기 내부에서만 사용되지는 않을 것으로 전망됩니다. 단독적인 Memory 디바이스로 서버에 장착될 가능성이 매우 높습니다.  이 경우 다른 Logic Die가 장착 될 것인데, 그 Logic Die는 외부 CPU/GPU와통신을 위해 CXL 프로토콜을 사용하게 될 것입니다.  즉 내부적으로 HBF NAND stack을 가지고 있고, Logic Die에는 CXL 컨트롤러가 부착된 형태의 Package가 개발되고 양산될 가능성이 큽니다. 그렇다면 위에서 설명한 CXL NAND 와 HBF CXL는 어떻게 다를까요?

 

아래 표에서 보시는 것처럼, HBF CXL 은 CXL의 장점을 그대로 가지고 있으면, HBF 낸드의 Low Latency까지 확보하게 됩니다. 전자는 가성비 제품이라면, 후자는 초고속 데이터 처리가 가능한한 제품 입니다. 하지만 HBF NAND는 제조 공정이 복잡하고 수율관리가 어려우며, 테스트 비용이 비싸기 때문에, 결과적으로 가격이 일반 NAND에 비해 무척 비쌀 것입니다. 그렇기 때문에 사용 목적에 맞게 적절한 제품이 선택 될 것입니다. 

구분	CXL NAND	HBF CXL
NAND Type	일반 낸드 (Standard Flash)	HBF 낸드 (TSV 적용)
Inside Protocol	ONFI / Toggle	Wide I/O (1,024-bit TSV)
Outside Protocol	CXL (PCIe 기반)	CXL (PCIe 기반)
상용화 시점	2025~2026년 (현재 샘플링 중)	2026년 알파 샘플, 2027년 이후 양산

 

포지셔닝:

 

• CXL NAND: DRAM을 쓰기엔 너무 비싼 대용량 데이터를 처리할 때 씁니다. 빅데이터 분석, 인메모리 데이터베이스의 'Warm' 계층용으로 적합하며, 삼성의 CMM-H 같은 제품이 이 영역에 해당합니다.
• HBF CXL: AI 추론(Inference) 시 GPU가 거대한 가중치 데이터를 순식간에 읽어 들여야 할 때 씁니다. GPU 패키지 외부에 장착되더라도 CXL 프로토콜을 통해 'HBM의 확장판'처럼 동작하는 고성능 메모리 역할을 수행합니다.