메타가 DRAM 재활용 칩을 냈습니다... 메모리 수요 줄어들까? HBM 다음은 CXL?

메타가 퇴역한 서버에서 DDR4 메모리를 회수해 최신 서버에 다시 사용하기 시작했습니다. 이를 위해 CXL Type-3 메모리 확장 칩인 Vistara를 직접 설계하고, 실제 서비스 환경에 배치했습니다. 이번 영상에서는 Vistara가 단순한 운용 방식인지, 실제 반도체 칩인지부터 논문을 통해 확인합니다. 로컬 DDR5와 CXL DDR4의 대역폭 차이, 서버당 메모리 구성과 실제 서비스 개선 결과도 살펴봤습니다. 느린 DDR4를 추가했는데도 서버 수와 처리 시간이 줄어든 이유를 캐시와 ML 파라미터 서버 사례로 설명합니다. 또한 CXL이 HBM을 대체하는 기술인지, DRAM 공급 부족을 해결할 수 있는지도 구분했습니다. 직접 연결형 메모리 확장과 여러 서버가 공유하는 메모리 풀의 차이도 다룹니다. 메모리 계층이 늘어나면서 운영체제와 AI 런타임의 관리가 얼마나 복잡해지는지도 살펴봅니다. 삼성전자, SK하이닉스, 파네시아가 CXL 생태계에서 맡고 있는 역할도 함께 정리했습니다. HBM이 속도의 경쟁이라면, CXL은 메모리를 얼마나 효율적으로 활용할 것인지에 대한 경쟁입니다. Written by 패치 Edited by 이진이 [email protected]