지난 2년 동안 기업용 메모리 계획은 인프라 설계에서 가장 어려운 문제 중 하나로 조용히 떠올랐습니다. AI 워크로드의 폭발적인 증가와 반도체 생산 설비가 고대역폭 메모리(HBM)로 빠르게 전환되면서 서버 DRAM 가격이 전년 대비 170% 이상 상승했으며 , 업계 분석가들은 공급 부족과 높은 가격이 적어도 2027년까지 지속될 수 있다고 경고하고 있습니다.
하지만 실제 운영 환경에서는 메모리 사용률이 전혀 다른 양상을 보입니다. 가상화 및 클라우드 네이티브 플랫폼에서 JVM 기반 서비스, 미들웨어 플랫폼, 빅데이터 및 머신러닝과 같은 애플리케이션은 사전에 많은 메모리 공간을 예약하지만, 실제로 사용되는 메모리는 예약된 공간의 일부에 불과합니다. 나머지 페이지는 장시간 유휴 상태로 남아 값비싼 DRAM 용량을 낭비하면서 성능 향상에 직접적인 기여를 하지 못합니다.
할당된 메모리와 실제로 사용되는 메모리 사이의 이러한 격차가 바로 새로운 최적화 접근 방식이 등장하는 지점입니다.
메모리 티어링 은 간단하지만 강력한 관찰에 기반합니다. 모든 메모리 페이지가 동일하지는 않다는 것입니다. 자주 액세스되는 "핫" 데이터는 고속 DRAM에 유지하고, 액세스 빈도가 낮은 "콜드" 데이터는 저렴하면서도 고성능인 저장 매체에 투명하게 배치하면 하드웨어 비용을 비례적으로 증가시키지 않고도 전체 메모리 용량을 크게 확장할 수 있습니다.
하지만 이러한 아이디어는 기업 사용자들에게 곧바로 중요한 질문들을 제기합니다.
- 물리적 DRAM 용량을 넘어서도 성능 저하 없이 메모리를 확장할 수 있을까요?
- 이 시스템은 CPU 오버헤드를 높이지 않고 어떻게 핫 메모리와 콜드 메모리를 정확하게 식별합니까?
- 사용되지 않던 데이터에 다시 접근할 때, 고속 메모리로 복귀하는 데 걸리는 시간은 얼마나 되며, 애플리케이션은 이를 감지할까요?
이러한 우려는 타당합니다. 메모리는 애플리케이션 성능의 핵심 경로에 있으며, 이 계층에서의 최적화는 정확하고 예측 가능해야 합니다.
이 글에서는 상포(Sangfor)의 메모리 티어링 기술을 실용적이고 기술적인 관점에서 살펴보겠습니다. 메모리를 안전하게 티어링할 수 있는 이유, 시스템 수준에서 DRAM과 NVMe가 어떻게 상호 작용하는지, 그리고 성능 저하를 최소화하는 설계 원칙은 무엇인지 설명합니다. 또한 메모리 티어링이 확실한 이점을 제공하는 시나리오와 주의해서 사용해야 하는 시나리오를 제시합니다.
우리의 목표는 개념을 과대 포장하는 것이 아니라, IT 설계자와 의사 결정권자가 메모리 계층화가 자신들의 환경에 적합한지 판단하는 데 도움이 되는 투명한 프레임워크를 제공하는 것입니다.
메모리를 "계층화"할 수 있는 이유는 무엇일까요?
기업 메모리 최적화 분야에서 메모리 벌루닝, 투명 페이지 공유, 메모리 압축, 메모리 오버커밋과 같은 기존 솔루션은 물리적 메모리 활용률을 향상시키고 부하를 어느 정도 완화할 수 있습니다. 그러나 이러한 개선에는 한계가 있습니다. 비즈니스 규모가 계속 커짐에 따라 시스템의 가용 메모리 용량을 확장하기 위한 새로운 기술적 접근 방식이 필요합니다.
클라우드 네이티브 및 가상화 환경에서 애플리케이션(JVM, 캐싱 서비스, 미들웨어 등)은 일반적으로 많은 양의 메모리 공간을 예약합니다. 그러나 실제로 자주 읽고 쓰는 "활성" 메모리는 약 50%에 불과하며, 나머지는 접근 빈도가 낮은 "콜드" 상태로 남아 있습니다.
이러한 핵심 특성을 바탕으로 메모리 티어링 솔루션이 탄생했습니다. 접근 빈도에 따라 메모리 데이터를 핫 데이터 티어와 콜드 데이터 티어로 구분하여 물리적 DRAM과 고성능 NVMe SSD를 활용한 통합 메모리 리소스 풀을 구축합니다. 지능형 스케줄링 알고리즘을 통해 핫 데이터와 콜드 데이터를 동적으로 라우팅함으로써 핵심 비즈니스 성능 저하 없이 물리적 메모리 한계를 극복할 수 있습니다.
DRAM과 NVMe는 어떻게 지능적으로 협력할까요?
상포(Sangfor)의 메모리 티어링 솔루션은 "다중 티어 메모리 풀 + 지능형 스케줄링 엔진" 이라는 핵심 아키텍처를 채택하여 DRAM과 NVMe SSD 간의 고효율 협업을 구현합니다. 이를 통해 시스템 오버헤드를 최소화하면서 계층적 메모리 관리 및 동적 스케줄링이 가능합니다.
다계층 메모리 풀 아키텍처 설계
- 0단계(핫 데이터 계층): 고속 DRAM은 높은 빈도와 지연 시간에 민감한 "핫" 데이터를 처리하여 비즈니스 성능을 보장하는 핵심 역할을 합니다.
- 1단계(콜드 데이터 계층): 고성능 NVMe는 메모리 확장 계층 역할을 하며, 사용 빈도가 낮은 "콜드" 데이터를 전송하여 메모리 용량을 탄력적으로 확장할 수 있도록 합니다.
다계층 메모리 풀 아키텍처 설계
지능형 스케줄링 엔진
지능형 스케줄링 엔진은 메모리 계층화 솔루션의 핵심입니다. "동적 영역 분할 + 무작위 희소 샘플링" 기술을 활용하여 시스템 오버헤드를 최소화하면서 핫 메모리와 콜드 메모리의 전역 분포를 평가하고, 정확한 식별 및 동적 스케줄링을 가능하게 합니다.
CPU 액세스 메모리 경로
세 가지 핵심 기능으로 구성됩니다.
- 정확한 핫/콜드 식별(정밀 타겟팅): 지속적인 열 감지를 통해 비즈니스의 실제 활성 작업 세트를 실시간으로 파악합니다. 고속 DRAM에 유지해야 하는 핫 데이터와 안전하게 다운그레이드할 수 있는 콜드 페이지를 정확하게 구분합니다.
- 자동 메모리 마이그레이션(고속 이동): "콜드 데이터 강등" 및 "핫 데이터 승격"을 자동으로 실행합니다. 이를 통해 핵심 애플리케이션을 위한 DRAM 공간을 확보하는 동시에 재활성화된 데이터가 즉시 핫 티어로 복귀하여 원활한 액세스 성능을 보장합니다.
- 전체 링크 관찰 가능성(명확한 가시성): 메모리 발열 분포, 페이지 마이그레이션 동작 및 콜드 티어 액세스 상태를 지속적으로 모니터링하여 포괄적인 관찰 기능을 제공합니다. 이 모니터링 데이터는 IT 운영팀이 잠재적인 성능 위험을 식별하고 정책 최적화 및 용량 계획을 위한 견고한 기반을 마련하는 데 도움이 됩니다.
DRAM과 NVMe 간의 핫/콜드 데이터 흐름
- DRAM → NVMe (콜드 페이지 마이그레이션): 시스템은 접근 빈도가 낮은 콜드 페이지를 식별하면 해당 페이지를 콜드 페이지 마이그레이션 후보 큐에 추가합니다. 시스템은 NVMe 저장 공간을 할당하고, DRAM에서 NVMe SSD로 페이지 데이터를 기록하며, 메모리 매핑을 동기적으로 업데이트합니다. 마이그레이션이 완료되면 해당 DRAM 공간이 해제되어 활성 데이터에 고속 메모리가 우선적으로 사용됩니다.
- NVMe → DRAM (핫 페이지 승격): 애플리케이션이 이전에 NVMe 콜드 티어로 강등되었던 페이지에 다시 접근할 때, 시스템은 해당 요청을 실시간으로 포착하여 승격 프로세스를 실행합니다. 시스템은 대상 페이지 데이터를 NVMe에서 DRAM으로 다시 읽어들이고 메모리 매핑을 동기적으로 업데이트하여, 재활성화된 데이터가 고속 메모리 티어로 진입하고 정상적인 성능을 복원할 수 있도록 합니다.
데이터 마이그레이션 메커니즘
CPU는 계층형 메모리에 어떻게 접근할까요? 성능 손실을 최소화하는 방법은 무엇일까요?
메모리 계층화의 기술적 과제는 계층화된 데이터를 신속하게 식별하고, 페이지를 스케줄링하며, CPU가 메모리에 빠르게 접근할 수 있도록 하는 방법에 있습니다.
이 아키텍처에서 NVMe 장치는 기존 저장 장치처럼 사용되지 않고 DRAM 아래의 콜드 메모리 계층 으로 사용됩니다. 따라서 모든 CPU 메모리 접근 작업은 궁극적으로 DRAM을 통해 완료됩니다. 접근 경로는 두 가지 유형으로 나뉩니다.
- 경로 1: 핫 페이지 히트: CPU가 액세스를 시작 → 로컬/원격 DRAM → 데이터 반환.
- 경로 2: 콜드 페이지 미스: CPU가 접근을 시작함 → 대상 페이지가 DRAM 핫 티어에 없음 → 시스템이 NVMe에서 DRAM으로 페이지를 다시 가져옴 → CPU가 페이지에 접근함.
메모리 계층화 아키텍처
서버 CPU가 NVMe에 직접 접근하지 않는 상황에서 성능 저하를 최소화하려면 어떻게 해야 할까요? 계층화 이후 성능에 대한 우려를 해소하기 위해 시스템은 다음과 같은 메커니즘을 통해 비즈니스 안정성을 보장합니다.
- 통합 주소 공간 및 투명 액세스: 이는 애플리케이션에 완전히 투명하게 작동합니다. DRAM의 자주 사용되는 페이지에 접근할 때는 추가 오버헤드 없이 직접 접근합니다. NVMe의 사용되지 않는 페이지에 접근할 때는 페이지 폴트 인터럽트가 발생하고, 운영체제 커널이 NVMe에서 DRAM으로 데이터를 신속하게 가져와 CPU가 접근할 수 있도록 합니다. CPU는 데이터가 DRAM에 있는지 NVMe에 있는지 알 필요 없이 작동하며, 모든 처리는 커널이 담당합니다.
- 지능형 스케줄링 및 동적 영역 조정: 시스템은 모니터링 결과를 기반으로 영역 구조를 동적으로 조정하여 정확도와 시스템 오버헤드 간의 균형을 유지합니다. 인접한 영역의 접근 패턴이 유사할 경우 자동으로 병합하여 모니터링 대상 수를 줄입니다. 영역 내에서 명확한 핫스팟이 감지되면 더욱 세밀한 식별을 위해 영역을 분할합니다. 이러한 적응형 메커니즘을 통해 최적의 모니터링 세분성을 유지합니다.
- 저지연 NVMe는 전송 오버헤드를 최소화합니다. NVMe 컨트롤러는 CPU 개입 없이 PCIe를 통해 DRAM에 직접 읽고 쓰므로 CPU 인터럽트 리소스를 거의 사용하지 않습니다. NVMe 하드웨어는 다음과 같은 상당한 이점을 제공합니다. 지연 시간은 10~100μs(SATA SSD/HDD보다 훨씬 낮음)이며, PCIe 4.0 NVMe 대역폭은 최대 7GB/s에 달합니다. 이는 DRAM 대역폭의 약 1/10에 불과하며 기존 저장 장치를 훨씬 능가합니다.
메모리 계층화는 애플리케이션에 투명한 관리, 지능형 스케줄링, 저지연 NVMe를 통해 성능 저하를 최소화하고 CPU가 항상 고속 경로에서 작동하도록 보장합니다. 커널 I/O 경로 최적화 및 NUMA 로컬 선호도의 원활한 계승과 결합하여 전체 서버 메모리 용량을 두 배로 늘리는 동시에 실제 성능 저하는 10% 미만으로 안정적으로 유지됩니다.
실시간 데모: 메모리 계층화 작동 모습
서버 메모리 두 배로 늘려도 성능 손실은 단 6%에 불과 | Sangfor HCI 메모리 티어링 테스트 완료
- 메모리 계층화 도입 전: 물리적 메모리 256GB, 사용률 최대 73%. Oracle 데이터베이스 TPS(초당 트랜잭션 수): 15,000건 이상.
- 메모리 계층화 적용 후: 128GB 물리적 메모리 + 128GB 계층화 메모리, 총 256GB 메모리 용량. Oracle Database TPS 평균은 약 14,000으로 안정적으로 유지되었으며, 성능 저하는 10% 이내로 안전하게 제어되었습니다.
실무 구현 가이드: 적용 시나리오 및 계획 권장 사항
적용 가능한 시나리오
- 이상적인 시나리오: 메모리 계층화는 총 메모리 용량이 크고, 데이터 접근 빈도가 높거나 낮은 경우가 뚜렷하게 구분되며, 비용에 민감하고, 간헐적인 약간의 지연을 허용해야 하는 사용 사례에 적합합니다. 예를 들어 개발 및 테스트 환경, 핵심 업무가 아닌 캐싱 서비스, 저부하에서 중간 부하의 마이크로서비스 클러스터 등이 있습니다.
- 권장하지 않는 용도: 접근 지연 시간에 매우 민감하고, 접근 패턴이 밀집되어 있으며 균일하고, 지터가 매우 낮고 안정성이 극도로 요구되는 핵심 애플리케이션에는 적합하지 않습니다. 예를 들어 실시간 거래 시스템, 고빈도 거래 데이터베이스, 인메모리 데이터베이스, 고빈도 OLTP 데이터베이스 등이 있습니다.
상포(Sangfor)의 메모리 티어링 솔루션은 가상 머신(VM) 수준에서 해당 기능을 활성화 또는 비활성화할 수 있도록 지원합니다. 사용자는 비즈니스 유형 및 특성에 따라 특정 VM에 대해 메모리 티어링을 유연하게 전환하여 성능과 비용을 세밀하게 제어할 수 있습니다. 향후 하드웨어 가격이 하락할 경우, 사용자는 벤더 종속이나 향후 업그레이드에 대한 걱정 없이 온라인으로 용량을 원활하게 확장할 수 있습니다.
메모리 계층화 계획을 위한 모범 사례
메모리 확장과 비즈니스 성능 안정성의 균형을 맞추기 위해 DRAM과 계층형 메모리의 권장 비율은 1:1입니다 . 이 비율은 대부분의 기업 시나리오 요구 사항을 충족하며, 메모리 용량을 두 배로 늘리는 동시에 성능 변동을 허용 가능한 범위 내로 유지합니다.
메모리 하드웨어 가격이 높은 시장 환경에서 메모리 티어링은 더 이상 단순한 성능 최적화 도구가 아니라 매우 효과적인 비용 절감 전략입니다. 사용자는 핵심 비즈니스 성능을 희생하지 않고도 메모리 하드웨어 구매 예산을 대폭 삭감할 수 있으며, 기존 IT 자산의 재사용 가치를 극대화하여 컴퓨팅 성능 증가와 IT 비용 관리라는 두 가지 과제를 안정적으로 해결할 수 있습니다.
