PCM controller에서 빠른 주소 변환을 위한 효율적인 prefetching 알고리즘

Abstract

DRAM의 스케일링 기술은 한계에 도달했고 이에 따라 DRAM을 대체할 여러 차세대 메모리 기술이 제안되었다. 그 중 상 변화 메모리 (phase change memory, PCM)는 물질의 상 변화를 통한 저항 변화로 데이터를 저장하며 이에 따라 효과적인 스케일링이 가능하다. PCM에 접근하기 위해 PCM controller에서 논리적 주소를 물리적 주소로 변환하는 과정을 거친다. 주소 변환 요청 발생 시 DRAM에 접근하여 주소 변환 데이터를 받아온다. 주소 변환을 위한 지속적인 메모리 접근은 전체적인 성능 저하를 야기한다. Prefetcher는 이러한 문제를 효과적으로 해결할 수 있다. PCM workload의 경우 순 방향 순차 패턴 및 역 방향 순차 패턴이 주를 이룬다. 또한 일부 비 순차 패턴의 경우 PCM workload 내에 존재하는 순차 패턴과 연관성을 가지고 있다. 이러한 비 순차 패턴의 경우 뚜렷한 패턴이 존재하지 않아 기존의 prefetch 알고리즘으로 성공적인 prefetch를 진행할 수 없다. 본 연구에서 제안하는 prefetcher는 stream prefetcher와 유사한 방식을 택함으로 순차 패턴을 효율적으로 탐지할 수 있다. 뿐만 아니라 endurance와 depth parameter를 통해 뚜렷한 패턴이 존재하지 않지만 workload 내 순차 패턴과 연관성을 가지는 패턴에 대해 prefetch hit을 발생시킬 수 있다. 제안한 prefetcher의 경우 기존 prefetch 알고리즘 대비 7% 이상의 전체 시스템 성능 향상을 보였다. 또한 prefetch를 진행하지 않았을 경우에 비해 주소 변환 시간을 17% 수준으로 단축시켰으며 전체 시스템 지연시간을 40% 수준으로 단축시켰다.

DRAM's scaling technology has reached its limit and several next-generation memory technologies have been proposed to replace DRAM. Among them, phase change memory (PCM) stores data as resistance changes through phase changes in matter, enabling effective scaling. To access PCM, PCM controller converts logical address to physical address. When an address conversion request occurs, DRAM is accessed to receive address conversion data. Continuous memory access for address translation causes overall performance degradation. Prefetcher can solve these problems effectively. For PCM workloads, forward sequential patterns and reverse sequential patterns are the main ones. Some non-sequential patterns have associations with sequential patterns that exist within PCM workloads. For these non-sequential patterns, no distinct pattern exists, and successful prefetching cannot be carried out with existing prefetch algorithms. Prefetcher proposed in this work can efficiently detect sequential patterns by taking a similar approach to stream prefetcher. Furthermore, the endurance and depth parameters allow a prefetch hit to occur for patterns that no distinct pattern exists but are associated with sequential patterns in the workload. The proposed prefetcher showed more than 7% improvement in overall system performance compared to the existing prefetch algorithm. It also reduced address translation time to 17% and overall system latency to 40% compared to the case of not proceeding prefetch.