캐시 분할 기술을 이용한 공유 라스트 레벨 캐시의 분할 정책에 따른 성능 민감도 연구

Abstract

멀티 코어 시스템에서 여러 어플리케이션들을 동시에 실행할 때, 시스템 공유 자원(공유 캐시, 메인 메모리 등)에서 발생하는 경합/간섭은 일부 또는 모든 어플리케이션의 성능 저하를 유발할 수 있으며, 이를 양적으로 예측하는 것은 매우 어렵다. 특히, 여러 어플리케이션들이 한정된 공유 캐시 용량을 경합을 통해 나누어 사용하다 보면, 실시간 어플리케이션 또는 실행 시간이 중요한 어플리케이션이 다른 어플리케이션에 의해 캐시 점유율을 과도하게 빼앗겨 심각한 성능 저하를 겪을 수 있다. 이러한 공유 캐시에서 발생할 수 있는 부정적인 상황을 방지하기 위해서, 우선순위가 높은 어플리케이션에 적정 수준의 캐시 용량을 독립적으로 할당하는 방법을 사용할 수 있다. 이러한 방법은 실제 제품에 적용되기 전부터 광범위하게 연구되고 실험되어왔다. 인텔은 제온 프로세서 v3 제품 군부터 어플리케이션마다 공유 라스트 레벨 캐시를 분할/할당할 수 있는 Cache Allocation Technology(CAT) 기술을 적용하였다. 공유 캐시의 분할은 동일한 우선순위를 갖는 어플리케이션들의 집합 단위로 이루어진다. 캐시 분할 방법에서는 독립 분할과 중첩 분할 방식을 제공한다. 중첩 분할을 사용하면 우선순위가 높은 어플리케이션에 모든 캐시 영역을 할당할 수 있기 때문에 독립 분할을 사용할 때 보다 우선순위가 높은 어플리케이션의 성능을 최대화하는 데 유리할 수 있다. 그러나 이러한 직관적인 예상과는 반대 경향을 보일 가능성 또한 존재한다. 본 연구는 특정 어플리케이션의 성능을 최대화하기 위해 CAT를 사용할 때, 독립 분할과 중첩 분할의 성능을 하드웨어 실험을 통하여 비교하고 분석 프로그램과 시뮬레이션으로 그 원인을 파악하였다. 20 개 조합(어플리케이션 쌍) 중 14개 조합에서 독립 분할이 성능 우위(~12%)를 보였으며, 나머지 조합에서는 중첩 분할이 성능 우위(~16%)를 보였다. 독립 분할이 성능 우위를 보이는 경우는 중첩 분할 시 공유 영역에서 어플리케이션 간의 경쟁으로 인한 캐시 미스가 과도하게 발생하여 성능이 저하되는 것을 확인하였다. 시뮬레이션을 통해 이를 재현하였으며 캐시 미스가 증가한 것은 중첩 분할 시 캐시 교체 정책(예를 들어, least recently used 정책)을 제대로 적용할 수 없기 때문인 것을 확인하였다.