데이터센터 워크로드를 위한 적응형 성능격리 스케줄러

Abstract

멀티 코어 시스템에서 여러 개의 프로세스가 실행될 때, 공유자원에 경합이 일어나 성능 저하가 발생할 수 있다. 그러한 성능 저하를 완화하기 위해 데이터센터에서는 소프트웨어 혹은 하드웨어 기반의 성능격리 기법들을 사용해왔다. 하지만 서로 다른 격리 기법들의 차이와 애플리케이션 특성들의 차이를 모두 고려하여 최상의 성능을 확보하진 못했다. 예를 들어 소프트웨어 기반 격리 기법은 유연한 격리는 가능하지만, 하드웨어를 직접 조절할 수 없으므로 세밀하거나 엄격하게 격리할 수는 없다. 반대로 하드웨어 기반 격리 기법은 빠르고 엄격하게 격리할 수 있지만, 해당 기법을 사용할 수 있는 하드웨어를 반드시 필요로 하며 좁은 조정 범위를 가진다. 또한, batch 애플리케이션들은 내용에 따라서 캐시 혹은 메모리 인텐시브 하며, 수행 중에 특성이 크게 한두 번 변하기도 한다. Latency-sensitive 애플리케이션들은 랜덤하게 로드가 변하며, 로드가 높을 때와 낮을 때의 자원사용량과 연산량의 차이가 크다. 이 논문에서는 격리 기법들의 차이와 애플리케이션 특성을 고려하여 동적으로 소프트웨어 혹은 하드웨어 격리 기법을 사용하는 하이브리드 스케줄러 HybridIso를 제안한다. 따라서 이전에 제안된 방법과는 다르게 유연성과 세밀함(fine-granularity), 엄격함(strictness)을 동시에 만족시킨다. 응답시간에 민감한 프로세스의 경우 엄격하게 격리함으로써 응답시간을 낮추고, 처리량이 많거나 시간이 지나면서 수행 패턴이 변하는 batch 프로세스의 경우 유연하게 격리한다. 유저레벨 스케줄러로 구현하여 실험한 결과, 기본 리눅스 대비 batch 포그라운드의 성능을 최대 1.7배 향상하였고, latency-sensitive 포그라운드의 지연시간을 최대 1.8배까지 향상했다.

Multiple processes running on a multicore system simultaneously may cause the performance degradation due to the contention for shared resources. In order to reduce the degradation, software or hardware-based isolation techniques have typically have been adopted in the datacenter. However, the techniques cannot fully exploit differences in isolation techniques and characteristics of processes to maximize the performance when they isolate the workloads on the shared resources. For example, the software-based technique can isolate the processes more flexibly while it cannot isolate the processes in a strict and fine-grained manner compared with hardware-based technique since it typically does not control the hardware directly. In this paper, we propose HybridIso, a hybrid scheduler which dynamically uses either software or hardware isolation technique. Unlike previous approaches, HybridIso combines flexibility and strict fine-grained isolation by using the advantages of software and hardware techniques. It allows low latencies for a latency-sensitive process with its strict fine-grained control. It also provides high throughput of batch processes even though they show the diverse execution patterns by its flexibility. We implemented HybridIso as a user-level scheduler which can be deployed on any platform easily. Our experimental results show that HybirdIso improves the performance of foreground process by up to about 1.7× while maximizing the performance of background ones compared with the existing isolation technique in Linux.