처리 시간에 민감한 워크로드의 성능 보장과 서버 자원 사용률 향상을 위한 효과적인 메모리 대역폭 할당 기법

Abstract

웹 서비스나 소셜 네트워크 등과 같은 처리 시간에 민감한 워크로드들은 원하는 수준 내에 서비스를 제공하기 위해 성능에 민감하다. 이러한 특징으로 많은 경우 처리 시간에 민감한 워크로드들은 서버를 단독으로 사용하고 있고 그 결과 낮은 하드웨어 사용률의 경향을 보인다. 이를 해결하기 위해 처리 시간에 민감한 워크로드와 일괄 처리 워크로드들을 한 서버에 함께 배치하여 수행하게 함으로 하드웨어의 사용률을 높일 수 있다. 하지만 이 경우 여러 워크로드들이 동시에 공유하는 서버 자원의 경합 상황으로 인해 처리 시간에 민감한 워크로드는 원하는 성능을 보장받지 못하게 될 수 있다. 따라서 처리 시간에 민감한 워크로드의 성능을 정확히 보장하면서 서버 자원의 사용률을 높이는 방법이 필요하다. 이를 위해 본 논문에서는 여러 워크로드들이 동시 수행되는 상황에서 처리 시간에 민감한 워크로드에게 자원을 격리 제공하여 성능을 보장받을 수 있게 한다. 그리고 격리하여 제공할 자원의 크기를 예측하는 성능 예측 모델을 제안한다. 이 모델은 머신 러닝 알고리즘으로 생성되어 기존 연구에 비해 좀 더 정확하고 효율적인 자원 크기를 예측하고 할당한다는 장점이 있다. 본 논문에서 제안한 모델을 통해 처리 시간에 민감한 워크로드를 위한 메모리 대역폭의 크기를 예측하여 할당하고 처리 시간을 측정했을 때 완벽하게 원하는 성능을 보장하였으며 서버의 하드웨어 사용률도 최대 7.2배 증가하였다.