애플리케이션 인식 기반 동적 메모리 요청 조절을 통한 메모리 간섭 지연시간 개선

Abstract

현대의 멀티 코어 프로세서는 최신 아키텍처를 통해 제한된 전력 예산 내에서 고성능을 달성할 수 있기 때문에 다양한 미션 크리티컬 임베디드 시스템에 빠르게 채택되고 있다. 이러한 미션 크리티컬 임베디드 시스템에서는 특정 작업을 전용으로 수행하는 많은 저 사양 마이크로 컨트롤러가 소수의 고성능 멀티 코어 프로세서로 통합되고 있다. 이와 같이 통합된 미션 크리티컬 임베디드 시스템은 다양한 컴퓨팅 자원을 공유하는 응용들의 자원 경합에 대한 관리가 필요하다. 자원 경합에 대한 관리가 효과적으로 되지 않으면 미션 크리티컬한 응용이 다른 응용들 과의 간섭으로 지연되어 큰 사고로 이어질 수도 있다.

중요도가 다른 애플리케이션을 보유한 임베디드 시스템의 대표적인 사례 중 하나는 InfoADAS이다. ADAS는 첨단 운전자 보조 시스템으로 중요도가 높은 응용이 주로 수행되고, 인포테인먼트는 단지 승객에게 정보와 편의를 제공하는 일반 응용이다. ADAS에는 카메라(Camera), 레이더(Radar), 라이다(LiDAR)로부터 수집된 다량의 데이터를 처리해서 정보를 얻는 데이터 집약적인 응용이 많다. 이런 응용을 수행하는 시스템에서는 메모리 경합을 효과적을 차단하는 것이 필수적이다.

본 논문에서는 메모리 경합에 의한 중요 응용의 end-to-end latency 지연 문제를 해결하는 애플리케이션 인식 기반 동적 메모리 요청 비율 throttling 기법을 제안한다. 본 기법은 시스템내 수행 중인 응용을 중요 응용과 일반 응용으로 분리한 후 cgroup으로 관리한다. 주기적으로 메모리 경합이 발생했는지 예측하고 경합이 발생했을 경우 CPUFreq 거버너의 CPU frequency 조절을 통해 일반 응용의 메모리 요청을 제한 한다. 기법의 효용성을 검증하기 위해 CPU-GPU 멀티코어 아키텍처를 갖고 있는 NVIDIA Jetson TX2 보드에서 Linux kernel 4.4.38을 탑재하고 실험을 진행하였다. 실험 결과 기법 적용 전 대비 10.6%의 성능 개선 효과를 확인하였고, 그에 따른 런 타임 오버헤드는 미비하였다.