InfoADAS 응용들의 메모리 간섭 완화를 위한 CPU Throttling 기법

Abstract

머신 러닝 기술이 발전하고 그 결과에 대한 정확도가 높아짐에 따라 다양한 머신 러닝 기술들이 자율 주행 자동차 기술에 접목되고 있다. 이러한 시도는 기존 기술이 제공하지 못했던 자율 주행 자동차에 대한 새로운 수요를 창출하였고, 이와 함께 첨단 운전자 보조 시스템(ADAS) 기술이 실현되었다. 최근 산업계는 ADAS를 내비게이션, 미디어 재생기, 소셜 네트워크 등 운전자와 차량 탑승자에게 정보와 오락성 기능을 제공하는 기존 차량 서비스인 인포테인먼트(Infotainment)와 함께 하나의 컴퓨팅 시스템에 통합하고 있다.

머신 러닝 기반 ADAS 응용들이 사용자가 기대하는 수준의 응답성을 제공하기 위해서는 GPU 가속기의 사용이 필수적이다. 그런데 차량내 시스템은 공급 받을 수 있는 전력이 제한되어 있기 때문에, 상대적으로 적은 전력을 사용하는 CPU와 GPU가 하나의 보드에 통합된 아키텍처가 필요하다. 이는 하나의 물리 메모리를 CPU와 GPU가 공유하는 아키텍처로, CPU와 GPU가 각각이 별개의 메모리를 가지는 아키텍처 대비 전력 사용량을 줄일 수 있다. 하지만 이러한 아키텍처는 CPU에서 동작하는 인포테인먼트 응용과 GPU를 사용하는 ADAS 응용 간의 과도한 메모리 경쟁을 유발한다. 이는 사용자에게 높은 응답성을 제공해야 하는 ADAS 응용에 메모리 간섭에 의한 지연을 야기한다.

본 논문은 이러한 문제를 해결하기 위해 MIL 인지 기반 CPU throttling 기법을 제안한다. 제안한 기법은 커널 레벨에서 ADAS와 같이 응답성에 민감한 응용들을 식별한다. 그리고 해당 응용이 GPU를 사용할 때 메모리 간섭이 발생할 경우, 인포테인먼트와 같이 메모리 간섭을 유발하지만 응답성에 민감하지 않은 응용들의 메모리 접근을 제한한다. 메모리 접근 제한의 대상은 throttling 대상 응용이 동작하는 CPU이다. 실험을 통해 제안 기법을 검증한 결과, 기법 적용 이전 대비 메모리 간섭에 의한 지연이 큰 폭으로 감소하는 것을 확인하였다.