Efficient Resource Management Technique for Edge Devices

Abstract

Edge computing is currently actively used for the benefits of low latency, reduced bandwidth usage due to efficient data processing, and improved security compared to server-centric computing. This has become a more important study as actively used to utilize deep learning applications that have recently brought about a big paradigm shift. However, in mobile and automotive environments where actual deep-running applications are applied, hardware resources and power-supply are limited. Also, for edge embedded devices such as Jetson, the resource contention caused by the integrated structure has an adverse effect on overall performance. We introduce RMED to adaptively adjust the resource usage of the workloads used to mitigate these problems. RMED is a variant of EdgeIso that applies isolation technology to mitigate existing resource contention and optimizes power consumption while maintaining performance for target workloads. RMED's approach achieves more than 20% energy savings in multitasking situations while successfully maintaining performance isolation of target workloads.

엣지 컴퓨팅은 현재 서버 중심 컴퓨팅에 비해 낮은 대기 시간, 효율적인 데이터 처리로 인한 대역폭 사용 감소, 보안 향상 등의 이점으로 적극 활용되고 있다. 이는 최근 큰 패러다임 전환을 불러온 딥러닝 애플리케이션을 적극 활용하면서 더욱 중요한 연구가 됐다. 그러나 실제 딥러닝 애플리케이션이 적용되는 모바일 및 자동차 환경에서는 하드웨어 자원과 전력 공급에 한계가 있다. 또한 Jetson과 같은 엣지 임베디드 기기의 경우, 통합 구조에 의해 야기되는 자원 경합은 전체 성능에 부정적인 영향을 미친다. 이러한 문제를 해결하기 위해 사용되는 워크로드의 리소스 사용량을 적응적으로 조정하는 RMED를 도입한다. RMED는 격리 기술을 적용하여 리소스 경합을 완화하고 타깃 워크로드에 대한 성능을 유지하면서 전력 소비를 최적화하는 EdgeIso의 변형이다. RMED의 접근 방식은 멀티 태스킹 상황에서 20% 이상의 에너지 절감을 달성하는 동시에 대상 워크로드의 성능 격리를 성공적으로 달성한다.