머신 러닝 어플리케이션을 위한 스냅샷 기반의 연산 오프로딩

Abstract

머신러닝 기술은 데이터를 학습하고 문제의 답을 추론하기 위해 복잡한 연산과 방대한 데이터를 요구한다. 이런 머신러닝 기술을 저사양 임베디드 기기에서 활용하기 위해 오프로딩 기반 머신러닝이 제안되었다. 연산 오프로딩이란 임베디드 기기에서 복잡한 연산을 동적으로 서버를 통해 수행하는 방식이다. 본 논문에서는 웹 어플리케이션을 대상으로 스냅샷 기반 연산 오프로딩을 사용하였다. 스냅샷이란 수행 중인 웹 어플리케이션의 상태를 또 다른 웹 어플리케이션의 형태로 저장하고 복원하는 기술이다. 스냅샷 기반 연산 오프로딩을 머신러닝 웹 어플리케이션에 적용 시 두 가지 이슈가 발생한다. 하나는 웹에서 이미지를 처리하는 캔버스 객체의 전송 문제이며 다른 하나는 크기가 큰 머신러닝 모델 전송 문제이다. 본 연구에서는 두 가지 이슈를 해결하여 스냅샷 기반 오프로딩을 통한 머신 러닝 웹 어플리케이션의 올바른 동작과 성능 향상을 확인하였다. 두 가지 이슈를 해결하여 실제 머신러닝 웹 어플리케이션에서 추론 시간을 측정하였다. 측정 결과 클라이언트 수행 시간 대비 오프로딩 시 3-3.5배 성능 향상을 확인하였다.