정형적 모델을 통한 심층 학습 알고리즘 명세 및 이종 프로세서에서의 코드 생성

Abstract

심층 학습이 기계 학습의 다양한 분야에서 활용되고, 알고리즘을 작성하는데 유용한 심층 신경망 프레임워크들이 활용된다. 하지만, 기존 프레임워킁서는 코드나 별도의 명세 파일을 직접 작성해야한다. 또한, 알고리즘의 수행 모델을 하위 수준으로 시각화 해주기 때문에 사용자가 이해하기 어렵다. 본 논문은 모델 명세 중에 시각화가 가능하며 컴파일 타임에 병렬성을 확인하거나 설계 오류를 탐지할 수 있는 정형적 모델을 이용하여 심층 학습 알고리즘을 명세하였다. 또한, 이종 프로세서에서 실행 가능한 코드를 생성하고, 다양하게 매핑을 변경하며, 병렬성과 동작 수행을 검증하였다.

Deep learning is applied to various research area in machine learning, and deep neural network frameworks are used to implement deep learning algorithms. However, to implement the algorithms, the existing frameworks need to write codes or their configuration file. Also, the frameworks only provide low-level visualization on the execution model of the algorithm which is difficult to understand by users. In this paper, we implemented deep learning algorithms through a formal model that can check parallelism, detect design error at compile time and visualize algorithm. We also generated executable code for heterogeneous processors, changed various mappings, and verified parallelism and performance.