매니코어 기반 뉴럴 프로세서의 빠른 성능 예측을 위한 하이브리드 시뮬레이션 기술

Abstract

뉴럴 프로세서의 성능을 예측하기 위하여 사이클 정확(Cycle-accurate)한 시뮬레이터를 이용하여 설계할 프로세서의 성능을 예측하면 시뮬레이션 시간이 오래 걸려 시간적 설계 비용이 매우 크다. 또한, 분석 모델을 통한 예측 또는 통계적인 방법을 사용한 예측은 정확도가 낮다. 본 논문에서는 샘플드(Sampled) 시뮬레이션과 분석 모델, 그리고 통계적 접근 방법을 결합한 하이브리드 시뮬레이션 기법을 매니코어 뉴럴 네트워크 가속기의 한 종류인 ZeNA 아키텍처에 적용하여 AlexNet의 합성곱 레이어들에 대하여 기본 시뮬레이터 대비 1.15%의 오차로 최대 91배 가속을 하였다. 또한, 제안한 성능 예측 방법이 설계 공간 탐색의 도구로써 유효성을 검증하기 위해, 하드웨어 구성을 변경하며 실험을 수행했으며 기존 시뮬레이터와의 경향성이 일치하는 것을 확인하였다.