An Automated Interpretable Deep Learning (AutoIDL) Framework for Prognostics and Health Management (PHM)

Abstract

This paper proposes an automated interpretable deep learning framework. The proposed method consists of two steps. First step is to optimize the neural network automatically by defining the neural architecture hyper-parameters with pre-trained model. By using pre-trained model and Bayesian optimization based neural architecture search, we can take advantages of the two methodologies. Second step is to make the existing deep learning model interpretable. The second step is divided into explaining the reason for the prediction of the individual data and estimating how confident prediction is. First step is a method to give analytical power in the time-frequency domain, which is mainly user for fault diagnosis of mechanical system. Second step is that predictive uncertainty is estimated through deep ensemble methods. Proposed method is validated under noisy environment and different load cases using ball bearing data. In addition, proposed method can be easily applied to the various domain.

본 논문에서는 해석 가능한 자동 딥러닝 프레임워크를 제안한다. 제안하는 방법은 총 두 단계로 이루어져 있다. 첫 번째 단계는 사전 학습된 신경망을 고려하여, 신경망 구조의 핵심 하이퍼 파라미터를 탐색 공간으로 정의하여 자동으로 신경망을 최적화하는 단계이다. 사전 학습된 모델과 베이지안 최적화 기법을 이용하여, 정의된 탐색 공간을 최적화함으로써 두 방법론의 장점만을 취하여 강건한 딥러닝 모델을 얻을 수 있다. 두 번째 단계는 해석 불가능한 기존 딥러닝 모델을 해석 가능 하도록 하는 단계이다. 이 단계는 다시, 개별 데이터의 예측의 이유를 설명하는 단계와 예측에 대해 얼마나 확신할 수 있는지에 대해서 추정하는 단계로 나뉜다. 첫 번째로, 기계 시스템의 고장 진단에 주로 활용되는 시간-주파수 영역에서 해석력을 부여하는 방법을 제안하였는데, 특정한 시간 혹은 주파수 마스킹 기법에 따라 엔트로피 변화량을 통해서 중요도를 추정할 수 있다. 두 번째는, 베이지안 최적화 기법을 통해 샘플링된 신경망을 이용하여 앙상블 기반 예측 불확실성을 추정할 수 있다. 제안하는 방법은 볼 베어링 데이터를 활용하여, 다양한 노이즈와 다양한 하중에 대해서 검증되었다. 뿐만 아니라, 고장 진단 이외의 분야에도 다양한 도메인에 적용이 용이할 것으로 보인다.