Towards interpretable machine learning : A methodology for screening interactions in functional ANOVA model

Abstract

In this thesis, we propose a post-process interpretation method. Recently, machine learning has received great attention due to its remarkable predictive accuracy in various fields. Despite their strong predictive performance, machine learning models have usually lack of interpretability since this improvement in predictive performance has been achieved through increased model complexity. This makes it difficult for people to understand the models. So, We develop a new post-process interpretation method called Meta-ANOVA, which interprets a given predictive model. To interpret the model, we devise a framework for detecting interactions in the model. Moreover, we propose an efficient learning algorithm for the functional ANOVA model when the interactions are given.

본 학위 논문에서는 새로운 post-process interpretation 방법인 Meta-ANOVA를 제안한다. 최근 다양한 분야에서 머신러닝 모형이 주목 할만큼 좋은 예측 성능을 보이고 있다. 그러나 머신러닝 모형의 좋은 예측 성능에도 불구하고 최근에 개발된 머신러닝 모형은 일반적으로 설명력이 부족하다. 그 이유는 좋은 예측 성능을 보이는 모형들은 모형의 복잡도 또한 높기 때문이다. 이러한 복잡도는 사람들이 해당 모형을 이해하기 어렵고 따라서 다양한 분야에서 사용되는 것을 방해한다. 따라서 우리는 복잡한 모형을 해석하기 위해 Meta-ANOVA라는 새로운 post-process 방법론을 제안하였다. 주어진 모형을 이해하고 설명하기 위해 우리는 해당 모형이 가지고 있는 교호작용을 찾는 새로운 알고리즘을 제안하였다. 뿐만 아니라 우리는 모형이 가진 교호작용을 찾은 뒤 이를 이용하여 주어진 모형을 효과적으로 학습하는 새로운 functional ANOVA model의 학습 알고리즘을 제안하였다.