커널 베타프로세스를 이용한 고차원 회귀분석

Abstract

설명변수간의 상관계수가 큰 경우에 그 현상을 설명변수의 잠재변수를 통해 설명할 수 있다. 상관계수가 클수록 공유하고 있는 잠재변수가 많고, 상관계 수가 작을 수록 공유하고 있는 잠재변수가 적다고 볼 수 있다. 설명변수에 잠재변수를 도입함으로써, 얻을 수 있는 장점들이 있다. 첫번째 로는 상관계수가 큰 변수 집단이 하나의 잠재변수로 묶임으로서, 상관계수가 크고 반응변수에 비슷한 영향을 주는 변수들이 어떤 것들인지 해석할 수 있게 해준다. 두번째로는, 추정해야 할 회귀계수가 설명변수들에 대한 회귀계수가 아닌 잠재변수들에 대한 회귀계수로 바뀌기 때문에, 추정할 모수의 수가 적어 진다. 그 결과 추정량의 분산이 작아지게 된다. 즉, 추정 및 예측 오차의 감소를 기대할 수 있다. 설명변수의 잠재변수를 고려한 모델을 만들기 위해 베타-베르누이 프로세스를 사전 분포로서 고려한다. 더 나아가서 상관계수가 큰 설명변수들이 잠재변수 공유할 사전 확률을 크게 하기 위해 상관계수를 커널로 하는 커널 베타-베 르누이 프로세스를 사용한다. 이를 통해 반응변수를 잘 설명하는지 여부와 설명변수간의 상관계수 정보 모두를 이용하여 설명변수간의 군집화와 계수 추정을 동시에 할 수 있다. 시뮬레이션 자료분석을 통해 제시된 방법이 의도대로 계수를 군집화 및 추정 을 하는지 여부와 다른 방법들에 비해 예측의 정확성이 좋아지는지 살펴본다. 그리고 1960년의 47개의 주에 대한 범죄 자료분석을 통해 예측의 정확성을 비교해본다.