이진분류 문제에서 교차검증방법과 일반화근사교차검증방법의 비교

Abstract

일반적으로 교차검증방법(Cross validation 이하 CV)은 다양한 통계적 방법론에 적용되어 모형의 적절성을 조율해주는 도구로 활용되었다. 또한 일반화교차검증방법(Generalized cross validation 이하 GCV)은 제곱 손실오차를 가지는 가우시안 벌점화 선형모형에서 계산을 효율적으로 줄이는 도구로 활용되었다. 즉, 선형모형에 벌점화가 있는 경우 근사의 과정을 거쳐, 교차검증방법을 통해 예측력이 높은 모형을 적절히 선택할 수 있다. 이러한 논리를 확장하여, 이진 반응변수를 갖는 벌점화 로지스틱모형에서 교차검증방법을 일반화한 일반화근사교차검증방법(Generalized Approximate Cross Validation 이하 GACV)을 살펴본다. 일반화근사교차검증오차는 비가우시안 자료에서 벌점화 로그 가능도 회귀모형의 평활모수(Smoothing parameter)를 추정하는 역할을 한다. 일반화근사교차검증오차는 테일러 전개를 통해 목적함수를 1차적으로 근사시키고 GCV에서 사용한 방법처럼 평활행렬 대각원소의 산술평균을 이용하여 한번 더 근사시켜 얻을 수 있다. 본문에서는 자료 분석을 이용하여 GACV로 얻은 평활모수의 성능이 기존 교차검증방법과 크게 다르지 않음을 보인다.