Multilevel Modeling by Ridge Regression

Abstract

다수준 모델은 데이터의 위계적인 구조를 고려할 수 있기 때문에 사회과학분야 연구에서 광범위하게 쓰인다. 하지만 다수준 모델에서 고정효과 사이에 다중공선성이 존재하게 되면 계수 추정을 정확하게 하지 못할 수 있다. 이 논문에서는 다수준 모델에서 다중공선성이 존재할 때 고정효과계수를 추정하는 능형회귀에 기반 한 방법에 대해 연구한다. 또한 본 논문에서 제안한 방법을 학생들의 평가 자료를 통해서 기존 방법과 비교하고 제안한 방법이 기존 방법에 비해 얼마나 새로운 데이터를 잘 예측 하는지 PRESS 통계량을 통해 확인한다.

Multilevel models are used extensively in social and behavioral science research because the models are able to accept hierarchical data structures. However, when multicollinearity among fixed effects of the model exists, multicollinearity may lead to imprecise coefficient estimates. We investigate a new method of estimating fixed effect coefficients in multilevel model when multicollinearity exists. The proposed method of estimating parameters is based on ridge regression. We apply this method to student assessment data and compare the results with an existing method. The proposed method provides coefficient estimates which have smaller variance than the existing method. Furthermore, we present PRESS statistic which is adapted to the proposed method. Results suggest that the proposed method predicts data better than the existing method.