부스트래핑(bootstrapping)기업을 활용한 회귀분석

Abstract

본 연구는 표본의 크기가 제한된 상황 하에서 전통적인 OLS 회귀분석에 의한 모수추정치들이 갖는 불안정성의 문제를 극복하기 위한 대안적 통계기법으로 회귀모형 부스트래핑(bootstrapping regression models)의 적용가능성을 Monte Carlo 시뮬레이션을 통하여 평가하였다. 통계적 시뮬레이션을 위해 정해진 모수들을 투입조건으로 가상의 데이터를 구성하고, 회귀모형에 쌍부스트래핑(pairs bootstrapping) 기법을 적용한 후 얻어진 회귀계수들이 어느 정도나 모수의 근사치를 제공하는가를 분석하였다. 연구결과에 따르면 부스트래핑을 활용한 회귀분석은 기존의 단일표본에 기초한 OLS 회귀분석에 비해 R2와 조정-R2의 계산에 있어서 상대적으로 우수한 기법으로 확인되었다.

The purpose of this study is to present the bootstrap technique in the areas of public administration and policy as an alternative method to deal with statistical estimation problems in the conventional OLS regression analysis resulting from a limited number of observations. In particular, pairs bootstrapping that involves choosing random samples in paris from the original data set was applied. To assess and compare the accuracy and stability of the conventional OLS and bootstrap estimates, repeated random sampling that provides precise estimates of the coefficients was also conducted. The results of a Monte Carlo simulation showed that the bootstrap technique provided considerably accurate estimates of the parameters including R^2 and the adjusted R^2. One tentative conclusion can be drawn that the bootstrap technique could be used to solve the overfitting problem of R^2 in the OLS regression analysis.