논문 심사에서 지적받는 회귀분석 해석 오류 7가지

1. 회귀분석 해석 오류 1: 연관성을 인과효과로 단정하기

관찰자료로 수행한 회귀분석에서 독립변수의 계수가 유의하게 나타났다는 이유만으로 “독립변수가 종속변수에 영향을 미쳤다”라고 결론을 내리면 심사 과정에서 지적받기 쉽습니다. 회귀계수는 설정된 모형과 포함된 통제변수의 조건 아래에서 관찰된 변수 사이의 통계적 연관성을 나타냅니다.

인과효과를 주장하려면 변수의 시간적 선후관계, 교란변수 통제 논리, 표본선정 과정과 연구설계를 함께 설명해야 합니다. 단면조사처럼 독립변수와 종속변수를 같은 시점에 측정한 연구에서는 역인과성 가능성도 배제하기 어렵습니다.

따라서 관찰연구의 결과 문장에서는 “영향을 주었다”보다 “정적인 관련성이 나타났다”, “종속변수가 증가하는 경향이 확인되었다”와 같은 표현을 사용합니다. 인과적 의미를 사용해야 한다면 이론적 근거와 인과추론을 위한 가정, 민감도 분석 또는 실험적 설계가 뒷받침되어야 합니다.

논문 심사 전에는 연구문제, 가설, 분석방법과 결론에 사용된 동사가 서로 일치하는지 점검합니다. 분석은 연관성을 검토했는데 결론에서 원인이나 효과를 단정하면 통계 결과보다 연구자의 해석 범위가 더 넓어지는 오류가 발생합니다.

2. 회귀분석 해석 오류 2: p값을 효과의 크기와 진실 확률로 읽기

p값이 0.05보다 작다는 결과를 “연구가설이 참일 확률이 95% 이상이다”라고 설명하면 잘못된 해석이 됩니다. p값은 귀무가설과 분석모형이 성립한다고 가정했을 때 현재 결과와 같거나 더 극단적인 자료가 관찰될 정도를 나타냅니다.

미국통계학회는 2016년 p값의 오용을 줄이기 위한 여섯 가지 원칙을 발표했습니다. 여기에는 p값이 연구가설의 참·거짓 확률이나 효과의 크기, 결과의 실질적 중요성을 직접 측정하지 않는다는 내용이 포함됩니다.

표본이 크면 실제로는 작은 차이도 통계적으로 유의해질 수 있으며, 표본이 작으면 의미 있는 계수도 충분한 검정력을 확보하지 못해 유의하지 않게 나타날 수 있습니다. 그러므로 p값만 제시하지 말고 회귀계수, 표준오차, 신뢰구간과 연구 맥락에서의 효과 크기를 함께 해석합니다.

유의하지 않은 결과를 곧바로 “효과가 없다”라고 단정하는 것도 피해야 합니다. 해당 결과가 효과 부재를 뒷받침하는지, 표본과 측정의 불확실성 때문에 명확한 판단이 어려운지를 신뢰구간과 검정력 관점에서 구분해야 합니다.

3. 회귀분석 해석 오류 3: B와 β의 단위 차이를 무시하기

비표준화 회귀계수 B는 독립변수가 한 단위 증가할 때 종속변수의 예측값이 몇 단위 변하는지를 나타냅니다. 따라서 B를 해석할 때는 독립변수와 종속변수의 측정단위를 반드시 문장에 포함해야 합니다.

예를 들어 독립변수가 만 원 단위이고 종속변수가 점수 단위라면 B의 한 단위 변화는 실제 금액 1만 원의 변화를 의미합니다. 변수를 원 단위로 측정한 것처럼 해석하거나 척도의 점수 범위를 밝히지 않으면 계수의 실질적 의미가 달라집니다.

표준화 회귀계수 β는 독립변수가 1표준편차 증가할 때 종속변수가 몇 표준편차 변하는지를 나타냅니다. 서로 다른 단위로 측정된 연속형 변수의 상대적 관련성을 비교할 때 활용할 수 있지만, β가 가장 크다는 이유만으로 가장 중요한 원인이라고 단정할 수는 없습니다.

논문에서는 B와 β를 혼용하지 않고 결과표의 열 이름과 본문의 기호를 일치시킵니다. 특히 더미변수, 비선형항, 상호작용항이 포함된 모형에서는 표준화계수의 단순 비교가 어려우므로 원래 단위의 계수와 예측값을 함께 제시하는 방식이 안전합니다.

4. 회귀분석 해석 오류 4·5: 기준범주와 상호작용항을 잘못 읽기

범주가 k개인 명목변수를 회귀모형에 투입하면 k-1개의 더미변수가 사용되며, 제외된 범주가 기준범주가 됩니다. 각 더미변수의 계수는 다른 모든 집단의 평균과 비교한 값이 아니라 해당 범주와 기준범주 사이의 조건부 차이를 나타냅니다.

기준범주를 결과표나 본문에 표시하지 않은 채 “A집단이 높았다”라고만 작성하면 비교 대상이 불분명해집니다. 분석 전에 범주 코딩표를 작성하고 결과표 주석에 기준범주와 각 코드의 의미를 명시해야 회귀분석 해석 오류 4를 예방할 수 있습니다.

상호작용항이 포함되면 하위항의 의미도 달라집니다. 연속형 조절변수와 독립변수의 상호작용이 있는 모형에서 독립변수의 계수는 조절변수가 0일 때의 단순효과이며, 범주형 조절변수에서는 기준범주에서의 효과를 나타냅니다.

상호작용항이 유의하다는 사실만으로 모든 집단에서 효과가 유의하다고 결론을 내리는 것이 회귀분석 해석 오류 5입니다. 조절변수의 특정 값이나 각 범주에서 조건부 효과를 계산하고, 단순기울기 검정과 예측값 그래프를 함께 제시해야 상호작용의 방향과 크기를 정확하게 설명할 수 있습니다.

5. 회귀분석 해석 오류 6: R²만으로 좋은 모형을 선언하기

결정계수 R²는 회귀모형에 포함된 예측변수들이 종속변수 변동의 몇 퍼센트를 설명하는지를 나타냅니다. R²가 0.40이라면 표본에서 관찰된 종속변수 변동의 40%가 설정된 모형으로 설명된다는 의미이지, 연구가설이 40% 참이라는 의미가 아닙니다.

R²가 높아도 비선형 패턴, 이상치 또는 체계적인 잔차가 남아 있으면 모형이 자료에 적절하게 적합되었다고 보기 어렵습니다. 반대로 인간 행동이나 사회현상처럼 설명되지 않은 변동이 큰 분야에서는 R²가 낮더라도 이론적으로 중요한 계수가 발견될 수 있습니다.

예측변수를 추가하면 R²는 감소하지 않으므로 여러 모형을 비교할 때 R²만 사용하면 불필요한 변수가 많은 모형을 선택할 수 있습니다. 변수 수를 고려하는 수정 R², 평균제곱오차, 정보기준과 연구 목적에 맞는 검증 자료의 예측성능을 함께 확인합니다.

모형선택 과정에서는 통계적 수치뿐 아니라 변수 포함의 이론적 근거도 제시해야 합니다. 관련 변수, 필요한 변환항 또는 상호작용항이 빠진 과소설정 모형은 회귀계수와 예측값에 편향을 만들 수 있으므로 높은 R²만으로 모형의 타당성을 주장해서는 안 됩니다.

6. 회귀분석 해석 오류 7: 가정·다중공선성·영향점을 점검하지 않기

회귀계수와 p값만 보고 잔차 진단을 생략하면 분석의 전제가 충족되었는지 확인할 수 없습니다. 선형회귀에서는 선형성, 오차의 독립성, 등분산성과 오차분포를 연구자료에 맞는 잔차도표와 진단 통계로 검토해야 합니다.

정규성 가정은 독립변수나 종속변수 자체가 완벽한 정규분포를 따라야 한다는 의미로 오해하기 쉽습니다. 회귀추론에서 점검하는 대상은 설정된 모형의 오차이며, 표본크기와 이상치의 영향까지 고려해 Q-Q 도표와 잔차분포를 해석해야 합니다.

독립변수 사이의 높은 관련성은 계수의 표준오차를 증가시키고 부호와 크기를 불안정하게 만들 수 있습니다. 다중공선성은 단순 상관계수만으로 판단하지 않고 VIF, 허용도와 변수를 포함하거나 제외한 민감도 분석을 함께 검토하며, 특정 기준값을 기계적으로 적용하지 않습니다.

이상치, 고레버리지 관측치와 영향점도 서로 다른 개념입니다. 표준화 잔차, 레버리지와 Cook의 거리 등을 확인한 뒤 입력 오류인지 실제 관측값인지 조사하고, 정당한 근거 없이 불리한 관측치를 삭제하지 말아야 합니다. 진단 전후 결과가 달라진다면 이를 숨기지 않고 민감도 분석으로 보고합니다.

자주 묻는 질문