SEM 표본크기는 몇 명이 필요할까?｜구조방정식 표본수 결정 기준

구조방정식 모형(SEM)으로 논문을 준비하다 보면 가장 먼저 부딪히는 고민이 “도대체 설문은 몇 명에게 돌려야 하지?” 하는 문제예요. 지도교수님은 200명은 넘겨야 한다고 하시고, 선배 연구자는 150명이면 충분하다고 하고, 인터넷 커뮤니티에서는 100명도 가능하다는 이야기가 올라오니까 정말 혼란스러울 수밖에 없습니다.

사실 SEM 표본크기에 관한 논의는 1980년대부터 지금까지 계속 이어져 왔어요. 연구자마다, 연구 설계마다 필요한 표본수가 천차만별이기 때문에 하나의 정답을 딱 잘라 말하기 어렵거든요. 하지만 다행히도 지난 수십 년간 축적된 시뮬레이션 연구와 경험적 기준 덕분에, 우리는 최소한 어느 정도 선에서 표본을 확보해야 안전한지 가이드라인을 얻을 수 있습니다.

이 글에서는 SEM을 처음 접하는 대학원생부터 실제 논문을 작성 중인 연구자까지, 누구나 이해할 수 있도록 표본크기 결정에 필요한 실질적인 기준과 주의사항을 꼼꼼하게 정리해 드릴게요. 단순히 숫자만 나열하는 게 아니라, 왜 그 숫자가 나왔는지, 내 연구에는 어떤 기준을 적용해야 하는지까지 함께 살펴보도록 하겠습니다.

SEM 표본크기, 왜 이렇게 헷갈릴까?

구조방정식은 단순한 회귀분석과 달리 측정모형과 구조모형을 동시에 추정하기 때문에 필요한 표본수를 한마디로 말하기가 까다로워요. 게다가 연구자마다 사용하는 추정 방식(최대우도법, PLS 등), 모형의 복잡성, 데이터의 정규성 여부까지 제각각이기 때문에 권장 표본수도 크게 달라집니다.

예를 들어, 어떤 연구에서는 잠재변수 2개에 측정문항이 각각 3개씩만 있는 단순한 모형이라면 100명 미만으로도 분석이 가능할 수 있어요. 반면 잠재변수가 7개 이상이고 문항 수도 많으며 조절효과나 매개효과까지 검증해야 한다면 400명을 넘겨도 부족하다는 이야기가 나올 수 있습니다.

또 하나 혼란을 주는 지점은 ‘최소 표본크기’에 대한 학자들의 의견 차이예요. 어떤 문헌은 100명이면 충분하다고 하고, 다른 문헌은 200명 미만은 받아들이기 어렵다고 말합니다. 이렇게 의견이 갈리는 이유는 각 연구가 가정한 모형의 조건(요인적재량 크기, 공분산 구조 등)이 다르기 때문이에요. 따라서 무조건 ‘몇 명 이상’이라는 숫자에 집착하기보다는, 내 연구 모형에 맞춰 필요한 표본수를 역산하는 태도가 중요합니다.

연구자들이 가장 많이 인용하는 기준은?

SEM 표본크기에 관한 문헌을 살펴보면, 몇 가지 고전적인 규칙이 반복해서 등장해요. 가장 오래되고 유명한 기준은 Boomsma(1982)가 제안한 ‘최소 200명’입니다. 이 숫자는 이후 많은 연구에서 인용되었고, 지금도 심사위원들이 표본크기를 지적할 때 자주 언급하는 기준이에요.

또 다른 실무적 규칙으로는 ‘측정변수 대비 5~10배’ 혹은 ‘추정 모수당 10명’ 같은 비율 기준이 있어요. 예를 들어 추정해야 할 모수가 20개라면 200명 정도가 필요하다는 계산이 나오는 식이죠. 하지만 이런 비율 기준은 모형이 복잡해질수록 과도하게 많은 표본을 요구하거나, 반대로 단순한 모형에서는 지나치게 적은 표본을 허용할 수 있기 때문에 보조 지표로만 활용하는 게 좋습니다.

최근에는 통계적 검정력 분석을 통해 필요한 표본수를 계산하는 접근이 더 설득력을 얻고 있어요. Soper(2020)가 제공하는 SEM 전용 표본크기 계산기에서는 잠재변수 수, 측정변수 수, 예상 효과크기, 유의수준, 검정력을 입력하면 필요한 최소 표본수를 산출해 줍니다. 예를 들어 잠재변수 6개, 측정변수 27개, 효과크기 0.3, 유의수준 0.05, 검정력 0.8을 가정하면 88명에서 161명 사이의 표본이 필요하다는 결과가 나오기도 해요. 이처럼 같은 모형이라도 효과크기를 얼마로 보수적으로 잡느냐에 따라 요구량이 달라지기 때문에, 연구자는 자신의 분야에서 통상적으로 기대되는 효과크기를 사전에 파악해 둘 필요가 있습니다.

기준 유형	권장 표본크기	적용 조건
Boomsma(1982) 최소 기준	200명	일반적인 SEM 모형
Chin(1988) 10배 규칙	예측변수 수 × 10	PLS-SEM, 예측변수가 적을 때
측정변수 대비 5~10배	측정변수 수 × 5~10	탐색적 요인분석 겸용 시
Reddit 실무자 의견	최소 138명	잠재변수당 3문항 이상 가정
YouTube 강의 권고(2010)	100~500명	구성요소 수와 문항 수에 따라 차등
PMC 시뮬레이션 연구	30~460명	요인적재량과 요인 수에 따라 극단적 차이

위 표를 보면 같은 SEM이라도 상황에 따라 필요한 표본수가 30명부터 500명까지 폭넓게 분포한다는 사실을 알 수 있어요. 따라서 “몇 명이 정답이다”라고 외우기보다는, 내 연구가 어느 조건에 해당하는지를 먼저 점검하는 과정이 꼭 필요합니다.

모델 복잡도에 따라 필요한 표본수는 달라진다

SEM 표본크기를 결정할 때 가장 직접적인 영향을 미치는 요소는 모델 안에 포함된 잠재변수의 개수와 각 잠재변수를 측정하는 문항의 수예요. 일반적으로 잠재변수가 많을수록, 그리고 측정문항이 적을수록(특히 3개 미만일 때) 더 많은 표본이 필요합니다.

2010년 한 교육 영상에서 제시된 실무 지침을 보면, 구성요소(잠재변수)가 5개 이하이고 각 구성요소가 3문항 이상으로 측정된다면 100명 정도로도 분석이 가능하다고 해요. 하지만 구성요소가 7개를 초과하고 일부 구성요소의 문항 수가 3개 미만이라면 500명까지도 권장합니다. 이는 문항 수가 적으면 요인을 안정적으로 추정하기 어렵기 때문에 더 많은 피험자 데이터로 보완해야 하기 때문이에요.

또한 PMC에 게재된 시뮬레이션 연구에서는 한 요인 CFA(지표 4개, 요인적재량 0.80)의 경우 30명만으로도 모델이 잘 작동했지만, 두 요인 CFA(지표 3개, 요인적재량 0.50)에서는 무려 460명이 필요하다는 결과를 보여주었어요. 이처럼 요인적재량이 낮거나 측정문항의 질이 떨어질수록 요구 표본수는 급격히 증가합니다. 따라서 설문 문항을 개발할 때부터 신뢰도 높은 문항을 충분히 확보하는 것이 표본수 부담을 줄이는 지름길이 될 수 있어요.

통계적 검정력과 효과크기를 고려한 계산법

요즘은 단순 경험칙보다 통계적 검정력 분석(power analysis)을 통해 표본수를 결정하는 추세예요. 검정력이란 실제로 효과가 존재할 때 이를 통계적으로 검출할 확률을 말하는데, 보통 0.8(80%) 이상을 목표로 합니다. 효과크기는 내가 검증하려는 경로계수의 기대 크기인데, 선행연구가 있다면 그 값을 참고하고, 없다면 보수적으로 작은 값(예: 0.1~0.3)을 설정하는 것이 일반적이에요.

Soper의 SEM 표본크기 계산기나 R의 semTools 패키지 등을 활용하면, 연구자가 설정한 잠재변수 수, 측정변수 수, 예상 효과크기, 유의수준, 원하는 검정력을 바탕으로 필요한 최소 표본수를 산출할 수 있습니다. 예를 들어 박중희 연구자의 블로그에서 소개된 사례를 보면, 잠재변수 6개, 측정변수 27개, 효과크기 0.3, 유의수준 0.05, 검정력 0.8 조건에서 88명에서 161명 사이의 표본이 요구되었어요. 이때 더 안전한 쪽을 택한다면 161명 이상을 목표로 설문을 설계하는 식이죠.

주의할 점은, 검정력 분석으로 나온 숫자는 ‘최소한 이 정도는 되어야 한다’는 하한선이라는 거예요. 실제 연구에서는 무응답이나 불성실 응답, 이상치 제거 등을 고려해 10~20% 정도 여유분을 더 확보하는 것이 일반적입니다. 예를 들어 계산 결과 150명이 필요하다면 170~180명 정도는 수집해야 안전하다고 볼 수 있어요.

실제 연구에서 표본수를 결정할 때 체크할 사항

막상 연구를 시작하려면 계산기만 돌릴 게 아니라 현실적인 제약도 함께 고려해야 해요. 다음 체크리스트를 하나씩 확인해 보면서 내 연구에 필요한 표본수를 구체화해 보시길 바랍니다.

• 잠재변수와 측정문항 수 파악: 내 연구모형에 잠재변수가 몇 개이고, 각각 몇 개의 문항으로 측정하는지 정리해 보세요. 문항 수가 3개 미만인 잠재변수가 있다면 표본수를 더 늘려야 할 가능성이 높아요.
• 선행연구의 효과크기 확인: 비슷한 주제의 선행 논문에서 보고된 경로계수나 상관계수를 참고해 예상 효과크기를 설정합니다. 자료가 없다면 0.1~0.3 사이의 보수적인 값을 가정하세요.
• 검정력 목표 설정: 일반적으로 0.8을 목표로 하지만, 탐색적 연구라면 0.7까지 허용하기도 해요. 단, 검정력이 낮으면 2종 오류 위험이 커진다는 점을 기억하세요.
• 추정 방식 확인: CB-SEM(공분산 기반)인지 PLS-SEM(부분최소제곱 기반)인지에 따라 요구 표본수가 달라져요. PLS-SEM은 상대적으로 적은 표본에서도 안정적이라고 알려져 있지만, 최근 연구들은 표본이 250명을 넘으면 두 방식 간 차이가 거의 사라진다고 보고하고 있어요.
• 탈락률 반영: 온라인 설문의 경우 불성실 응답이나 중도 이탈이 10~20% 발생할 수 있으니, 목표 표본수에 여유분을 더해 설문을 배포하세요.
• 예산과 시간 제약: 아무리 통계적으로 400명이 필요해도 현실적으로 모집이 어렵다면, 연구 모형을 단순화하거나 PLS-SEM으로 전환하는 등의 대안을 검토해야 합니다.

표본이 부족할 때 나타나는 문제들

표본이 부족하면 분석 결과 자체가 흔들릴 수 있어요. 대표적인 문제로는 모델이 수렴하지 않거나, 부적절한 해(solution)가 나오는 경우를 들 수 있어요. 예를 들어 분산이 음수로 추정되는 Heywood case가 발생하거나, 표준오차가 지나치게 커져서 경로계수가 통계적으로 유의하지 않게 나올 수 있습니다.

또한 적합도 지수도 표본크기에 민감하게 반응해요. 카이제곱 검정은 표본이 크면 너무 민감해져서 사소한 차이에도 모델을 기각하고, 표본이 작으면 검정력이 떨어져서 문제가 있는 모델도 채택할 위험이 있어요. 실제로 어떤 연구에서는 표본이 73명에 불과할 때 모델 적합도에 대한 확신을 내리기 어렵다는 지적을 받기도 했어요. 따라서 CFI, RMSEA, SRMR 같은 다른 적합도 지수를 함께 보고 판단하는 습관이 중요합니다.

자주 묻는 질문 (FAQ)

Q1. SEM 표본크기는 정말 200명이 마지노선인가요?

꼭 그렇지는 않아요. 200명은 Boomsma가 제안한 고전적 기준일 뿐, 모형이 단순하고 측정문항의 질이 좋다면 100명 내외로도 충분히 분석 가능합니다. 다만 학계의 보수적인 심사 관행을 고려하면 200명 이상을 확보하는 것이 안전한 전략이에요.

Q2. PLS-SEM은 표본이 적어도 괜찮다고 하던데, 몇 명이면 될까요?

PLS-SEM은 CB-SEM에 비해 적은 표본에서도 안정적인 추정이 가능하다고 알려져 있어요. Chin의 10배 규칙을 적용하면 예측변수가 4개일 때 40명 정도로도 가능하다는 계산이 나오지만, 실무적으로는 최소 100명 이상은 확보하는 것이 일반적입니다. 표본이 250명을 넘으면 CB-SEM과 결과 차이가 거의 사라진다는 연구도 있어요.

Q3. 설문 문항이 많으면 표본도 무조건 많이 필요할까요?

문항 수가 많다고 무조건 표본이 더 필요한 것은 아니에요. 오히려 한 잠재변수를 측정하는 문항 수가 많을수록 요인이 더 안정적으로 추정되기 때문에 표본수 요구량이 줄어들 수 있습니다. 반대로 문항 수가 적으면(특히 3개 미만) 더 많은 표본이 필요해져요.

Q4. 효과크기를 얼마로 잡아야 할지 모르겠어요.

선행연구가 있다면 그 연구에서 보고된 경로계수의 평균이나 중간값을 참고하세요. 전혀 참고할 자료가 없다면 작은 효과크기(0.1~0.2)로 보수적으로 설정하는 것이 일반적이에요. 그래야 ‘효과가 없는데 있다고 잘못 판단할’ 위험을 줄일 수 있습니다.

Q5. 표본수 계산기에서 나온 숫자보다 적게 모았는데, 분석해도 될까요?

계산 결과는 통계적 검정력을 보장하기 위한 최소 기준이기 때문에, 그보다 적으면 원하는 검정력을 확보하지 못할 가능성이 커요. 그래도 연구 상황상 어쩔 수 없다면, 논문의 한계점으로 명시하고 추후 연구에서 더 큰 표본으로 재검증이 필요하다고 언급하는 것이 좋습니다.

Q6. 온라인 설문에서 불성실 응답을 걸러내면 표본이 줄어드는데, 처음부터 더 많이 모아야 하나요?

네, 보통 10~20% 정도는 불성실 응답이나 중도 이탈로 손실된다고 보고, 목표 표본수보다 20% 정도 더 많은 인원을 모집하는 것이 안전해요. 예를 들어 200명이 필요하다면 240명 정도에게 설문을 배포하는 식이죠.

Q7. 조절효과나 매개효과가 있는 모형은 표본이 더 필요한가요?

일반적으로 조절효과나 매개효과를 검증하려면 더 많은 표본이 필요하다고 알려져 있어요. 특히 조절효과는 상호작용항을 추가하기 때문에 검정력이 떨어지기 쉬워서, 어떤 연구자들은 400명 이상을 권장하기도 합니다. 매개효과의 경우 부트스트래핑을 사용하면 표본수 부담을 조금 덜 수 있어요.

Q8. 표본이 너무 크면 문제가 될 수도 있나요?

표본이 지나치게 크면 카이제곱 검정이 너무 민감해져서 사소한 모형 오류에도 모델을 기각할 수 있어요. 하지만 CFI, RMSEA 같은 적합도 지수는 표본크기의 영향을 덜 받기 때문에, 대부분의 경우 표본이 큰 것은 축복이라고 봐도 무방합니다. 다만 불필요하게 많은 표본을 모으는 것은 시간과 비용 낭비일 수 있으니 적정선을 찾는 게 중요해요.

※ 이 글은 구조방정식 표본크기에 관한 일반적인 정보를 제공하기 위해 작성되었으며, 특정 통계 소프트웨어나 상업적 서비스를 권장하지 않습니다. 연구 설계와 표본크기 결정은 지도교수 또는 통계 전문가와의 상담을 통해 최종 확정하시길 권해 드립니다. 본문에 언급된 수치들은 참고 문헌과 실무 사례를 바탕으로 한 것이며, 연구 분야와 데이터 특성에 따라 실제 요구량은 달라질 수 있습니다.