
논문을 투고하고 며칠, 혹은 몇 주를 기다려 받은 심사평에서 “연구 가설이 기각되었으므로 결과가 충분하지 않다”는 문장을 마주하는 순간, 솔직히 가슴이 철렁 내려앉을 수 있어요. 연구자라면 누구나 한 번쯤 겪는 일이지만, 막상 내 차례가 되면 어디서부터 손을 대야 할지 막막해지는 게 현실입니다.
많은 연구자들이 이 지점에서 실수하는 부분이 바로 ‘이의 제기’와 ‘설명’을 혼동한다는 거예요. 심사위원이 단순히 사실을 확인해 준 건데, 내 가설을 방어하려다가 방어적 태도로 비춰지거나, 심지어 통계를 잘못 이해하고 있다는 인상을 남기기도 합니다. 실제로 학계의 리뷰 과정에서는 연구자가 데이터를 정직하게 대면하는 태도를 굉장히 높이 평가한다는 점을 기억할 필요가 있어요.
여기서 중요한 건 ‘긍정적 프레이밍’이에요. 가설이 기각됐다는 건 더 이상 쓸모없는 결과가 아니라, 연구 질문의 경계를 분명히 해주는 소중한 통찰거든요. 이 글에서는 통계적 근거를 정리하는 방법, 설명을 강점으로 전환하는 구체적인 표현 전략, 그리고 심사위원의 신뢰를 얻는 답변서 작성 기술까지 하나씩 풀어볼게요.
📌 핵심 요약
- 먼저 인정하고 감사하라. 심사 지적에 대한 방어적 태도는 금물, 투명한 인정이 먼저입니다.
- p값 외에도 제시할 데이터가 많다. 효과 크기, 신뢰구간, 사후 검정력을 추가로 제시해 결과의 실질적 의미를 부각시키는 게 좋습니다.
- ‘가설 기각’을 ‘경향성 발견’ 혹은 ‘탐색적 증거’로 재해석하라. 연구의 새로운 방향을 제안하는 기회입니다.
- 구체적인 수정 계획을 답변서에 포함하라. 논의(Discussion) 섹션 보강, 제한점 명시, 후속 연구 방향 제안 등이 실질적인 강점 전환 포인트예요.
글 순서
귀무가설이 기각되지 않았다는 건 정말 ‘실패’일까 — 통계적 유의성과 연구 가치의 재발견
많은 연구자들이 p값에 지나치게 집착하는 경향이 있어요. 심사평에서 “p값이 0.05보다 크면 귀무가설을 기각할 수 없다”는 말을 들으면 순간적으로 ‘내 가설이 틀렸다’는 의미로 확대 해석하는 경우가 많거든요. 하지만 통계학계의 공식적인 성명서나 여러 연구 방법론 교재를 들여다보면, p값은 귀무가설이 참이라는 가정하에 현재 데이터가 얼마나 극단적인지를 보여주는 지표일 뿐이에요. 우리가 정말 알고 싶은 ‘대립가설이 참일 확률’을 직접 말해주는 건 절대 아니라는 거죠.
통계적 유의성이 확보되지 않은 결과도 중요한 정보를 담고 있어요. 예컨대, 미국통계학회가 발표한 성명서에서도 p값만으로 연구의 결론을 내리는 관행을 경고했고, 효과 크기나 신뢰구간을 함께 보고할 것을 강력히 권장하고 있습니다. 쉽게 말해, p값이 0.06으로 나왔더라도 효과 크기가 크고 신뢰구간이 좁다면, 연구 설계가 조금만 개선되면 유의미한 결과로 이어질 가능성이 높다는 신호로 읽을 수 있어요.
이 시점에서 연구자에게 필요한 건 ‘단순한 실패’가 아니라 ‘미완의 가능성’을 발견하는 태도예요. 귀무가설이 기각되지 않았다는 결과는 특정 변인 간의 관계가 기존 이론에서 가정한 것만큼 강력하지 않을 수 있다는 걸, 혹은 표본 특성이나 측정 도구의 민감도에 따라 다른 패턴이 나타날 수 있다는 걸 알려줍니다. 이걸 심사 답변서에 어떻게 표현하느냐에 따라 논문의 운명은 완전히 달라질 수 있어요.
| 항목 | 초보 연구자의 반응 | 전문 연구자의 전략적 전환 |
|---|---|---|
| p값이 0.05를 넘음 | “가설이 틀렸다.” | “기존 이론의 경계 조건을 재확인했고, 의미 있는 효과 크기 범위를 좁혔다.” |
| 가설 방향과 반대 방향의 계수 | “데이터가 이상하다.” | “예상치 못한 매커니즘의 존재 가능성을 시사하며, 이론 확장의 단초를 제공한다.” |
| 통계적 검정력 부족 | “표본이 부족했다.” | “사후 검정력 분석을 통해 적정 표본 크기를 도출했으며, 이를 토대로 후속 연구 설계를 구체화했다.” |
심사위원 답변서에서 바로 쓸 수 있는 표현 전략과 예시 문구
심사 답변서는 논문의 운명을 가르는 협상 테이블과 같아요. 좋은 데이터를 가지고 있어도 표현이 서툴면 강점이 약점으로 둔갑하고, 반대로 다소 부족한 결과도 정직하고 전략적으로 서술하면 연구의 가치를 인정받을 수 있습니다. 답변서를 쓸 때는 크게 세 단계로 접근하면 좋아요. 인정하기, 재해석하기, 수정 계획 제시하기입니다.
먼저, 심사위원의 지적을 요약하며 감사의 뜻을 전하는 게 첫 단계예요. “리뷰어님께서 지적해주신 대로, 본 연구의 주효과 분석에서 귀무가설을 기각할 충분한 통계적 근거를 확보하지 못했습니다. 연구의 한계를 정확히 짚어주신 점에 감사드립니다.” 이렇게 시작하면 방어적인 태도가 아니라 협력적인 인상을 줍니다. 고객센터나 계약 관련 문서에서도 문제를 인지하고 개선 의지를 밝히는 태도는 신뢰 회복의 핵심 요소인데, 논문 심사도 크게 다르지 않아요.
두 번째는 결과를 재해석하는 단계예요. 여기서는 앞서 언급한 효과 크기, 신뢰구간, 사후 검정력 분석 데이터를 적극 활용하면 좋습니다. 예를 들면 이렇게 쓸 수 있어요. “비록 주효과에 대한 통계적 유의성은 확보하지 못했으나, Cohen’s d 값이 0.38로 중간 이하의 효과 크기를 보였으며, 95% 신뢰구간이 -0.12에서 0.88로 넓게 나타난 점을 볼 때, 현재의 표본 크기로는 중간 수준의 효과를 포착할 수 있는 검정력이 부족했음을 알 수 있었습니다. 이는 독립변인과 종속변인 간 관계가 약하다는 완전한 증거라기보다, 특정 표본 및 실험 조건 하에서 경향성을 확인한 것으로 해석하는 것이 타당해 보입니다.”
세 번째로, 원고에 반영할 구체적인 수정 사항과 향후 연구 방향을 약속하는 거예요. “논의 섹션에 본 결과가 기존 문헌에 미치는 함의를 이론적 관점에서 추가 서술하고, 결과의 제한점에 관한 별도의 하위 섹션을 신설하겠습니다. 또한, 후속 연구에서는 G*Power 분석을 통해 산출된 최소 표본 크기를 반영하고, 과제 특성을 통제한 반복 측정 설계를 도입할 것을 제안하였습니다.”
이 과정에서 주의할 점은 과도한 자기 비하나 자기 방어를 피하는 거예요. “제 연구에는 아무런 가치가 없습니다” 혹은 “리뷰어님의 통계 지식이 부족하신 것 같습니다” 같은 표현은 절대 금물입니다. 항상 연구의 투명성과 발전 가능성을 강조하는 표현으로 일관하는 게 좋아요.
⚠️ 가설 기각 답변 전 체크리스트
- p값뿐 아니라 효과 크기와 신뢰구간을 답변서에 명시했는가?
- 표본 크기와 사후 검정력 분석 결과를 근거 데이터로 준비했는가?
- 기존 문헌과 결과를 비교하여 차별점 또는 유사점을 해석했는가?
- 지나친 자기 방어나 타협적인 톤 대신 협력적이고 발전적인 어조로 썼는가?
- 논의 섹션에 가설 기각의 함의와 더불어 후속 연구를 구체적으로 제안했는가?
- 심사평 전문을 읽고 숨은 맥락(예: 연구 설계, 측정 도구 이슈)을 파악했는가?
논문 본문에서 가설 기각 결과를 강점으로 풀어내는 수정 기술
답변서에서 끝나면 안 돼요. 중요한 건 원고 자체에 이 새로운 해석을 자연스럽게 녹여내는 거예요. 심사위원이 다음 라운드에서 원고를 다시 펼쳤을 때, “아, 연구자가 내 의견을 반영해서 논문의 완성도를 높였구나”라는 인상을 받아야 합니다. 이를 위해 저는 연구자 분들께 항상 ‘논의 섹션 재구성’을 제안해요.
가설이 기각된 경우, 논의 섹션의 첫 문단에서 “본 연구의 실증 분석 결과, 가설 1은 지지되지 않았다”라고 진술하는 것만으로는 부족해요. 바로 이어서 왜 그런 결과가 나타났을지에 대한 이론적 추론을 배치하는 게 포인트입니다. 예를 들어, 서비스 품질이 고객 충성도에 미치는 직접 효과를 검증했는데 유의하지 않은 결과가 나왔다면, “이는 최근 연구(Yoo & Park, 2023)에서 제시된 바와 같이, 고객 경험에 대한 기대 수준이 전반적으로 상승하면서 단일 변수의 설명력이 약화되었을 가능성을 시사한다” 식으로 풀어낼 수 있어요.
또 하나의 노하우는 연구의 탐색적(Exploratory) 성격을 강조하는 거예요. 모든 연구가 확증적(Confirmatory)이어야 한다는 압박에서 벗어날 필요가 있습니다. 연구 질문이 새롭고 측정 도구가 정립되지 않은 분야라면, 통계적 검증 결과보다 데이터가 드러내는 패턴 자체가 학계에 큰 기여가 될 수 있어요. “본 연구는 탐색적 접근을 통해 새로운 변인들 간의 관계를 시험하였으며, 그 결과 기존 이론의 수정이 필요할 수 있음을 실증적으로 드러냈다”라고 적어주면, 심사위원도 연구의 가치를 다른 각도에서 보기 시작합니다.
제한점 및 후속 연구 섹션의 표현도 굉장히 중요해요. “표본 크기가 작았다”는 소극적인 서술에서 그치지 말고, “본 연구 결과를 바탕으로 한 통계적 검정력 분석 결과, 유사한 효과를 80%의 검정력으로 탐지하기 위해서는 그룹별 최소 128명의 표본이 필요할 것으로 추정되므로, 이를 반영한 다기관 공동 연구를 제안한다”처럼 구체적인 행동 지침을 제시합니다. 이렇게 하면 연구의 한계가 곧바로 후속 연구의 발판으로 전환되는 느낌을 줄 수 있어요.
검정력 분석과 효과 크기 — 숫자로 설득하는 구체적인 방법
가설 기각 관련 답변에서 가장 설득력이 높은 도구는 바로 사후 검정력 분석(Post-hoc Power Analysis)과 효과 크기(Effect Size) 보고예요. 심사위원이 “통계적으로 유의미한 결과가 나오지 않았다”고 지적했을 때, 연구자가 “죄송합니다”로 끝내는 것과 “검정력이 0.52로 낮았던 것이 원인이며, 표본을 늘리면 유의한 결과를 얻을 수 있다”고 말하는 것은 완전히 다른 차원의 대응이에요.
검정력 분석에서 자주 사용하는 G*Power 같은 무료 소프트웨어를 활용하면, 현재의 표본 크기와 효과 크기, 알파 수준으로 도출되는 통계적 검정력을 계산할 수 있어요. 만약 검정력이 0.6으로 나왔다면, 귀무가설이 실제로 거짓일 때 이를 바르게 기각할 확률이 60%에 불과했다는 뜻이죠. 이것은 연구가 실패한 게 아니라 애초에 설계 단계에서 효과를 잡아낼 준비가 덜 되어 있었음을 정직하게 보여주는 근거가 됩니다. 이걸 리비전 노트에 적으면 연구자의 방법론적 성찰을 높이 평가받을 수 있어요.
효과 크기의 경우, p값이 0.05를 살짝 넘더라도 Cohen’s d나 부분 에타 제곱(η²) 값이 중간 이상으로 나타나면 주저하지 말고 답변서에 적극적으로 제시하길 권해요. 한 연구 방법론 전문가의 분석에 따르면, 때로는 p값보다 효과 크기가 더 많은 정보를 담고 있는데, 연구자들이 과도한 p값 중심 사고에 갇혀 자신의 유의미한 발견을 폄하하는 경우가 많다고 해요. 숫자는 거짓말을 하지 않아요. 단지 우리가 그 숫자를 어떻게 해석하고 제시하느냐의 문제일 뿐입니다.
| 분석 지표 | 의미 | 답변에서의 활용 전략 |
|---|---|---|
| p-value | 귀무가설 하에서 현재 데이터의 극단성 | 0.05 이하가 아니라도 결과를 반증의 근거로 삼지 않고, 경향성으로 부드럽게 표현 |
| 효과 크기 (d, η²) | 관찰된 현상의 실질적 크기 | 중간 이상의 효과 크기일 경우, 표본 확대 시 유의성 확보 가능성을 강하게 시사 |
| 신뢰구간 | 모수 추정치의 불확실성 범위 | 넓은 신뢰구간을 정밀도 부족의 원인으로 설명하며, 후속 연구 설계 시 표본 수 증가 근거로 제시 |
| 통계적 검정력 | 실제 효과가 있을 때 이를 탐지할 확률 | 낮은 검정력은 표본 부족이 원인임을 밝혀 ‘연구 설계의 실패’가 아닌 ‘연구 자원의 한계’로 맥락을 전환 |
심사위원의 심리를 이해하면 답변이 달라지는 이유
리뷰 과정을 계약 협상이나 고객 응대에 비유하면 이해하기 쉬워요. 심사위원도 결국 사람이에요. 그들은 완벽한 연구를 기대하기보다, 연구자가 지적 사항을 얼마나 성실하게 이해하고 대응하는지를 봅니다. 약관을 꼼꼼히 읽는 사람처럼, 리뷰어는 연구자가 통계적 근거를 정직하게 다루고 제한점을 회피하지 않을 때 신뢰를 느껴요.
가장 많이 실수하는 사례 중 하나는, 연구자가 리뷰어의 지적에 과잉 동의하며 연구를 비하하는 경우예요. “말씀하신 대로 본 연구는 가치가 없는 결과를 냈습니다. 이는 학계에 별 도움이 되지 않을 것입니다.” 이런 표현은 연구자 본인의 신뢰도를 떨어뜨릴 뿐만 아니라, 오히려 리뷰어로 하여금 논문의 게재 불가 이유를 정당화해 줘요. 계약 조건이 불리해 보여도, 그 안에서 대안을 협상하고 재구조화하는 것과 같은 원리예요.
또 하나 중요한 사실은, 심사위원들이 연구의 긍정적 결과보다 연구자의 태도와 논리 전개 과정을 더 오래 기억한다는 점이에요. 여러 연구자들의 심사 후기와 경험담을 종합해 보면, 심사위원이 “가설 기각”을 언급한 건 연구의 사형 선고가 아니라 연구자가 어디까지 깊이 생각하고 있는지를 시험하는 질문인 경우가 많아요. 그렇기 때문에 답변서는 ‘방어’가 아니라 ‘초대’의 관점으로 써야 합니다. “우리 연구의 이런 지점이 흥미로운 토론의 시작이 될 수 있을 것 같습니다”라는 느낌으로 말이에요.
연구자가 흔히 빠지는 함정 하나는 통계 용어를 일상 용어처럼 모호하게 사용하는 거예요. 심사위원에게 “통계적으로 유의미한 수치”라는 말을 반복하면 오히려 의심을 살 수 있어요. 정확한 수치와 정직한 해석 한 줄이 추상적인 변론 열 줄보다 훨씬 강력한 설득력을 발휘합니다.
실제 사례로 보는 가설 기각 답변의 패턴 — 좋은 예와 피해야 할 예
말로만 설명하면 감이 잘 잡히지 않을 수 있어요. 그래서 제가 연구 컨설팅을 하면서 접한 실제 사례를 각색해서 보여드릴게요. 한 연구자는 조직의 상사 지원이 직무 열의에 미치는 영향을 검증했어요. 회귀 분석 결과, 표준화 계수는 0.15 정도였고 p값이 0.14로 나왔어요. 심사위원이 “가설이 기각되어 결과의 강건성이 부족하다”고 지적한 상황이에요.
피해야 할 답변 예시: “저희는 회귀 계수가 양의 방향으로 나왔기 때문에 어느 정도 가설을 지지한다고 봅니다. 또한, 사회과학 연구에서는 p값이 0.05보다 조금 높아도 유의미한 결과로 받아들여지는 경우가 많습니다. 리뷰어님의 기준이 지나치게 엄격하신 것 같아 유감입니다.” 이런 답변은 사실상 가스라이팅처럼 보일 수 있고, 심사위원과 관계가 급격히 나빠질 위험이 있어요.
전략적으로 전환한 답변 예시: “소중한 통찰을 제공해주신 리뷰어님께 감사드립니다. 말씀해주신 대로 상사 지원이 직무 열의에 미치는 주효과는 통계적으로 유의한 수준에 이르지 못했습니다(p = .14). 다만, 본 연구에서 관찰된 표준화 계수 0.15와 Cohen’s f² 약 0.02의 효과 크기는 작지만 무시할 수 없는 실질적 잠재력을 시사합니다. 사후 검정력 분석 결과, 본 연구의 검정력은 0.48로 나타났으며, 이는 주어진 표본 크기로 작은 효과를 안정적으로 탐지하기에 부족했음을 보여줍니다. 이러한 발견은 자기결정성 이론의 관점에서, 상사 지원의 영향이 개인의 내재적 동기 수준에 따라 조절될 가능성을 제기합니다. 이에 따라 논문의 논의 섹션에 효과 크기 및 검정력 분석 결과를 추가하고, 직무 자원으로서의 상사 지원의 역할을 재조명하는 이론적 논의를 강화하였으며, 후속 연구 방향으로 조절된 매개 모형 검증을 제안했습니다.”
어떤가요? 같은 데이터인데 신뢰감의 차원이 달라져요. 전자의 답변은 통계에 대한 몰이해와 방어적인 태도를 드러내는 반면, 후자는 연구의 한계를 인식하면서도 데이터를 깊이 있게 해석하는 성숙한 연구자의 모습을 보여줘요.
자주 묻는 질문 (FAQ)
“심사위원이 귀무가설이 기각되지 않았다는 지적을 했는데, 가설이 아예 틀렸다고 인정해야 하나요?”
그럴 필요는 전혀 없어요. 통계적으로 유의하지 않은 결과는 ‘충분한 증거를 찾지 못했다’는 의미이지, ‘틀렸다’는 의미는 아니에요. 이 점을 답변서에서 명확히 구분해서 설명하는 게 중요합니다. 효과 크기나 표본의 한계로 설명할 수 있는 여지가 많아요.
“본문에 이미 기술한 결과인데 답변서에 다시 써야 하나요?”
네, 답변서는 심사위원이 논문과 별개로 읽는 문서예요. 어떤 맥락에서 그 결과가 나왔는지, 그리고 수정본에는 어떤 부분이 어떻게 달라졌는지를 요약해주는 게 가장 협조적인 방식입니다. 번거롭더라도 명확한 답변이 결국 더 빠른 게재로 이어져요.
“리뷰어에게 내가 더 유리한 통계 방식으로 재분석을 요구해도 될까요?”
공식적인 고객센터 절차나 약관 조정을 생각해보면, 기존에 없던 조항을 새로 추가하자고 요구하는 건 조심스러운 부분이에요. 마찬가지로, 원래 분석 계획을 완전히 뒤엎는 재분석은 오히려 데이터를 편의적으로 사용했다는 인상을 줄 수 있어요. 대신, 현재 분석의 맥락을 추가로 설명해주거나, 탐색적 분석으로 제시하는 방향을 추천해요.
“가설이 기각된 논문은 좋은 저널에 게재되기 어렵지 않나요?”
꼭 그렇지만은 않아요. 네거티브 결과를 체계적으로 보고하는 저널들도 많고, 오히려 출판 편향을 줄이기 위해 통계적으로 유의하지 않은 결과를 장려하는 움직임도 커지고 있어요. 연구 질문의 중요성, 방법론의 견고함, 논의의 질이 뒷받침된다면 충분히 좋은 저널에 게재될 수 있습니다.
“수정본에서 기존 가설을 텍스트로 살짝 바꿔도 되나요? 연구 질문을 바꾸는 게 더 쉬울 것 같아서요.”
그건 좋은 전략이 아닙니다. 가설을 사후에 바꾸는 행위(HARKing)는 연구 윤리에 어긋나고, 심사위원이 쉽게 알아챌 가능성이 높아요. 오히려 기존 가설이 왜 지지되지 않았는지에 대한 논리적인 설명과 대안적 해석을 제시하는 것이 훨씬 더 안전하고 학술적 기여도 높은 방법이에요.
“사후 검정력 분석은 결과를 합리화하는 도구일 뿐이라고 생각하는 리뷰어도 있지 않나요?”
일부 리뷰어는 사후 검정력 분석이 유의하지 않은 결과를 정당화하기 위한 도구로 남용되는 것을 경계해요. 그렇기 때문에 단순히 검정력 숫자만 제시하지 말고, 그 분석이 왜 이 연구에서 유의미한 해석적 틀을 제공하는지, 그리고 앞으로의 실험 설계에 어떤 교훈을 주는지를 논리적으로 연결해야 합니다.
본 글은 일반적인 학술 심사 대응 전략을 다룬 정보 제공 목적의 콘텐츠입니다. 연구 분야, 학술지 성격, 심사위원의 관점에 따라 적절한 대응 방식이 달라질 수 있으며, 특정 사례에 대한 통계적 해석은 반드시 해당 분야의 전문가 또는 통계 컨설턴트와 상의하시길 권합니다.