1. 훔쳐보기 문제 (Peeking Problem)A/B Test는 통계적 가설 검정을 사용하여 두 개 이상의 대안 중 어느 것이 더 효과적인지 결정하는 실험 방법임현업에서 자주 발생하는 유의점 중 하나가 훔쳐보기 문제(Peeking Problem)임 훔쳐보기 문제란?: 실험 도중 중간 결과를 확인하고, 실험을 중단하는 경우를 말함계획된 실험 기간을 채우지 않고 중간 데이터만 보고 판단을 내리는 행위로, 통계적으로 신뢰할 수 없는 결론을 초래 훔쳐보기 문제가 발생하는 전형적인 시나리오1 Pager로 실험 기간 7일 협의↓3일차에 지표 하락 확인↓ 기획자가 중간 확인 후 판단↓ 실험 조기 중단발생 문제: 중간에 실험을 중단하면 기존 가설 검정에 영향을 주게 되고, 보통 과대 평가된 결과를 얻게 됨통계적 ..