One-step Estimator

정의

일단계 추정량(one-step estimator)은 플러그-인(plug-in) 추정값 $\psi(\hat P)$에 추정된 EIF의 경험평균을 더해 1차 편향(bias)을 교정한 추정량이다. $\hat\psi_{\text{os}}=\psi(\hat P)+\frac{1}{n}\sum_{i=1}^n\phi(O_i;\hat P).$ 이는 효율적 추정방정식을 향한 한 번의 Newton 스텝에 해당한다. Cross-fitting(Donsker 조건을 회피한다)을 적용하고 nuisance 수렴 속도(convergence rate)가 $o_p(n^{-1/4})$일 때 이 추정량은 $\sqrt n$-일치성(consistency)·점근효율·double robust 성질을 모두 갖는다. ATE의 AIPW가 대표적인 일단계 추정량이다.

직관적 이해

“예측(plug-in)은 편향돼 있으니 영향함수(influence function)로 그 1차 편향을 빼준다”가 핵심 아이디어다. von Mises 전개의 잔차 $R_2$가 이차항이라 nuisance가 다소 느리게 수렴해도 $\sqrt n$ 수렴이 보장된다.

관련 개념

• Influence Function · Efficient Influence Function · AIPW · TMLE(대안 보정) · Cross-fitting · Double Machine Learning

참고 논문

• Kennedy, “Semiparametric DR targeted DML: a review”, arXiv:2203.06469, 2022
• Pfanzagl (one-step/von Mises 계보); Tsiatis 2006