[statistics] Central Limit Theorem

**Why sample mean is unbiased estimator**에서 sample mean의 expectation이 정확히 global mean과 같다는 것을 알았다.

여기서는 sample mean distribution에 대해 좀 더 알아보도록 하자.

Q : sample mean 자체는 어떤 분포를 갖는가?

• random sample(size n) : (X1, X2, ..., Xn)

trial	X1	X2	...	Xn	sum(Xi)	sample mean(X')	etc
1	0.8	0.4	...	0.5	0.64*n	0.64	<-- a random sample
2	0.7	0.6	...	0.7	0.67*n	0.67
...

• sample mean S(n)

sample mean X' = (X1 + X2 + ... + Xn)/n = sum(Xi)/n = S(n)

• n → ∞, s(n) → μ

  • 하나의 sample에 대해서, n이 무한대로 커지면, sample mean도 global mean에 근접한다는 것을 알 수 있다.

• random variable X ~ (μ,σ²)

  • S(n) ~ (μ,σ²/2) for large enough n
  • X가 정규분포를 따르는 경우, sample mean S(n)는 n이 충분히 큰 경우
    평균이 μ, 분산이 σ²/2인 정규분포를 따른다.
    (엄밀하게 말하자면, n이 무한으로 커질때)
  • by Central Limit Theorem