Định lý giới hạn trung tâm cho căn bậc hai của tổng các biến ngẫu nhiên iid

Bị thu hút bởi một câu hỏi tại math.stackexchange và điều tra nó theo kinh nghiệm, tôi tự hỏi về tuyên bố sau đây về căn bậc hai của các biến ngẫu nhiên iid.

Giả sử là các biến ngẫu nhiên có ý nghĩa hữu hạn khác không và phương sai và . Định lý giới hạn trung tâm cho biết khi tăng. $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

Nếu , tôi cũng có thể nói điều gì đó như khi tăng? $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

Ví dụ: giả sử là Bernoulli với trung bình và phương sai , thì là nhị thức và tôi có thể mô phỏng điều này trong R, nói với : $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

cung cấp xấp xỉ trung bình và phương sai cho $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

và một cốt truyện QQ gần với Gaussian

qqnorm(Z)

normal-distribution central-limit-theorem sum

— Henry
nguồn

@MichaelM: Cảm ơn những bình luận đó. Tôi đã bắt đầu với không âm tính, nhưng tôi nghĩ rằng hành vi tiệm cận trực quan mà bạn mô tả cho phép khái quát hóa cho nhiều bản phân phối hơn. Điều ngạc nhiên của tôi là (a) phương sai của căn bậc hai của tổng dường như có xu hướng không đổi không phụ thuộc vào và (b) sự xuất hiện của một phân phối trông rất gần với Gaussian. Một ví dụ ngược lại sẽ được hoan nghênh, nhưng khi tôi thử các trường hợp khác ban đầu có vẻ không phải là Gaussian, việc tăng thêm dường như sẽ đưa phân phối trở lại kết quả kiểu CLT.

X_{i}

$X_i$

n

$n$

n

$n$

— Henry

Một hệ quả của điều này là bình phương trung bình gốc (hay trung bình bậc hai) của các biến ngẫu nhiên iid được chia tỷ lệ phù hợp (nhân với như với một trung bình số học) cũng hội tụ vào phân bố Gaussian với điều kiện là giây thứ của phân phối cơ bản là hữu hạn.

\sqrt{n}

$\sqrt{n}$

4

$4$

— Henry

Chỉ cần một nhận xét ngắn: yêu cầu là một trường hợp đặc biệt của phương pháp Delta, xem Định lý 5.5.24 trong cuốn sách "Suy luận thống kê" của Casella & Berger.

— Michael M

@Michael: Có lẽ bạn thấy một cái gì đó mà tôi không phải lúc này, nhưng tôi không nghĩ vấn đề đặc biệt này phù hợp với các giả định của phương pháp Delta cổ điển (ví dụ, như đã nêu trong định lý mà bạn tham khảo). Lưu ý rằng không hội tụ trong phân phối (không cần thiết trên ) và do đó "áp dụng phương thức Delta với " không thỏa mãn các yêu cầu cần thiết. Tuy nhiên, như câu trả lời của S. Catterall chứng minh, nó cung cấp một heuristic hữu ích dẫn đến câu trả lời đúng.

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— Đức hồng y

(Tôi tin rằng bạn có thể điều chỉnh bằng chứng của phương pháp Delta cho các trường hợp tương tự như trên để thực hiện đầy đủ nghiêm ngặt các heuristic đã nói ở trên.)

— Hồng y

Sự hội tụ đến một Gaussian thực sự là một hiện tượng chung.

Giả sử là các biến ngẫu nhiên IID có nghĩa là và phương sai và xác định tổng . Sửa một số . Định lý giới hạn trung tâm thông thường cho chúng ta biết rằng là , trong đó là tiêu chuẩn cdf bình thường. Tuy nhiên, tính liên tục của cdf giới hạn ngụ ý rằng chúng ta cũng có $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ bởi vì thuật ngữ bổ sung ở phía bên phải của bất đẳng thức có xu hướng bằng không. Sắp xếp lại biểu thức này dẫn đến

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Lấy căn bậc hai và lưu ý rằng ngụ ý rằng , chúng ta thu được Nói cách khác, . Kết quả này cho thấy sự hội tụ đến một Gaussian trong giới hạn là . $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

Điều này có nghĩa là là một xấp xỉ tốt với cho lớn ? Vâng, chúng ta có thể làm tốt hơn thế này. Như @Henry lưu ý, giả sử mọi thứ đều tích cực, chúng ta có thể sử dụng , cùng với và xấp xỉ , để có được xấp xỉ cải thiện như đã nêu trong câu hỏi trên. Cũng lưu ý rằng chúng ta vẫn có vì $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ dưới dạng .

n \to \infty

$n\to\infty$

— S. Catterall phục hồi Monica
nguồn

Bạn có thể cần thêm dưới dạng để nhận kết quả của tôi

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

— Henry

@Henry Bạn có thể thay thế bằng cho mọi hằng số và điều này sẽ không thay đổi phân phối giới hạn, nhưng nó có thể thay đổi mức độ là một xấp xỉ tốt với cho lớn cụ thể . Làm thế nào bạn tìm ra ?

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

— S. Catterall phục hồi lại

Chúng tôi có nên . Giả sử mọi thứ đều tích cực, trong khi mẫu số của đề xuất và kết hợp các dẫn này với .

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

— Henry

Ok, cảm ơn, tôi đã cố gắng bao gồm điều này trong câu trả lời của tôi bây giờ.

— S. Catterall phục hồi lại