CLT với các biến ngẫu nhiên không thể tích hợp

Bài tập 15.5.1 từ "Lý thuyết xác suất: Một khóa học toàn diện" của Klenke đọc như sau. Tìm một chuỗi của các biến ngẫu nhiên thực độc lập với cho tất cả sao cho Tôi không chắc làm thế nào điều này có thể xảy ra nếu giá trị trung bình thậm chí không được xác định trong trường hợp này. Tất cả các trường hợp tôi có thể nghĩ về các biến có nghĩa là không xác định không thỏa mãn Định lý giới hạn trung tâm với tỷ lệ . Bất kỳ trợ giúp được đánh giá cao. $X_1, X_2, \ldots$ $\mathbb{E}[|X_n|]=\infty$ $n\in \mathbb{N}$

\frac{X_{1} + \dots + X_{n}}{\sqrt{n}} \overset{n \to \infty}{⟹} N (0, 1) .

$\frac{X_1+ \cdots + X_n}{\sqrt{n}} \stackrel{n \to \infty}{\Longrightarrow} N(0,1).$

\sqrt{n}

$\sqrt{n}$

self-study central-limit-theorem

— khách0877
nguồn

Gợi ý: Giảm các khái niệm về các yếu tố cơ bản của chúng. Vì Bình thường là trung tâm của CLT, hãy bắt đầu với iid chuẩn

X_{i}

$X_i$ . Sau đó sửa đổi chúng sao cho (a) mỗi cái có giá trị tuyệt đối dự kiến vô hạn trong khi (b) lượng sửa đổi giảm nhanh với

n

$n$ , do đó, trong phép chia giới hạn bởi

\sqrt{n}

$\sqrt{n}$ "giết chết" phần được sửa đổi. Một cách đơn giản để sửa đổi một biến ngẫu nhiên là thêm một biến khác vào nó.

— whuber

@whuber Quan điểm của bạn là các biến ngẫu nhiên không được cho là phân phối giống hệt nhau? Nếu họ là iid tôi sẽ đồng ý với OP.

— Michael R. Chernick

@whuber Cũng có câu trả lời yêu cầu rằng chỉ Xn có ý nghĩa vô hạn.

— Michael R. Chernick

Tôi đoán "cho tất cả n" có nghĩa là tất cả các Xi có giá trị tuyệt đối có nghĩa là vô hạn. Tôi đang cố gắng cẩn thận ở đây. Tôi muốn hiểu gợi ý của bạn nhưng không nói điều gì mang lại giải pháp cho OP.

— Michael R. Chernick

@Michael Nếu họ là iid thì kết quả sẽ không đúng. Ý tưởng là làm cho một phần của khiến cho kỳ vọng vô hạn sẽ ngày càng ít có cơ hội xảy ra khi tăng. Một cách tốt để làm điều đó là với một hỗn hợp.

X_{n}

$X_n$

n

$n$

— whuber

Trong số nhiều cách để giải quyết vấn đề này, việc xây dựng chuỗi bằng cách làm nhiễu một biến Bình thường tiêu chuẩn có vẻ như đơn giản và thanh lịch nhất.

Cuối cùng, tôi nhận xét về kết nối với Định lý giới hạn trung tâm.

Chức năng đặc trưng

Cho phép tôi một hồi quy trước khi tôi trình bày một giải pháp. Cảm hứng cho kỹ thuật sẽ được sử dụng xuất phát từ ý tưởng rằng có nhiều hơn một cách để mô tả phân phối của bất kỳ biến ngẫu nhiên . Phổ biến nhất và trực tiếp nhất là hàm phân phối của nó . Một thay thế gián tiếp nhưng cực kỳ hữu ích là chức năng đặc trưng của nó $X$ $F_X(x)=\Pr(X\le x)$

ψ_{X} (t) = E [e^{i t X}] = E [\cos (t X)] + i E [\sin (t X)] .

$\psi_X(t) = E\left[e^{itX}\right] = E\left[\cos(t X)\right] + i\, E\left[\sin(t X)\right].$

Vì cho tất cả , được xác định cho mọi phân phối (và các giá trị của nó cho tất cả không thể vượt quá về kích thước). Hơn nữa, và có cùng phân phối khi và chỉ khi chúng có cùng chức năng đặc trưng. Thậm chí tốt hơn là Định lý liên tục của Lévy: Một chuỗi hội tụ trong phân phối cho một biến ngẫu nhiên khi và chỉ khi với mọi chuỗi hội tụ đến một giá trị và hàm $|e^{itX}|=1$ $t$ $\psi_F$ $F$ $t$ $1$ $X$ $Y$ $X_n$ $X$ $t$ $\phi_{X_n}(t)$ $\psi(t)$ $\psi$ là liên tục tại . (Tất cả các chức năng đặc trưng là liên tục tại ). Trong trường hợp đó, là chức năng đặc trưng của . $0$ $0$ $\psi$ $X$

Một thuộc tính đáng yêu khác được các hàm đặc trưng yêu thích là mối quan hệ của chúng với các kết hợp tuyến tính: khi và là các biến ngẫu nhiên (trên cùng một không gian xác suất và và là các số thực, $X$ $Y$ $\alpha$ $\beta$

\begin{matrix} (1) & ψ_{α X + β Y} (t) = ψ_{X} (α t) ψ_{Y} (β t) . \end{matrix}

$\psi_{\alpha X+\beta Y}(t) = \psi_X(\alpha t)\psi_Y(\beta t).\tag{1}$

Điều này làm cho các hàm đặc trưng (cfs) trở thành một công cụ phù hợp để nghiên cứu sự nhiễu loạn của các biến ngẫu nhiên đạt được bằng cách thêm một lượng nhỏ các biến ngẫu nhiên vào chúng: đó là các biến ngẫu nhiên có dạng chonhỏ. $X$ $Y$ $X+\beta Y$ $|\beta|$

Giải pháp

Xây dựng trình tự

Hãy xây dựng một giải pháp bằng cách bắt đầu với một biến bình thường tiêu chuẩn và tạo thành một chuỗi độc lập với sự phân bố giống như . Điều này rõ ràng có thuộc tính giới hạn mà chúng ta muốn: các phương tiện đều là chuẩn Bình thường, vì vậy trong giới hạn trung bình là chuẩn Bình thường. $Z$ $Z_1, Z_2, \ldots, Z_n, \ldots$ $Z$

Cf của nó là

\begin{matrix} (2) & ψ_{Z} (t) = e^{- t^{2} / 2} . \end{matrix}

$\psi_Z(t) = e^{-t^2/2}.\tag{2}$

Đối với các nhiễu loạn, chọn một số biến ngẫu nhiên với kỳ vọng vô hạn. Sẽ thuận tiện cho khi có một cf dễ làm việc. Tôi muốn đề xuất Phân phối Lévy ( còn gọi là Phân phối ổn định với phân phối hoặc Inverse Gamma ) $Y$ $Y$ $\alpha=1/2,\ \beta=1$ $(1/2,1/2)$

ψ_{Y} (t) = e^{- \sqrt{| t |} (1 - i sgn (t))} .

$\psi_Y(t) = e^{-\sqrt{|t|}\,(1 - i \operatorname{sgn}(t))}.$

(Đối với , ; với ) $t\gt 0$ $\operatorname{sgn}(t)=1$ $t \lt 0,$ $\operatorname{sgn}(t)=-1$

Phân phối này được hỗ trợ trên và không có thời điểm hữu hạn. $(0,\infty)$

Đối với chuỗi các biến thông thường tiêu chuẩn hãy thêm bội số dương của nhỏ hơn bao giờ hết . $(Z_n)$ $Y$ (Tích cực là không cần thiết nhưng nó giúp làm việc với hàm dễ dàng hơn.) Hãy để chuỗi bội số là được xác định. Như vậy, chuỗi các biến ngẫu nhiên được định nghĩa là nơi là một chuỗi iid của các biến ngẫu nhiên với sự phân bố giống như . $\operatorname{sgn}$ $p_1,p_2,p_3,\ldots,$

X_{n} = Z_{n} + p_{n} Y_{n}

$X_n=Z_n + p_n Y_n$

(Y_{n})

$(Y_n)$

Y

$Y$

Trực giác

Điều chúng ta cần lo lắng là liệu các nhiễu loạn có tệ đến mức chúng phá hỏng sự hội tụ thành một phân phối chuẩn thông thường hay không. Đối với những người có kinh nghiệm với các bản phân phối có đuôi nặng như vậy, đây là một mối quan tâm thực sự: sẽ luôn có một xác suất tích cực rằng một chút được thêm vào đôi khi sẽ đưa ra một số tiền lớn như vậy mà nó áp đảo tổng một phần . Toàn bộ lý do sử dụng các chức năng đặc trưng là để chứng minh điều này sẽ không xảy ra trong thời gian dài, với điều kiện chúng tôi giảm lượng nhiễu loạn ( ) đủ nhanh. $Y_n$ $Z_n$ $S_n$ $p_n$

Tính toán chính thức

Đầu tiên, có kỳ vọng vô hạn vì $X_n$

E [X_{n}] = E [Z_{n} + p_{n} Y_{n}] = E [Z] + p_{n} E [Y] = p_{n} E [Y]

$E[X_n] = E[Z_n + p_n Y_n] = E[Z] + p_n E[Y] = p_n E[Y]$

phải là vô hạn vì là vô hạn. Do đó, chuỗi này thỏa mãn tất cả các yêu cầu của vấn đề. $E[Y]$ $(X_n)$

Hãy chuyển sang phân tích các phương tiện một phần. Áp dụng lặp lại cho trung bình một phần $(1)$

S_{n} = \frac{X_{1} + X_{2} + \dots + X_{n}}{\sqrt{n}}

$S_n = \frac{X_1 + X_2 + \cdots + X_n}{\sqrt{n}}$

cho

\begin{matrix} (3) & \begin{aligned} ψ_{S_{n}} (t) & = [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{1} t / \sqrt{n})] \dots [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{n} t / \sqrt{n})] \\ = [e^{- (t / \sqrt{n})^{2} / 2} \dots e^{- (t / \sqrt{n})^{2} / 2}] [ψ_{Y} (p_{1} t / \sqrt{n}) \dots ψ_{Y} (p_{n} t / \sqrt{n})] \\ = e^{- t^{2} / (2 n) - t^{2} / (2 n) - \dots - t^{2} / (2 n)} e^{\sqrt{| p_{1} t / \sqrt{n} |} (- 1 + i sgn (p_{1} t / \sqrt{n})} \dots e^{\sqrt{| p_{n} t / \sqrt{n} |} (- 1 + i sgn (p_{n} t / \sqrt{n})} . \end{aligned} \end{matrix}

$\eqalign{ \psi_{S_n}(t) &= \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_1 t/\sqrt{n})}\right] \cdots \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_n t/\sqrt{n})}\right] \\ &= \left[e^{-(t/\sqrt{n})^2/2} \cdots e^{-(t/\sqrt{n})^2/2}\right] \left[\color{Blue}{\psi_Y(p_1t/\sqrt{n}) \cdots \psi_Y(p_nt/\sqrt{n})}\right] \\ &= e^{-t^2/(2n) - t^2/(2n) - \cdots - t^2/(2n)}\quad \color{Blue}{e^{\sqrt{|p_1t/\sqrt{n}|}(-1+i\operatorname{sgn}(p_1t/\sqrt{n})} \cdots e^{\sqrt{|p_nt/\sqrt{n}|}(-1+i\operatorname{sgn}(p_nt/\sqrt{n})} }.\tag{3} }$

Thu thập sức mạnh đen của mang lại sức mạnh trong khi thu thập sức mạnh màu xanh (đến từ các nhiễu loạn) mang lại $e$ $-t^2/2$

\begin{matrix} (4) & \sum_{i = 1}^{n} \sqrt{| p_{i} t / \sqrt{n} |} (- 1 + i sgn (p_{i} t / \sqrt{n})) = \sqrt{| t |} (- 1 + i sgn (t)) \frac{\sum_{i = 1}^{n} \sqrt{p_{i}}}{n^{1 / 4}} \end{matrix}

$\sum_{i=1}^n \color{blue}{\sqrt{|p_it/\sqrt{n}|}(-1+i\operatorname{sgn}(p_it/\sqrt{n}))} = \sqrt{|t|}(-1+i\operatorname{sgn}(t))\frac{\sum_{i=1}^n \sqrt{p_i}}{n^{1/4}}\tag{4}$

bởi vì và tất cả các đều dương. Vì , với bất kỳ cố định nào , giá trị của sẽ về 0 khi tăng được cung cấpMột cách để thực hiện điều này là làm cho tổng của hội tụ: lấy , chẳng hạn. Sau đó $n$ $p_i$ $|-1 + i\operatorname{sgn}(t)| \le \sqrt{2}$ $t$ $(4)$ $n$ $\sum_{i=1}^n\sqrt{p_i} = o(n^{-1/4}).$ $\sqrt{p_i}$ $p_i = 2^{-2i}$

\frac{1}{n^{1 / 4}} \sum_{i = 1}^{n} \sqrt{p_{i}} \leq \frac{1}{n^{1 / 4}} (1 / 2 + 1 / 4 + \dots + 1 / 2^{n} + \dots) = \frac{1}{n^{1 / 4}} \to 0.

$\frac{1}{n^{1/4}} \sum_{i=1}^n \sqrt{p_i} \le \frac{1}{n^{1/4}} (1/2+1/4+\cdots+1/2^n+\cdots) = \frac{1}{n^{1/4}}\to 0.$

Do đó, vì số mũ liên tục ở , các số hạng màu xanh lam hội tụ đến : chúng không ảnh hưởng đến giới hạn. Chúng tôi kết luận hội tụ thành . Vì đây là cf của phân phối chuẩn, nên Định lý liên tục của Lévy ngụ ý hội tụ thành phân phối chuẩn, QED . $0$ $(3)$ $e^0=1$ $(\psi_{S_n})$ $\psi_X$ $S_n$

Bình luận

Các ý tưởng hiển thị ở đây có thể được khái quát. Chúng tôi không cần là chuẩn Bình thường; điều này đủ (theo Định lý giới hạn trung tâm thông thường) rằng chúng là iid với giá trị trung bình và phương sai đơn vị bằng không. Có vẻ như chúng tôi đã thiết lập một phần mở rộng của CLT: các phân phối phương tiện của một chuỗi các biến ngẫu nhiên độc lập, ngay cả những biến có kỳ vọng và phương sai vô hạn , có thể (khi được chuẩn hóa phù hợp) có thể hội tụ thành phân phối chuẩn, cung cấp "phần vô hạn" của các biến ngẫu nhiên phát triển nhỏ đủ nhanh chóng. $X_n$

— whuber
nguồn