Trực giác đằng sau sự độc lập của và , gì?

18

Tôi đã hy vọng ai đó có thể đề xuất một đối số giải thích tại sao các biến ngẫu nhiên và , có phân phối chuẩn thông thường, độc lập thống kê. Bằng chứng cho thực tế đó dễ dàng theo sau từ kỹ thuật MGF, nhưng tôi thấy nó cực kỳ phản trực giác. $Y_1=X_2-X_1$ $Y_2=X_1+X_2$ $X_i$

Do đó, tôi sẽ đánh giá cao trực giác ở đây, nếu có.

Cảm ơn bạn trước.

EDIT : Các mục con không cho biết Thống kê đơn hàng nhưng các quan sát IID từ phân phối chuẩn thông thường.

probability self-study mathematical-statistics

— JohnK
nguồn

"Kỹ thuật MGF" là gì?

— amip nói phục hồi Monica

@amoeba Đó là việc sử dụng các hàm tạo mô men để xác định phân phối của một biến ngẫu nhiên. Trong trường hợp của tôi, tôi đề cập đến định lý rằng và độc lập khi và chỉ khi , bằng . Chọn bất kỳ kỹ thuật nào khác và tôi tin rằng bạn sẽ đạt được kết quả tương tự.

Y_{1}

$Y_1$

Y_{2}

$Y_2$

M (t_{1}, t_{2}) = M (t_{1}, 0) \times M (0, t_{2})

$M(t_1,t_2)=M(t_1,0) \times M(0,t_2)$

M (t_{1}, t_{2})

$M(t_1,t_2)$

E (e^{t_{1} Y_{1} + t_{2} Y_{2}})

$E(e^{t_1Y_1+t_2Y_2})$

— JohnK

1

Bạn có thể tìm thấy một số cái nhìn sâu sắc trong chuỗi liên quan chặt chẽ tại stats.stackexchange.com/questions/71260 .

— whuber

Bạn có thể nhận được một số trực giác bằng cách xem xét những gì xảy ra với mỗi người trong số này nếu bạn thêm một số không đổi, chẳng hạn , để mỗi . Và điều gì xảy ra nếu bạn nhân mỗi với một hằng số, giả sử

μ

$\mu$

X

$X$

X

$X$

σ

$\sigma$

— rvl

1

Liên quan chặt chẽ: Tham chiếu cho tổng và hiệu của các biến tương quan cao gần như không tương quan .

— gung - Phục hồi Monica

22

Đây là dữ liệu phân phối chuẩn thông thường: âm mưu phân tán trong hệ tọa độ đầu tiên Lưu ý rằng phân phối là đối xứng tuần hoàn.

Khi bạn chuyển sang và , bạn xoay và chia tỷ lệ trục một cách hiệu quả, như thế này: Hệ tọa độ mới này có cùng nguồn gốc với trục gốc và trục là trực giao. Do tính đối xứng tuần hoàn, các biến vẫn độc lập trong hệ tọa độ mới. $Y_1 = X_2 - X_1$ $Y_2 = X_1 + X_2$ biểu đồ phân tán với hệ tọa độ xoay

— dobiwan
nguồn

4

Kết quả được áp dụng ngay cả khi và tương quan với tỷ lệ lợi nhuận bình thường đơn vị. Vì vậy, lời giải thích của bạn chỉ bao gồm một chữ con của kết quả ban đầu. Tuy nhiên, ý tưởng cơ bản ở đây là âm thanh.

X_{1}

$X_1$

X_{2}

$X_2$

— Glen_b -Reinstate Monica

1

@Glen_b, vâng, bạn đúng. Tôi muốn tập trung vào một trường hợp đơn giản, vì JohnK dường như đã biết cách chứng minh trường hợp chung, nhưng thiếu sự hiểu biết trực quan.

— dobiwan

7

Kết quả hoạt động cho cùng bình thường (nghĩa là có tương quan, ), với . $(X_1,X_2)$ $-1<\rho<1$ $\sigma$

Nếu bạn biết một vài kết quả cơ bản, đây là tất cả những gì bạn cần:

$\quad\quad\quad$ nhập mô tả hình ảnh ở đây

Cách tiếp cận của dobiwan về cơ bản là tốt - chỉ là kết quả chung chung hơn so với trường hợp được giải quyết ở đó.

— Glen_b -Reinstate Monica
nguồn

3

+1 để tước kết quả mong muốn xuống mức cần thiết. Tôi sẽ thêm rằng trong trường hợp tổng quát hơn về tính quy tắc chung với các phương sai không bằng nhau, một trục xoay của thay vì ẩn trong tạo ra ngẫu nhiên bình thường độc lập biến.

θ = = \frac{1}{2} hồ quang (\frac{2 ρ \cdot σ_{1} σ_{2}}{σ_{1}^{2} - σ_{2}^{2}})

$\theta = \frac{1}{2}\arctan\left ( \frac{2\rho\cdot\sigma_1\sigma_2}{\sigma_1^2 - \sigma_2^2}\right )$

\pm \frac{π}{4}

$\pm \frac{\pi}{4}$

(X_{1}, X_{2}) \to (X_{1} + X_{2} . X_{1} - X_{2})

$(X_1,X_2) \to (X_1+X_2. X_1-X_2)$

— Dilip Sarwate

6

Kết quả mà bạn cho là đúng là không đúng nói chung, thậm chí không đúng với trường hợp khi tất cả những gì được biết là và là các biến ngẫu nhiên bình thường có phương sai giống hệt nhau, nhưng kết quả không đúng với cách giải thích thông thường về điều kiện bạn đã nêu một lát sau: $X_1$ $X_2$

Các chỉ số không chỉ ra Thống kê Đơn hàng mà là các quan sát từ phân phối chuẩn thông thường.

Tất nhiên, cách giải thích thông thường của một vài từ cuối cùng trong tuyên bố này là và là các biến ngẫu nhiên độc lập (bình thường) và do đó các biến ngẫu nhiên bình thường chung . $X_1$ $X_2$

Đối với các biến ngẫu nhiên bình thường chung có phương sai giống hệt nhau, đúng là và là các biến ngẫu nhiên (bình thường) độc lập (với, nói chung, phương sai không bằng nhau) và giải thích trực quan cho điều này được đưa ra tốt nhất trong câu trả lời của Glen_b. Cho bạn trường hợp đặc biệt của và là độc lập là tốt, câu trả lời dobiwan, mà bạn đã chấp nhận, là đơn giản nhất, và thực sự cho thấy bất kỳ quay của trục, không chỉ bởi ngầm trong phép chuyển đổi , sẽ mang lại các biến ngẫu nhiên độc lập. $X_1+X_2$ $X_1-X_2$ $X_1$ $X_2$ $\pm \frac{\pi}{4}$ $(X_1,X_2)\to (X_1+X_2, X_1-X_2)$

Những gì có thể nói chung? Trong tất cả mọi thứ tôi nói dưới đây, xin lưu ý rằng và có cùng phương sai , bất kể các thuộc tính nào khác có thể được quy cho chúng. $X$ $Y$

Nếu và là bất kỳ biến ngẫu nhiên nào (lưu ý: không nhất thiết là bình thường) có phương sai giống hệt nhau, thì và là các biến ngẫu nhiên không tương quan (nghĩa là chúng có hiệp phương sai bằng 0). Điều này là do hàm hiệp phương sai là song tuyến : Ở đây chúng tôi đã sử dụng thực tế rằng chỉ là phương sai $X$ $Y$ $X+Y$ $X-Y$

\begin{aligned} cov (X + Y, X - Y) & = = cov (X, X) - cov (X, Y) + cov (Y, X) - cov (Y, Y) \\ = = var (X) - cov (X, Y) + cov (X, Y) - var (Y) \\ = = 0. \end{aligned}

$\begin{align} \operatorname{cov}(X+Y, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) + \operatorname{cov}(Y,X) - \operatorname{cov}(Y,Y)\\ &= \operatorname{var}(X) - \operatorname{cov}(X,Y) + \operatorname{cov}(X,Y) - \operatorname{var}(Y)\\ &= 0. \end{align}$

cov (X, X)

$\operatorname{cov}(X,X)$

var (X)

$\operatorname{var}(X)$ của (và tương tự với ) và, tất nhiên, . Lưu ý rằng kết quả này giữ khi và là (các biến ngẫu nhiên bình thường) nhưng không nhất thiết phải là các biến ngẫu nhiên bình thường chung . (Nếu bạn không quen thuộc với khái niệm này về tính quy tắc cận biên không giống với quy tắc chung, hãy xem câu trả lời tuyệt vời này của hồng y). Trong trường hợp đặc biệt khi và là các biến ngẫu nhiên bình thường chung (nhưng không nhất thiết phải độc lập), thì và

X

$X$

Y

$Y$

cov (Y, X) = cov (X, Y)

$\operatorname{cov}(Y,X) = \operatorname{cov}(X,Y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X + Y

$X+Y$

X - Y

$X-Y$ cùng bình thường và vì hiệp phương sai của chúng là , và là các biến ngẫu nhiên độc lập.

0

$0$

X + Y

$X+Y$

X - Y

$X-Y$

— Dilip Sarwate
nguồn

2

Trước tiên tôi cho rằng phân phối giống hệt nhau rằng trung bình có điều kiện của điều kiện trên là hằng số . Dựa trên điều này, tôi lập luận rằng hiệp phương sai của là 0. Sau đó, theo quy tắc, hiệp phương sai bằng không ngụ ý độc lập. $X_1,X_2$ $Y_1$ $Y_2$ $0$ $Y_1,Y_2$

Nghĩa trung bình

$X_1+X_2=y$ $X_1=x, X_2 = y-x$ $X_1 = y-x, X_2=x$

$X_1$ $X_2$ $X_1+X_2$ $X_1 \mid Y_2 = y$ $X_2 \mid Y_2 = y$

E (Y_{1} | Y_{2} = = y) = = E (X_{1} - X_{2} | X_{1} + X_{2} = = y) = = E (X_{1} | X_{1} + X_{2} = = y) - E (X_{2} | X_{1} + X_{2} = = y) = = 0.

$\begin{equation} \mathbb{E}(Y_1 \mid Y_2 = y) = \mathbb{E}(X_1 - X_2 \mid X_1+X_2 = y) \\ = \mathbb{E}(X_1 \mid X_1+X_2 = y) - \mathbb{E}(X_2 \mid X_1+X_2 = y)= 0. \end{equation}$

(Hãy cẩn thận: Tôi đã không xem xét khả năng có nghĩa là điều kiện có thể không tồn tại.)

Trung bình điều kiện không đổi ngụ ý không tương quan / hiệp phương sai

$Y_1$ $Y_2$ $Y_2$ $Y_1$ $Y_1$ $Y_2$

C o v (Y_{1}, Y_{2}) = = E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2}))]

$\begin{equation} Cov(Y_1,Y_2) = \mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right)\right] \end{equation}$

Y_{2}

$Y_2$

= = E [E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2})) | Y_{2}]] = = E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1}) | Y_{2}]] .

$\begin{equation} = \mathbb{E}\left[\mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right) \mid Y_2\right]\right] = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1 - \mathbb{E}(Y_1) \mid Y_2\right] \right]. \end{equation}$

Y_{2}

$Y_2$

= = E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1})]]

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1-\mathbb{E}(Y_1)\right]\right] \end{equation}$

0

$0$

= = E [(Y_{2} - E (Y_{2})) \times 0] = = 0.

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\times0\right] = 0. \end{equation}$

Sự độc lập

$X_1,X_2$ $Y_1$ $Y_2$ $X_1,X_2$ $Y_1,Y_2$

— Juho Kokkala
nguồn