Sự phân bố của tổng các biến thể không iid gaussian là gì?

Nếu được phân phối , được phân phối và , tôi biết rằng được phân phối nếu X và Y độc lập. $X$ $N(\mu_X, \sigma^2_X)$ $Y$ $N(\mu_Y, \sigma^2_Y)$ $Z = X + Y$ $Z$ $N(\mu_X + \mu_Y, \sigma^2_X + \sigma^2_Y)$

Nhưng điều gì sẽ xảy ra nếu X và Y không độc lập, tức là $(X, Y) \approx N\big( (\begin{smallmatrix} \mu_X\\\mu_Y \end{smallmatrix}) , (\begin{smallmatrix} \sigma^2_X && \sigma_{X,Y}\\ \sigma_{X,Y} && \sigma^2_Y \end{smallmatrix}) \big)$

Điều này sẽ ảnh hưởng đến cách tổng được phân phối? $Z$

normal-distribution mathematical-statistics

— JCWong
nguồn

Chỉ muốn chỉ ra rằng có tất cả các loại phân phối chung cho

(X, Y)

$(X,Y)$ khác với bivariate bình thường vẫn có

X

$X$ và

Y

$Y$ bình thường. Và sự khác biệt này sẽ tạo ra một sự khác biệt rất lớn trên các câu trả lời.

@ G.JayKerns Tôi đồng ý rằng nếu

X

$X$ và

Y

$Y$ bình thường nhưng không nhất thiết phải bình thường, thì

X + Y

$X+Y$ có thể có phân phối khác hơn bình thường. Nhưng tuyên bố của OP rằng "

Z

$Z$ được phân phối

N (μ_{x} + μ_{y}, σ_{x}^{2} + σ_{y}^{2})

$N(\mu_x + \mu_y, \sigma^2_x + \sigma^2_y)$ nếu

X

$X$ và

Y

$Y$ là độc lập." là hoàn toàn chính xác. Nếu

X

$X$ và

Y

$Y$ là bình thường bên lề (như phần đầu của câu nói) và độc lập (theo giả định trong phần thứ hai của câu), sau đó chúng cũng là bình thường chung. Trong câu hỏi của OP , tính quy phạm chung được giả định rõ ràng và do đó, bất kỳ sự kết hợp tuyến tính nào của

X

$X$ và

Y

$Y$ là bình thường.

— Dilip Sarwate

@Dilip, hãy để tôi nói rõ rằng không có gì sai với câu hỏi và không có gì sai với câu trả lời của bạn (+1) (hoặc xác suất, hoặc (+1)). Tôi chỉ đơn giản chỉ ra rằng nếu

và

phụ thuộc thì không nhất thiết họ phải bình thường và không rõ ràng rằng OP đã xem xét khả năng đó. Ngoài ra, tôi e ngại (mặc dù tôi đã dành rất nhiều thời gian để suy nghĩ) rằng nếu không có một số giả định khác (như tính quy tắc chung), câu hỏi thậm chí có thể không trả lời được.

X

$X$

Y

$Y$

Như @ G.JayKerns đề cập, tất nhiên chúng ta có thể nhận được tất cả các loại hành vi thú vị nếu chúng ta xem xét bên lề, nhưng không phải là các quy tắc phân phối chung. Dưới đây là một ví dụ đơn giản: Hãy

được tiêu chuẩn bình thường và

với xác suất 1/2 mỗi, độc lập với

. Hãy

. Thì

cũng là chuẩn thông thường, nhưng

chính xác bằng 0 với xác suất 1/2 và bằng

với xác suất 1/2.

X

$X$

ε = \pm 1

$\varepsilon = \pm 1$

X

$X$

Y = ε X

$Y = \varepsilon X$

Y

$Y$

Z = X + Y

$Z = X+Y$

2 X

$2X$

— Đức hồng y

Chúng ta có thể có được một loạt các hành vi khác nhau bằng cách xem xét copula bivariate có liên quan đến

thông qua định lý của Sklar . Nếu chúng ta sử dụng copula Gaussian, thì chúng ta nhận được

là cùng bình thường và do đó

được phân phối bình thường. Nếu copula không phải là copula Gaussian, thì

và

mỗi loại vẫn được phân phối biên dưới dạng quy tắc, nhưng không chung bình thường và do đó, tổng sẽ không được phân phối bình thường.

(X, Y)

$(X,Y)$

(X, Y)

$(X,Y)$

Z = X + Y

$Z = X + Y$

X

$X$

Y

$Y$

— hồng y

Câu trả lời:

Xem nhận xét của tôi về câu trả lời của xác suất cho câu hỏi này . Đây, nơilàhiệp phương saicủavà. Không ai viết các mục off-đường chéo trong ma trận hiệp phương sai như như bạn đã làm. Các mục ngoài đường chéo là hiệp phương sai có thể âm.

\begin{aligned} X + Y & \sim N (μ_{X} + μ_{Y}, σ_{X}^{2} + σ_{Y}^{2} + 2 σ_{X, Y}) \\ a X + b Y & \sim N (a μ_{X} + b μ_{Y}, a^{2} σ_{X}^{2} + b^{2} σ_{Y}^{2} + 2 a b σ_{X, Y}) \end{aligned}

$\begin{align*} X + Y &\sim N(\mu_X + \mu_Y,\; \sigma_X^2 + \sigma_Y^2 + 2\sigma_{X,Y})\\ aX + bY &\sim N(a\mu_X + b\mu_Y,\; a^2\sigma_X^2 + b^2\sigma_Y^2 + 2ab\sigma_{X,Y}) \end{align*}$

σ_{X, Y}

$\sigma_{X,Y}$

X

$X$

Y

$Y$

σ_{x y}^{2}

$\sigma_{xy}^2$

— Dilip Sarwate
nguồn

@Kodiologist Cảm ơn! Tôi ngạc nhiên rằng các lỗi chính tả vẫn không được chú ý trong hơn 4 năm.

— Dilip Sarwate

Câu trả lời của @ Dilip là đủ, nhưng tôi chỉ nghĩ rằng tôi sẽ thêm một số chi tiết về cách bạn đạt được kết quả. Chúng ta có thể sử dụng phương pháp của các hàm đặc trưng. Đối với bất kỳ chiều đa biến bình thường phân phối nơi và $d$ $X\sim N_{d}(\mu,\Sigma)$ $\mu=(\mu_1,\dots,\mu_d)^T$ , hàm đặc trưng được cho bởi: $\Sigma_{jk}=cov(X_j,X_k)\;\;j,k=1,\dots,d$

φ_{X} (t) = E [\exp (i t^{T} X)] = \exp (i t^{T} μ - \frac{1}{2} t^{T} Σ t)

$\varphi_{X}({\bf{t}})=E\left[\exp(i{\bf{t}}^TX)\right]=\exp\left(i{\bf{t}}^T\mu-\frac{1}{2}{\bf{t}}^T\Sigma{\bf{t}}\right)$

= \exp (i \sum_{j = 1}^{d} t_{j} μ_{j} - \frac{1}{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} t_{j} t_{k} Σ_{j k})

$=\exp\left(i\sum_{j=1}^{d}t_j\mu_j-\frac{1}{2}\sum_{j=1}^{d}\sum_{k=1}^{d}t_jt_k\Sigma_{jk}\right)$

Đối với một biến bình thường một chiều ta có: $Y\sim N_1(\mu_Y,\sigma_Y^2)$

φ_{Y} (t) = \exp (i t μ_{Y} - \frac{1}{2} t^{2} σ_{Y}^{2})

$\varphi_Y(t)=\exp\left(it\mu_Y-\frac{1}{2}t^2\sigma_Y^2\right)$

Bây giờ, giả sử chúng ta xác định một biến ngẫu nhiên mới . Đối với trường hợp của bạn, chúng tôi có và . Các chức năng đặc trưng cho là cơ bản giống như đối với . $Z={\bf{a}}^TX=\sum_{j=1}^{d}a_jX_j$ $d=2$ $a_1=a_2=1$ $Z$ $X$

φ_{Z} (t) = E [\exp (i t Z)] = E [\exp (i t a^{T} X)] = φ_{X} (t a)

$\varphi_{Z}(t)=E\left[\exp(itZ)\right]=E\left[\exp(it{\bf{a}}^TX)\right]=\varphi_{X}(t{\bf{a}})$

= \exp (i t \sum_{j = 1}^{d} a_{j} μ_{j} - \frac{1}{2} t^{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} a_{j} a_{k} Σ_{j k})

$=\exp\left(it\sum_{j=1}^{d}a_j\mu_j-\frac{1}{2}t^2\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}\right)$

Nếu chúng ta so sánh chức năng đặc trưng này với các chức năng đặc trưng chúng ta thấy rằng họ là như nhau, nhưng với được thay thế bằng và với được thay thế bằng $\varphi_Y(t)$ $\mu_Y$ $\mu_Z=\sum_{j=1}^{d}a_j\mu_j$ $\sigma_Y^2$ $\sigma^2_Z=\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}$ . Do đó vì hàm đặc trưng của tương đương với hàm đặc trưng của , nên các phân phối cũng phải bằng nhau. Do đó thường được phân phối. Chúng ta có thể đơn giản hóa biểu thức cho phương sai bằng cách lưu ý rằng và chúng ta nhận được: $Z$ $Y$ $Z$ $\Sigma_{jk}=\Sigma_{kj}$

σ_{Z}^{2} = \sum_{j = 1}^{d} a_{j}^{2} Σ_{j j} + 2 \sum_{j = 2}^{d} \sum_{k = 1}^{j - 1} a_{j} a_{k} Σ_{j k}

$\sigma^2_Z=\sum_{j=1}^{d}a_j^2\Sigma_{jj}+2\sum_{j=2}^{d}\sum_{k=1}^{j-1}a_ja_k\Sigma_{jk}$

Đây cũng là công thức chung cho phương sai của tổ hợp tuyến tính của bất kỳ tập hợp biến ngẫu nhiên nào, độc lập hay không, bình thường hay không, trong đó và . Bây giờ nếu chúng ta chuyên và , công thức trên trở thành: $\Sigma_{jj}=var(X_j)$ $\Sigma_{jk}=cov(X_j,X_k)$ $d=2$ $a_1=a_2=1$

σ_{Z}^{2} = \sum_{j = 1}^{2} (1)^{2} Σ_{j j} + 2 \sum_{j = 2}^{2} \sum_{k = 1}^{j - 1} (1) (1) Σ_{j k} = Σ_{11} + Σ_{22} + 2 Σ_{21}

$\sigma^2_Z=\sum_{j=1}^{2}(1)^2\Sigma_{jj}+2\sum_{j=2}^{2}\sum_{k=1}^{j-1}(1)(1)\Sigma_{jk}=\Sigma_{11}+\Sigma_{22}+2\Sigma_{21}$

— xác suất
nguồn

+1 Cảm ơn bạn đã dành thời gian để viết ra các chi tiết. Câu hỏi này có thể là một phần của Câu hỏi thường gặp không?

— Dilip Sarwate