Phương sai của tổ hợp tuyến tính của các biến ngẫu nhiên tương quan

Tôi hiểu bằng chứng rằng nhưng tôi không hiểu làm thế nào để chứng minh sự khái quát hóa cho các kết hợp tuyến tính tùy ý.

$$Var(aX+bY) = a^2Var(X) +b^2Var(Y) + 2abCov(X,Y),$$

Đặt là vô hướng cho để chúng ta có một vectơ và là một vectơ của các biến ngẫu nhiên tương quan. Sau đó, Làm thế nào để chúng tôi chứng minh điều này? Tôi tưởng tượng có bằng chứng trong ký hiệu tổng hợp và ký hiệu vectơ?$a_i$$i\in {1,\dots ,n}$$\underline a$$\underline X = X_i,\dots ,X_n$

$$Var(a_1X_1 + \dots a_nX_n) = \sum_{i=1}^n a_i^2 \sigma_i^2 + 2 \sum_{i=1}^n \sum_{j>i}^n a_i a_j \text{ Cov}(X_i,X_j)$$

Đây chỉ là một bài tập trong việc áp dụng các tính chất cơ bản của tổng, tính tuyến tính của kỳ vọng và định nghĩa về phương sai và hiệp phương sai

Lưu ý rằng trong bước cuối cùng đó , chúng tôi cũng đã xác định cov(Xi,Xi)là phương sai var(

$$\begin{align} \operatorname{var}\left(\sum_{i=1}^n a_i X_i\right) &= E\left[\left(\sum_{i=1}^n a_i X_i\right)^2\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{one definition of variance}}\\ &= E\left[\sum_{i=1}^n\sum_{j=1}^n a_i a_j X_iX_j\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \left(\sum_{i=1}^n a_i E[X_i]\right)^2 &\scriptstyle{\text{linearity of expectation}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \sum_{i=1}^n \sum_{j=1}^n a_ia_j E[X_i]E[X_j] &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j \left(E[X_iX_j] - E[X_i]E[X_j]\right)&\scriptstyle{\text{combine the sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{apply a definition of covariance}}\\ &= \sum_{i=1}^n a_i^2\operatorname{var}(X_i) + 2\sum_{i=1}^n \sum_{j\colon j > i}^n a_ia_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{re-arrange sum}}\\ \end{align}$$ $\operatorname{cov}(X_i,X_i)$ .$\operatorname{var}(X_i)$

Bạn thực sự có thể làm điều đó bằng cách đệ quy mà không cần sử dụng ma trận:

Lấy kết quả cho và cho Y 1 = a 2 X 2 + Y 2 .$\text{Var}(a_1X_1+Y_1)$$Y_1=a_2X_2+Y_2$

$\text{Var}(a_1X_1+Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,Y_1)+\text{Var}(Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,a_2X_2+Y_2)+\text{Var}(a_2X_2+Y_2)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1a_2\text{Cov}(X_1,X_2)+2a_1\text{Cov}(X_1,Y_2)+\text{Var}(a_2X_2+Y_2)$

Sau đó tiếp tục thay thế và sử dụng các kết quả cơ bản tương tự, sau đó ở bước cuối cùng sử dụng Y n - 1 = a n X $Y_{i-1}=a_iX_i+Y_i$$Y_{n-1}=a_nX_n$

Với các vectơ (vì vậy kết quả phải là vô hướng):

$\text{Var}(a'\,X)=a'\,\text{Var}(X)\,a$

Hoặc với một ma trận (kết quả sẽ là một ma trận phương sai hiệp phương sai):

$\text{Var}(A\,X)=A\,\text{Var}(X)\,A'$

Điều này có lợi thế là cho hiệp phương sai của các tổ hợp tuyến tính khác nhau có hệ số là các hàng của trên các phần tử nằm ngoài đường chéo trong kết quả.$A$

Ngay cả khi bạn chỉ biết kết quả đơn biến, bạn có thể xác nhận những kết quả này bằng cách kiểm tra từng yếu tố.

Về cơ bản, bằng chứng giống như công thức đầu tiên. Tôi sẽ chứng minh nó sử dụng một phương pháp rất tàn bạo.

$Var(a_1X_1+...+a_nX_n)=E[(a_1X_1+..a_nX_n)^2]-[E(a_1X_1+...+a_nXn)]^2 =E[(a_1X_1)^2+...+(a_nX_n)^2+2a_1a_2X_1X_2+2a_1a_3X_1X_3+...+2a_1a_nX_1X_n+...+2a_{n-1}a_nX_{n-1}X_n]-[a_1E(X1)+...a_nE(X_n)]^2$

$=a_1^2E(X_1^2)+...+a_n^2E(X_n^2)+2a_1a_2E(X_1X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-a_1^2[E(X_1)]^2-...-a_n^2[E(X_n)]^2-2a_1a_2E(X_1)E(X_2)-...-2a_{n-1}a_nE(X_{n-1})E(X_n)$

$=a_1^2E(X_1^2)-a_1^2[E(X_1)]^2+...+a_n^2E(X_n^2)-a_n^2[E(Xn)]^2+2a_1a_2E(X_1X_2)-2a_1a_2E(X_1)E(X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)$

Tiếp theo chỉ cần lưu ý:

$a_n^2E(X_n^2)-a_n^2[E(X_n)]^2=a_n\sigma_n^2$

và

$2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)=2a_{n-1}a_nCov(X_{n-1},Xn)$

Chỉ để cho vui, bằng chứng bằng cảm ứng!

$P(k)$$Var[\sum_{i=1}^k a_iX_i] = \sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]$

$P(2)$

Giả sử P (k) là đúng. Như vậy

$Var[\sum_{i=1}^{k+1} a_iX_i] = Var[\sum_{i=1}^{k} a_iX_i + a_{k+1}X_{k+1}]$

$=Var[\sum_{i=1}^{k} a_iX_i] + Var[a_{k+1}X_{k+1}] + 2 Cov[\sum_{i=1}^{k} a_iX_i,a_{k+1}X_{k+1}]$

$=\sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]+ a_{k+1}^2\sigma_{k+1}^2 + 2Cov[\sum_{i=1}^{k} a_iX_i, a_{k+1}X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j] + 2\sum_{i=1}^ka_ia_{k+1}Cov[X_i, X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^{k+1} \sum _{j>i}^{k+1} a_ia_jCov[X_i, X_j]$

Như vậy $P(k+1)$ là đúng.

Vì vậy, bằng cảm ứng,

$Var[\sum_{i=1}^n a_iX_i] = \sum_{i=1}^n a_i^2\sigma_i^2 + 2\sum_{i=1}^n \sum _{j>i}^n a_ia_jCov[X_i, X_j]$ cho tất cả các số nguyên $n \geq 2$.