Ý nghĩa của căn bậc hai của hiệp phương sai / ma trận chính xác

8

Nói là một biến ngẫu nhiên có hiệp phương sai . Theo định nghĩa , các mục của ma trận hiệp phương sai là hiệp phương sai: Ngoài ra, người ta biết rằng các mục của độ chính xác thỏa mãn: trong đó phía bên tay phải là hiệp phương sai của với dựa trên tất cả các biến khác. $X \in \mathbb{R}^n$ $\Sigma \in \mathbb{R}^{n\times n}$

Σ_{i j} = C o v (X_{i}, X_{j}) .

$\Sigma_{ij} = Cov( X_i,X_j).$

Σ^{- 1}

$\Sigma^{-1}$

Σ_{i j}^{- 1} = C o v (X_{i}, X_{j} | {X_{k}}_{k = 1}^{n} ∖ X_{i}, X_{j}}),

$\Sigma^{-1}_{ij} = Cov(X_i,X_j| \{X_k\}_{k=1}^n \backslash X_i,X_j\}),$

X_{i}

$X_i$

X_{j}

$X_j$

Có một giải thích thống kê cho các mục nhập của một căn bậc hai của hoặc không? Bởi căn bậc hai của một hình vuông ma trận Tôi có nghĩa là bất kỳ ma trận mà . Một phân rã giá trị riêng của các ma trận đã nói không đưa ra cách giải thích khôn ngoan như tôi có thể thấy. $\Sigma$ $\Sigma^{-1}$ $A$ $M$ $M^tM = A$

— Yair Daon
nguồn

1

@kjetilbhalvorsen thêm lời giải thích. Quét một vài chi tiết dưới rugh, mặc dù. Giá trị quy định là gì? Không được đưa ra, vì vậy nó phải được tính trung bình trên tất cả các giá trị.

— Yair Daon

1

Tài khoản tôi đã đưa ra hồi quy, tương quan và phân phối có điều kiện tại stats.stackexchange.com/questions/71260/ợi cung cấp các cấu trúc hình học rõ ràng của hai căn bậc hai khác nhau của ma trận hiệp phương sai. Những ý tưởng hình học này khái quát đến các chiều cao hơn, do đó cung cấp ít nhất hai cách hiểu thống kê nổi tiếng, nổi tiếng (cụ thể là PCA và hồi quy bội).

— whuber

1

Tôi sẽ viết căn bậc hai ma trận của là , để phù hợp với phân tách Cholesky được viết là trong đó là lowtri (tam giác thấp hơn). Vì vậy, hãy để là một vectơ ngẫu nhiên với và . Đặt bây giờ là một vectơ ngẫu nhiên với kỳ vọng 0 và ma trận hiệp phương sai đơn vị. $\Sigma$ $\Sigma=A A^T$ $\Sigma = L L^T$ $L$ $X$ $\DeclareMathOperator{\E}{\mathbb{E}} \DeclareMathOperator{\Cov}{\mathbb{Cov}}\DeclareMathOperator{\Var}{\mathbb{Var}} \E X=\mu$ $\Var X =\Sigma$ $Z$

Lưu ý rằng có (trừ trường hợp vô hướng) vô số căn bậc hai ma trận. Nếu chúng ta để là một trong số đó, thì chúng ta có thể tìm thấy tất cả những cái khác là trong đó là bất kỳ ma trận trực giao nào, nghĩa là, . Điều này được gọi là tự do đơn nhất của căn bậc hai . $A$ $A \mathcal{O}$ $\mathcal{O}$ $\mathcal{O} \mathcal{O}^T = \mathcal{O}^T \mathcal{O} =I$

Chúng ta hãy xem xét một số căn bậc hai ma trận cụ thể.

Đầu tiên một căn bậc hai đối xứng. Sử dụng phân hủy quang phổ để ghi . Sau đó và điều này có thể được hiểu là PCA (phân tích thành phần chính) của . $\Sigma = U \Lambda U^T = U\Lambda^{1/2}(U\Lambda^{1/2})^T$ $\Sigma^{1/2}=U\Lambda^{1/2}$ $\Sigma$
Phân rã Cholesky và là lowtri. Chúng ta có thể biểu diễn là . Nhân ra để có được phương trình vô hướng, chúng ta có một hệ tam giác trong , trong trường hợp chuỗi thời gian có thể được hiểu là biểu diễn MA (trung bình di chuyển). $\Sigma=L L^T$ $L$ $X$ $X=\mu + L Z$ $Z$
Trường hợp tổng quát , bằng cách sử dụng ở trên chúng ta có thể giải thích điều này như là một đại diện MA sau khi xoay . $A= L \mathcal{O}$ $Z$

— kjetil b halvorsen
nguồn

+1 Tính toán căn bậc hai thông qua phân rã phổ, tôi cũng đã thấy . Nhưng điều này sẽ khác với những gì bạn đã đề cập, nhưng cả hai đều hợp lệ, điều đó có đúng không?

Σ^{1 / 2} = U Λ^{1 / 2} U^{T}

$\Sigma^{1/2}=U\Lambda^{1/2}U^{T}$

— NULL

0

Một ma trận nxn có thể có nhiều căn bậc hai như bạn đề cập. Tuy nhiên, một ma trận hiệp phương sai phải là bán xác định dương và một ma trận bán xác định dương chỉ có một căn bậc hai cũng là bán xác định dương. Hãy xem bài viết trên wikipedia có tiêu đề "Căn bậc hai của ma trận".

— Michael R. Chernick
nguồn

3

Tôi không yêu cầu một căn bậc hai đối xứng. Ví dụ, phân tách Cholesky là đủ cho mục đích của câu hỏi này.

— Yair Daon

1

Tôi không nói rằng một thuật ngữ trong ma trận hiệp phương sai không thể âm. Tôi đang nói về một tính chất khác nhau mà ma trận hiệp phương sai ít nhất là tích cực bán xác định.

— Michael R. Chernick

0

Đôi khi mọi người quan tâm đến việc ước tính vị trí của các số 0 trong ma trận chính xác với cùng lý do bạn mô tả ở trên. Nếu là ma trận căn bậc hai của bạn, tức là , thì đối với các nút vì vậy tôi tưởng tượng rằng việc nhìn vào sản phẩm bên trong giữa các cột của ma trận căn bậc hai ước tính của bạn sẽ cho bạn một số số gần giống với hai nút độc lập có điều kiện. Chỉ là một ý tưởng. $M$ $M'M = \Sigma^{-1}$ $i \neq j$

Σ_{i, j}^{- 1} = 0 ⟺ M_{i}^{'} M_{j} = 0

$\Sigma^{-1}_{i,j} = 0 \iff M_i'M_j = 0$

Căn bậc hai của ma trận hiệp phương sai, đó là tỷ lệ. Tôi tưởng tượng mô phỏng một vectơ ngẫu nhiên bình thường tiêu chuẩn, và sau đó nhân trước với ma trận căn bậc hai. Nếu ma trận này là tam giác thấp hơn, thì tôi luôn tưởng tượng thực hiện tất cả các phép nhân nhỏ và bổ sung.

Cũng có những trường hợp riêng lẻ bạn có thể nghĩ về nơi mà các phần tử nhất định của ma trận căn bậc hai chỉ là căn bậc hai của các phần tử riêng lẻ của ma trận hiệp phương sai. Tuy nhiên, điều này không thú vị lắm, vì vậy tôi cho rằng bạn đã nghĩ về điều này.

— Taylor
nguồn