Làm thế nào để giải thích một ma trận hiệp phương sai hoặc ma trận chính xác?


64

Tôi đã tự hỏi liệu có ai có thể chỉ cho tôi một số tài liệu tham khảo thảo luận về việc giải thích các yếu tố của ma trận hiệp phương sai nghịch đảo, còn được gọi là ma trận nồng độ hoặc ma trận chính xác.

Tôi có quyền truy cập vào Phụ thuộc đa biến của Cox và Wermuth , nhưng điều tôi đang tìm kiếm là một cách giải thích cho từng yếu tố trong ma trận nghịch đảo. Wikipedia khẳng định : "Các yếu tố của ma trận chính xác có một giải thích về mối tương quan từng phần và chênh lệch một phần", mà dẫn tôi đến đây trang. Có một giải thích mà không sử dụng hồi quy tuyến tính? IE, về mặt hiệp phương sai hay hình học?


4
bạn đã đọc toàn bộ trang Wikipedia chưa? Có một phần về hình học và về sự độc lập có điều kiện cho phân phối bình thường. Bạn có thể tìm thấy nhiều hơn trong cuốn sách này .
NRH

@NRH Hình học được giải thích trong trang tương quan một phần, tôi thậm chí không chắc nó liên quan đến ma trận nồng độ như thế nào. Cuốn sách mô hình đồ họa đó có giải thích về các yếu tố của ma trận nồng độ không? Cảm ơn!
Vinh Nguyễn

xem câu trả lời dưới đây
NRH

Câu trả lời:


34

Về cơ bản có hai điều để nói. Đầu tiên là nếu bạn nhìn vào mật độ của phân phối chuẩn nhiều biến số (với giá trị trung bình 0 ở đây) thì tỷ lệ thuận với trong đóP=Σ-1là nghịch đảo của ma trận hiệp phương sai, còn được gọi là độ chính xác. Ma trận này là tích cực nhất định và xác định qua (x,y)xTPy mộtsản phẩm bêntrênRp. Hình học kết quả, mang lại ý nghĩa cụ thể cho khái niệm trực giao và xác định một quy tắc liên quan đến phân phối chuẩn, rất quan trọng, và để hiểu, ví dụ, nội dung hình học củaLDAbạn cần xem mọi thứ dưới ánh sáng của hình học đã cho bởi

exp(12xTPx)
P=Σ1
(x,y)xTPy
Rp .P

PPXiXji,jPXiXjđưa ra tất cả các biến khác. Đây là những gì cuốn sách Steffens, mà tôi đã đề cập trong bình luận ở trên, là tất cả về. Độc lập có điều kiện và mô hình đồ họa. Nó có một điều trị khá đầy đủ của phân phối bình thường, nhưng nó có thể không dễ dàng để làm theo.


1
pijpiipjj

1
@ Sh3ljohn, bạn hoàn toàn đúng. Có một điểm trừ trong công thức Wikipedia.
NRH

Không phải câu trả lời đầu tiên thực sự nói nhiều về thông tin của Fisher hơn là ma trận chính xác? Ý tôi là chúng trùng khớp trong trường hợp Gaussian thực sự đặc biệt / tốt đẹp, nhưng nhìn chung chúng không trùng khớp. Rõ ràng hai khái niệm này có liên quan với nhau (Cramer-Rao giới hạn dưới, phân phối không triệu chứng của MLE, v.v.) nhưng có vẻ không hữu ích để kết luận chúng (cụ thể là tôi đã hỏi câu hỏi này về cách phân biệt thông tin của Fisher và ma trận tương quan nghịch đảo).
Chill2Macht

24

Tôi thích mô hình đồ họa xác suất này để minh họa quan điểm của NRH rằng tương quan một phần bằng 0 khi và chỉ khi X độc lập có điều kiện với Y cho Z, với giả định rằng tất cả các biến liên quan là Gaussian đa biến (thuộc tính không giữ trong trường hợp chung) :

nhập mô tả hình ảnh ở đây

yi

Nguồn: Cuộc nói chuyện của David MacKay về Khái niệm cơ bản về quy trình Gaussian , phút thứ 25.


12

Việc giải thích dựa trên tương quan một phần có lẽ là hữu ích nhất về mặt thống kê, vì nó áp dụng cho tất cả các phân phối đa biến. Trong trường hợp đặc biệt của phân phối chuẩn nhiều biến, tương quan một phần bằng 0 tương ứng với độc lập có điều kiện.

Bạn có thể rút ra cách giải thích này bằng cách sử dụng phần bổ sung Schur để có được một công thức cho các mục của ma trận nồng độ theo các mục của ma trận hiệp phương sai. Xem http://en.wikipedia.org/wiki/Schur_compuity#Appluggest_to_probability_theory_and_statistic


11

Ma trận hiệp phương sai có thể biểu thị mối quan hệ giữa tất cả các biến trong khi hiệp phương sai nghịch đảo, đánh dấu mối quan hệ của phần tử với các lân cận của chúng (như wikipedia đã nói mối quan hệ khôn ngoan một phần / cặp).

Tôi mượn ví dụ sau từ đây trong 24:10, hãy tưởng tượng 5 khối lượng được kết nối với nhau và phát âm xung quanh với 6 lò xo, ma trận hiệp phương sai sẽ chứa tương quan của tất cả các khối lượng, nếu một bên đi đúng, những người khác cũng có thể đi đúng. nhưng ma trận hiệp phương sai nghịch đảo quan hệ của các khối lượng được kết nối bởi cùng một lò xo (hàng xóm) và nó chứa nhiều số không và nó không cần thiết dương.


1
Điều này được giải thích trong video? Đó là một giờ dài. Cảm ơn!
Vinh Nguyễn

bạn đã đúng, vào ngày 24:10, tôi nghĩ đó là ví dụ tốt nhất để hiểu bản chất của ma trận cov và nghịch đảo của nó
user4581

5

Bar-Shalom và Fortmann (1988) đề cập đến hiệp phương sai trong bối cảnh lọc Kalman như sau:

... [T] ở đây là một đệ quy cho hiệp phương sai nghịch đảo (hoặc ma trận thông tin )

P1(k+1|k+1)=P1(k+1|k)+H(k+1)R1(k+1)H(k+1)

P1x^

Cuốn sách được lập chỉ mục tại Google .

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.