Ma trận hiệp phương sai nghịch đảo so với ma trận hiệp phương sai trong PCA


10

Trong PCA, nó có tạo ra sự khác biệt nếu chúng ta chọn các thành phần chính của ma trận hiệp phương sai nghịch HOẶC nếu chúng ta bỏ các hàm riêng của ma trận hiệp phương sai tương ứng với các giá trị riêng lớn?

Điều này có liên quan đến các cuộc thảo luận trong bài này .

Câu trả lời:


12

Quan sát rằng đối với ma trận hiệp phương sai xác định dương độ chính xác là \ boldsymbol \ Sigma ^ {- 1} = \ mathbf {UD} ^ {- 1} \ mathbf U' .Σ=UDUΣ1=UD1U

Vì vậy, các hàm riêng giữ nguyên, nhưng các giá trị riêng của độ chính xác là các đối ứng của các giá trị riêng của hiệp phương sai. Điều đó có nghĩa là giá trị riêng lớn nhất của hiệp phương sai sẽ là giá trị riêng nhỏ nhất của độ chính xác. Khi bạn có nghịch đảo, độ chính xác dương đảm bảo tất cả các giá trị riêng đều lớn hơn 0.

Do đó nếu bạn giữ lại các vector riêng liên quan đến giá trị riêng nhỏ nhất của độ chính xác tương ứng này để PCA bình thường. Vì chúng tôi đã thực hiện các đối ứng ( ), chỉ nên sử dụng căn bậc hai của các giá trị riêng chính xác để hoàn thành việc làm trắng dữ liệu được chuyển đổi.kD1


+1 nhưng tôi nghĩ câu "Vì vậy, nó tạo ra sự khác biệt" có thể gây nhầm lẫn cho OP; Q không rõ ràng lắm nhưng tôi nghĩ họ đã hỏi liệu có sự khác biệt nào giữa việc chọn giá trị riêng lớn nhất của ma trận inv cov và chọn giá trị riêng nhỏ nhất (= bỏ giá trị lớn nhất) của ma trận cov không. Đối với câu hỏi này, câu trả lời là nó tương đương. Vì vậy, có lẽ nếu bạn chỉ cần cắt bỏ câu này, câu trả lời sẽ rõ ràng hơn.
amip nói rằng Phục hồi Monica

Cảm ơn, tôi thấy những gì bạn có ý nghĩa và đã chỉnh sửa cho phù hợp.
phỏng đoán

Thật ra câu cuối cùng là tốt, tôi sẽ giữ nó!
amip nói phục hồi Monica

@conjectures Cảm ơn bạn, đó là lời giải thích hoàn hảo.
Mustafa Arif

0

Ngoài ra, ma trận hiệp phương sai nghịch đảo tỷ lệ với tương quan một phần giữa các vectơ:

Corr(Xi, Xj | (Xothers )

Mối tương quan giữa Xi và Xj khi tất cả những cái khác được cố định, nó rất hữu ích cho chuỗi thời gian.


1
Điều này là đúng, nhưng điều đó có liên quan gì đến PCA?
amip nói rằng Phục hồi Monica
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.