Sự khác biệt giữa PCA thông thường và PCA xác suất là gì?


15

Tôi biết PCA thông thường không theo mô hình xác suất cho dữ liệu quan sát. Vậy sự khác biệt cơ bản giữa PCA và PPCA là gì? Trong mô hình biến tiềm ẩn PPCA chứa ví dụ các biến quan sát , biến tiềm ẩn (biến không quan sát được x ) và ma trận W không phải là trực giao như trong PCA thông thường. Một điểm khác biệt nữa mà tôi có thể nghĩ về PCA thông thường chỉ cung cấp các thành phần chính, trong đó PPCA cung cấp phân phối xác suất của dữ liệu.yxW

Ai đó có thể vui lòng thông qua nhiều hơn về sự khác biệt giữa PCA và PPCA?



1
+1. Xem câu trả lời của tôi ở đây stats.stackexchange.com/questions/208731 và cũng ở đây stats.stackexchange.com/questions/203087 . Bạn đã đọc các slide mà bạn liên kết đến? Họ dường như giải thích mọi thứ một cách chi tiết. Bạn có thể làm theo giải trình đó hay nó quá phức tạp?
amip nói rằng Phục hồi lại

@amoeba, tôi đã theo dõi các slide tôi nhận được một số khác biệt tuy nhiên Nó không cho tôi trực giác rõ ràng rằng những gì PPCA có thể làm mà PCA không thể làm được? Điều gì xảy ra về mặt kỹ thuật bằng cách giới thiệu các biến tiềm ẩn? Ước tính hiệp phương sai như trong PPCA cũng có thể được thực hiện trong PCA thông thường? Nếu bạn có thể thêm một câu trả lời thì nó sẽ thực sự hữu ích
Vendetta

@amoeba, Hai câu hỏi đó được trả lời khá tốt. Đặc biệt là câu hỏi về không gian con chính trong PCA xác suất. Điều này cho tôi thêm trực giác trong việc tìm hiểu ước tính của các thành phần chính từ W.
Vendetta

OK, tôi sẽ cố gắng gửi một câu trả lời, nhưng tôi khá bận rộn những ngày này. Tôi sẽ cố gắng tìm thời gian trong tuần này, nhưng có thể hoãn lại đến tuần sau. (+1 bằng cách này)
amip nói rằng Tái lập lại

Câu trả lời:


9

Mục tiêu của PPCA không phải là cho kết quả tốt hơn PCA, mà là cho phép một loạt các phần mở rộng và phân tích trong tương lai. Bài viết nêu một số ưu điểm rõ ràng trong phần giới thiệu, ví dụ:

"Định nghĩa của một biện pháp khả năng cho phép so sánh với các kỹ thuật xác suất khác, đồng thời tạo điều kiện cho thử nghiệm thống kê và cho phép áp dụng các mô hình Bayes".

Các mô hình Bayes nói riêng đang tận hưởng thời kỳ phục hưng khổng lồ gần đây, ví dụ VAE, "Bay biến đổi tự động mã hóa", https://arxiv.org/abs/1312.6114 . Việc mở rộng PCA để có thể sử dụng được trong các khuôn khổ đa dạng và tương tự có khả năng khiến một nhà nghiên cứu khác nói 'Ồ này, nếu tôi làm thì sao ...?'

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.