Có bao nhiêu kích thước để giảm khi làm PCA?

Làm thế nào để chọn K cho PCA? K là số lượng kích thước để chiếu xuống. Yêu cầu duy nhất là không mất quá nhiều thông tin. Tôi hiểu nó phụ thuộc vào dữ liệu, nhưng tôi đang tìm kiếm một tổng quan chung đơn giản về những đặc điểm cần xem xét khi chọn K.

Sau khi thực hiện thuật toán PCA, bạn nhận được các thành phần chính, được sắp xếp theo lượng thông tin họ nắm giữ. Nếu bạn giữ toàn bộ thì không có thông tin nào bị mất. Loại bỏ chúng từng cái một và chiếu chúng trở lại không gian ban đầu, bạn có thể tính toán mất thông tin. Bạn có thể vẽ biểu đồ mất thông tin này theo số lượng thành phần chính bị loại bỏ và xem liệu nó có tạo ra một "khuỷu tay" hay không. Rất nhiều điều này phụ thuộc vào trường hợp sử dụng của bạn mặc dù.

Tôi thường kiểm tra tỷ lệ phần trăm của thông tin được giữ bởi giá trị K. Giả sử trong số 8 lĩnh vực, 2 trong số đó nắm giữ 90% thông tin. Sau đó, không có điểm nào trong đó bao gồm 6 hoặc 5 trường khác. Nếu bạn biết dữ liệu mnist, trong số 768 đầu vào, tôi chỉ sử dụng 250, điều này làm giảm độ chính xác của tôi từ 83 đến 96%. Thực tế là nhiều chiều mang lại nhiều vấn đề hơn. Vì vậy, cắt chúng đi. Tôi thường chỉ lấy K, người chỉ nắm giữ 90% thông tin và nó hoạt động với tôi.