Phân loại dựa trên mạng nơ-ron có cần giảm kích thước không?

Tôi đang sử dụng trình phân loại dựa trên Mạng thần kinh để chạy phân loại dữ liệu của mình theo chiều n.

Sau đó, tôi nghĩ rằng có thể nên chạy giảm kích thước như PCA cho dữ liệu của mình lúc đầu, sau đó đưa kết quả PCA vào trình phân loại (tôi giữ 3 PC). Tuy nhiên, việc phân loại các tính năng giảm kích thước không tốt bằng việc sử dụng trực tiếp các tính năng chiều cao ban đầu.

Sau đó, tôi đã xem bài đăng này NN với tư cách là DR1 đã thảo luận về Mạng nơ-ron như một phương pháp giảm kích thước. Ngoài ra một số thông tin có thể được tìm thấy trong bài báo NN này là DR2 Tôi đang bối rối:

1. Nếu tôi sử dụng phân loại dựa trên Mạng thần kinh (trong Matlab), nó có tự động giảm kích thước cho tôi không?
2. Tôi có nên chạy giảm kích thước như PCA trước khi chạy phân loại Mạng thần kinh không?
3. Có bất kỳ lý do nào khác để phân loại kết quả PCA không tốt bằng việc sử dụng các tính năng chiều cao ban đầu không?

Về nguyên tắc, việc chuyển đổi tuyến tính được thực hiện bởi PCA cũng có thể được thực hiện bằng trọng số của lớp đầu vào của mạng nơ ron, do đó không cần thiết phải nói đúng. Tuy nhiên, khi số lượng trọng lượng trong mạng tăng lên, lượng dữ liệu cần thiết để có thể xác định một cách đáng tin cậy các trọng số của mạng cũng tăng (thường khá nhanh) và việc sử dụng quá mức cũng trở thành một vấn đề (sử dụng chính quy cũng một ý tưởng tốt). Lợi ích của việc giảm kích thước là nó làm giảm kích thước của mạng và do đó lượng dữ liệu cần thiết để đào tạo nó. Nhược điểm của việc sử dụng PCA là thông tin phân biệt đối xử phân biệt lớp này với lớp khác có thể nằm trong các thành phần phương sai thấp, vì vậy sử dụng PCA có thể làm cho hiệu suất kém hơn.

Giống như hầu hết mọi thứ trong nhận dạng mẫu thống kê, không có công thức duy nhất nào hoạt động đáng tin cậy cho tất cả các vấn đề, và điều thực sự tốt nhất là thử cả hai phương pháp và xem cách nào hiệu quả nhất.

Nếu tôi sử dụng phân loại dựa trên Mạng thần kinh (trong Matlab), nó có tự động giảm kích thước cho tôi không? Trả lời: nếu bạn đang sử dụng nhiều hơn một lớp để phân loại và số lượng tế bào thần kinh trong lớp ẩn ít hơn tế bào thần kinh đầu vào, do đó bạn có một loại mạng nơ ron giảm kích thước. nhưng nó có thể không phải là PCA.

Bởi vì mạng nơ ron có thể xấp xỉ bất kỳ ánh xạ phi tuyến nào thông qua học tập và không bị ràng buộc bởi mô hình phi tuyến tính, nên không cần phải điều chỉnh lại kích thước như PCA trước. Điều này cũng cho thấy mạng nơ ron nhân tạo (ANN) có sức mạnh tính toán phi tuyến tính mạnh.