Tôi nghĩ bạn nên xem các phương pháp Học trực tuyến . Các perceptron và Perceptron hạt nhân là vô cùng dễ dàng để mã và làm việc rất tốt trong thực tế, và có một loạt toàn bộ các phương pháp trực tuyến khác. Lưu ý rằng bất kỳ phương pháp học trực tuyến nào cũng có thể được chuyển đổi thành một thuật toán học tập theo đợt, trong trường hợp đó chúng gần giống với các phương pháp giảm độ dốc ngẫu nhiên.
Nếu bạn đang sử dụng Matlab, có một hộp công cụ thực sự hay được gọi là DOGMA của Francesco Orabona, chứa một loạt các thuật toán học trực tuyến và bạn có thể đánh giá một vài phương pháp khác nhau bằng cách sử dụng. Tôi đã sử dụng điều này trong một số nghiên cứu của mình và thấy nó rất hữu ích (lưu ý rằng theo như tôi nhớ thì nó mong đợi dữ liệu là [tính năng x ví dụ] nên bạn có thể phải hoán đổi nó).
Như những người khác đã đề cập, bạn có thể muốn thử giảm kích thước. PCA có thể không phải là một lựa chọn tốt ở đây, vì bạn phải tính toán ma trận hiệp phương sai sẽ rất tốn kém. Bạn có thể thử nhìn vào Dự đoán ngẫu nhiên . Lý thuyết là khó khăn, nhưng nguyên tắc rất đơn giản. Nó dựa trên Bổ đề Johnson-Lindenstrauss Nếu bạn quan tâm, nhưng ý tưởng cơ bản là nếu bạn dự án một cách ngẫu nhiên đến một không gian chiều thấp hơn, sau đó khoảng cách giữa các điểm được bảo quản lên đến một số ε . Nếu bạn đang sử dụng một hạt nhân RBF, sau đó ℓ 2 quãng đường là tất cả các bạn đang quan tâm!ℓ2εℓ2