Tài liệu tham khảo tốt về hiểu biết học tập trực tuyến là gì?

Cụ thể, tôi đang yêu cầu các tài nguyên để tìm hiểu về các hệ thống máy học có thể cập nhật các mạng niềm tin tương ứng (hoặc tương đương) trong quá trình hoạt động. Tôi thậm chí đã chạy qua một vài, mặc dù tôi không đánh dấu chúng.

Như bạn có thể tưởng tượng, đó là một chủ đề khá khó khăn để tìm kiếm trên internet.

Hầu hết các thuật toán học trực tuyến đến từ ít nhất một trong số các dòng này:

• tri giác

  Các tri giác hiện đại là thuật toán tích cực thụ động , tri giác có cấu trúc và nhiều loại của chúng.

• Máy sàng

  Winnow đã được cải tổ thành các phương pháp gradient lũy thừa và cũng có thể được áp dụng cho các vấn đề có cấu trúc . Ngoài ra còn có các giống liên quan trực tiếp đến chính quy hóa L1 (để đảm bảo độ thưa thớt), chẳng hạn như SMIDAS .

• Độ dốc dốc ngẫu nhiên

  Giảm dần độ dốc ngẫu nhiên là khi bạn áp dụng tối ưu hóa trực tuyến cho một vấn đề có thể xảy ra. Các thuật toán hiện đại là LaSVM , Pegasos của Leon Bottou và nhiều thuật toán mạng thần kinh có thể dễ dàng được đào tạo trong cài đặt này. Xem hướng dẫn theano cho nhiều ví dụ. Có lẽ EM trực tuyến phù hợp ở đây.

• lọc hạt

  Điều này còn được gọi là suy luận rao vặt đen và nó cho phép bạn cập nhật một mô hình đồ họa / xác suất khi có nhiều dữ liệu đến. Một số ví dụ điển hình là các mô hình chủ đề trực tuyến và hướng dẫn NIPS về SMC .

Ngoài ra còn có một số vấn đề rộng lớn hơn với học tập trực tuyến, giống như trực tuyến-to-chuyển đổi hàng loạt , kỹ thuật ngân sách cho việc học tập trực tuyến với hạt nhân (như bài viết này , bài viết này , và bài viết này ), nhiều hương vị khác nhau của giới hạn tổng quát, mối quan tâm thưa thớt (và cũng có thể bài báo SMIDAS tôi đã trích dẫn ở trên), băm để tiết kiệm bộ nhớ và nhiều vấn đề khác.

Avrim Blum như một bài khảo sát tuyệt vời mà tôi muốn giới thiệu bắt đầu bằng: "Thuật toán trực tuyến trong học máy" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

Nếu bạn đang tìm kiếm thông tin về lý thuyết đằng sau việc học trực tuyến, cuốn sách của Cesa-Bianchi và Lugosi là một tài liệu tham khảo vững chắc.

Có một hướng dẫn hay từ ICML 2008 của Yoram Singer và Shai Shalev Shwartz về lý thuyết và thực hành học tập trực tuyến.

Học máy - Tài liệu khóa học - Stanford http://www.stanford.edu/ class / cs229 / m vật liệu.html

Các bài giảng về video về trí tuệ nhân tạo và trí tuệ nhân tạo http://freescienceonline.blogspot.com/2007/07/machine-learning-and-art bát.html

Các quy trình Gaussian cho học máy http: //www.gaussian Process.org/gpml/