Máy Boltzmann bị hạn chế: nó được sử dụng như thế nào trong học máy?

Lý lịch:

Có, Máy Boltzmann bị hạn chế (RBM) CÓ THỂ được sử dụng để khởi tạo các trọng số của mạng thần kinh. Ngoài ra, nó có thể được sử dụng theo cách "từng lớp" để xây dựng một mạng lưới niềm tin sâu sắc (nghĩa là để đào tạo một lớp thứ trên đỉnh của lớp thứ , và sau đó để đào tạo lớp thứ trên đỉnh của lớp thứ , rửa sạch và lặp lại ...)$n$$(n-1)$$n+1$$n$ .

Liên quan đến cách sử dụng RBM, có thể tìm thấy thông tin chi tiết từ chuỗi hướng dẫn Tốt cho Máy giới hạn Boltzmann (RBM) nơi có thể tìm thấy một số bài viết và hướng dẫn.

Câu hỏi của tôi sẽ là:

• RBM có thực sự được sử dụng trong các dự án công nghiệp hoặc dự án học thuật không
• Nếu có, nó đang được sử dụng như thế nào?
• Bất kỳ thư viện phổ biến nào (chẳng hạn như tenorflow, Caffe, Theono, v.v.) đều cung cấp mô-đun RBM?

Cám ơn vì đã chia sẻ. Tôi muốn biết liệu RBM có thực sự hữu ích trong thực tế hay không.

RBM là một trong những cách thực tế đầu tiên để đào tạo / học tập một mạng lưới sâu rộng, có nhiều hơn một hoặc hai lớp. Và mạng lưới niềm tin sâu sắc đã được đề xuất bởi Geoffrey Hinton, người được coi là một trong những 'cha đẻ của việc học sâu, tôi cho rằng, mặc dù Yann LeCun là' cha 'chính của việc học sâu, tôi nghĩ, hoặc đó là cách tôi nhìn thấy nó. Tất nhiên, mọi thứ đã được phát minh từ nhiều năm trước bởi Jurgen Schmidhuber :-)

Vì vậy, RBM nổi tiếng vì 1. một trong những cách đầu tiên để học sâu 2. Geoffrey Hinton.

Tuy nhiên, trong thực tế, chúng chắc chắn được sử dụng và có thể sử dụng được, trong nghiên cứu học thuật, vì có rất nhiều người cố gắng tìm một ngách độc đáo, mà họ có thể là chuyên gia và là chuyên gia toàn cầu trong một số lĩnh vực của RBM là một điều tốt thích hợp như bất kỳ khác. Tuy nhiên, trong thực tế, trong công nghiệp, trong khi tôi không khẳng định chúng không bao giờ được sử dụng, nhưng chúng hiếm khi xuất hiện. Đơn giản là có rất nhiều kỹ thuật rất chuẩn, đào tạo thực sự nhanh chóng và dễ dàng, như hồi quy logistic, và mạng lưới thần kinh tích chập chuyển tiếp. Đối với người không được giám sát, những thứ như GAN thực sự phổ biến tại thời điểm này.

Có thể sử dụng RBM để xử lý các vấn đề điển hình phát sinh trong việc thu thập dữ liệu (ví dụ có thể được sử dụng để đào tạo mô hình học máy). Các vấn đề như vậy bao gồm các tập dữ liệu mất cân bằng (trong một vấn đề phân loại) hoặc các bộ dữ liệu bị thiếu giá trị (không xác định được giá trị của một số tính năng). Trong trường hợp đầu tiên, có thể huấn luyện RBM với dữ liệu từ lớp thiểu số và sử dụng nó để tạo các ví dụ cho lớp này trong trường hợp thứ hai có thể huấn luyện RBM riêng cho từng lớp và phát hiện ra các giá trị tính năng chưa biết.

Một ứng dụng điển hình khác của RBM là lọc cộng tác ( http://dl.acm.org/citation.cfm?id=1273596 ).

Theo như các thư viện phổ biến, tôi nghĩ deeplearning4j là một ví dụ điển hình ( http://deeplearning4j.org ).