Mạng lưới niềm tin sâu sắc hay Deep Boltzmann Machines?

Tôi bối rối. Có sự khác biệt giữa mạng niềm tin Deep và Máy Deep Boltzmann không? Nếu vậy, sự khác biệt là gì?

Mặc dù Deep Belief Networks (DBNs) và Deep Boltzmann Machines (DBMs) về mặt sơ đồ trông rất giống nhau, nhưng thực tế chúng rất khác nhau về chất. Điều này là do các DBN được định hướng và DBM không bị ảnh hưởng. Nếu chúng ta muốn ghép chúng vào bức tranh ML rộng hơn, chúng ta có thể nói DBN là mạng niềm tin sigmoid với nhiều lớp biến liên kết dày đặc và DBM là các trường ngẫu nhiên markov với nhiều lớp biến ẩn dày đặc được kết nối.

Vì vậy, họ thừa hưởng tất cả các thuộc tính của các mô hình. Ví dụ, trong một máy tính DBN , trong đó là lớp hiển thị và là các biến ẩn là dễ dàng. Mặt khác, tính toán của bất cứ thứ gì thường không thể tính toán được trong DBM do chức năng phân vùng khó điều khiển.v h $P(v|h)$$v$$h$$P$

Điều đó đang được nói có những điểm tương đồng. Ví dụ:

1. Các DBN và DBM ban đầu đều hoạt động bằng cách sử dụng các sơ đồ khởi tạo dựa trên đào tạo từng lớp tham lam của các máy Bolzmann bị hạn chế (RBM),
2. Cả hai đều "sâu".
3. Cả hai đều có các lớp biến tiềm ẩn được kết nối dày đặc với các lớp bên trên và bên dưới, nhưng không có kết nối nội bộ, v.v.

Cả hai đều là mô hình đồ họa xác suất bao gồm các lớp RBM xếp chồng lên nhau. Sự khác biệt là cách các lớp này được kết nối.

Liên kết này làm cho nó khá rõ ràng: http://jmlr.org/proceedings/ con / v5 / salakhutdinov09a / salakhutdinov09a.pdf . Hình 2 và Mục 3.1 đặc biệt có liên quan.

Để tóm tắt:

Trong một DBN, các kết nối giữa các lớp được định hướng. Do đó, hai lớp đầu tiên tạo thành một RBM (một mô hình đồ họa không bị ngăn cản), sau đó các lớp tiếp theo tạo thành một mô hình thế hệ có hướng.

Trong một DBM, kết nối giữa tất cả các lớp là không bị ảnh hưởng, do đó mỗi cặp lớp tạo thành một RBM.