Máy Boltzmann có thể lưu trữ nhiều mẫu hơn mạng Hopfield không?


17

Đây là từ phiên bản beta kín dành cho AI, với câu hỏi này được đăng bởi người dùng số 47. Tất cả tín dụng cho họ.


Theo Wikipedia ,

Máy Boltzmann có thể được coi là đối tác ngẫu nhiên, rộng rãi của lưới Hopfield.

Cả hai đều là các mạng thần kinh tái phát có thể được đào tạo để tìm hiểu các mẫu bit. Sau đó, khi được trình bày với một phần mẫu, mạng sẽ lấy lại toàn bộ mẫu hoàn chỉnh.

Các mạng Hopfield đã được chứng minh là có dung lượng 0.138 (ví dụ: khoảng 138 vectơ có thể được gọi lại từ bộ lưu trữ cho mỗi 1000 nút, Hertz 1991).

Vì một cỗ máy Boltzmann là ngẫu nhiên, tôi hiểu rằng nó không nhất thiết phải luôn hiển thị cùng một mẫu khi chênh lệch năng lượng giữa một mẫu được lưu trữ và một mẫu khác là tương tự nhau. Nhưng vì tính ngẫu nhiên này, có thể nó cho phép lưu trữ mẫu dày hơn nhưng không đảm bảo rằng bạn sẽ luôn có được mẫu "gần nhất" về sự khác biệt về năng lượng. Điều này có đúng không? Hoặc một mạng Hopfield có thể lưu trữ nhiều mẫu hơn?

Câu trả lời:


3

Thật vậy, trực giác của bạn là chính xác, một cỗ máy Boltzmann có thể chứa nhiều hơn một mạng Hopfield trong bộ nhớ của nó vì bản chất ngẫu nhiên của nó như được khám phá trong bài báo này. Trong bài báo họ lưu ý rằng dung lượng khoảng 0,6. Sau tỷ lệ này, nó bắt đầu bị phá vỡ và thêm nhiều tiếng ồn hơn cho các mẫu bị thu hồi.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.