Hamiltonian Monte Carlo vs Sequential Monte Carlo

Tôi đang cố gắng để cảm nhận về những ưu điểm và nhược điểm tương đối, cũng như các lĩnh vực ứng dụng khác nhau của hai chương trình MCMC này.

• Khi nào bạn sẽ sử dụng cái nào và tại sao?
• Khi một người có thể thất bại nhưng người kia thì không (ví dụ: áp dụng HMC ở đâu nhưng không phải là SMC và ngược lại)
• Có thể, một người rất ngây thơ được cấp, đặt một thước đo về tiện ích trên một phương pháp so với phương pháp kia (nghĩa là, nói chung, tốt hơn )?

Tôi hiện đang đọc bài viết xuất sắc của Betancourt trên HMC .

Hamiltonian Monte Carlo hoạt động tốt với các bản phân phối mục tiêu liên tục với hình dạng "kỳ lạ". Nó đòi hỏi phân phối mục tiêu phải khác biệt vì về cơ bản nó sử dụng độ dốc của phân phối mục tiêu để biết nơi cần đi. Ví dụ hoàn hảo là một hàm hình quả chuối.

Dưới đây là một tiêu chuẩn đô thị Hastings trong chức năng Banana: Tỷ lệ chấp nhận 66% và phạm vi bảo hiểm rất kém.

Đây là với HMC: chấp nhận 99% với độ bao phủ tốt.

Chẳng hạn, chuỗi này là một mục tiêu tuyệt vời cho SMC:

Bản chất song song của SMC làm cho nó đặc biệt phù hợp với tính toán phân tán / song song.

Tóm lược:

• HMC: tốt cho mục tiêu kỳ lạ kéo dài. Không hoạt động với chức năng không liên tục.
• SMC: tốt cho các trường hợp đa phương thức và không liên tục. Có thể hội tụ chậm hơn hoặc sử dụng nhiều sức mạnh tính toán hơn cho các hình dạng kỳ lạ chiều cao.

Nguồn: Hầu hết các hình ảnh đến từ một bài báo tôi đã viết kết hợp 2 Phương pháp (Hamiltonian Sequential Monte Carlo). Sự kết hợp này có thể mô phỏng khá nhiều phân phối mà chúng ta có thể ném vào nó, ngay cả ở kích thước rất cao.