(tương tác) MCMC cho hậu thế đa phương thức

Tôi đang cố gắng lấy mẫu từ một hậu thế có nhiều chế độ đặc biệt cách xa nhau bằng MCMC. Dường như trong hầu hết các trường hợp, chỉ một trong những chế độ này chứa 95% hpd mà tôi đang tìm kiếm. Tôi đã cố gắng thực hiện các giải pháp dựa trên mô phỏng nóng tính nhưng điều này không mang lại kết quả khả quan vì trong thực tế đi từ "phạm vi chụp" này sang phạm vi khác là tốn kém.

Kết quả là, đối với tôi, một giải pháp hiệu quả hơn sẽ là chạy nhiều MCMC đơn giản từ các điểm xuất phát khác nhau và đi sâu vào giải pháp chi phối bằng cách làm cho các MCMC tương tác lẫn nhau. Bạn có biết nếu có một số cách thích hợp để thực hiện một ý tưởng như vậy?

Lưu ý: Tôi thấy rằng giấy http: // lccc.eecs.ber siêu.edu / Papers / dmcmc_short.pdf (Chuỗi phân phối Markov Monte Carlo, Lawrence Murray) trông gần giống với những gì tôi đang tìm kiếm nhưng tôi thực sự không hiểu thiết kế của hàm .$R_i$

[EDIT]: việc thiếu câu trả lời dường như cho thấy rằng không có giải pháp rõ ràng nào cho vấn đề ban đầu của tôi (làm cho một số MCMC lấy mẫu từ cùng một phân phối mục tiêu từ các điểm bắt đầu khác nhau tương tác với nhau). Điều đó có đúng không? tại sao nó quá phức tạp Cảm ơn

Khát khao tất cả tôi khuyên bạn nên tìm kiếm một phương pháp tốt hơn, hoặc ít nhất là một phương pháp có mô tả sâu hơn, vì "Chuỗi phân phối Markov Monte Carlo" từ bài báo mà bạn đang giới thiệu dường như không được nêu rõ. Những lợi thế và bất lợi không được khám phá tốt. Có một phương pháp, xuất hiện trong arxiv gần đây được gọi là " Wormhole Hamiltonian Monte Carlo ", tôi khuyên bạn nên kiểm tra nó.

$R_{i}(\theta_{i})$$i^{th}$

[CẬP NHẬT:] Tương tác giữa một số chuỗi và ứng dụng ý tưởng này để lấy mẫu từ phân phối sau có thể được tìm thấy trong các phương pháp MCMC song song, ví dụ ở đây . Tuy nhiên, việc chạy một số chuỗi và buộc chúng phải tương tác có thể không phù hợp với hậu thế đa phương thức: ví dụ: nếu có một khu vực rất rõ ràng, nơi phần lớn phân phối sau được tập trung thì sự tương tác của các chuỗi thậm chí có thể gây lo ngại cho mọi thứ bằng cách bám vào cụ thể đó khu vực và không khám phá khác, ít phát âm hơn, khu vực / chế độ. Vì vậy, tôi thực sự khuyên bạn nên tìm kiếm MCMC được thiết kế đặc biệt cho các vấn đề đa phương thức. Và nếu bạn muốn tạo một phương thức khác / mới, thì sau khi bạn biết những gì có sẵn trong "thị trường", bạn có thể tạo phương thức hiệu quả hơn.

Bạn nên thử multinest: https://arxiv.org/pdf/0809.3437.pdf https://github.com/JohannesIDIAner/MultiNest Đây là một công cụ suy luận bayes sẽ cung cấp cho bạn các mẫu tham số cho phân phối đa phương thức.

Liên kết github chứa mã nguồn nhiều nhất mà bạn biên dịch và cài đặt theo hướng dẫn. nó cũng có một trình bao bọc python dễ sử dụng hơn. Các mã ví dụ có phần trước dùng để hạn chế các tham số của bạn và phần khả năng chứa khả năng của bạn. tệp cài đặt chứa tất cả các cài đặt của bạn và chuỗi đầu ra đa thư mục sau khi khớp. nó sẽ cung cấp cho bạn các mẫu tham số của bạn

Đây dường như là một vấn đề khó khăn và liên tục trong các số liệu thống kê tính toán. Tuy nhiên, có một vài phương pháp ít hiện đại nhất nên hoạt động tốt.

Giả sử bạn đã tìm thấy một số chế độ riêng biệt của hậu thế và bạn rất vui vì đây là những chế độ quan trọng nhất và nếu hậu thế xung quanh các chế độ này là bình thường. Sau đó, bạn có thể tính toán hessian ở các chế độ này (giả sử sử dụng tối ưu trong R với hessian = T) và bạn có thể tính gần đúng cho hậu thế dưới dạng hỗn hợp các quy tắc (hoặc phân phối t). Xem p318-319 trong Gelman et al. (2003) "Phân tích dữ liệu Bayes" để biết chi tiết. Sau đó, bạn có thể sử dụng xấp xỉ bình thường / hỗn hợp t làm phân phối đề xuất trong bộ lấy mẫu độc lập để lấy mẫu từ phía sau đầy đủ.

Một ý tưởng khác, mà tôi chưa từng thử, là Lấy mẫu Tầm quan trọng của Anneal (Radford Neal, 1998, liên kết tại đây ).

Còn về việc thử một phương pháp MCMC mới cho đa phương thức, một thuật toán đô thị hấp dẫn đáng ghét ( http://arxiv.org/abs/1601.05633 ) thì sao? Bộ lấy mẫu đa phương thức này hoạt động với một tham số điều chỉnh duy nhất giống như thuật toán của Metropolis và rất dễ thực hiện.