MCMC với thuật toán Metropolis-Hastings: Chọn đề xuất

Tôi cần phải thực hiện một mô phỏng để đánh giá tích phân của hàm 3 tham số, chúng ta nói , có công thức rất phức tạp. Nó được yêu cầu sử dụng phương pháp MCMC để tính toán nó và thực hiện thuật toán Metropolis-Hastings để tạo ra các giá trị được phân phối dưới dạng , và nó được đề xuất sử dụng 3 biến đổi bình thường làm phân phối đề xuất. Đọc một số ví dụ về nó, tôi đã thấy rằng một số sau đó sử dụng bình thường với các tham số cố định và một số sử dụng với một biến có nghĩa là , trong đó là giá trị được chấp nhận cuối cùng như phân phối theo . Tôi có một số nghi ngờ về cả hai cách tiếp cận:f N ( μ , σ ) N ( X , σ ) X $f$$f$$N(\mu, \sigma)$$N(X, \sigma)$$X$$f$

1) Ý nghĩa của việc chọn giá trị được chấp nhận cuối cùng là giá trị trung bình mới của phân phối đề xuất của chúng tôi là gì? Trực giác của tôi nói rằng cần đảm bảo rằng các giá trị của chúng tôi sẽ gần hơn với các giá trị được phân phối dưới dạng và cơ hội chấp nhận sẽ lớn hơn. Nhưng nó không tập trung quá nhiều mẫu của chúng tôi? Có đảm bảo rằng, nếu tôi lấy được nhiều mẫu hơn, chuỗi sẽ trở thành ổn định?$f$

2) Sẽ không chọn các tham số cố định (vì rất khó phân tích) có thực sự khó khăn và phụ thuộc vào mẫu đầu tiên chúng ta cần chọn để bắt đầu thuật toán không? Trong trường hợp này, cách tiếp cận tốt nhất để tìm ra cái nào tốt hơn?$f$

Là một trong những cách tiếp cận tốt hơn so với phương pháp khác hay điều này phụ thuộc vào trường hợp?

Tôi hy vọng những nghi ngờ của tôi đã rõ ràng và tôi sẽ rất vui nếu có thể đưa ra một số tài liệu (tôi đã đọc một số bài viết về chủ đề này, nhưng nhiều hơn là tốt hơn!)

Cảm ơn trước!

1) Bạn có thể nghĩ về phương pháp này như một phương pháp đi bộ ngẫu nhiên. Khi phân phối đề xuất , nó thường được gọi là Thuật toán đô thị. Nếu quá nhỏ, bạn sẽ có tỷ lệ chấp nhận cao và rất chậm khám phá phân phối mục tiêu. Trên thực tế, nếu quá nhỏ và phân phối là đa phương thức, bộ lấy mẫu có thể bị kẹt trong một chế độ cụ thể và sẽ không thể khám phá hoàn toàn phân phối mục tiêu. Mặt khác, nếu quá lớn, tỷ lệ chấp nhận sẽ quá thấp. Vì bạn có ba chiều, phân phối đề xuất của bạn sẽ có ma trận hiệp phương sai$x \mid x^t \sim N( x^t, \sigma^2)$$\sigma^2$$\sigma^2$$\sigma^2$$\Sigma$mà có thể sẽ yêu cầu phương sai và hiệp phương sai khác nhau cho mỗi chiều. Chọn một thích hợp có thể khó khăn.$\Sigma$

2) Nếu phân phối đề xuất của bạn luôn là , thì đây là thuật toán độc lập của Metropolis-Hastings vì phân phối đề xuất của bạn không phụ thuộc vào mẫu hiện tại của bạn. Phương pháp này hoạt động tốt nhất nếu phân phối đề xuất của bạn là một xấp xỉ tốt của phân phối mục tiêu bạn muốn lấy mẫu từ đó. Bạn đúng rằng việc chọn một xấp xỉ bình thường tốt có thể khó khăn.$N(\mu, \sigma^2)$

Thành công của cả hai phương pháp đều không phụ thuộc vào giá trị bắt đầu của bộ lấy mẫu. Bất kể bạn bắt đầu từ đâu, chuỗi Markov cuối cùng sẽ hội tụ đến phân phối mục tiêu. Để kiểm tra sự hội tụ, bạn có thể chạy một số chuỗi từ các điểm bắt đầu khác nhau và thực hiện chẩn đoán hội tụ, chẳng hạn như chẩn đoán hội tụ Gelman-Rubin.