Chúng ta có thể thay đổi tỷ lệ chấp nhận trong thuật toán Metropolis đi bộ ngẫu nhiên bằng cách thay đổi tham số của phân phối đề xuất không?

Chúng ta có thể thay đổi tỷ lệ chấp nhận trong thuật toán đi bộ ngẫu nhiên bằng cách thay đổi tham số của phân phối đề xuất không?

Đặt phân phối mục tiêu là . Đặt là mật độ đề xuất cho trạng thái mới ở trạng thái hiện tại . Tỷ lệ chấp nhận là $\pi$$p(x_2 | x_1)$$x_2$$x_1$

Nếu tôi đúng, trong thuật toán đi bộ ngẫu nhiên, mật độ đề xuất là đối xứng theo nghĩa $p(x_2 | x_1) = p(x_1 | x_2)$ , do đó, tỷ lệ chấp nhận không phụ thuộc vào mật độ đề xuất, mà chỉ trên phân phối mục tiêu $\pi$ sẽ được lấy mẫu. Vì vậy, việc thay đổi tham số của phân phối đề xuất sẽ không thay đổi tỷ lệ chấp nhận $\alpha$ .

Ví dụ: nếu phân phối đề xuất, ở trạng thái hiện tại $x_1$ , là phân phối Gaussian tập trung ở trạng thái hiện tại với phương sai không đổi, tức là $N(x_1, \sigma^2)$ , theo cách đối xứng theo nghĩa trên, sẽ thay đổi phương sai $\sigma^2$ của phân phối đề xuất Gaussian không thay đổi tỷ lệ chấp nhận $\alpha$ ?

Cảm ơn!

Nếu đề xuất của bạn có phương sai rất thấp, thì trạng thái mới được đề xuất của bạn sẽ rất giống với trạng thái hiện tại, vì vậy sẽ gần bằng 1 (trong giới hạn, với 0 phương sai, đề xuất và trạng thái hiện tại sẽ giống nhau và bạn sẽ có chính xác bằng 1), vì vậy tỷ lệ chấp nhận sẽ gần 100%.$\frac{\pi(x_2)}{\pi(x_1)}$

Tuy nhiên, nếu đề xuất của bạn có phương sai cao, sẽ (ít nhất là đôi khi) nhỏ hơn 1, vì vậy tỷ lệ chấp nhận của bạn sẽ ngày càng gần hơn với 0%. Vì vậy, tỷ lệ chấp nhận giảm khi phương sai của đề xuất tăng.$\frac{\pi(x_2)}{\pi(x_1)}$

Vấn đề với phương sai rất thấp (sẽ giúp bạn có tỷ lệ chấp nhận cao hơn) là họ mất nhiều thời gian hơn để khám phá không gian sau bằng cách không bao giờ di chuyển xa khỏi trạng thái hiện tại. Các phương pháp MCMC thích ứng như Haario et Al. cố gắng xử lý vấn đề như vậy bằng cách thay đổi ma trận phương sai của đề xuất một cách nhanh chóng.

Để điều chỉnh tỷ lệ chấp nhận của bạn, bạn chỉ cần thử tăng và giảm phương sai, một cách tiếp cận thử nghiệm và lỗi. Nhưng tùy thuộc vào hình dạng của hậu thế, tỷ lệ chấp nhận có thể thay đổi mạnh mẽ trong quá trình lấy mẫu. Ngoài ra, đối với các mô hình đa tham số, ma trận hiệp phương sai đề xuất có nhiều thuật ngữ phương sai và hiệp phương sai và phương pháp như vậy trở nên không thực tế.

Có nhiều phương pháp được xử lý hơn để xử lý điều này giống như phương pháp đô thị thích ứng được nêu trong liên kết ở trên, hoặc bạn có thể muốn xem xét các phương pháp khác như các phương pháp được liệt kê ở đây . Bạn cũng có thể dùng thử phần mềm như Jags và Stan nếu Metropolis không hoạt động cho vấn đề của bạn.

Tôi nghĩ rằng lưu ý một số định nghĩa có thể có lợi cho việc tham khảo trong tương lai cho câu hỏi và câu trả lời này.

Tỷ lệ số lượng các quốc gia đề xuất được chấp nhận cho số lượng các đề xuất cho tỷ lệ chấp nhận. Lưu ý rằng tỷ lệ chấp nhận là tỷ lệ chấp nhận trong quá trình đi bộ ngẫu nhiên.

$\alpha$ trong câu hỏi được gọi là "xác suất chấp nhận" của Robert & Casella trong cuốn sách Giới thiệu về Phương pháp Monte Carlo với R (2010, trang 171). Điều này rất hợp lý vì , trong phần trình bày của họ, được điều chỉnh theo ký hiệu trong câu hỏi, được xem ở đây:$\alpha$

Bây giờ lưu ý rằng ở đây có thể trở nên độc lập với mật độ đề xuất trong trường hợp đề xuất đi bộ ngẫu nhiên khi . Tuy nhiên, tỷ lệ chấp nhận như được định nghĩa ở trên vẫn phụ thuộc vào nó do các lý do được giải thích bởi Random_user.p ( x | y ) = p ( y | x $\alpha$$p(x|y)=p(y|x)$

Robert và Casella rất rõ ràng về việc phân biệt hai loại này và định nghĩa cái sau là "[...] trung bình của xác suất chấp nhận qua các lần lặp lại."

Tôi có ít kinh nghiệm về vấn đề này nhưng nó đủ để tôi quan sát rằng những gì được đề cập trong câu hỏi của "tỷ lệ chấp nhận" đôi khi được đặt tên là "tỷ lệ chấp nhận" ( ví dụ Wikipedia ), dẫn đến những nhầm lẫn tương tự như trong câu hỏi.