Tỷ lệ chấp nhận cho đô thị-Hastings> 0,5


7

Làm thế nào có thể có được tỷ lệ chấp nhận của Metropolis-Hastings gần bằng 1 (ví dụ: khi khám phá phân phối không chính thống với phân phối đề xuất bình thường với SD quá nhỏ), sau khi hết hạn? Tôi thấy nó trong chuỗi MCMC của riêng tôi nhưng tôi không hiểu nó có ý nghĩa như thế nào. Dường như với tôi, sau khi đạt tỷ lệ chấp nhận hội nghị thượng đỉnh sẽ ổn định xung quanh các giá trị nhỏ hơn 0,5.


1
Không rõ đề xuất của bạn là gì. Tính hợp lý của tỷ lệ chấp nhận phụ thuộc hoàn toàn vào phân phối đề xuất. Tôi đoán bạn đang nói về một đề xuất đi bộ ngẫu nhiên, nhưng tôi không chắc chắn.
jaradniemi

Câu trả lời:


11

Tỷ lệ chấp nhận phụ thuộc phần lớn vào phân phối đề xuất. Nếu nó có phương sai nhỏ, tỷ lệ xác suất giữa điểm hiện tại và đề xuất sẽ luôn luôn phải gần bằng 1, mang lại cơ hội chấp nhận cao. Điều này chỉ là do mật độ xác suất mục tiêu mà chúng ta thường làm việc là tại địa phương Lipschitz (một loại độ mịn) ở quy mô nhỏ, do đó xác suất của hai điểm gần đó là tương tự nhau (không chính thức).

Nếu mẫu hiện tại của bạn gần với giá trị MAP, các đề xuất sẽ có ít hơn một xác suất chấp nhận, nhưng nó vẫn có thể rất gần với 1.

Một lưu ý phụ, thực tiễn tiêu chuẩn là điều chỉnh phân phối đề xuất để có được tỷ lệ chấp nhận 0,2-0,25. Xem ở đây để thảo luận về điều này.


1
Cảm ơn Aaron! Tôi chỉ nhận ra rằng tôi nghĩ về p (đề xuất) / (p (hiện tại) + p (đề xuất)) thay vì p (đề xuất) / p (hiện tại), vì nó thực sự là. Vì vậy, khi khám phá phân phối đồng đều, tỷ lệ chấp nhận nên là 1, không phải 0,5. Mát mẻ. Cảm ơn!
TanZor

1
Câu trả lời này giả định một thuật toán Metropolis đi bộ ngẫu nhiên, nhưng điều này không bao giờ được nêu trong câu hỏi. Nếu bạn có một đề xuất độc lập với một phương sai nhỏ, bạn có thể có xác suất chấp nhận ở rất xa 1.
jaradniemi

8

Một ví dụ dễ dàng về xác suất chấp nhận bằng một là khi mô phỏng từ mục tiêu chính xác: trong trường hợp đó Mặc dù điều này nghe có vẻ như là một ví dụ phi thực tế, một minh họa thực sự là bộ lấy mẫu Gibbs, có thể được hiểu là một chuỗi các bước của Metropolis-Hastings, tất cả đều có xác suất.

π(x)q(x,x)π(x)q(x,x)=1x,x

Một lý do có thể cho sự nhầm lẫn của bạn là nhận thức tiềm năng về thuật toán Metropolis-Hastings như một thuật toán tối ưu hóa. Thuật toán dành nhiều lần lặp hơn cho các vùng mục tiêu cao hơn nhưng không nhằm mục đích tối đa. Và trong khi cho tất cả các , điều này không có nghĩa là các giá trị có giá trị đích thấp hơn nhất thiết phải bị từ chối, vì các giá trị đề xuất và cũng quan trọng.π(xMAP)π(x)xq(xMAP,x)q(x,xMAP)


4
+1 cho "Đô thị-Hastings không phải là một thuật toán tối ưu hóa." Tôi sẽ tự mình đăng nó như một câu trả lời, nhưng bây giờ tôi không cần phải làm vậy. :)
Ilmari Karonen

bên cạnh số lần lặp, làm thế nào chúng ta có thể tối ưu hóa thuật toán Metropolis-Hastings?
Marouane1994

Tối ưu hóa thuật toán MH là nhiều mặt: thời gian tối thiểu để "đạt" trạng thái ổn định, tự động tương quan âm tối đa, tập trung vào các hướng thay đổi chậm nhất, MCMC không thiên vị, phương sai tiệm cận tối ưu, lấy mẫu hoàn hảo, & tc., Trong khi tính toán theo thời gian lặp đi lặp lại
Tây An
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.