Tôi có thể thay đổi phân phối đề xuất trong MH MCMC đi bộ ngẫu nhiên mà không ảnh hưởng đến Markovianity không?

Đi bộ ngẫu nhiên Metropolis-Hasitings với đề xuất đối xứng

có thuộc tính xác suất chấp nhận$q(x|y)= g(|y-x|)$

không phụ thuộc vào đề xuất .$g(\cdot)$

Điều đó có nghĩa là tôi có thể thay đổi như là một hàm của hiệu suất trước đó của chuỗi, mà không ảnh hưởng đến độ chính xác của chuỗi?$g(\cdot)$

Quan tâm đặc biệt đối với tôi là việc điều chỉnh tỷ lệ của đề xuất Bình thường như là một hàm của tỷ lệ chấp nhận.

Cũng sẽ đánh giá rất cao nếu ai đó có thể chỉ ra các thuật toán thích ứng được sử dụng trong thực tế cho loại vấn đề này.

Cảm ơn nhiều.

[sửa: Bắt đầu với các tham chiếu được đưa ra bởi robertsy và wok Tôi đã tìm thấy các tài liệu tham khảo sau về thuật toán thích ứng MH:

Andrieu, Barshe và Éric Moulines. 2006.
Về các thuộc tính linh hoạt của một số thuật toán MCMC thích ứng. Biên niên sử của Xác suất ứng dụng 16, không. 3: 1462-1505. http://www.jstor.org/urdy/25442804 .

Andrieu, Barshe và Johannes Thoms.
2008 Hướng dẫn về MCMC thích ứng. Thống kê và tính toán 18, không. 4 (12): 343-373. doi: 10.1007 / s11222-008-9110-y.http://www.springerlink.com/content/979087678366r78v/ .

Atchadé, Y., G. Fort, E. Moulines và P. Priouret. 2009.
Chuỗi thích ứng Markov Monte Carlo: Lý thuyết và phương pháp. Bản in.

Atchadé, Yves. Năm 2010
Định lý giới hạn cho một số thuật toán MCMC thích ứng với các hạt nhân dưới lớp. Bernoulli 16, không. 1 (tháng 2): 116-154. doi: 10.3150 / 09-BEJ199. http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record .

Cappé, O., S. J Godsill và E. Moulines. Năm 2007
Tổng quan về các phương pháp hiện có và những tiến bộ gần đây trong Monte Carlo tuần tự. Thủ tục tố tụng của IEEE 95, không. 5: 899-924.

Giordani, Paolo. Năm 2010,
đô thị độc lập thích nghi với sự ước tính nhanh chóng của các hỗn hợp định mức. Tạp chí thống kê tính toán và đồ họa 19, số 2 (6): 243-259. doi: 10.1198 / jcss.2009.07174. http://pub.amstat.org/doi/abs/10.1198/jcgs.2009.07174 .

Latuszynski, Krzysztof, Gareth O Roberts và Jeffrey S Rosenthal. 2011.
Lấy mẫu Gibbs thích ứng và các phương pháp MCMC liên quan. 1101.5838 (ngày 30 tháng 1). http://arxiv.org/abs/1101.5838 .

Pasarica, C. và A. Gelman. 2009.
Mở rộng thích ứng thuật toán Metropolis bằng cách sử dụng khoảng cách nhảy bình phương dự kiến. Statistica Sinica.

Roberts, Gareth O. 2009.
Ví dụ về MCMC thích ứng. Tạp chí thống kê tính toán và đồ họa 18, số 2 (6): 349-367. doi: 10.1198 / jcss.2009.06134. http://pub.amstat.org/doi/abs/10.1198/jcgs.2009.06134 .

]

Tôi nghĩ rằng bài báo này của Heikki Haario et al. sẽ cho bạn câu trả lời bạn cần. Độ chính xác của chuỗi bị ảnh hưởng bởi sự thích ứng của mật độ đề xuất, bởi vì sau đó một giá trị đề xuất mới không chỉ phụ thuộc vào chuỗi trước mà còn trên toàn bộ chuỗi. Nhưng có vẻ như trình tự vẫn có các tính chất tốt nếu được chăm sóc cẩn thận.

Bạn có thể cải thiện tỷ lệ chấp nhận bằng cách từ chối chậm trễ như được mô tả trong Tierney, Mira (1999) . Nó dựa trên chức năng đề xuất thứ hai và xác suất chấp nhận thứ hai , đảm bảo chuỗi Markov vẫn có thể đảo ngược với cùng phân phối bất biến: bạn phải thận trọng vì " rất dễ để xây dựng các phương pháp thích ứng có vẻ hiệu quả nhưng thực tế mẫu từ phân phối sai ".

Các cách tiếp cận được đề xuất bởi người dùng wok và robertsy bao gồm các ví dụ thường được trích dẫn nhất về những gì bạn đang tìm kiếm mà tôi biết. Chỉ để mở rộng những câu trả lời đó, Haario và Mira đã viết một bài báo vào năm 2006 kết hợp cả hai cách tiếp cận, một cách tiếp cận mà họ gọi là DRAM (trì hoãn từ chối thích nghi) .

Andrieu có cách đối xử tốt với nhiều cách tiếp cận MCMC thích ứng khác nhau (pdf) bao gồm Haario 2001 nhưng cũng thảo luận về các phương án khác nhau đã được đề xuất trong những năm gần đây.

Đây là một chút không biết xấu hổ của một ấn phẩm của tôi, nhưng chúng tôi làm chính xác điều này trong tác phẩm này ( arxiv ). Trong số những thứ khác, chúng tôi đề xuất điều chỉnh phương sai của phân bố mũ để cải thiện sự chấp nhận (bước S3.2 trong thuật toán trong bài báo).

Trong trường hợp của chúng tôi, sự thích ứng không có triệu chứng không làm thay đổi phân phối đề xuất (trong bài báo là khi $f \rightarrow 1$). Do đó, không có triệu chứng, quá trình này vẫn là Markovian theo tinh thần giống như thuật toán Wang-Landau . Chúng tôi xác minh bằng số lượng rằng quy trình này là ergodic và các mẫu chuỗi từ phân phối mục tiêu mà chúng tôi chọn (ví dụ: bảng dưới cùng bên trái của Hình 4).

Chúng tôi không sử dụng thông tin về tỷ lệ chấp nhận, nhưng chúng tôi có được sự chấp nhận độc lập với số lượng chúng tôi quan tâm (tương đương với năng lượng của hệ thống kéo sợi, phía dưới bên phải của Hình 4).