Sự khác biệt giữa lấy mẫu của Metropolis Hastings, Gibbs, Tầm quan trọng và Từ chối là gì?

Tôi đã cố gắng tìm hiểu các phương pháp MCMC và đã đi qua các mẫu của Metropolis Hastings, Gibbs, Tầm quan trọng và Từ chối. Mặc dù một số trong những khác biệt này là rõ ràng, ví dụ, làm thế nào Gibbs là một trường hợp đặc biệt của Metropolis Hastings khi chúng ta có đầy đủ các điều kiện, những cái khác ít rõ ràng hơn, như khi chúng ta muốn sử dụng MH trong bộ lấy mẫu Gibbs, v.v. cách đơn giản để thấy phần lớn sự khác biệt giữa mỗi trong số này? Cảm ơn!

— người dùng1398057
nguồn

Iain Murray đặc biệt giải quyết vấn đề này trong bài giảng của mình , ít nhất là liên quan đến MCMC.

— viết

Tôi đồng ý với Xi'an rằng đây là một câu hỏi rất rộng; bạn đang yêu cầu rất nhiều thông tin về bốn điều khác nhau, một cuộc thảo luận về bất kỳ một trong số đó (hoặc sự tương phản giữa một cặp trong số đó) sẽ tạo ra một câu trả lời hơi dài. Chúng ta có thể có thể đi đến đâu đó để tập trung vào câu hỏi bằng cách lưu ý rằng trong khi cả bốn phương pháp đều là phương pháp Monte Carlo, thì việc lấy mẫu và từ chối quan trọng không phải là MCMC (điều đó không có nghĩa là chúng không thể được sử dụng trong MCMC).

— Glen_b -Reinstate Monica

Như chi tiết trong cuốn sách của chúng tôi với các phương pháp thống kê của George Casella, Monte Carlo , các phương pháp này được sử dụng để sản xuất các mẫu từ một phân phối nhất định, với mật độ , để có ý tưởng về phân phối này, hoặc để giải quyết vấn đề tích hợp hoặc tối ưu hóa liên quan đến . Chẳng hạn, để tìm giá trị của $f$ $f$ hoặc chế độ phân phối của khi hoặc một lượng tử của phân phối này.

\int_{X} h (x) f (x) d x h (X) \subset R

$\int_{\mathcal{X}} h(x) f(x)\text{d}x\qquad h(\mathcal{X})\subset \mathbb{R}$

h (X)

$h(X)$

X \sim f (x)

$X\sim f(x)$

Để so sánh chuỗi phương pháp Monte Carlo và Markov, phương pháp Monte Carlo mà bạn đề cập trên các tiêu chí có liên quan đòi hỏi người ta phải đặt nền tảng của vấn đề và mục tiêu của thí nghiệm mô phỏng, vì ưu và nhược điểm của từng trường hợp sẽ khác nhau tùy theo từng trường hợp.

Dưới đây là một vài nhận xét chung mà chắc chắn không bao gồm sự phức tạp của vấn đề :

$f$ $u_1,u_2,\ldots$ $x$ $f$ $f$ $f$ $x$ $X$ $f$
$(x_t)_t$ $f$ $f$ $f$ $f (x) \propto \int_{Z} \tilde{f} (x, z) d z$ $f(x)\propto\int_{\mathcal{Z}} \tilde{f}(x,z)\text{d}z$ $(x_t)_t$ $(x_t)_t$ $x_t$ $t$ $f$ $f$ $t$
$g(x)$ $f (x) / g (x) .$ $f(x)/g(x)\,.$ $g$ $f$ $g$ $g$ $f$

I = \int_{X} h (x) f (x) d x,

$\mathcal{I}=\int_{\mathcal{X}} h(x) f(x)\text{d}x\,,$

\hat{I} = \int_{X} h (x) f (x) d x

$\hat{\mathcal{I}}=\int_{\mathcal{X}} h(x) f(x)\text{d}x$

f

$f$

— Tây An
nguồn

f

$f$

Tôi chỉ tự hỏi h(x)ý nghĩa cụ thể h(x)f(x)dxtrong một kịch bản phân tích Bayes là gì. Chúng tôi đang cố gắng để có được hậu thế, được đưa ra trước và dữ liệu. Tuy nhiên, dường như với tất cả các phương pháp lấy mẫu này, chúng tôi thực sự đang cố gắng gần đúng f(x). Vì vậy, có thể nói rằng đó f(x)đã là hậu thế mà chúng ta đang tìm kiếm, và h(x)chỉ là một chức năng tùy ý mà chúng ta cũng có thể đặt cùng với hậu f(x)thế? Hoặc tôi đã không hiểu chính xác. Cảm ơn.

— xji

\int_{X} h (x) f (x) d x

$\int_{\mathcal{X}} h(x) f(x)\text{d}x$

f

$f$

h

$h$