Thuật toán lấy mẫu Gibbs có đảm bảo cân bằng chi tiết không?

Tôi có thẩm quyền tối cao ¹ rằng Gibbs Sampling là một trường hợp đặc biệt của thuật toán Metropolis-Hastings cho việc lấy mẫu Markov Chain Monte Carlo. Thuật toán MH luôn đưa ra xác suất chuyển tiếp với thuộc tính số dư chi tiết; Tôi hy vọng Gibbs cũng nên. Vì vậy, trong trường hợp đơn giản sau đây tôi đã đi sai?

Đối với phân phối đích trên hai biến riêng biệt (để đơn giản), các phân phối có điều kiện đầy đủ là: $\pi(x, y)$

\begin{aligned} q_{1} (x; y) & = = \frac{π (x, y)}{\underset{z}{Σ} π (z, y)} \\ q_{2} (y; x) & = = \frac{π (x, y)}{\underset{z}{Σ} π (x, z)} \end{aligned}

$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$

Theo tôi hiểu Lấy mẫu Gibbs, xác suất chuyển tiếp có thể được viết:

P r o b {(y_{1}, y_{2}) \to (x_{1}, x_{2})} = q_{1} (x_{1}; y_{2}) q_{2} (x_{2}; x_{1})

$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$

Câu hỏi là, nhưng gần nhất tôi có thể nhận được là Điều đó khác biệt một cách tinh tế và không bao hàm sự cân bằng chi tiết. Cảm ơn cho bất kỳ suy nghĩ!

π (y_{1}, y_{2}) P r o b {(y_{1}, y_{2}) \to (x_{1}, x_{2})} \overset{?}{=} π (x_{1}, x_{2}) P r o b {(x_{1}, x_{2}) \to (y_{1}, y_{2})},

$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$

\begin{aligned} π (y_{1}, y_{2}) P r o b {(y_{1}, y_{2}) & \to (x_{1}, x_{2})} \\ = π (y_{1}, y_{2}) q_{2} (x_{2}; x_{1}) q_{1} (x_{1}; y_{2}) \\ = \frac{π (x_{1}, x_{2})}{\sum_{z} π (x_{1}, z)} \frac{π (x_{1}, y_{2})}{\sum_{z} π (z, y_{2})} π (y_{1}, y_{2}) \\ = π (x_{1}, x_{2}) q_{2} (y_{2}; x_{1}) q_{1} (y_{1}; y_{2}) \end{aligned}

$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$

mcmc gibbs

— Ian
nguồn

Bạn đã cố gắng hiển thị số dư chi tiết cho chuỗi Markov có được bằng cách xem xét một lần chuyển đổi của chuỗi Markov là 'Quét Gibbs' nơi bạn lấy mẫu lần lượt từng thành phần từ phân phối có điều kiện của nó. Đối với chuỗi này, số dư chi tiết không được thỏa mãn. Vấn đề là mỗi mẫu của một thành phần cụ thể từ phân phối có điều kiện của nó là một quá trình chuyển đổi thỏa mãn sự cân bằng chi tiết. Sẽ chính xác hơn khi nói rằng việc lấy mẫu Gibbs là một trường hợp đặc biệt của một đô thị hơi rộng rãi, nơi bạn xen kẽ giữa nhiều đề xuất khác nhau. Thêm chi tiết theo dõi.

Quét không thỏa mãn số dư chi tiết

Tôi xây dựng một ví dụ mẫu. Hãy xem xét hai biến Bernoulli ( ), với các xác suất như được hiển thị trong bảng sau: Giả sử quét Gibbs được đặt hàng để được lấy mẫu Đầu tiên. Chuyển từ trạng thái sang trạng thái trong một lần di chuyển là không thể, vì nó sẽ yêu cầu đi từ đến . Tuy nhiên, việc chuyển từ sang có xác suất dương, cụ thể là $X_1,X_2$

\begin{array}{ccc} X_{2} = = 0 & X_{2} = = 1 \\ X_{1} = = 0 & \frac{1}{3} & \frac{1}{3} \\ X_{1} = = 1 & 0 & \frac{1}{3} \end{array}

$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$

X_{1}

$X_1$

(0, 0)

$(0,0)$

(1, 1)

$(1,1)$

(0, 0)

$(0,0)$

(1, 0)

$(1,0)$

(1, 1)

$(1,1)$

(0, 0)

$(0,0)$

\frac{1}{4}

$\frac{1}{4}$ . Do đó, chúng tôi kết luận rằng sự cân bằng chi tiết không được thỏa mãn.

Tuy nhiên, chuỗi này vẫn có một phân phối cố định là chính xác. Cân bằng chi tiết là điều kiện đủ, nhưng không cần thiết, để hội tụ vào phân phối mục tiêu.

Các bước di chuyển thành phần thỏa mãn sự cân bằng chi tiết

Hãy xem xét một trạng thái hai biến trong đó chúng ta lấy mẫu biến đầu tiên từ phân phối có điều kiện của nó. Di chuyển giữa và không có xác suất theo cả hai hướng nếu và do đó, đối với những trường hợp này, số dư chi tiết được giữ rõ ràng. Tiếp theo, hãy xem xét : $(x_1,x_2)$ $(y_1,y_2)$ $x_2 \neq y_2$ $x_2 = y_2$

π (x_{1}, x_{2}) P r o b ((x_{1}, x_{2}) \to (y_{1}, x_{2})) = = π (x_{1}, x_{2}) p (y_{1} | X_{2} = = x_{2}) = = π (x_{1}, x_{2}) \frac{π (y_{1}, x_{2})}{\underset{z}{Σ} π (z, x_{2})} = = π (y_{1}, x_{2}) \frac{π (x_{1}, x_{2})}{\underset{z}{Σ} π (z, x_{2})} = = π (y_{1}, x_{2}) p (x_{1} | X_{2} = = x_{2}) = = π (y_{1}, x_{2}) P r o b ((y_{1}, x_{2}) \to (x_{1}, x_{2})) .

$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$

Làm thế nào các bước di chuyển thành phần là di chuyển của Metropolis-Hastings?

Lấy mẫu từ thành phần đầu tiên, phân phối đề xuất của chúng tôi là phân phối có điều kiện. (Đối với tất cả các thành phần khác, chúng tôi đề xuất các giá trị hiện tại với xác suất ). Xem xét việc chuyển từ sang , tỷ lệ xác suất mục tiêu là Nhưng tỷ lệ xác suất đề xuất là $1$ $(x_1, x_2)$ $(y_1, y_2)$

\frac{π (y_{1}, x_{2})}{π (x_{1}, x_{2})} .

$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$

\frac{P r o b ((y_{1}, x_{2}) \to (x_{1}, x_{2}))}{P r o b ((x_{1}, x_{2}) \to (y_{1}, x_{2}))} = = \frac{\frac{π (x_{1}, x_{2})}{\underset{z}{Σ} π (z, x_{2})}}{\frac{π (y_{1}, x_{2})}{\underset{z}{Σ} π (z, x_{2})}} = = \frac{π (x_{1}, x_{2})}{π (y_{1}, x_{2})} .

$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$ Vì vậy, tỷ lệ xác suất mục tiêu và tỷ lệ xác suất đề xuất là đối ứng và do đó xác suất chấp nhận sẽ là . Theo nghĩa này, mỗi bước di chuyển trong bộ lấy mẫu Gibbs là những trường hợp đặc biệt của các bước di chuyển của Metropolis-Hastings. Tuy nhiên, thuật toán tổng thể được xem trong ánh sáng này là một khái quát nhỏ của thuật toán Metropolis-Hastings được trình bày điển hình ở chỗ bạn có xen kẽ giữa các phân phối đề xuất khác nhau (một cho mỗi thành phần của biến mục tiêu).

1

$1$

— Juho Kokkala
nguồn

Câu trả lời tuyệt vời, cảm ơn (chỉnh sửa nhỏ: y_2 -> x_2 trong phần thứ ba của bạn). Khi gọi Gibbs quét một bước, sự tồn tại của phân phối đứng yên (cùng với tính không thể sửa chữa và tái phát) có phải là điều kiện đủ để hội tụ đến phân phối tĩnh từ bất kỳ trạng thái ban đầu nào không?

— Ian

Bộ lấy mẫu Gibbs là một thành phần của các bước di chuyển của Metropolis-Hastings với xác suất chấp nhận 1. Mỗi lần di chuyển đều có thể đảo ngược nhưng thành phần thì không, trừ khi thứ tự các bước là ngẫu nhiên.

— Tây An