Chẩn đoán hội tụ Gelman và Rubin, làm thế nào để khái quát hóa để làm việc với các vectơ?

Chẩn đoán Gelman và Rubin được sử dụng để kiểm tra sự hội tụ của nhiều chuỗi mcmc chạy song song. Nó so sánh phương sai trong chuỗi với phương sai giữa các chuỗi, giải thích bên dưới:

Các bước (cho từng tham số):

Chạy m 2 chuỗi có độ dài 2n từ các giá trị bắt đầu quá mức.
Hủy n vẽ đầu tiên trong mỗi chuỗi.
Tính toán phương sai trong chuỗi và giữa chuỗi.
Tính toán phương sai ước tính của tham số là tổng trọng số của phương sai trong chuỗi và giữa chuỗi.
Tính hệ số giảm quy mô tiềm năng.
Danh sách mục

Tôi muốn sử dụng thống kê này nhưng các biến tôi muốn sử dụng nó là các vectơ ngẫu nhiên.

Liệu nó có ý nghĩa để lấy ý nghĩa của ma trận hiệp phương sai trong trường hợp này?

mcmc convergence covariance-matrix

— Tim
nguồn

Một khuyến nghị: chỉ cần tính toán PSRF riêng cho từng thành phần vô hướng

Bài viết gốc của Gelman & Rubin [1], cũng như sách giáo khoa Phân tích dữ liệu Bayes của Gelman et al. [2], khuyên bạn nên tính riêng hệ số giảm quy mô tiềm năng (PSRF) cho từng thông số vô hướng quan tâm. Để suy ra sự hội tụ, sau đó yêu cầu tất cả các PSRF gần bằng 1. Không quan trọng là các tham số của bạn được hiểu là các vectơ ngẫu nhiên, các thành phần của chúng là vô hướng mà bạn có thể tính toán PSRF.

Brooks & Gelman [3] đã đề xuất một phần mở rộng đa biến của PSRF, mà tôi sẽ xem xét trong phần tiếp theo của câu trả lời này. Tuy nhiên, để trích dẫn Gelman & Shirley [4]:

[...] các phương thức này đôi khi có thể biểu thị mức độ quá mức: các tham số riêng lẻ có thể được ước tính tốt ngay cả khi sự hội tụ gần đúng của mô phỏng phân phối đa biến có thể mất nhiều thời gian.

Thay thế: phần mở rộng đa biến của Brooks & Gelman

$W$ $B$

\hat{V} = = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = = \underset{một}{tối đa} \frac{{một}^{T} \hat{V} một}{{một}^{T} W một} = = \frac{n - 1}{n} + (\frac{m + 1}{m}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

Người giới thiệu

[1] Gelman, Andrew và Donald B. Rubin. "Suy luận từ mô phỏng lặp bằng nhiều chuỗi." Khoa học thống kê (1992): 457-472.

[2] Gelman, Andrew, et al. Phân tích dữ liệu Bayes. Báo chí CRC, 2013.

[3] Brooks, Stephen P. và Andrew Gelman. "Các phương pháp chung để theo dõi sự hội tụ của các mô phỏng lặp." Tạp chí thống kê tính toán và đồ họa 7.4 (1998): 434-455.

[4] Gelman, Andrew và Kenneth Shirley. "Suy luận từ mô phỏng và giám sát hội tụ". (Chương 6 trong Brooks, Steve, et al., Eds. Cẩm nang của Markov Chain Monte Carlo. CRC Press, 2011)

Tất cả các bài viết ngoại trừ sách giáo khoa [2] đều có sẵn tại trang web của Andrew Gelman Trang web của Andrew Gelman .

— Juho Kokkala
nguồn