Kết hợp nhiều chuỗi MCMC song song thành một chuỗi dài hơn

Hãy nói rằng ai đã chạy chuỗi song song MCMC trong đó mỗi chuỗi đã được burn-in. Đặt các chuỗi kết quả được ký hiệu là $m$ nơi là độ dài của mỗi chuỗi sau khi burn-in.

x_{1}^{(i)}, \dots, x_{N}^{(i)} for i = 1, \dots, m,

$x_1^{(i)},\dots,x_N^{(i)} \quad \text{ for } i=1,\dots,m,$

N

$N$

Nếu ai muốn kết hợp những chuỗi thành một chuỗi dài, là nó đơn giản như concatenating chúng như

x_{1}^{(1)}, \dots, x_{N}^{(1)}, \dots, x_{1}^{(m)}, \dots, x_{N}^{(m)} ?

$x_1^{(1)},\dots,x_N^{(1)},\dots, x_1^{(m)},\dots, x_N^{(m)} ?$

Trong trường hợp của tôi, mỗi là một parametervector . Mục tiêu của tôi là để mẫu từ sau nơi là các dữ liệu. Lý do tại sao tôi quan tâm đến các chuỗi song song là bởi vì chúng cần thiết cho việc tính toán hệ số giảm quy mô tiềm năng (PSRF). $x_i$ $\theta_i$

p (θ ∣ y),

$p(\theta \mid y),$

y

$y$

mcmc parallel-computing

— Hoa sen3000
nguồn

Lưu ý rằng các chuỗi riêng lẻ có sự phụ thuộc nối tiếp; các giá trị từ các chuỗi riêng biệt thì không, vì vậy nếu bạn muốn nó trông giống như một chuỗi dài, chỉ cần nối chúng sẽ không đúng.

Tuy nhiên, nếu bạn chỉ quan tâm đến việc phân phối, thứ tự trong chuỗi là không liên quan. Bạn không thực sự tìm cách nối chuỗi cho điều đó, bạn chỉ muốn gộp tất cả thông tin phân phối (coi chúng là một mẫu lớn). Chắc chắn, nếu tất cả các chuỗi được hội tụ vào phân phối cố định của chúng, tất cả chúng sẽ là các mẫu từ cùng một phân phối - bạn có thể kết hợp các chuỗi đó.

Thật vậy, một số người chạy trong giai đoạn burn-in và chỉ rút ra một giá trị từ nhiều chuỗi riêng biệt.

(Giữ các bước chạy riêng biệt có thể giúp đánh giá nếu chúng thực sự đã hội tụ.)

Tuy nhiên, nếu bạn tính toán phương sai chiếm cấu trúc phụ thuộc, bạn sẽ dựa trên thực tế là các lần chạy khác nhau là độc lập, nhưng các giá trị từ trong cùng một lần chạy là phụ thuộc.

— Glen_b -Reinstate Monica
nguồn

\hat{θ} = \frac{\sum_{i = 1}^{m} \sum_{j = 1}^{N} θ_{j}^{(i)}}{n m} ?

$\hat{\theta} = \frac{ \sum_{i=1}^m \sum_{j=1}^N \theta_j^{(i)}}{nm}?$

Đúng. Đó chỉ là phương sai mà (hơi) khó khăn.

— Glen_b -Reinstate Monica

Đây là Gibbs hay cái gì khác?

— Glen_b -Reinstate Monica

Thủ đô-Hastings

— Lotus3000

Ồ, được thôi, không vấn đề gì. Tôi chỉ đề xuất một công cụ ước tính khác nếu đó là Gibbs.

— Glen_b -Reinstate Monica