Làm thế nào để các chương trình như BUGS / JAGS tự động xác định phân phối có điều kiện để lấy mẫu Gibbs?

Có vẻ như các điều kiện đầy đủ thường khá khó để lấy được, nhưng các chương trình như JAGS và BUGS tự động lấy chúng. Ai đó có thể giải thích làm thế nào họ thuật toán tạo ra các điều kiện đầy đủ cho bất kỳ đặc tả mô hình tùy ý nào không?

— người dùng4733
nguồn

Tôi không nhớ chính xác, nhưng tôi biết rằng họ thường đưa ra rất nhiều giả định rất mạnh mẽ thường không đúng.

Về nhận xét của bạn, bạn đang nói về loại giả định nào?

— Stéphane Laurent

Câu trả lời:

Đọc qua các bình luận về các câu trả lời othe, tôi tin rằng câu trả lời chính xác cho câu hỏi dự định được hỏi là "họ không", nói chung. Như đã đề cập, họ xây dựng một DAG và nhìn vào tấm chăn Markov và sau đó (đại khái) làm như sau.

Nếu chăn Markov xung quanh một nút tương ứng với một điều kiện đầy đủ có trong bảng tra cứu (giả sử, vì đó là mẫu liên hợp) từ việc sử dụng kỹ thuật trong bảng tra cứu.
Khác, kiểm tra là nếu mật độ điều kiện đầy đủ không bình thường - là tầm thường để tính toán - là log-lõm. Nếu có, sử dụng lấy mẫu từ chối thích ứng.
Khác, mẫu sử dụng Metropolis-trong-Gibbs để lấy mẫu từ phân phối xấp xỉ. Mặc dù đây không phải là một mẫu chính xác, nhưng có thể thấy rằng thuật toán này vẫn để lại bất biến sau.

Đây không phải là chính xác những gì đang được thực hiện; ví dụ, JAGS sẽ sử dụng một số thủ thuật khác để xây dựng các bản cập nhật khối. Nhưng điều này sẽ cho một ý tưởng về những gì họ đang làm.

— chàng
nguồn

Tôi không biết rõ tài liệu BUGS và JAGS, báo cáo đó ở đâu, BTW?

— altroware

@altroware Tôi cũng không biết tài liệu này, xin lỗi. Tôi biết rjagscó một chức năng liệt kê các mẫu mà nó đang sử dụng, một cái gì đó giống như list_samplersnhưng bạn có thể kiểm tra các tài liệu thông thường Rđể tìm thấy nó.

— anh chàng

Tôi không chắc tại sao bạn nghĩ rằng điều kiện đầy đủ là khó để có được. Đưa ra mật độ xác suất chung hoàn chỉnh cho cả tham số và dữ liệu, có điều kiện đầy đủ, giả sử, cho và dữ liệu dễ dàng rút ra: nó chỉ tỷ lệ thuận với khớp trước cho các tham số và dữ liệu. Thật dễ dàng để kiểm tra bằng cách kiểm tra các phần tử nào của có thể được loại bỏ khỏi điều kiện đầy đủ cho . $\pi(\cdot)$ $\theta_i$ $\theta_{-i}$ $\theta_{-i}$ $\theta_i$

Các bộ lấy mẫu Gibbs tự động thực hiện "kiểm tra" này bằng cách phân tích một đặc tả mô hình thành một mô hình đồ thị chu kỳ có hướng xác suất . Sau đó, họ tính toán các điều kiện đầy đủ như tỉ lệ với mật độ chung toàn bộ 's Markov chăn . $\theta_i$

— Lục lam
nguồn

Chắc chắn nó đơn giản về mặt khái niệm, nhưng trong thực tế đối với tôi không rõ ràng rằng các biểu thức dạng đóng cho các điều kiện đầy đủ sẽ là không đáng kể để rút ra một cách thuật toán. Ở mỗi lớp trong DAG, bạn có thể có tất cả các loại biến đổi - tương tác nhân, giá trị tuyệt đối, log, biến đổi căn bậc hai, v.v. Ngoài ra còn có các mối quan hệ không liên hợp.

— dùng4733

Tôi không rõ làm thế nào một người tự động có thể tích hợp thuật toán ra các biểu thức cho các bản phân phối có điều kiện đầy đủ. Có lẽ các chương trình này tránh cần phải có các biểu thức dạng đóng cho các điều kiện đầy đủ, nhưng tôi đang cố gắng hiểu rõ hơn về cách thực hiện điều này trong thực tế.

— dùng4733

Hằng số chuẩn hóa không quan trọng, do đó người ta luôn có các biểu thức dạng đóng vì chúng ta chỉ nhân các biểu thức dạng đóng. Không (Tôi mệt mỏi)

— Stéphane Laurent

Nó thực sự có vẻ khá khó khăn đối với BUGS để xác định phân phối có điều kiện. Có lẽ việc cung cấp một ví dụ (không tầm thường) của quy trình DAG sẽ giúp ...

— Glen

@Glen Nếu bạn cung cấp một ví dụ gây khó khăn cho bạn, tôi sẽ kiểm tra.

— Cyan