Là Gibbs lấy mẫu một phương pháp MCMC?


11

Theo như tôi hiểu thì đó là (ít nhất, đó là cách Wikipedia định nghĩa nó ). Nhưng tôi đã tìm thấy tuyên bố này của Efron * (nhấn mạnh thêm):

Chuỗi Markov Monte Carlo (MCMC) là câu chuyện thành công lớn của thống kê Bayes hiện đại. MCMC và phương pháp lấy mẫu của Gib Gibbs, cho phép tính toán số lượng phân phối sau trong các tình huống quá phức tạp đối với biểu thức phân tích.

và bây giờ tôi đang bối rối. Đây chỉ là một sự khác biệt nhỏ trong thuật ngữ, hay Gibbs đang lấy mẫu một thứ gì đó không phải là MCMC?

[*]: Efron 2011, "Bootstrap và Markov-Chain Monte Carlo"

Câu trả lời:


15

Thuật toán hiện được gọi là lấy mẫu Gibbs tạo thành chuỗi Markov và sử dụng mô phỏng Monte-Carlo cho các đầu vào của nó, do đó, nó thực sự nằm trong phạm vi thích hợp của các phương pháp MCMC (Markov-Chain Monte-Carlo). Trong lịch sử, phương pháp này có thể được truy nguyên ít nhất là vào giữa thế kỷ XX, nhưng nó không nổi tiếng và chỉ sau đó được phổ biến bởi bài báo bán nguyệt của Geman và Geman (1984) đã kiểm tra vật lý thống kê liên quan đến việc sử dụng bản phân phối Gibbs (đối với một số tài liệu tham khảo lịch sử, xem Casella và George 1992 , trang 167).

Vì một số lý do, mặc dù trong bài viết của mình, Efron đề cập đến bộ lấy mẫu Gibbs như thể nó nằm ngoài phạm vi của MCMC. Anh ấy làm điều này trong trích dẫn bạn đã đưa ra, và trong một số phần khác của bài báo. Vì tài liệu tham khảo mở đầu của ông về kỹ thuật này đề cập đến "bộ lấy mẫu Gibbs" (được nêu trong ngoặc kép), có thể ông đang ám chỉ thực tế lịch sử rằng phương pháp ban đầu được phát triển thông qua phân phối Gibbs trong vật lý thống kê, và không được đưa vào lý thuyết thống kê chung của MCMC cho đến sau này. Đây là dự đoán tốt nhất của tôi về lý do tại sao anh ấy đề cập đến nó theo cách này.

Cập nhật:Giáo sư Efron vẫn còn sống, tôi đã tự do viết thư cho anh ta để hỏi tại sao anh ta mô tả người lấy mẫu Gibbs theo cách này. Đây là phản hồi của anh ấy (được sao chép lại với sự cho phép của anh ấy):

Đó là vì lý do chủ yếu là lịch sử ... Mặt khác, thuật toán Gibbs trông khá khác biệt so với công thức MCMC, và phải mất một số công việc để cho thấy rằng nó có ý nghĩa tương tự. (Efron 2018, thư từ cá nhân, dấu chấm lửng trong bản gốc)


1
Cảm ơn bạn! Tôi sẽ chờ xem bạn có nhận được câu trả lời từ Tiến sĩ Efron không, nếu không tôi vẫn sẽ chọn đây là câu trả lời.
Gabriel

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.