Tính toán khả năng cận biên từ các mẫu MCMC

Đây là một câu hỏi định kỳ (xem bài này , bài này và bài này ), nhưng tôi có một spin khác.

Giả sử tôi có một loạt các mẫu từ bộ lấy mẫu MCMC chung. Đối với mỗi mẫu , tôi biết giá trị của khả năng ghi nhật ký và của nhật ký trước . Nếu nó hữu ích, tôi cũng biết giá trị của khả năng ghi nhật ký trên mỗi điểm dữ liệu, (thông tin này giúp với một số phương thức nhất định, như WAIC và PSIS-LOO).$\theta$$\log f(\textbf{x} | \theta)$$\log f(\theta)$$\log f(x_i | \theta)$

Tôi muốn có được ước tính (thô) về khả năng cận biên, chỉ với các mẫu mà tôi có, và có thể một vài đánh giá chức năng khác (nhưng không chạy lại MCMC ad hoc ).

Trước hết, hãy dọn bàn. Chúng ta đều biết rằng công cụ ước tính điều hòa là công cụ ước tính tồi tệ nhất . Tiếp tục nào. Nếu bạn đang thực hiện lấy mẫu Gibbs với các linh mục và hậu thế ở dạng kín, bạn có thể sử dụng phương pháp của Chib ; nhưng tôi không chắc làm thế nào để khái quát bên ngoài những trường hợp đó. Ngoài ra còn có các phương pháp yêu cầu bạn sửa đổi quy trình lấy mẫu (chẳng hạn như thông qua hậu thế nóng nảy ), nhưng tôi không quan tâm đến điều đó ở đây.

Cách tiếp cận tôi nghĩ đến bao gồm xấp xỉ phân phối cơ bản với hình dạng tham số (hoặc không tham số) , và sau đó tìm ra hằng số chuẩn hóa là một vấn đề tối ưu hóa 1-D (nghĩa là giảm thiểu một số lỗi giữa và , được đánh giá trên các mẫu). Trong trường hợp đơn giản nhất, giả sử rằng phần sau gần như đa biến bình thường, tôi có thể điều chỉnh như một đa biến bình thường và nhận được một cái gì đó tương tự như một xấp xỉ Laplace (tôi có thể muốn sử dụng một vài đánh giá chức năng bổ sung để tinh chỉnh vị trí của chế độ). Tuy nhiên, tôi có thể sử dụng như$g(\theta)$$Z$$Z$$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$$g(\theta)$$g(\theta)$một gia đình linh hoạt hơn như một hỗn hợp đa dạng của các phân phối đa biến .$t$

Tôi đánh giá cao phương pháp này chỉ hoạt động nếu là một xấp xỉ hợp lý với , nhưng bất kỳ lý do hoặc câu chuyện cảnh báo nào về lý do tại sao nó sẽ rất không khôn ngoan làm đi? Bất kỳ đọc mà bạn muốn giới thiệu?$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$

Cách tiếp cận hoàn toàn không tham số sử dụng một số họ không tham số, chẳng hạn như quy trình Gaussian (GP), để xấp xỉ (hoặc một số biến đổi phi tuyến khác của nó, chẳng hạn là căn bậc hai) và phương trình Bayesian để tích hợp hoàn toàn vào mục tiêu cơ bản (xem tại đây và đây ). Đây có vẻ là một cách tiếp cận thay thế thú vị, nhưng tương tự về tinh thần (cũng vậy, lưu ý rằng GP sẽ khó sử dụng trong trường hợp của tôi).$\log f(\textbf{x}|\theta) + \log f(\theta)$

Phần mở rộng của Chib và Jeliazkov (2001) không may bị biến đổi nhanh chóng hoặc rất tốn kém, đó là lý do tại sao nó không được sử dụng nhiều ngoài các trường hợp lấy mẫu Gibbs.

Trong khi có rất nhiều cách và phương pháp hằng số bình thường vấn đề ước lượng (được minh họa bằng các cuộc đàm phán khá đa dạng trong các hội thảo liên tục Ước tính chúng tôi chạy vào tuần trước tại Đại học Warwick, slide sẵn có ), một số giải pháp làm khai thác trực tiếp đầu ra MCMC.$\mathfrak{Z}$

1. Như bạn đã đề cập, công cụ ước lượng trung bình hài hòa của Newton và Raftery (1994) hầu như không bao giờ nghèo vì có phương sai vô hạn. Tuy nhiên, có nhiều cách để tránh lời nguyền phương sai vô hạn bằng cách sử dụng thay vào đó là mục tiêu hỗ trợ hữu hạn trong danh tính trung bình hài hòa bằng cách chọn làm chỉ báo của vùng HPD cho hậu thế. Điều này đảm bảo phương sai hữu hạn bằng cách loại bỏ các đuôi trong trung bình hài. (Chi tiết sẽ được tìm thấy trong một bài báo mà tôi đã viết với Darren Wraith và trong một chương về bình thường hóa các hằng số được viết bằng Jean-Michel Marin.) Tóm lại, phương pháp này tái chế đầu ra MCMC alphaθ1,...,θM

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$bằng cách xác định (20% nói) giá trị lớn nhất của mục tiêu và tạo như một sự thống nhất trên sự kết hợp của các quả bóng tập trung tại các mô phỏng mật độ lớn nhất (HPD) và với bán kính , có nghĩa là ước tính hằng số chuẩn hóa được đưa ra bởi $\beta$$\pi(\theta)f(x|\theta)$$\alpha$$\theta^0_i$$\rho$$\mathfrak{Z}$ dθραM2βM2 $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ nếu là kích thước của (hiệu chỉnh áp dụng cho các quả bóng giao nhau) và nếu đủ nhỏ để các quả bóng không bao giờ giao nhau (nghĩa là chỉ có một chỉ số trên các quả bóng khác với số không). Giải thích cho mẫu số là đây là tổng hai lần$d$$\theta$$\rho$$\alpha M^2$$\beta M^2$ điều khoản: với mỗi thuật ngữ trong tích hợp với . $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ Z - $\theta_m$${\mathfrak{Z}}^{-1}$

2. Một cách tiếp cận khác là biến hằng số chuẩn hóa thành một tham số. Điều này nghe có vẻ như một dị giáo thống kê nhưng bài báo của Guttmann và Hyvärinen (2012) đã thuyết phục tôi về điều ngược lại. Không cần quá nhiều chi tiết, ý tưởng gọn gàng trong đó là biến khả năng ghi nhật ký quan sát vào một khả năng đăng nhập chung là khả năng đăng nhập của quy trình điểm Poisson với chức năng cường độ n Σ i = 1 f ( x i | q ) - n log ∫ exp f ( x | q ) d x n Σ i = 1 [ f ( x i | q ) + ν ] - n ∫ exp f ( $\mathfrak{Z}$

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ exp $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ Đây là một mô hình thay thế trong đó khả năng ban đầu không xuất hiện như là một biên của những điều trên. Chỉ có các chế độ trùng khớp, với chế độ có điều kiện trong ν cung cấp hằng số chuẩn hóa. Trong thực tế, khả năng quá trình Poisson ở trên là không có sẵn và Guttmann và Hyvärinen (2012) đưa ra một xấp xỉ bằng phương pháp hồi quy logistic. Để kết nối tốt hơn với câu hỏi của bạn, ước tính của Geyer là MLE, do đó giải pháp cho vấn đề tối đa hóa.
3. Một cách tiếp cận được kết nối là phương pháp hồi quy logistic của Charlie Geyer . Khái niệm cơ bản là thêm vào mẫu MCMC từ một mẫu khác từ một mục tiêu đã biết, ví dụ: dự đoán tốt nhất của bạn tại , và để chạy hồi quy logistic trên chỉ mục phân phối phía sau dữ liệu (1 cho và 0 cho ). Với các biến hồi quy là giá trị của cả hai mật độ, có chuẩn hóa hay không. Điều này xảy ra được liên kết trực tiếp với lấy mẫu cầu Gelman và Meng (1997), cũng tái chế các mẫu từ các mục tiêu khác nhau. Và các phiên bản mới hơn, như MLE của Meng.$\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$
4. Một cách tiếp cận khác nhau buộc người ta phải chạy một bộ lấy mẫu MCMC cụ thể là lấy mẫu lồng nhau của Skilling . Mặc dù tôi [và những người khác] có một số bảo lưu về hiệu quả của phương pháp, nhưng nó khá phổ biến trong khoa tĩnh điện và vũ trụ học, với phần mềm có sẵn như multinest .
5. Một giải pháp [tiềm năng nếu không phải lúc nào cũng có thể] là khai thác đại diện Savage-Dickey của nhân tố Bayes trong trường hợp giả thuyết null được nhúng. Nếu null viết là về một tham số quan tâm và nếu là phần [phiền toái] còn lại của tham số của mô hình, giả sử trước một dạng , hệ số Bayes của so với thay thế ghi là trong đó biểu thị mật độ sau biên của ở giá trị cụ thể$H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ πθ(θ0|x)θθ0H0:θ=θ0m0(x)=∫Ξf(x|θ0,ξ)π2(ξ)d $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ $\pi^\theta(\theta_0|x)$$\theta$$\theta_0$. Trong trường hợp mật độ biên dưới null có sẵn trong dạng đóng, người ta có thể rút ra mật độ biên cho mô hình không giới hạn từ yếu tố Bayes. (Đại diện Savage-Dickey này dựa trên các phiên bản cụ thể của ba mật độ khác nhau và do đó đầy nguy hiểm, thậm chí không đề cập đến thách thức tính toán của việc tạo ra hậu thế cận biên.)$H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$

[Đây là một tập hợp các slide tôi đã viết về việc ước tính các hằng số chuẩn hóa cho một hội thảo NIPS vào tháng 12 năm ngoái.]