Rao-Blackwellization của Gibbs Sampler

Tôi hiện đang ước tính một mô hình biến động ngẫu nhiên bằng các phương pháp Markov Chain Monte Carlo. Qua đó, tôi đang thực hiện các phương pháp lấy mẫu Gibbs và Metropolis.

Giả sử tôi lấy trung bình của phân phối sau thay vì một mẫu ngẫu nhiên từ nó, đây có phải là cái thường được gọi là Rao-Blackwellization không?

Nhìn chung, điều này sẽ dẫn đến việc lấy giá trị trung bình của phương tiện phân phối sau làm ước tính tham số.

— mscnvrsy
nguồn

Giả sử tôi lấy trung bình của phân phối sau thay vì một mẫu ngẫu nhiên từ nó, đây có phải là cái thường được gọi là Rao-Blackwellization không?

Tôi không quen thuộc lắm với các mô hình biến động ngẫu nhiên, nhưng tôi biết rằng trong hầu hết các cài đặt, lý do chúng tôi chọn thuật toán Gibbs hoặc MH để vẽ từ phía sau, là vì chúng tôi không biết hậu thế. Thông thường chúng tôi muốn ước tính trung bình sau và vì chúng tôi không biết trung bình sau, chúng tôi vẽ các mẫu từ phía sau và ước tính nó bằng trung bình mẫu. Vì vậy, tôi không chắc chắn làm thế nào bạn có thể lấy giá trị trung bình từ phân phối sau.

Thay vào đó, công cụ ước tính Rao-Blackwellized phụ thuộc vào o kiến thức về giá trị trung bình của điều kiện đầy đủ; nhưng ngay cả sau đó lấy mẫu vẫn được yêu cầu. Tôi giải thích thêm dưới đây.

Giả sử phân bố sau được xác định trên hai biến, ), chẳng hạn mà bạn muốn ước tính sau có nghĩa là: . Bây giờ, nếu có sẵn bộ lấy mẫu Gibbs, bạn có thể chạy thuật toán đó hoặc chạy thuật toán MH để lấy mẫu từ phía sau. $\theta = (\mu, \phi$ $E[\theta \mid \text{data}]$

Nếu bạn có thể chạy một sampler Gibbs, sau đó bạn biết trong hình thức đóng cửa và bạn biết giá trị trung bình của phân phối này. Đặt đó có nghĩa là . Lưu ý rằng là hàm của và dữ liệu. $f(\phi \mid \mu, data)$ $\phi^*$ $\phi^*$ $\mu$

Điều này cũng có nghĩa là bạn có thể tích hợp ra từ sau, vì vậy sau biên của là (điều này vẫn chưa được biết đầy đủ, nhưng được biết đến tối đa là một hằng số). Bây giờ bạn muốn bây giờ chạy một chuỗi Markov mà là phân phối bất biến, và bạn lấy mẫu từ sau biên này. Câu hỏi là $\phi$ $\mu$ $f(\mu \mid data)$ $f(\mu \mid data)$

Làm thế nào bạn có thể hiện nay ước tính giá trị trung bình sau của chỉ sử dụng những mẫu từ sau biên của ? $\phi$ $\mu$

Điều này được thực hiện thông qua Rao-Blackwellization.

\begin{aligned} E [φ | d một t một] & = = \int φ f (μ, φ | d một t một) d μ d φ \\ = = \int φ f (φ | μ, d một t một) f (μ | d một t một) d μ d φ \\ = = \int φ^{*} f (μ | d một t một) d μ . \end{aligned}

$\begin{align*} E[\phi \mid data]& = \int \phi \; f(\mu, \phi \mid data) d\mu \, d\phi\\ & = \int \phi \; f(\phi \mid \mu, data) f(\mu \mid data) d\mu \, d\phi\\ & = \int \phi^* f(\mu \mid data) d\mu. \end{align*}$

Như vậy giả sử chúng ta đã thu được mẫu từ sau biên của . Sau đó $X_1, X_2, \dots X_N$ $\mu$

\hat{φ} = = \frac{1}{N} Σ_{Tôi = = 1}^{N} φ^{*} (X_{Tôi}),

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \phi^*(X_i),$

được gọi là công cụ ước tính Rao-Blackwellized cho . Điều tương tự có thể được thực hiện bằng cách mô phỏng từ các lề chung. $\phi$

Ví dụ (Hoàn toàn để trình diễn).

Giả sử bạn có một sau chưa biết chung cho mà từ đó bạn muốn mẫu. Dữ liệu của bạn là một số , và bạn có các điều kiện đầy đủ sau $\theta = (\mu, \phi)$ $y$

μ | φ, y ~ N (φ^{2} + 2 y, y^{2})

$\mu \mid \phi, y \sim N(\phi^2 + 2y, y^2)$

φ | μ, y ~ G một m m một (2 μ + y, y + 1)

$\phi \mid \mu, y \sim Gamma(2\mu + y, y + 1)$

Bạn chạy sampler Gibbs sử dụng các điều kiện, và các mẫu thu được từ hậu nghiệm kết hợp . Hãy để những mẫu được . Bạn có thể tìm thấy giá trị trung bình mẫu của s, và đó sẽ là những ước lượng Monte Carlo thông thường cho giá trị trung bình sau cho .. $f(\mu, \phi \mid y)$ $(\mu_1, \phi_1), (\mu_2, \phi_2), \dots, (\mu_N, \phi_N)$ $\phi$ $\phi$

E [φ | μ, y] = = \frac{2 μ + y}{y + 1} = = φ^{*} .

$E[\phi | \mu, y] = \dfrac{2 \mu + y}{y + 1} = \phi^*.$

$y$

\hat{φ} = = \frac{1}{N} Σ_{Tôi = = 1}^{N} \frac{2 μ_{Tôi} + y}{y + 1} .

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \dfrac{2 \mu_i + y}{y + 1}.$

$\phi$ $\phi$ $\mu$

— Công viên xanh
nguồn

Vì vậy, giả sử phân phối sau của tham số đã biết (theo hiểu biết tốt nhất của tôi là đúng khi áp dụng lấy mẫu Gibbs), lấy giá trị trung bình của phân phối thay vì mẫu ngẫu nhiên sẽ là công cụ ước tính Rao-Blackwellized? Tôi hy vọng tôi hiểu câu trả lời của bạn một cách chính xác. Cảm ơn bạn rất nhiều rồi!

— mscnvrsy

f (μ, ϕ ∣ d a t a)

$f(\mu, \phi \mid data)$

f (μ ∣ ϕ, d a t a)

$f(\mu \mid \phi, data)$

f (ϕ ∣ μ, d a t a)

$f(\phi \mid \mu, data)$

μ

$\mu$

ϕ^{*}

$\phi^*$

@mscnvrsy Tôi đã thêm một ví dụ để trợ giúp

— Greenparker

Wow, cảm ơn bạn rất nhiều vì đã làm rõ điều này với tôi. Vì vậy, giả sử rằng tôi biết các phân phối có điều kiện đầy đủ, tôi có thể làm việc với các phương tiện lý thuyết của các phân phối có điều kiện và trung bình trên các phương tiện lý thuyết này (chẳng hạn như E [phi | mu, y]) để có được ước lượng RB? Điều này sau đó sẽ giảm thiểu phương sai của ước tính tham số của tôi?

— mscnvrsy

Tuy nhiên, nếu bạn đang lấy các mẫu độc lập, vâng, nó sẽ giảm thiểu phương sai của các công cụ ước tính, tuy nhiên, vì bạn đang xử lý các chuỗi Markov, nên thường biết rằng RB không nhất thiết phải giảm phương sai và có một số trường hợp phương sai thậm chí còn tăng. Bài viết này của Charlie Geyer đã đưa ra một số ví dụ cho điểm này.

— xanh

$\pi_2(\theta_2|y)$

\begin{array}{rcl} π_{2} (θ_{2} | y) & = = & \int π (θ_{1}, θ_{2} | y) d θ_{1} \\ = = & \int π_{2 | 1} (θ_{2} | θ_{1}, y) π_{1} (θ_{1} | y) d θ_{1} \\ = = & E (π_{2 | 1} (θ_{2} | θ_{1}, y)) \end{array}

$\begin{eqnarray*} \pi_2(\theta_2|y)&=&\int \pi(\theta_1,\theta_2|y)d\theta_1\\ &=&\int \pi_{2|1}(\theta_2|\theta_1,y)\pi_1(\theta_1|y)d\theta_1\\ &=&E(\pi_{2|1}(\theta_2|\theta_1,y)) \end{eqnarray*}$

θ_{2}

$\theta_2$

θ_{2}

$\theta_2$

θ_{2}

$\theta_2$

θ_{1}

$\theta_1$

θ_{2}

$\theta_2$

V một r (X) = = E [V một r (X | Y)] + V một r [E (X | Y)],

$Var(X)=E[Var(X|Y)]+Var[E(X|Y)],$

V a r (X | Y)

$Var(X|Y)$

E {(X - E (X | Y))^{2} | Y}

$E\left\{(X-E(X|Y))^2|Y\right\}$

V a r (E (X | Y)) = E [(E (X | Y) - E (X))^{2}]

$Var(E(X|Y))=E\left[(E(X|Y)-E(X))^2\right]$

V một r (X) \geq V một r [E (X | Y)] .

$Var(X)\geq Var[E(X|Y)].$

(θ_{1 i}, θ_{2 i})

$(\theta_{1i},\theta_{2i})$

π_{2} (θ_{2} | y)

$\pi_2(\theta_2|y)$

{\hat{π}}_{2} (θ_{2} | y) = = \frac{1}{M} Σ_{Tôi = = 1}^{M} π_{2 | 1} (θ_{2} | θ_{1 Tôi}, y)

$\hat{\pi}_2(\theta_2|y)=\frac{1}{M}\sum_{i=1}^M\pi_{2|1}(\theta_2|\theta_{1i},y)$

θ_{2 i}

$\theta_{2i}$

θ_{2}

$\theta_2$

Thí dụ

$X$ $Y$ $\rho$

π (x, y) α điểm kinh nghiệm {- \frac{1}{2 (1 - ρ^{2})} (x^{2} + y^{2} - 2 ρ x y)}

$\pi(x,y)\propto\exp\left\{-\frac{1}{2(1-\rho^2)}(x^2+y^2-2\rho x y)\right\}$

Y \sim N (0, 1)

$Y\sim N(0,1)$

Y

$Y$

X = x

$X=x$

N (ρ x, 1 - ρ^{2})

$N(\rho x,1-\rho^2)$

$M$ $(X,Y)$ $Y$ $y$

{\hat{π}}_{Y} (y) = = \frac{1}{M} Σ_{Tôi = = 1}^{M} \frac{1}{\sqrt{1 - ρ^{2}} \sqrt{2 π}} điểm kinh nghiệm {- \frac{1}{2 (1 - ρ^{2})} (y - ρ x_{Tôi})^{2}}

$\hat\pi_Y(y)=\frac{1}{M}\sum_{i=1}^M\frac{1}{\sqrt{1-\rho^2}\sqrt{2\pi}}\exp\left\{-\frac{1}{2(1-\rho^2)}(y-\rho x_i)^2\right\}$

library(mvtnorm)

rho <- 0.5
R <- 50
xy <- rmvnorm(n=R, mean=c(0,0), sigma= matrix(c(1,rho,rho,1), ncol=2))
x <- xy[,1]
y <- xy[,2]

kernel_density <- density(y, kernel = "gaussian")
plot(kernel_density,col = "blue",lty=2,main="Rao-Blackwell estimates from conditional normals",ylim=c(0,0.4))
legend(1.5,.37,c("Kernel","N(0,1)","Rao-Blackwell"),lty=c(2,1,3),col=c("blue","black","red"))
g <- seq(-3.5,3.5,length=100)
lines(g,dnorm(g),lty=1) # here's what we pretend not to know

density_RB <- rep(0,100)
for(i in 1:100) {density_RB[i] <- mean(dnorm(g[i], rho*x, sd = sqrt(1-rho^2)))}
lines(g,density_RB,col = "red",lty=3)

Chúng tôi quan sát rằng ước tính RB làm tốt hơn nhiều (vì nó khai thác thông tin có điều kiện):

— Christoph Hanck
nguồn