Hậu thế rất khác so với trước và khả năng

Nếu trước và khả năng rất khác nhau, thì đôi khi một tình huống xảy ra trong đó hậu thế giống với cả hai. Xem ví dụ hình ảnh này, trong đó sử dụng phân phối bình thường.

Mặc dù điều này là chính xác về mặt toán học, nó dường như không phù hợp với trực giác của tôi - nếu dữ liệu không phù hợp với niềm tin được giữ vững của tôi hoặc dữ liệu, tôi sẽ không mong đợi giá trị tốt và sẽ mong đợi một hậu thế phẳng toàn bộ phạm vi hoặc có lẽ là phân phối lưỡng kim xung quanh trước và khả năng (tôi không chắc điều đó có ý nghĩa logic hơn). Tôi chắc chắn sẽ không mong đợi một hậu thế chặt chẽ xung quanh một phạm vi phù hợp với cả niềm tin trước đây của tôi hoặc dữ liệu. Tôi hiểu rằng khi thu thập được nhiều dữ liệu hơn, hậu thế sẽ chuyển sang khả năng, nhưng trong tình huống này có vẻ phản trực giác.

Câu hỏi của tôi là: sự hiểu biết của tôi về tình huống này còn thiếu sót như thế nào (hoặc nó có khiếm khuyết). Là hậu thế chức năng 'chính xác' cho tình huống này. Và nếu không, làm thế nào khác nó có thể được mô hình hóa?

Vì lợi ích đầy đủ, trước khi được đưa ra như và khả năng như N ( μ = 6,1 , σ = 0,4 ) .$\mathcal{N}(\mu=1.5, \sigma=0.4)$$\mathcal{N}(\mu=6.1, \sigma=0.4)$

EDIT: Nhìn vào một số câu trả lời được đưa ra, tôi cảm thấy như mình chưa giải thích được tình huống này rất tốt. Quan điểm của tôi là phân tích Bayes dường như tạo ra một kết quả không trực quan với các giả định trong mô hình. Hy vọng của tôi là hậu thế bằng cách nào đó sẽ 'giải thích' cho các quyết định mô hình có lẽ tồi tệ, mà khi nghĩ về nó chắc chắn không phải là trường hợp. Tôi sẽ mở rộng theo điều này trong câu trả lời của tôi.

Có, tình huống này có thể phát sinh và là một tính năng của các giả định mô hình của bạn cụ thể là tính quy tắc trong mô hình lấy mẫu trước và mẫu (khả năng). Nếu thay vào đó, bạn đã chọn một phân phối Cauchy cho trước, thì hậu thế sẽ khác nhiều.

prior = function(x) dcauchy(x, 1.5, 0.4)
like = function(x) dnorm(x,6.1,.4)

# Posterior
propto = function(x) prior(x)*like(x)
d = integrate(propto, -Inf, Inf)
post = function(x) propto(x)/d$value

# Plot
par(mar=c(0,0,0,0)+.1, lwd=2)
curve(like, 0, 8, col="red", axes=F, frame=T)
curve(prior, add=TRUE, col="blue")
curve(post, add=TRUE, col="seagreen")
legend("bottomleft", c("Prior","Likelihood","Posterior"), col=c("blue","red","seagreen"), lty=1, bg="white")

Tôi hơi không đồng ý với các câu trả lời được đưa ra cho đến nay - không có gì kỳ lạ về tình huống này. Khả năng là bất thường bình thường dù sao, và một bình thường trước đó không phải là hiếm gặp. Nếu bạn kết hợp cả hai, với thực tế là trước đó và có khả năng không đưa ra cùng một câu trả lời, chúng ta có tình huống chúng ta đang nói ở đây. Tôi đã mô tả rằng dưới đây với mã bởi jaradniemi.

Chúng tôi đề cập trong 1 rằng kết luận bình thường của một quan sát như vậy sẽ là một) mô hình bị sai cấu trúc b) dữ liệu sai c) trước đó là sai. Nhưng chắc chắn có điều gì đó không ổn và bạn cũng sẽ thấy điều này nếu bạn thực hiện một số kiểm tra dự đoán sau, dù sao bạn cũng nên làm.

1 Hartig, F.; Đê, J.; Hickler, T.; Higgins, SI; O'Hara, RB; Scheiter, S. & Huth, A. (2012) Kết nối các mô hình thảm thực vật động với dữ liệu - một viễn cảnh nghịch đảo. J. Biogeogr., 39, 2240-2252. http: // onlinel Library.wiley.com/doi/10.1111/j.1365-2699.2012.02745.x/abab

prior = function(x) dnorm(x,1,.3)
like = function(x) dnorm(x,-1,.3)

# Posterior
propto = function(x) prior(x)*like(x)
d = integrate(propto, -Inf, Inf)
post = function(x) propto(x)/d$value

# Plot
par(mar=c(0,0,0,0)+.1, lwd=2)
curve(like, -2, 2, col="red", axes=F, frame=T, ylim = c(0,2))
curve(prior, add=TRUE, col="blue")
curve(post, add=TRUE, col="seagreen")
legend("bottomleft", c("Prior","Likelihood","Posterior"), col=c("blue","red","seagreen"), lty=1, bg="white")

Tôi cảm thấy như câu trả lời mà tôi đang tìm kiếm khi nói đến câu hỏi này được tóm tắt tốt nhất bởi Lesaffre và Lawson trong Bayesian Biostatistic

$$\frac{1}{\sigma^2} = w_{0} + w_{1}$$ $\mu$$\sigma$

Điều này tóm tắt cho tôi, và được phác thảo đại khái trong các câu trả lời khác, đó là trường hợp làm mẫu cho các linh mục bình thường với khả năng bình thường có thể dẫn đến một tình huống mà hậu thế chính xác hơn cả. Điều này là phản trực giác, nhưng là một kết quả đặc biệt của việc mô hình hóa các yếu tố này theo cách này.

$X_1$$X_0$$\mu \sim N(1.6, 0.4^2)$$X_1 \sim N(\mu, 0.4^2)$$X_1$$X_1$$\sqrt{0.4^2 + 0.4^2}=0.56$$2\phi(-(6.1-1.6)/0.56)=9.3\cdot 10^{-16}$$\mu$

$X_0 \sim N(\mu,0.4^2)$$X_0$$X_0$$X_1$$|X_1-X_0|>6.1-1.6$

$X_0$$X_1$

Sau khi suy nghĩ về điều này một thời gian, kết luận của tôi là với các giả định mô hình xấu, hậu thế có thể là kết quả phù hợp với cả niềm tin trước hoặc khả năng. Từ đó, kết quả tự nhiên là hậu thế không , nói chung, kết thúc phân tích. Nếu đó là trường hợp mà hậu thế phải phù hợp với dữ liệu hoặc nó sẽ được khuếch tán giữa trước và khả năng (trong trường hợp này), thì điều này sẽ phải được kiểm tra sau thực tế, có thể bằng kiểm tra dự báo sau hoặc một cái gì đó giống. Để kết hợp điều này vào mô hình dường như đòi hỏi khả năng đưa xác suất vào các báo cáo xác suất, điều mà tôi không nghĩ là có thể.

Tôi nghĩ rằng đây thực sự là một câu hỏi thú vị. Đã ngủ trên đó, tôi nghĩ rằng tôi có một câu trả lời. Vấn đề chính là như sau:

• Bạn đã coi khả năng là một pdf gaussian. Nhưng nó không phải là một phân phối xác suất - đó là một khả năng! Hơn nữa, bạn đã không dán nhãn trục của bạn rõ ràng. Những điều này kết hợp đã nhầm lẫn tất cả mọi thứ sau.

$\mu$$\sigma$$P(\mu|\mu', \sigma')$$\mu'$$\sigma'$$P(X|\mu, \sigma)$$X$$P(\mu|X, \sigma, \mu', \sigma')$$\mu$ .

$\mu$$P(X|\mu)$ có cùng chiều rộng và chiều cao như trước ? Khi bạn phá vỡ nó thực sự là một tình huống kỳ lạ. Hãy suy nghĩ về hình thức trước và khả năng:

The only way I can see that these can have the same width is if $\sigma'^2 = \sigma^2/N$. In other words, your prior is very informative, as its variance is going to be much lower than $\sigma^2$ for any reasonable value of $N$. It is literally as informative as the entire observed dataset $X$!

So, the prior and the likelihood are equally informative. Why isn't the posterior bimodal? This is because of your modelling assumptions. You've implicitly assumed a normal distribution in the way this is set up (normal prior, normal likelihood), and that constrains the posterior to give a unimodal answer. That's just a property of normal distributions, that you have baked into the problem by using them. A different model would not necessarily have done this. I have a feeling (though lack a proof right now) that a cauchy distribution can a have multimodal likelihood, and hence a multimodal posterior.

So, we have to be unimodal, and the prior is as informative as the likelihood. Under these constraints, the most sensible estimate is starting to sound like a point directly between the likelihood and prior, as we have no reasonable way to tell which to believe. But why does the posterior get tighter?

I think the confusion here comes from the fact that in this model, $\sigma$ is assumed to be known. Were it unknown, and we had a two dimensional distribution over $\mu$ and $\sigma$ the observation of data far from the prior might make a high value of $\sigma$ more probable, and so increase the variance of the posterior distribution of the mean too (as these two are linked). But we're not in that situation. $\sigma$ is treated as known here. A such adding more data can only make us more confident in our prediction of the position of $\mu$, and hence the posterior becomes narrower.

(A way to visualise it might be to imagine estimating the mean of a gaussian, with known variance, using just two sample points. If the two sample points are separated by very much more than the width of the gaussian (i.e. they're out in the tails), then that's strong evidence the mean actually lies between them. Shifting the mean just slightly from this position will cause an exponential drop off in the probability of one sample or another.)

In summary, the situation you have described is a bit odd, and by using the model you have you've included some assumptions (e.g. unimodality) into the problem that you didn't realise you had. But otherwise, the conclusion is correct.