Tại sao cần phải lấy mẫu từ phân phối sau nếu chúng ta BIẾT phân phối sau?

Tôi hiểu rằng khi sử dụng phương pháp Bayes để ước tính các giá trị tham số:

Phân phối sau là sự kết hợp của phân phối trước và phân phối khả năng.
Chúng tôi mô phỏng điều này bằng cách tạo một mẫu từ phân phối sau (ví dụ: sử dụng thuật toán Hắc ám để tạo giá trị và chấp nhận chúng nếu chúng vượt quá ngưỡng xác suất nhất định thuộc về phân phối sau).
Khi chúng tôi đã tạo mẫu này, chúng tôi sử dụng nó để xấp xỉ phân phối sau và những thứ giống như ý nghĩa của nó.

Nhưng, tôi cảm thấy mình phải hiểu lầm điều gì đó. Có vẻ như chúng ta có một phân phối sau và sau đó lấy mẫu từ nó, và sau đó sử dụng mẫu đó như là một xấp xỉ của phân phối sau. Nhưng nếu chúng ta có phân phối sau để bắt đầu với lý do tại sao chúng ta cần lấy mẫu từ nó để ước tính nó?

— Dave
nguồn

Câu hỏi này có thể đã được xem xét đã có trên diễn đàn này.

Khi bạn nói rằng bạn "có phân phối sau", chính xác bạn có ý gì? "Có" một chức năng của mà tôi biết là tỉ lệ với sau, cụ thể là ví dụ mục tiêu hoàn toàn nhân tạo $\theta$

π (θ | x) α π (θ) \times f (x | θ)

$\pi(\theta|x) \propto \pi(\theta) \times f(x|\theta)$

không cho tôi biết là những gì

π (θ | x) α điểm kinh nghiệm {- | | θ - x | |^{2} - | | θ + x | |^{4} - | | θ - 2 x | |^{6}}, x, θ \in R^{18},

$\pi(\theta|x)\propto\exp\{-||\theta-x||^2-||\theta+x||^4-||\theta-2x||^6\},\ \ x,\theta\in\mathbb{R}^{18},$

kỳ vọng sau của một chức năng của , ví dụ, , hậu thế có nghĩa là hoạt động như một công cụ ước tính Bayes theo tổn thất tiêu chuẩn; $\theta$ $\mathbb{E}[\mathfrak{h}(\theta)|x]$
quyết định tối ưu theo chức năng tiện ích tùy ý, quyết định giảm thiểu tổn thất sau dự kiến;
${h = = h (θ); π^{h} (h) \geq \underline{h}}$ $\{h=\mathfrak{h}(\theta);\ \pi^\mathfrak{h}(h)\ge \underline{h}\}$
mô hình có khả năng nhất để lựa chọn giữa việc đặt một số thành phần của (các) tham số thành các giá trị cụ thể so với việc giữ chúng không xác định (và ngẫu nhiên).

Đây chỉ là những ví dụ về nhiều cách sử dụng phân phối sau. Trong mọi trường hợp trừ những trường hợp đơn giản nhất, tôi không thể đưa ra câu trả lời bằng cách nhìn chằm chằm vào mật độ phân phối sau và không cần phải tiến hành các độ phân giải số như phương pháp Monte Carlo và Markov chuỗi Monte Carlo.

— Tây An
nguồn

Cảm ơn bạn rất nhiều vì câu trả lời Xi'an. Tôi chắc chắn điều này trả lời câu hỏi của tôi, nhưng tôi vẫn gặp một chút khó khăn để nắm bắt nó. Tôi có đúng không khi chúng ta có hàm mật độ xác suất tương ứng với hậu thế (nghĩa là bằng cách kết hợp giữa khả năng trước và khả năng)? Tại sao chúng ta không thể tìm thấy 95% CI trực tiếp từ điều này, thay vì từ phân phối sau được lấy mẫu?

— Dave

@ Tôi nghĩ rằng chìa khóa ở đây là những gì bạn có nghĩa là "có." Nói chung, bạn sẽ không có giải pháp dạng đóng, vì vậy bạn sẽ không "có" chức năng theo nghĩa hữu ích.

— tu sĩ

@monk cảm ơn đã trả lời! Bạn có nhớ xây dựng về những gì làm cho một giải pháp hình thức không đóng?

— Dave

Giả sử trước đó của bạn là Beta (a, b) và khả năng của bạn là Binomial (n, p). Làm thế nào để bạn tính toán giá trị dự kiến của hậu thế của bạn? Hãy thử làm việc tích hợp của sản phẩm đó bằng bút và giấy. Nói chung, một tích phân như vậy sẽ là một cái gì đó đòi hỏi một máy tính để có được một giá trị chính xác cho. Ngoài ra, bạn có thể phát hiện ra rằng Beta là liên hợp trước Binomial, và do đó, hậu thế sẽ là Beta (với các tham số dễ tính toán). Nhưng thường thì bạn sẽ không may mắn như vậy. Ghim xuống một định nghĩa về "hình thức đóng" là khó, và đáng để đọc về chính nó.

— tu sĩ

Có, bạn có thể có một phân phối sau phân tích. Nhưng cốt lõi của phân tích Bayes là vượt ra ngoài phân phối các tham số sau để bạn có được kết quả dự đoán tốt hơn cả về độ chính xác và khả năng khái quát. Về cơ bản, bạn muốn có được một phân phối dự đoán có dạng sau.

$p(x|D)=\int p(x|w) p(w|D)dw$

trong đó $p(w|D)$ $p(w|D)$ $p(x|w)$

— Karlsson Yu
nguồn