Tại sao phân phối sau trong Bayesian Inference thường không thể tìm thấy?

Tôi có một vấn đề hiểu tại sao suy luận Bayes dẫn đến các vấn đề khó khăn. Vấn đề thường được giải thích như thế này:

Điều tôi không hiểu là tại sao tích phân này phải được đánh giá ngay từ đầu: Dường như với tôi rằng kết quả của tích phân chỉ đơn giản là hằng số chuẩn hóa (như tập dữ liệu D được đưa ra). Tại sao người ta không thể đơn giản tính toán phân phối sau là tử số của phía bên tay phải và sau đó suy ra hằng số chuẩn hóa này bằng cách yêu cầu tích phân trên phân phối sau phải là 1?

Tôi đang thiếu gì?

Cảm ơn!

bayesian inference

— Arni
nguồn

Đối với ai nó có thể quan tâm: câu hỏi này là chủ đề chính vì nó là về thống kê.

— Sycorax nói Phục hồi lại

Đoạn trích được viết kém. Hãy nhận biết rằng

là không phân bố sau; đó là xác suất vô điều kiện của dữ liệu (nghĩa là không phân biệt theta). Bởi vì

sẽ giống nhau cho tất cả các mô hình được xem xét cho cùng một tập dữ liệu, nên không nhất thiết phải tính toán. Nếu không, bạn chỉ cần thay đổi dấu bằng để 'tỷ lệ với' (

P (D)

$P(\mathcal D)$

P (D)

$P(\mathcal D)$

\propto

$\propto$

— gung - Phục hồi Monica

Bạn có thể cung cấp tài liệu tham khảo của slide đó vì tôi cho rằng nó được viết bởi người khác?

— Tây An

Yêu cầu tính

chỉ thực sự xảy ra khi so sánh các mô hình (điều này đôi khi được gọi là bằng chứng ). Khi xem xét một mô hình duy nhất, tử số "đủ" để xác định hậu thế. Tuy nhiên, nếu bạn muốn tính toán các công cụ ước tính điểm như kỳ vọng sau hoặc lượng tử, bạn sẽ nhanh chóng thấy bạn cũng cần mẫu số.

p (D)

$p(\mathcal{D})$

— Tây An

Chúng tôi hiện đang tổ chức một hội thảo về bình thường hóa nơi bạn có thể tìm thấy các mục thú vị để trả lời câu hỏi này.

— Tây An

Câu trả lời:

Tại sao người ta không thể đơn giản tính toán phân phối sau là tử số của phía bên tay phải và sau đó suy ra hằng số chuẩn hóa này bằng cách yêu cầu tích phân trên phân phối sau phải là 1?

Đây chính xác là những gì đang được thực hiện. Sự phân bố sau là

P (θ | D) = = \frac{p (D | θ) P (θ)}{P (D)} .

$P(\theta|D) = \dfrac{p(D|\theta) \, P(\theta)}{P(D)}.$

$P(D|\theta)P(\theta)$ $\theta$ $c$

\begin{aligned} \int_{θ} c P (D | θ) P (θ) d θ = = 1 \\ \Rightarrow & \int_{θ} c P (D, θ) d θ = = 1 \\ \Rightarrow & c P (D) = = 1 \\ \Rightarrow & c = = \frac{1}{P (D)} . \end{aligned}

$\begin{align*} &\int_{\theta} cP(D|\theta) \, P(\theta)\, d\theta = 1\\ \Rightarrow & \int_{\theta} cP(D, \theta) \, d\theta = 1\\ \Rightarrow & cP(D) = 1\\ \Rightarrow& c = \dfrac{1}{P(D)}. \end{align*}$

$P(D)$ thường không thể điều chỉnh được hoặc quá phức tạp.

— Công viên cây xanh
nguồn

θ

$\theta$

Tôi đã có cùng một câu hỏi. Bài viết tuyệt vời này giải thích nó thực sự tốt.

Tóm lại. Nó không thể truy cập được vì mẫu số phải đánh giá xác suất cho TẤT CẢ các giá trị có thể có của; trong hầu hết các trường hợp thú vị TẤT CẢ là một số tiền lớn. Trong khi đó tử số là một nhận thức duy nhất của 𝜃.

Xem các phương trình. 4-8 trong bài. Ảnh chụp màn hình của liên kết:

— Trọng tài
nguồn