Chuẩn hóa hằng số trong định lý Bayes

15

Tôi đọc rằng trong quy tắc Bayes, mẫu số của $\Pr(\textrm{data})$

Pr (parameters ∣ data) = \frac{Pr (data ∣ parameters) Pr (parameters)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

được gọi là hằng số chuẩn hóa . Chính xác thì nó là gì? Mục đích của nó là gì? Tại sao nó trông giống như ? Tại sao nó không phụ thuộc vào các tham số? $\Pr(data)$

probability bayesian

— nghiệp dư
nguồn

4

Khi bạn tích hợp , bạn đang tích hợp trên các tham số và do đó kết quả không có thuật ngữ tùy thuộc vào tham số, theo cách tương tự không phụ thuộc vào .

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$

x

$x$

— Henry

16

Mẫu số, , có được bằng cách tích hợp các tham số từ xác suất nối, . Đây là xác suất cận biên của dữ liệu và tất nhiên, nó không phụ thuộc vào các tham số vì chúng đã được tích hợp. $\Pr(\textrm{data})$ $\Pr(\textrm{data}, \textrm{parameters})$

Bây giờ, kể từ:

$\Pr(\textrm{data})$ không phụ thuộc vào các tham số mà người ta muốn suy luận;
$\Pr(\textrm{data})$ thường khó tính toán ở dạng đóng;

người ta thường sử dụng sự thích ứng sau đây của công thức Baye:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

Về cơ bản, không là gì ngoài "hằng số chuẩn hóa", tức là hằng số làm cho mật độ sau tích hợp thành một . $\Pr(\textrm{data})$

— bát giác
nguồn

2

Bạn có ý nghĩa chính xác bằng cách "bằng cách tích hợp các tham số"? Ý nghĩa chính xác của "tích hợp" trong bối cảnh này là gì?

— nbro

2

@nbro: Ý tôi là Pr (data) = tích phân trên các tham số của Pr (dữ liệu, tham số)

— ocram

2

Khi áp dụng quy tắc của Bayes, chúng tôi thường muốn suy ra "tham số" và "dữ liệu" đã được đưa ra. Do đó, là một hằng số và chúng ta có thể giả định rằng nó chỉ là một yếu tố bình thường hóa. $\Pr(\textrm{data})$

— Khắc nghiệt
nguồn