Tại sao mật độ sau tỷ lệ thuận với chức năng khả năng mật độ lần trước?

11

Theo định lý của Bayes, . Nhưng theo văn bản kinh tế lượng của tôi, nó nói rằng . Tại sao nó như thế này? Tôi không hiểu tại sao bị bỏ qua. $P(y|\theta)P(\theta) = P(\theta|y)P(y)$ $P(\theta|y) \propto P(y|\theta)P(\theta)$ $P(y)$

bayesian conditional-probability likelihood

— vấn đề
nguồn

1

Lưu ý rằng nó không nói rằng hai cái này bằng nhau, nhưng tỷ lệ (theo một yếu tố, nghĩa là, )

1 / P (y)

$1/P(y)$

— jpmuc

4

P (y)

$P(y)$ không bị bỏ qua nhưng được coi là hằng số vì đây là chức năng của dữ liệu được khắc phục cho sự cố trong tay. Nếu trong đó là hằng số (có nghĩa là không phụ thuộc vào ), thì chúng ta có thể viết có nghĩa đơn giản là là hằng số (không xác định). Lưu ý rằng cực trị của và xảy ra tại cùng một vị trí để có thể tìm thấy những thứ như ước tính xác suất sau (MAP hoặc MAPP) tối đa từ mà không cần biết (hoặc tính toán) .

y

$y$

A (x) = c B (x)

$A(x) = cB(x)$

c

$c$

x

$x$

A (x) \propto B (x)

$A(x) \propto B(x)$

\frac{A (x)}{B (x)}

$\frac{A(x)}{B(x)}$

A (x)

$A(x)$

B (x)

$B(x)$

P (y ∣ θ) P (θ)

$P(y\mid\theta)P(\theta)$

P (y)

$P(y)$

— Dilip Sarwate

14

$Pr(y)$ , xác suất cận biên của , không bị "bỏ qua". Nó chỉ đơn giản là hằng số. Chia cho có tác dụng "thay đổi kích thước" các phép tính được đo là xác suất phù hợp, tức là trên khoảng . Không có tỷ lệ này, chúng vẫn là các biện pháp tương đối hoàn toàn hợp lệ , nhưng không bị giới hạn trong khoảng . $y$ $Pr(y)$ $Pr(y|\theta)P(\theta)$ $[0,1]$ $[0,1]$

$Pr(y)$ thường bị "bỏ qua" vì thường khó đánh giá và thường đủ thuận tiện để gián tiếp thực hiện tích hợp thông qua mô phỏng. $Pr(y)=\int Pr(y|\theta)Pr(\theta)d\theta$

— Sycorax nói phục hồi Monica
nguồn

11

Thông báo rằng

P (θ | y) = \frac{P (θ, y)}{P (y)} = \frac{P (y | θ) P (θ)}{P (y)} .

$P(\theta | y) = \frac{P(\theta, y)}{P(y)} = \frac{P(y | \theta) P(\theta)}{P(y)}.$

Vì bạn quan tâm đến việc tính mật độ của , bất kỳ hàm nào không phụ thuộc vào tham số này - chẳng hạn như - đều có thể bị loại bỏ. Điều này mang lại cho bạn $\theta$ $P(y)$

P (θ | y) \propto P (y | θ) P (θ) .

$P(\theta | y) \propto P(y | \theta) P(\theta).$

Hậu quả của việc loại bỏ là bây giờ mật độ đã mất một số thuộc tính như tích hợp thành 1 trên miền của . Đây không phải là một vấn đề lớn vì người ta thường không quan tâm đến việc tích hợp các chức năng khả năng, nhưng trong việc tối đa hóa chúng. Và khi bạn tối đa hóa một hàm, nhân hàm này với một số hằng số (hãy nhớ rằng, theo cách tiếp cận Bayes, dữ liệu được cố định), sẽ không thay đổi tương ứng với điểm tối đa. Nó không thay đổi giá trị của khả năng tối đa, nhưng một lần nữa, người ta thường quan tâm đến vị trí tương đối của mỗi . $P(y)$ $P(\theta | y)$ $\theta$ $y$ $\theta$ $\theta$

— Waldir Leoncio
nguồn