So sánh giữa các công cụ ước tính Bayes

9

Hãy xem xét tổn thất bậc hai , với trước đó là trong đó . Đặt khả năng. Tìm công cụ ước tính Bayes . $L(\theta,\delta)=(\theta-\delta)^2$ $\pi(\theta)$ $\pi(\theta)\sim U(0,1/2)$ $f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$ $\delta^\pi$

Hãy xem xét tổn thất bậc hai có trọng số trong đó với trước . Đặt là khả năng. Tìm công cụ ước tính Bayes . $L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2$ $w(\theta)=\mathbb{I}_{(-\infty,1/2)}$ $\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)$ $f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$ $\delta^\pi_1$

So sánh và $\delta^\pi$ $\delta^\pi_1$

Đầu tiên tôi nhận thấy rằng và tôi cho rằng đó là khả năng, nếu không tôi sẽ không nhận được bất kỳ hậu tố nào, sau đó vì vậy công cụ ước tính Bayes liên quan đến mất phương trình bậc hai là $f(x|\theta)\sim Beta(\theta,1)$

π (θ | x) α f (x | θ) π (θ) = = θ x^{θ - 1} {Tôi}_{[0, 1]} * 2 {Tôi}_{(0, 1 / 2)} (θ) ~ B e t một (θ, 1)

$\pi(\theta|x)\propto f(x|\theta)\pi(\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}*2\mathbb{I}_{(0,1/2)}(\theta)\sim Beta(\theta,1)$

E [π (θ | x)] = = \frac{θ}{θ + 1}

$\mathbb{E}[\pi(\theta|x)]=\frac{\theta}{\theta+1}$

Tôi đang tìm kiếm trong cuốn sách Sự lựa chọn Bayes và có một định lý về công cụ ước lượng Bayes liên quan đến mất phương trình bậc hai và nó được đưa ra bởi

δ^{π} (x) = = \frac{E^{π} [w (θ) θ | x]}{E^{π} [w (θ) | x]}

$\delta^\pi(x)=\frac{\mathbb{E}^\pi[w(\theta)\theta|x]}{\mathbb{E}^\pi[w(\theta)|x]}$

Ai đó có thể giải thích cho tôi làm thế nào tôi tính toán nó?

Những gì tôi đã cố gắng là:

δ^{π} (x) = = \frac{\frac{\int θ w (θ) f (x | θ) π (θ) d θ}{\int w (θ) f (x | θ) π (θ) d θ}}{\frac{\int f (x | θ) π (θ) d θ}{\int w (θ) f (x θ) π (θ) d θ}}

$\delta^\pi(x)=\frac{\frac{\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x|\theta)\pi(\theta)d\theta}}{\frac{\int f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x\theta)\pi(\theta)d\theta}}$

Tôi biết rằng hỗ trợ là , nhưng khi tôi cố gắng tích hợp trong tử số $[0,\frac{1}{2}]$

\int θ w (θ) f (x | θ) π (θ) d θ = = \int_{0}^{\frac{1}{2}} θ θ x^{θ - 1} d θ = = \frac{1}{x} \int_{0}^{\frac{1}{2}} θ^{2} x^{θ} d θ

$\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta=\int_0^\frac{1}{2}\theta\theta x^{\theta-1}d\theta=\frac{1}{x}\int_0^\frac{1}{2}\theta^2 x^\theta d\theta$

Tôi không có kết quả tốt.

— Tây An
nguồn

1

Không phải không âm ở đây sao?

w (θ)

$w(\theta)$

— Juho Kokkala

3

Tôi không hiểu nhận xét của bạn về "chỉ dành cho không âm", bởi vì (1) hàm mất sẽ không bao giờ trở thành âm và (2) hàm mất của bạn dù sao cũng không thể âm.

w (θ)

$w(\theta)$

— whuber

@whuber Trời ạ, bây giờ tôi nhận ra sự ngốc nghếch của mình, tôi đang xem hỗ trợ chỉ báo

7

Đầu tiên, lưu ý rằng tôi đã sửa từ ngữ gốc của câu hỏi, viết các hàm chỉ thị trong các định nghĩa khả năng của bạn vì chúng phải là các hàm của không . Do đó, khả năng là tích hợp rõ ràng với một: $x$ $\theta$

f (x) = = θ x^{θ - 1} {Tôi}_{[0, 1]} (x)

$f(x)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x)$

\int_{0}^{1} θ x^{θ - 1} d x = = 1

$\int_0^1 \theta x^{\theta-1}\text{d}x = 1$

Thứ hai, phần sau trong không phải là hàm Beta vì được chỉ định bởi Greenparker Do ràng buộc trên các giá trị của đó cũng không phải là phân phối Gamma, mà là cắt ngắn phân phối Gamma. $\theta$

π (θ | x) α {Tôi}_{[0, 1 / 2]} (θ) θ x^{θ - 1} α {Tôi}_{[0, 1 / 2]} (θ) θ điểm kinh nghiệm {đăng nhập (x) θ}

$\pi(\theta|x)\propto\, \mathbb{I}_{[0,1/2]}(\theta)\theta x^{\theta-1}\propto \mathbb{I}_{[0,1/2]}(\theta)\,\theta \exp\{\log(x)\theta\}$

θ

$\theta$

Do đó, công cụ ước tính Bayes là kỳ vọng sau có vẻ như yêu cầu sử dụng hàm Gamma chưa hoàn chỉnh nhưng có thể được dẫn xuất ở dạng đóng bởi tích hợp bởi một phần: kể từ khi

\begin{aligned} E [θ | x] & = = \int_{0}^{1 / 2} θ \times θ điểm kinh nghiệm {đăng nhập (x) θ} d θ / \int_{0}^{1 / 2} θ điểm kinh nghiệm {đăng nhập (x) θ} d θ \\ = = \int_{0}^{1 / 2} θ^{2} điểm kinh nghiệm {đăng nhập (x) θ} d θ / \int_{0}^{1 / 2} θ điểm kinh nghiệm {đăng nhập (x) θ} d θ \end{aligned}

$\begin{align*}\mathbb{E}[\theta|x] &= \int_0^{1/2} \theta\times\theta \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\&= \int_0^{1/2} \theta^2 \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\\end{align*}$

\int_{0}^{1 / 2} θ^{k} điểm kinh nghiệm {- α θ} d θ = = \frac{- 1}{α} {[θ^{k} điểm kinh nghiệm {- α θ}]}_{0}^{1 / 2} + \frac{k}{α} \int_{0}^{1 / 2} θ^{k - 1} điểm kinh nghiệm {- α θ} d θ

$\int_0^{1/2} \theta^k \exp\{-\alpha\theta\}\text{d}\theta = \frac{-1}{\alpha}\left[\theta^k \exp\{-\alpha\theta\}\right]_0^{1/2} + \frac{k}{\alpha}\int_0^{1/2} \theta^{k-1} \exp\{-\alpha\theta\}\text{d}\theta$

\int_{0}^{1 / 2} điểm kinh nghiệm {- α θ} d θ = = \frac{1 - điểm kinh nghiệm {- α / 2}}{α}

$\int_0^{1/2} \exp\{-\alpha\theta\}\text{d}\theta = \frac{1-\exp\{-\alpha/2\}}{\alpha}$

Cuối cùng, như được chỉ ra trong cuốn sách của tôi , thực sự, giảm thiểu trong tương đương với thu nhỏ trong , chính nó tương đương với giảm thiểu trong có thể thay thế ban đầu bằng một trước mới cần được tái chuẩn hóa thành mật độ, nghĩa là, $\delta$

\int w (θ) (θ - δ)^{2} π (θ | x) d θ

$\int w(\theta)(\theta-\delta)^2 \pi(\theta|x) \text{d}\theta$

δ

$\delta$

\int w (θ) (θ - δ)^{2} π (θ) f (x | θ) d θ

$\int w(\theta)(\theta-\delta)^2 \pi(\theta)f(x|\theta) \text{d}\theta$

δ

$\delta$

\int (θ - δ)^{2} w (θ) π (θ) f (x | θ) d θ

$\int (\theta-\delta)^2 w(\theta)\pi(\theta)f(x|\theta) \text{d}\theta$

π

$\pi$

w (θ) π (θ)

$w(\theta)\pi(\theta)$

π_{1} (θ) = = w (θ) π (θ) / \int w (θ) π (θ) d θ

$\pi_1(\theta)=w(\theta)\pi(\theta) \Big/\int w(\theta)\pi(\theta)\text{d}\theta$

— Tây An
nguồn

6

Câu trả lời của bạn cho phần mất bình phương lỗi là sai.

π (θ | x) α f (x | θ) π (θ) = = 2 θ x^{θ - 1} {Tôi}_{(0, 1 / 2)} (θ) .

$\pi(\theta|x) \propto f(x|\theta) \pi(\theta) = 2\theta x^{\theta-1}I_{(0,1/2)}(\theta).$

Đây là phân phối theo , không phải trong và biến ngẫu nhiên ở phía sau là . Vì vậy, câu trả lời của bạn là không chính xác, và câu trả lời đúng sẽ là trung bình sau của phân phối đó. $Beta(\theta,1)$ $x$ $\theta$ $\theta$

Đối với phần thứ hai,

(Ưu tiên cho chức năng giảm trọng số là nhưng bạn gọi nó là . Tôi đang chuyển ký hiệu trở lại .) $\pi_1$ $\pi$ $\pi_1$

Đặt , trong đó là hằng số chuẩn hóa. Bạn cần tính toán $\pi'(\theta) = cw(\theta) \pi_1(\theta)$ $c$

\begin{aligned} δ^{π_{1}} (x) & = = \frac{E^{π_{1}} [w (θ) θ | x]}{E^{π_{1}} [w (θ | x)]} \\ = = \frac{\int w (θ) θ f (x | θ) π_{1} (θ) d θ}{\int w (θ) f (x | θ) π_{1} (θ) d θ} \\ = = \frac{\int θ f (x | θ) π^{'} (θ) d θ}{\int f (x | θ) π^{'} (θ) d θ} \\ = = E^{π^{'}} [θ | x] \end{aligned}

$\begin{align*} \delta^{\pi_1}(x) & = \dfrac{E^{\pi_1}[w(\theta) \theta |x ]}{E^{\pi_1}[w(\theta|x)]}\\ & = \dfrac{\int w(\theta) \theta f(x|\theta) \pi_1(\theta)\, d\theta}{\int w(\theta) f(x|\theta)\pi_1(\theta)\, d\theta}\\ & = \dfrac{\int \theta f(x|\theta) \pi'(\theta) \,d\theta}{\int f(x|\theta) \pi'(\theta) \, d\theta}\\ & = E^{\pi'}[\theta|x] \end{align*}$

Do đó, đối với hàm mất bình phương nhỏ nhất có trọng số, định lý nói rằng ước lượng Bayes là trung bình sau đối với một khác trước. Trước đó là

π^{'} (θ) α w (θ) π_{1} (θ) .

$\pi'(\theta) \propto w(\theta) \pi_1(\theta).$

Hằng số chuẩn hóa là . $\int_{\theta} w(\theta) \pi(\theta) d\theta = E_{\pi_1}[w(\theta)]$

\begin{aligned} E_{π_{1}} [w (θ)] & = = \int_{0}^{1 / 2} {Tôi}_{0, 1} (θ) d (θ) = = \frac{1}{2} . \end{aligned}

$\begin{align*} E_{\pi_1}[w(\theta)] & = \int_{0}^{1/2} I_{0,1}(\theta) d(\theta) = \frac{1}{2}. \end{align*}$

Vì vậy, ưu tiên là . Đây là cùng một trước khi bạn có trong câu hỏi đầu tiên. $\pi'(\theta) = 2I_{(0,1/2)}(\theta)$

Do đó, câu trả lời cho các kịch bản (bất kể đó là gì) sẽ giống nhau. Bạn có thể tìm thấy tích phân ở đây . Mặc dù, nó có thể là đủ để đúng hình thức của câu trả lời, và không hoàn thành tích phân.

— Công viên xanh
nguồn