Công cụ ước tính Bayes có yêu cầu tham số thực là biến thiên có thể có của trước không?

Đây có thể là một chút của một câu hỏi triết học, nhưng ở đây chúng tôi đi: Về lý thuyết quyết định, nguy cơ một Ước lượng Bayes cho được xác định đối với một phân phối trước với trên . $\hat\theta(x)$ $\theta\in\Theta$ $\pi$ $\Theta$

Bây giờ, trên một mặt, cho đúng đã tạo ra các dữ liệu (tức là "tồn tại"), phải là một biến thể dưới , ví dụ như có khác không xác suất, mật độ khác không, vv .; Mặt khác, không được biết, vì thế lựa chọn một trước, vì vậy chúng tôi không có gì bảo đảm rằng sự thật là một biến thể dưới chúng tôi đã chọn. $\theta$ $\theta$ $\pi$ $\theta$ $\theta$ $\pi$

Bây giờ, dường như với tôi rằng chúng tôi bằng cách nào đó phải chọn mà sẽ là một biến thể. Nếu không, các định lý nhất định sẽ không giữ. Chẳng hạn, ước tính minimax sẽ không phải là ước tính Bayes trước ít thuận lợi nhất, vì chúng ta có thể làm cho điều đó trở nên xấu tùy ý bằng cách loại trừ một vùng rộng xung quanh và bao gồm khỏi miền của nó. Tuy nhiên, đảm bảo rằng là thực sự trong phạm vi có thể là khó khăn để đạt được. $\pi$ $\theta$ $\theta$ $\theta$

Vì vậy, câu hỏi của tôi là:

Là nó thường cho rằng thực tế là một biến thể của ? $\theta$ $\pi$
Điều này có thể được đảm bảo?
Các trường hợp vi phạm điều này ít nhất có thể được phát hiện bằng cách nào đó, vì vậy người ta không dựa vào các định lý như minimax khi các điều kiện không giữ được?
Nếu không bắt buộc, tại sao các kết quả tiêu chuẩn trong lý thuyết quyết định lại giữ?

— người dùng32849
nguồn

Câu trả lời:

Câu hỏi rất hay! Nó thực sự sẽ có ý nghĩa rằng một "tốt" phân phối trước khi cung cấp cho khả năng tích cực hay giá trị mật độ tích cực đối với tham số "true" , nhưng từ góc độ hoàn toàn ra quyết định này không phải là trường hợp. Một đơn giản phản ví dụ để "trực giác" này mà nên cần thiết, khi là mật độ trước và là giá trị "true" của tham số, là rực rỡ minimaxity kết quả của Casella và Strawderman (1981): khi ước tính giá trị trung bình bình thường dựa trên một quan sát duy nhất $\theta_0$

π (θ_{0}) > 0

$\pi(\theta_0)>0$

π (\cdot)

$\pi(\cdot)$

θ_{0}

$\theta_0$

μ

$\mu$

với các hạn chế bổ sung

, nếu

là đủ nhỏ,

cụ thể, ước lượng tương ứng minimax để một (thuận lợi nhất) thống nhất trước về

, có nghĩa là

cho cân bằng

và

(và không cho bất kỳ giá trị khác của giá trị trung bình

)

x \sim N (μ, 1)

$x\sim{\cal N}(\mu,1)$

| μ | < ρ

$|\mu|<\rho$

ρ

$\rho$

ρ \leq 1.0567

$\rho\le 1.0567$

{- ρ, ρ}

$\{-\rho,\rho\}$

π

$\pi$

- ρ

$-\rho$

ρ

$\rho$

μ

$\mu$

Khi

tăng ít nhất thuận lợi trước khi nhìn thấy sự ủng hộ của nó ngày càng tăng, nhưng còn lại một tập hữu hạn các giá trị có thể. Tuy nhiên, kỳ vọng sau,

, có thể lấy bất kỳ giá trị nào trên

π (θ) = \frac{1}{2} δ_{- ρ} (θ) + \frac{1}{2} δ_{ρ} (θ)

$\pi(\theta)=\frac{1}{2}\delta_{-\rho}(\theta)+ \frac{1}{2}\delta_{\rho}(\theta)$

ρ

$\rho$

E [μ | x]

$\mathbb{E}[\mu|x]$

(- ρ, ρ)

$(-\rho,\rho)$

Cốt lõi của các cuộc thảo luận (xem ý kiến) có thể là, là những ước lượng Bayes được hạn chế được một điểm trong sự hỗ trợ của , tính chất của nó sẽ là khá khác nhau. $\pi(\cdot)$

Tương tự, khi xem xét các công cụ ước tính được chấp nhận, các công cụ ước tính Bayes được liên kết với một bộ thích hợp trước trên một bộ nhỏ gọn thường được chấp nhận, mặc dù chúng có hỗ trợ hạn chế.

\int_{Θ} L (θ, δ) π (θ | x) d θ

$\int_\Theta L(\theta,\delta) \pi(\theta|x)\text{d}\theta$

\int_{X} \int_{Θ} L (θ, δ) π (θ) f (x | θ) d θ d x

$\int_{\cal X}\int_\Theta L(\theta,\delta) \pi(\theta)f(x|\theta)\text{d}\theta\text{d}x$

θ_{0}

$\theta_0$

{\hat{θ}}^{π} (x) = \int_{Θ} θ π (θ | x) d θ

$\hat{\theta}^\pi(x)=\int_\Theta \theta\pi(\theta|x)\text{d}\theta$

L_{2}

$L_2$

π

$\pi$

Như một bên, khi đọc

đối với true thực sự đã tạo ra dữ liệu (nghĩa là "tồn tại"), phải là một biến thiên có thể có trong số π, ví dụ: có xác suất khác không, mật độ khác không

$\theta_0$ $\pi$ $x$ $f(x|\theta_0)$ $\pi$ ${\mathscr A}$ ${\mathscr A}$ $\hat{\theta}^\pi$

— Tây An
nguồn

μ

$\mu$

[0, + \infty)

$[0,+\infty)$

μ

$\mu$

Thông thường, cf Berger (1985), một ưu tiên ít thuận lợi nhất tương ứng với rủi ro minimax.

— Tây An

θ \sim π (θ)

$\theta \sim \pi(\theta)$

Θ = [- m, m]

$\Theta=[-m, m]$

Θ

$\Theta$

Rủi ro tích hợp không liên quan đến thông số "thật" ở bất kỳ giai đoạn nào. Vì vậy, trong ý nghĩa này, nó không thành vấn đề.

— Tây An

Vì vậy, theo một nghĩa nào đó, rủi ro nắm bắt được sự mất mát mà chúng ta mong đợi, không phải là rủi ro mà chúng ta thực sự trải qua. Điều này đã rất hữu ích, cảm ơn bạn rất nhiều!

— dùng32849

$\theta$
$(-\infty, \infty)$ $[0,1]$ $(0, \infty)$
Nếu hậu thế của bạn được "xếp chồng lên nhau" ở một cạnh của miền trước và trước đó bạn sẽ áp đặt một hạn chế không cần thiết đối với miền đó, thì đây là một chỉ báo đặc biệt rằng hạn chế không cần thiết có thể gây ra sự cố cho bạn. Nhưng điều này chỉ xảy ra nếu a) bạn đã xây dựng một hình thức trước có hình thức được điều khiển chủ yếu bởi sự thuận tiện thay vì kiến thức thực tế trước đó và b) hình thức gây ra sự thuận tiện của trước đó hạn chế miền của tham số thành một tập hợp con của nó " tự nhiên "miền có thể được coi là.

Một ví dụ như vậy là một thực tiễn cũ, hy vọng đã lỗi thời từ lâu, ràng buộc trước một thuật ngữ phương sai hơi khác 0 để tránh những khó khăn tính toán tiềm ẩn. Nếu giá trị thực của phương sai nằm giữa ràng buộc và không, thì ... nhưng thực sự nghĩ về các giá trị tiềm năng của phương sai được cung cấp dữ liệu, hoặc (ví dụ) đặt ưu tiên vào nhật ký của phương sai thay thế, sẽ cho phép bạn để tránh vấn đề này, và sự thông minh nhẹ tương tự sẽ cho phép bạn tránh các linh mục giới hạn miền nói chung.

Đã trả lời bởi # 1.

— khuỷu tay
nguồn

Nếu không may, bất cứ ai hạ thấp câu trả lời sẽ trả về - tại sao "không hữu ích"?

— jbowman

$\theta$ $-\infty$ $\infty$

$\theta$

— Tim
nguồn