Jeffreys trước cho khả năng nhị thức

Nếu tôi sử dụng Jeffreys trước cho tham số xác suất nhị thức thì điều này có nghĩa là sử dụng phân phối . $\theta$ $\theta \sim beta(1/2,1/2)$

Nếu tôi chuyển đổi sang khung tham chiếu mới thì rõ ràng cũng không được phân phối dưới dạng phân phối . $\phi = \theta^2$ $\phi$ $beta(1/2,1/2)$

Câu hỏi của tôi là theo nghĩa nào là Jeffreys trước bất biến đối với việc xác định lại thông số? Tôi nghĩ rằng tôi đang hiểu nhầm chủ đề thành thật ...

Tốt,

Bến

bayesian jeffreys-prior

— ben18785
nguồn

Ưu tiên của Jeffreys là bất biến theo nghĩa bắt đầu với Jeffreys trước cho một tham số hóa và chạy thay đổi biến thích hợp giống hệt với việc lấy Jeffreys trước trực tiếp cho tham số mới này. Trên thực tế, đẳng thức sẽ là một thuật ngữ thích hợp hơn bất biến .

— Tây An

@ ben18785: hãy xem số liệu thống kê.stackexchange.com / questions / 3862/19

— Zen

Xem thêm math.stackexchange.com/questions/210607/ ((ít nhiều cùng một câu hỏi tôi nghĩ, nhưng trên một trang web khác).

— Nathaniel

Xem thêm số liệu thống kê.stackexchange.com /questions / 39001 / Google

— Christoph Hanck

Hãy có , trong đó là hàm đơn điệu của và gọi là nghịch đảo của , sao cho . Chúng tôi có thể có được phân phối trước của Jeffrey theo hai cách: $\phi = g(\theta)$ $g$ $\theta$ $h$ $g$ $\theta = h(\phi)$ $p_{J}(\phi)$

Bắt đầu với mô hình Binomial (1) xác định lại mô hình bằng để lấy và nhận phân phối trước của Jeffrey cho mô hình này. $p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ $\phi = g(\theta)$ $p (y | ϕ) = (\binom{n}{y}) h (ϕ)^{y} (1 - h (ϕ))^{n - y}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ $p_{J}(\phi)$
Lấy phân phối trước của Jeffrey từ mô hình Binomial ban đầu 1 và áp dụng thay đổi công thức biến để lấy mật độ trước cảm ứng trên $p_{J}(\theta)$ $\phi$ $p_{J} (ϕ) = p_{J} (h (ϕ)) | \frac{d h}{d ϕ} | .$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Bất biến đối với việc xác định lại tham số có nghĩa là mật độ xuất phát theo cả hai cách phải giống nhau. Ưu tiên của Jeffrey có đặc điểm này [Tham khảo: Một khóa học đầu tiên về phương pháp thống kê Bayes của P. Hoff .] $p_{J}(\phi)$

Để trả lời bình luận của bạn. Để có được phân phối trước của Jeffrey từ khả năng cho mô hình Binomial chúng ta phải tính toán thông tin Fisher bằng cách lấy logarit khả năng và tính đạo hàm thứ hai của và thông tin của Fisher là $p_{J}(\theta)$

p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$

l

$l$

l

$l$

\begin{aligned} l := \log (p (y | θ)) & \propto y \log (θ) + (n - y) \log (1 - θ) \\ \frac{\partial l}{\partial θ} & = \frac{y}{θ} - \frac{n - y}{1 - θ} \\ \frac{\partial^{2} l}{\partial θ^{2}} & = - \frac{y}{θ^{2}} - \frac{n - y}{(1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$

\begin{aligned} I (θ) & = - E (\frac{\partial^{2} l}{\partial θ^{2}} | θ) \\ = \frac{n θ}{θ^{2}} + \frac{n - n θ}{(1 - θ)^{2}} \\ = \frac{n}{θ (1 - θ)} \\ \propto θ^{- 1} (1 - θ)^{- 1} . \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ Ưu tiên của Jeffrey cho mô hình này là là .

\begin{aligned} p_{J} (θ) & = \sqrt{I (θ)} \\ \propto θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$

— Marko Lalović
nguồn

Cảm ơn câu trả lời của bạn. Sợ tôi hơi chậm một chút. Theo nghĩa nào chúng ta có thể có được một ưu tiên từ khả năng? Chúng là hai thứ riêng biệt và cái sau không ngụ ý cái trước ...

— ben18785

Tôi đã trả lời ở trên bằng cách lấy trước của Jeffrey từ khả năng cho mô hình Binomial.

p_{J} (θ)

$p_{J}(\theta)$

— Marko Lalović