Ví dụ cho một ưu tiên, không giống như Jeffreys, dẫn đến một hậu thế không phải là bất biến


17

Tôi đang đăng lại một "câu trả lời" cho một câu hỏi mà tôi đã đưa ra hai tuần trước tại đây: Tại sao Jeffreys trước lại hữu ích? Tuy nhiên, đây thực sự là một câu hỏi (và tôi cũng không có quyền đăng bình luận), vì vậy tôi hy vọng sẽ ổn khi làm điều này:

Trong liên kết ở trên, người ta đã thảo luận rằng tính năng thú vị của Jeffreys trước đó là, khi xác định lại mô hình, phân phối hậu quả mang lại xác suất sau tuân theo các hạn chế do biến đổi áp đặt. Say, như đã thảo luận ở đó, khi di chuyển từ xác suất thành công θ trong ví dụ Beta-Bernoulli để tỷ lệ cược ψ= =θ/(1-θ) , nó phải là trường hợp mà một đáp ứng sau P(1/3θ2/3|X= =x)= =P(1/2ψ2|X= =x) .

Tôi muốn tạo ra một ví dụ số của bất biến của Jeffreys trước cho chuyển θ để tỷ lệ cược ψ , và, thú vị hơn, thiếu của chúng thuộc priors khác (nói, Haldane, thống nhất, hoặc những người tùy ý).

Bây giờ, nếu hậu tố cho xác suất thành công là Beta (đối với bất kỳ Beta nào trước đó, không chỉ Jeffreys), thì hậu thế của tỷ lệ cược tuân theo phân phối Beta của loại thứ hai (xem Wikipedia) với cùng tham số . Sau đó, như được nhấn mạnh trong ví dụ bằng số bên dưới, không quá ngạc nhiên (ít nhất là với tôi) rằng có bất kỳ sự lựa chọn nào cho bất kỳ lựa chọn Beta nào trước đó (chơi xung quanh alpha0_Ubeta0_U), không chỉ Jeffreys, nhận đầu ra của chương trình.

library(GB2) 
# has the Beta density of the 2nd kind, the distribution of theta/(1-theta) if theta~Beta(alpha,beta)

theta_1 = 2/3 # a numerical example as in the above post
theta_2 = 1/3

odds_1 = theta_1/(1-theta_1) # the corresponding odds
odds_2 = theta_2/(1-theta_2)

n = 10 # some data
k = 4

alpha0_J = 1/2 # Jeffreys prior for the Beta-Bernoulli case
beta0_J = 1/2
alpha1_J = alpha0_J + k # the corresponding parameters of the posterior
beta1_J = beta0_J + n - k

alpha0_U = 0 # some other prior
beta0_U = 0
alpha1_U = alpha0_U + k # resulting posterior parameters for the other prior
beta1_U = beta0_U + n - k

# posterior probability that theta is between theta_1 and theta_2:
pbeta(theta_1,alpha1_J,beta1_J) - pbeta(theta_2,alpha1_J,beta1_J) 
# the same for the corresponding odds, based on the beta distribution of the second kind
pgb2(odds_1, 1, 1,alpha1_J,beta1_J) - pgb2(odds_2, 1, 1,alpha1_J,beta1_J) 

# same for the other prior and resulting posterior
pbeta(theta_1,alpha1_U,beta1_U) - pbeta(theta_2,alpha1_U,beta1_U)
pgb2(odds_1, 1, 1,alpha1_U,beta1_U) - pgb2(odds_2, 1, 1,alpha1_U,beta1_U)

Điều này mang lại cho tôi các câu hỏi sau đây:

  1. Tôi có phạm sai lầm không?
  2. Nếu không, có một kết quả như không thiếu sự bất biến trong các gia đình liên hợp, hoặc một cái gì đó như thế? (Kiểm tra nhanh khiến tôi nghi ngờ rằng tôi có thể chẳng hạn, cũng không tạo ra sự bất biến trong trường hợp bình thường.)
  3. Bạn có biết một (tốt nhất là đơn giản) ví dụ mà chúng ta làm được thiếu bất biến?

1
Bạn không cần mã R (mà tôi không thể chạy với phiên bản R 3.0.2) để xác minh tính bất biến vì đây là thuộc tính của khả năng. Ý nghĩa của bất biến trước là việc xây dựng quy tắc chọn trước không phụ thuộc vào sự lựa chọn tham số của mô hình lấy mẫu.
Tây An

1
Tôi xin lỗi vì sự bất tiện này. Nó chạy với R 3.1.2 trên máy tính của tôi. Nếu tôi có thể theo dõi, nhận xét của bạn có ngụ ý rằng tôi đã hiểu nhầm nhận xét của Zen về câu trả lời được chấp nhận, mục 1., của Stephane Laurent về Tại sao Jeffreys trước hữu ích? ?
Christoph Hanck

Câu trả lời:


19

p(θ)

  1. pθ|D(θ|D)
  2. pψ|D(ψ|D)

  1. pθ(θ)pψ(ψ)
  2. pψ(ψ)pψ|D(ψ|D)

ψψθ

Tuy nhiên, đây không phải là điểm bất biến trong câu hỏi. Thay vào đó, câu hỏi là liệu khi chúng ta có một Phương pháp cụ thể để quyết định ưu tiên, hai thủ tục sau:

  1. pθ(θ)
  2. pψ(ψ)

  1. pψ(ψ)

ψ

θ[0,1]ψ[0,)

θψψ


1

Có vẻ như bạn đang xác minh khả năng gây ra bởi dữ liệu không bị ảnh hưởng bởi tham số, điều này không liên quan gì đến trước.

Nếu cách chọn linh mục của bạn là, ví dụ: "chọn đồng phục trước", thì đồng phục theo một tham số (ví dụ Beta, tức là Beta (1,1)) không đồng nhất theo cách khác, giả sử BetaPrime (1,1 ) (bị lệch) - đó là BetaPrime (1, -1) là đồng nhất nếu một thứ như vậy tồn tại.

Jeffreys trước là "cách duy nhất để chọn linh mục" là bất biến dưới sự tái lập. Vì vậy, nó ít mang tính quyết định hơn bất kỳ cách chọn linh mục nào khác.


Tôi không nghĩ rằng Jeffreys trước là bất biến duy nhất trước đó. Khi chúng khác nhau, các biện pháp Haar trái và phải đều bất biến.
Tây An

@Neil G, tôi không chắc tôi có thể làm theo lý luận của bạn rằng tôi chỉ nhìn vào khả năng. Khi cắm (ví dụ) alpha1_Jvào pbetapgb2tham số này được xác định bởi cả tham số trước ( alpha1_J) và dữ liệu ( k), tương tự cho tất cả các tham số khác.
Christoph Hanck

1
(+1) Bạn sẽ hy vọng việc khơi gợi các linh mục chủ quan cũng sẽ là bất biến.
Scortchi - Phục hồi Monica

1
@Zen: đúng vậy, tôi đã quá vội vàng: các biện pháp Haar là một ví dụ không chính xác. Tuy nhiên, tôi tự hỏi tại sao Jeffreys 'là bất biến duy nhất trước đó ...
Xi'an

2
@ Tây An: nếu trí nhớ của tôi không làm tôi thất vọng, thì có một Định lý trong cuốn sách Cencov ( amazon.com/, ), theo một nghĩa nào đó (?), Chứng tỏ rằng Jeffreys trước đây là người duy nhất trong thị trấn có bất biến cần thiết. Bằng chứng của anh ấy là không thể tiếp cận với tôi. Nó sử dụng ngôn ngữ của Lý thuyết Danh mục, functor, morphism và tất cả những thứ đó. vi.wikipedia.org/wiki/C Category_theory
Zen
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.