Tại sao các linh mục Jeffreys được coi là không thông tin?


27

Hãy xem xét một Jeffreys trước nơi , trong đótôilà thông tin của Fisher.p(θ)|i(θ)|i

Tôi tiếp tục thấy điều này trước khi được đề cập là một điều không thông tin trước, nhưng tôi chưa bao giờ thấy một cuộc tranh cãi tại sao nó không có ý nghĩa. Rốt cuộc, nó không phải là một hằng số trước đó, vì vậy phải có một số đối số khác.

Tôi hiểu rằng điều đó không phụ thuộc vào việc lặp lại, điều này đưa tôi đến câu hỏi tiếp theo. Có phải đó là yếu tố quyết định của thông tin Fisher không phụ thuộc vào sự lặp lại? Bởi vì thông tin của Fisher chắc chắn phụ thuộc vào tham số của vấn đề.

Cảm ơn.


Bạn đã đọc bài viết Wikipedia? vi.wikipedia.org/wiki/Jeffreys_p
Warrior

2
Vâng, tôi đã nhìn ở đó. có lẽ tôi đang thiếu một cái gì đó, nhưng tôi không cảm thấy rằng bài viết Wikipedia đưa ra câu trả lời thỏa đáng cho câu hỏi của tôi.
bayesian


Lưu ý rằng Jeffreys trước không phải là bất biến đối với các mô hình tương đương. Ví dụ Suy luận về một tham số là khác nhau khi sử dụng phân phối lấy mẫu nhị thức hoặc nhị thức âm. Điều này mặc dù các hàm khả năng là tỷ lệ thuận và tham số có cùng ý nghĩa trong cả hai mô hình. p
xác suất

Câu trả lời:


12

Nó được coi là không phù hợp sự bất biến tham số hóa. Bạn dường như có ấn tượng rằng một bộ đồng phục (không đổi) trước là không phù hợp. Đôi khi nó là, đôi khi nó không.

Điều xảy ra với Jeffreys trước khi chuyển đổi là Jacobian từ biến đổi bị hút vào thông tin gốc của Fisher, cuối cùng cung cấp cho bạn thông tin về Fisher theo tham số hóa mới. Không có phép thuật (ít nhất là trong cơ học), chỉ là một phép tính nhỏ và đại số tuyến tính.


6
Tôi không đồng ý với câu trả lời này. Sử dụng một chủ quan trước cũng là một thủ tục bất biến tham số!
Stéphane Laurent

29

Jeffreys trước trùng với tham chiếu Bernardo trước cho không gian tham số một chiều (và các mô hình "thông thường"). Nói một cách đơn giản, đây là ưu tiên mà sự phân kỳ Kullback-Leibler giữa trước và sau là tối đa. Số lượng này đại diện cho lượng thông tin do dữ liệu mang lại. Đây là lý do tại sao ưu tiên được coi là không chính xác: đây là dữ liệu mang lại lượng thông tin tối đa.

Bằng cách này, tôi không biết liệu Jeffreys có nhận thức được đặc tính này trước đây không?


2
"Nói một cách đơn giản, đây là ưu tiên mà sự phân kỳ Kullback-Leibler giữa trước và sau là tối đa." Thật thú vị, tôi không biết điều đó.
Cam.Davidson.Pilon

1
(+1) Câu trả lời hay. Sẽ thật tuyệt khi thấy một số tài liệu tham khảo về một số điểm của bạn ( ví dụ 1 , 2 ).

1
@Procrastinator Tôi hiện đang viết một bài mới về các linh mục không thông tin;) Xin vui lòng chờ, có lẽ một vài ngày.
Stéphane Laurent

6

Tôi muốn nói rằng nó không hoàn toàn không có thông tin, nhưng tối thiểu là thông tin. Nó mã hóa kiến ​​thức trước (khá yếu) mà bạn biết trạng thái kiến ​​thức trước đó của mình không phụ thuộc vào tham số hóa của nó (ví dụ: đơn vị đo lường). Nếu trạng thái kiến ​​thức trước đó của bạn chính xác bằng 0, bạn sẽ không biết rằng trước đó của bạn là bất biến đối với các biến đổi đó.


Tôi bị bối rối. Trong trường hợp nào bạn sẽ biết rằng bạn trước nên phụ thuộc vào tham số mô hình?
John Lawrence Aspden

2
Nếu chúng ta muốn dự đoán tuổi thọ là một chức năng của trọng lượng cơ thể, sử dụng GLM, chúng ta biết rằng kết luận sẽ không bị ảnh hưởng cho dù chúng ta cân đối tượng theo kg hay lb; nếu bạn sử dụng đồng phục đơn giản trước các trọng số, bạn có thể nhận được kết quả khác nhau tùy thuộc vào đơn vị đo.
Dikran Marsupial

1
Đó là một trường hợp khi bạn biết rằng nó không nên bị ảnh hưởng. Một trường hợp mà nó nên là gì?
John Lawrence Aspden

1
Tôi nghĩ rằng bạn đang thiếu quan điểm của tôi. Nói rằng chúng ta không biết gì về các thuộc tính, thậm chí chúng không có các đơn vị đo lường mà phân tích nên bất biến. Trong trường hợp đó, ưu tiên của bạn sẽ mã hóa ít thông tin hơn về vấn đề so với trước của Jeffrey, do đó, ưu tiên của Jeffrey không hoàn toàn không chính xác. Có thể hoặc không thể là tình huống trong đó phân tích không nên bất biến đối với một số biến đổi, nhưng đó là bên cạnh điểm.
Dikran Marsupial

2
NB theo cuốn sách BUGS (tr83), chính Jeffrey đã gọi các linh mục bất biến chuyển đổi như vậy là "thông tin tối thiểu", ngụ ý rằng ông thấy họ là mã hóa một số thông tin về vấn đề.
Dikran Marsupial
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.