Mối quan hệ đằng sau Jeffreys Priors và sự biến đổi ổn định phương sai là gì?

Tôi đã đọc về Jeffreys trước trên wikipedia: Jeffreys Prior và thấy rằng sau mỗi ví dụ, nó mô tả cách biến đổi ổn định phương sai biến Jeffreys trước thành đồng phục trước.

Ví dụ, đối với trường hợp Bernoulli, nó nói rằng đối với một đồng xu có xác suất , mô hình thử nghiệm Bernoulli mang lại rằng Jeffreys trước cho tham số là:$\gamma \in [0,1]$$\gamma$

$$p(\gamma) \propto \frac{1}{\sqrt{\gamma ( 1-\gamma)}}$$

Sau đó, nó nói rằng đây là bản phân phối beta với . Nó cũng nói rằng nếu , thì Jeffreys trước cho là đồng nhất trong khoảng .$\alpha = \beta = \frac{1}{2}$$\gamma = \sin^2(\theta)$$\theta$$\left[0, \frac{\pi}{2}\right]$

Tôi nhận ra sự biến đổi là sự biến đổi ổn định phương sai. Điều làm tôi bối rối là:

1. Tại sao một biến đổi ổn định phương sai sẽ dẫn đến một đồng phục trước?

2. Tại sao chúng ta thậm chí muốn có một bộ đồng phục trước? (vì có vẻ như nó có thể dễ bị sai hơn)

Nói chung, tôi không chắc tại sao phép biến đổi hình vuông được đưa ra và vai trò của nó là gì. Bất cứ ai sẽ có bất kỳ ý tưởng?

Jeffreys trước là bất biến dưới sự lặp lại. Vì lý do đó, nhiều người Bayes coi đó là một người không có thông tin trước đó. (Hartigan cho thấy rằng có một không gian toàn bộ priors như cho nơi là Jeffreys' trước và là Hartigan của tiệm bất biến tại địa phương trước -. Distributions Trước bất biến ) α + β = 1 J $J^\alpha H^\beta$$\alpha + \beta=1$$J$$H$

Đó là một sai lầm thường lặp đi lặp lại rằng đồng phục trước là không có thông tin, nhưng sau khi chuyển đổi tùy ý các tham số của bạn và đồng phục trước các tham số mới có nghĩa là một cái gì đó hoàn toàn khác. Nếu một sự thay đổi tùy ý của tham số hóa ảnh hưởng đến trước của bạn, thì trước đó của bạn rõ ràng là thông tin.

1. Theo định nghĩa , sử dụng Jeffreys tương đương với việc sử dụng căn hộ trước khi áp dụng biến đổi ổn định phương sai.

2. Từ quan điểm toán học, sử dụng Jeffreys trước và sử dụng căn hộ trước sau khi áp dụng biến đổi ổn định phương sai là tương đương. Từ quan điểm của con người, cái sau có lẽ đẹp hơn bởi vì không gian tham số trở nên "đồng nhất" theo nghĩa là sự khác biệt đều giống nhau ở mọi hướng cho dù bạn ở đâu trong không gian tham số.

Hãy xem xét ví dụ Bernoulli của bạn. Không có một chút kỳ lạ khi đạt 99% trong bài kiểm tra có cùng khoảng cách đến 90% như 59% là 50%? Sau khi biến đổi ổn định phương sai của bạn, cặp cũ sẽ tách ra nhiều hơn, như chúng nên được. Nó phù hợp với trực giác của chúng ta về khoảng cách thực tế trong không gian. (Về mặt toán học, phép biến đổi ổn định phương sai đang làm cho độ cong của tổn thất log bằng với ma trận danh tính.)

Các Wikipedia trang mà bạn cung cấp không thực sự sử dụng thuật ngữ "chuyển đổi sai-ổn định". Thuật ngữ "biến đổi ổn định phương sai" thường được sử dụng để chỉ ra các biến đổi làm cho phương sai của biến ngẫu nhiên là một hằng số. Mặc dù trong trường hợp Bernoulli, đây là những gì đang xảy ra với sự biến đổi, đó không chính xác là mục tiêu. Mục tiêu là để có được một phân phối thống nhất, và không chỉ là một phương sai ổn định.

Hãy nhớ lại rằng một trong những mục đích chính của việc sử dụng Jeffreys trước đó là nó bất biến khi chuyển đổi. Điều này có nghĩa là nếu bạn tham số lại biến, thì trước đó sẽ không thay đổi.

1.

Các Jeffreys trước trong trường hợp Bernoulli này, như bạn chỉ ra, là một Beta $(1/2, 1/2)$

$$p_{\gamma}(\gamma) \propto \dfrac{1}{\sqrt{\gamma(1-\gamma)}}.$$

Reparametrizing với $\gamma = \sin^2(\theta)$$\theta$$\theta = \arcsin(\sqrt{\gamma})$$0 < \gamma < 1$$0 < \theta < \pi/2$$\sin^2(x) + \cos^2(x) = 1$

$$\begin{align*} F_{\theta}(x) & = P(\theta < x)\\ & = P(\sin^2(\theta) < \sin^2(x))\\ & = P(\gamma < \sin^2(x))\\ & = F_{\gamma}(\sin^2(x))\\ f_{\theta}(x) & = \dfrac{d F_{\gamma}(\sin^2(x)}{d x}\\ & = 2\sin(x)\cos(x)\,p_{\gamma}(\sin^2(x))\\ & \propto \sin(x)\cos(x) \dfrac{1}{\sqrt{\sin^2(x)(1 - \sin^2(x))}}\\ & =1. \end{align*}$$

$\theta$$(0, \pi/2)$$\sin^2(\theta)$$\theta$

2.

$$q(\theta|x) \propto f(x|\theta) f(\theta) \propto f(x|\theta).$$

$(0, \pi/2)$