Ma trận thông tin dự kiến của Fisher cho phân phối t của sinh viên?

Tôi đang gặp khó khăn khi tìm tài nguyên trực tuyến có nguồn gốc Ma trận thông tin dự kiến của Fisher cho phân phối t của sinh viên không thay đổi. Có ai biết một nguồn tài nguyên như vậy?

Trong trường hợp không có bất kỳ tài nguyên hiện có nào xuất phát từ ma trận thông tin dự kiến của Fisher cho phân phối t, tôi đang cố gắng tự mình lấy nó nhưng tôi bị mắc kẹt. Đây là công việc của tôi cho đến nay:

$y_i \sim t(\mu, \sigma^2, v)$ trong đó là tham số bậc tự do (df) (giả định cố định). Sau đó: $v$

\begin{aligned} f (y_{i}) & = \frac{Γ (\frac{v + 1}{2})}{Γ (\frac{v}{2}) \sqrt{π v σ^{2}}} (1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{\frac{- (v + 1)}{2}} \end{aligned}

$\begin{align*} f(y_i) &= \frac{\Gamma(\frac{v+1}{2})}{\Gamma(\frac{v}{2})\sqrt{\pi v \sigma^2}}\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^{\frac{-(v+1)}{2}} \end{align*}$

Do đó, chúng ta có hàm khả năng đăng nhập sau :

\begin{aligned} l o g f (y_{i}) = l o g Γ (\frac{v + 1}{2}) - l o g Γ (\frac{v}{2}) - \frac{1}{2} l o g (π v σ^{2}) + \frac{- (v + 1)}{2} l o g [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] \end{aligned}

$\begin{align*} log f(y_i)=log\Gamma(\frac{v+1}{2})-log\Gamma(\frac{v}{2})-\frac{1}{2}log(\pi v \sigma^2)+ \frac{-(v+1)}{2}log\big[1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big] \end{align*}$

Ở đây các phương trình đạo hàm đầu tiên :

\begin{aligned} \frac{\partial}{\partial μ} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{2}{v σ^{2}} (y_{i} - μ)}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \\ \frac{\partial}{\partial σ^{2}} l o g f (y_{i}) = \frac{- 1}{2 σ^{2}} - \frac{(v + 1)}{2} \frac{\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}}{1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu}logf(y_i)=\frac{v+1}{2}\frac{\frac{2}{v\sigma^2}(y_i-\mu)}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \\ & \frac{\partial}{\partial \sigma^2}logf(y_i)= \frac{-1}{2\sigma^2}-\frac{(v+1)}{2} \frac{\frac{-1}{v\sigma^4}(y_i-\mu)^2}{1+\frac{1}{v\sigma^2}(y_i-\mu)^2} \end{align*}$

Và đây là các phương trình đạo hàm thứ 2:

\begin{aligned} \frac{\partial}{\partial μ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} \frac{\frac{- 2}{v σ^{2}} + \frac{2}{d v^{2} σ^{4}} (y_{i} - μ)^{2}}{(1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2})^{2}} \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) = \frac{v + 1}{2} {[\frac{2}{v σ^{2}} - \frac{4}{v^{2} σ^{6}} (y_{i} - μ)^{2}] [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2} - [\frac{- 2}{v σ^{2}} + \frac{2}{v^{2} σ^{4}} (y_{i} - μ)^{2}] * 2 [1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}] [\frac{- 1}{v σ^{4}} (y_{i} - μ)^{2}]} / {[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{4}} . . . . . really messy! \\ \frac{\partial}{\partial (σ^{2})^{2}} l o g f (y_{i}) = \frac{1}{2 σ^{4}} - \frac{(v + 1)}{2} \frac{\frac{1}{v σ^{6}} (y_{i} - μ)^{2}}{[1 + \frac{1}{v σ^{2}} (y_{i} - μ)^{2}]^{2}} \end{aligned}

$\begin{align*} &\frac{\partial}{\partial \mu^2}logf(y_i)=\frac{v+1}{2}\frac{\frac{-2}{v\sigma^2}+\frac{2}{dv^2\sigma^4}(y_i-\mu)^2}{\big(1+\frac{1}{v\sigma^2}(y_i-\mu)^2\big)^2} \\ & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) =\frac{v+1}{2} \Big\{[\frac{2}{v\sigma^2}-\frac{4}{v^2\sigma^6}(y_i-\mu)^2][1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2-[\frac{-2}{v\sigma^2}+\frac{2}{v^2\sigma^4}(y_i-\mu)^2]*2[1+\frac{1}{v\sigma^2}(y_i-\mu)^2][\frac{-1}{v\sigma^4}(y_i-\mu)^2]\Big\}/\Big\{ [1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^4\Big\}.....\text{really messy!} \\ &\frac{\partial}{\partial (\sigma^2)^2}logf(y_i)=\frac{1}{2\sigma^4}-\frac{(v+1)}{2}\frac{\frac{1}{v\sigma^6}(y_i-\mu)^2}{[1+\frac{1}{v\sigma^2}(y_i-\mu)^2]^2} \end{align*}$

Cuối cùng, ma trận thông tin của ngư dân dự kiến được tính như sau:

\begin{aligned} I = - E ([\begin{matrix} \frac{\partial^{2}}{\partial μ^{2}} l o g f (y_{i}) & \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) \\ \frac{\partial}{\partial μ \partial σ^{2}} l o g f (y_{i}) & \frac{\partial^{2}}{\partial (σ^{2})^{2}} l o g f (y_{i}) \end{matrix}]) \end{aligned}

$\begin{align*} \boldsymbol{I}= -\mathbb{E}\Big(\begin{bmatrix} \frac{\partial^2}{\partial \mu^2}logf(y_i) & \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) \\ \frac{\partial}{\partial \mu \partial \sigma^2}logf(y_i) & \frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i) \end{bmatrix}\Big) \end{align*}$

Tuy nhiên, tôi không biết làm thế nào để tính toán những kỳ vọng này. Có ai biết về một tài nguyên đã làm điều này? Thành thật mà nói, số lượng duy nhất tôi quan tâm là: , would ít nhất ai đó có thể giúp tôi tính toán điều này? $-\mathbb{E}\big[\frac{\partial^2}{\partial (\sigma^2)^2}logf(y_i)\big]$

probability t-distribution fisher-information

— bayes003
nguồn

Câu trả lời:

Tôi đã nhận thấy rằng Lange et al 1989 đã đưa ra Thông tin của Fisher dự kiến cho phân phối t đa biến trong Phụ lục B. Vì vậy, tôi đã nhận được câu trả lời tôi muốn, bạn có thể coi câu hỏi này là đã trả lời!

Cụ thể, bằng cách sử dụng kết quả của Lange et al, tôi đã rút ra Ma trận thông tin của Fisher sau đây cho phân phối t đơn biến (với các tham số tự do cố định ): $v$

\begin{aligned} I = [\begin{matrix} \frac{v + 1}{(v + 3) σ^{2}} & 0 \\ 0 & \frac{v}{2 (v + 3) σ^{4}} \end{matrix}] \end{aligned}

$\begin{align*} \boldsymbol{I}=\begin{bmatrix} \frac{v+1}{(v+3)\sigma^2} & 0 \\ 0 & \frac{v}{2(v+3)\sigma^4} \end{bmatrix} \end{align*}$

— bayes003
nguồn

Có bất kỳ tài liệu tham khảo nào mà Ma trận thông tin của Fisher được lấy từ các mức độ khác nhau của tham số tự do, tức là Ma trận thông tin 3 chiều của Fisher trong đó quy mô, vị trí và mức độ tự do đều được cung cấp?

— Uday

Tôi có cùng một câu hỏi. Chúng ta có ma trận Fisher 3x3 bao gồm tham số nu không?

— Riemann1337

Kết quả trên đã xác nhận đúng với FisherInformationchức năng trongmathStatica

— sói

Không khó (nhưng hơi tẻ nhạt) bằng cách sử dụng công thức Trước tiên, hãy quan sát rằng bằng cách thay đổi các biến trong bất kỳ tích phân liên quan nào, người ta có thể lấy trong các phép tính.

I (μ, σ^{2}) = E [(\begin{matrix} {(\frac{\partial}{\partial μ} \log f (Y))}^{2} & (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) \\ (\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y)) & {(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2} \end{matrix})] .

$\mathcal{I}(\mu, \sigma^2) = \mathbb{E}\left[\begin{pmatrix}{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 & \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) \\ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right) & {\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \end{pmatrix} \right].$

y \mapsto y - μ

$y \mapsto y-\mu$

μ = 0

$\mu=0$

Các tính toán dựa trên tích phân sau: Sự bằng nhau này có được nhờ sự thay đổi của các biến và với sự trợ giúp của mật độ phân phối nguyên tố Beta .

I (λ, a, b) := \int_{0}^{\infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{2 a + b}{2}} d y = \frac{λ^{a}}{2} B (a, \frac{b}{2}) .

$I(\lambda, a, b) := \int_0^\infty y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{2a+b}{2}} \textrm{d}y = \frac{\lambda^a}{2} B\left(a, \frac{b}{2}\right).$

y \mapsto y^{2}

$y \mapsto y^2$

Quan sát rằng integrand là hàm chẵn khi là số nguyên chẵn, do đó $2a-1$

J (λ, a, b) := \int_{- \infty}^{+ \infty} y^{2 a - 1} {(1 + \frac{1}{λ} y^{2})}^{- \frac{p + 1 + b}{2}} d y = 2 I (λ, a, b) = λ^{a} B (a, \frac{b}{2}) .

$J(\lambda, a, b) := \int_{-\infty}^{+\infty} y^{2a-1}\left(1+\frac{1}{\lambda}y^2\right)^{-\frac{p+1+b}{2}} \textrm{d}y = 2 I(\lambda, a, b) = \lambda^a B\left(a, \frac{b}{2}\right).$

Tôi sẽ chỉ chi tiết tính toán đầu tiên. Đặt hằng số chuẩn hóa của mật độ.

K (ν, σ) = \frac{1}{B (\frac{1}{2}, \frac{ν}{2})} \frac{1}{\sqrt{ν σ^{2}}},

$K(\nu, \sigma)=\frac{1}{B\left(\frac12,\frac{\nu}{2}\right)}\frac{1}{\sqrt{\nu \sigma^2}},$

Một người có Vì , chúng tôi tìm thấy Tính toán thứ hai rất dễ dàng:

\begin{aligned} E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = K (ν, σ) {(\frac{ν + 1}{ν σ^{2}})}^{2} J (ν σ^{2}, \frac{3}{2}, ν + 2) . \end{aligned}

$\begin{align} \mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = K(\nu, \sigma){\left(\frac{\nu+1}{\nu\sigma^2}\right)}^2 J\left(\nu\sigma^2, \frac{3}{2}, \nu+2\right). \end{align}$

\frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{B (\frac{1}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν}{2})} \frac{B (\frac{3}{2}, \frac{ν}{2})}{B (\frac{3}{2}, \frac{ν + 2}{2})} = \frac{(ν + 1)}{1} \frac{(ν + 3)}{ν}

$\frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{B\left(\frac12,\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu}{2}\right)}\frac{B\left(\frac{3}{2},\frac{\nu}{2}\right)}{B\left(\frac{3}{2},\frac{\nu+2}{2}\right)} = \frac{(\nu+1)}{1}\frac{(\nu+3)}{\nu}$

E [{(\frac{\partial}{\partial μ} \log f (Y))}^{2}] = \frac{ν}{ν + 3} (ν + 1) {(ν σ^{2})}^{- 1 / 2 - 2 + 3 / 2} = \frac{ν + 1}{(ν + 3) σ^{2}} .

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\mu} \log f(Y)\right)}^2 \right] = \frac{\nu}{\nu+3}(\nu+1){(\nu\sigma^2)}^{-1/2-2+3/2} = \frac{\nu+1}{(\nu+3)\sigma^2}.$

E [(\frac{\partial}{\partial μ} \log f (Y)) (\frac{\partial}{\partial σ} \log f (Y))] = 0

$\mathbb{E}\left[ \left(\frac{\partial}{\partial\mu} \log f(Y)\right)\left(\frac{\partial}{\partial\sigma} \log f(Y)\right)\right] = 0$ vì nó chỉ liên quan đến tích phân của các hàm lẻ.

Cuối cùng, phép tính của là tẻ nhạt hơn và Tôi bỏ qua nó Tính toán của nó liên quan đến các tích phân với số nguyên chẵn , có giá trị được đưa ra ở trên.

E [{(\frac{\partial}{\partial σ^{2}} \log f (Y))}^{2}]

$\mathbb{E}\left[{\left(\frac{\partial}{\partial\sigma^2} \log f(Y)\right)}^2 \right]$

J (ν σ^{2}, a, b)

$J(\nu\sigma^2, a, b)$

2 a - 1

$2a-1$

Tôi đã thực hiện các tính toán và tôi đã tìm thấy và điều này đơn giản hóa thành

\frac{{(ν + 1)}^{2}}{4 {(ν σ^{4})}^{2}} K (ν, σ^{2}) J (ν σ^{2}, \frac{5}{2}, ν) - \frac{ν + 1}{2 ν σ^{6}} K (ν, σ^{2}) J (ν σ^{2}, \frac{3}{2}, ν) + \frac{1}{4 σ^{4}}

$\frac{{(\nu+1)}^2}{4{(\nu\sigma^4)}^2} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{5}{2},\nu\right) - \frac{\nu+1}{2\nu\sigma^6} K(\nu, \sigma^2) J\left(\nu\sigma^2, \frac{3}{2},\nu\right) + \frac{1}{4\sigma^4}$

\frac{ν}{2 (ν + 3) σ^{4}} .

$\frac{\nu}{2(\nu+3)\sigma^4}.$

— Stéphane Laurent
nguồn

Ma trận thông tin dự kiến ​​của Fisher cho phân phối t của sinh viên?

Ma trận thông tin dự kiến của Fisher cho phân phối t của sinh viên?