Xây dựng phân phối Dirichlet với phân phối Gamma

Đặt là các biến ngẫu nhiên độc lập lẫn nhau, mỗi biến có phân phối gamma với các tham số cho thấy , có một phép bổ trợ chung là $X_1,\dots,X_{k+1}$ $\alpha_i,i=1,2,\dots,k+1$ $Y_i=\frac{X_i}{X_1+\cdots+X_{k+1}},i=1,\dots,k$ $\text{Dirichlet}(\alpha_1,\alpha_2,\dots,\alpha_k;\alpha_{k+1})$

Pdf chung của Sau đó tìm khớp pdf của Tôi không thể tìm thấy jacobian tức là $(X_1,\dots,X_{k+1})=\frac{e^{-\sum_{i=1}^{k+1}x_i}x_1^{\alpha_1-1}\dots x_{k+1}^{\alpha_{k+1}-1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)\dots \Gamma(\alpha_{k+1})}$ $(Y_1,\dots,Y_{k+1})$ $J(\frac{x_1,\dots,x_{k+1}}{y_1,\dots,y_{k+1}})$

— Argha
nguồn

Hãy xem trang 13-14 của tài liệu này .

@Procrastinator Cảm ơn bạn rất nhiều tài liệu của bạn là câu trả lời tốt nhất cho câu hỏi của tôi.

— Argha

@Procrastinator - có lẽ bạn nên đặt câu hỏi này làm câu trả lời, vì OP hài lòng với nó và thêm một vài câu để bạn không vấp phải cảnh báo "chúng tôi muốn nhiều hơn một câu"?

— jbowman

Tài liệu đó bây giờ không phải là câu trả lời vì nó là 404.

— whuber

Máy

— rút lui

Jacobian - các yếu tố quyết định tuyệt đối của sự thay đổi của hàm biến - có vẻ ghê gớm và có thể phức tạp. Tuy nhiên, chúng là một phần thiết yếu và không thể tránh khỏi khi tính toán sự thay đổi đa biến của biến. Dường như không có gì cho nó ngoài việc viết ra ma trận đạo hàm bằng và thực hiện phép tính. $k+1$ $k+1$

Có một cách tốt hơn. Nó được hiển thị ở phần cuối trong phần "Giải pháp". Bởi vì mục đích của bài đăng này là giới thiệu các nhà thống kê về những gì có thể là một phương pháp mới cho nhiều người, phần lớn được dành cho việc giải thích các máy móc đằng sau giải pháp. Đây là đại số của các dạng khác biệt . (Các hình thức khác biệt là những thứ mà một người tích hợp trong nhiều chiều.) Một ví dụ chi tiết, hoạt động được đưa vào để giúp làm cho điều này trở nên quen thuộc hơn.

Lý lịch

Hơn một thế kỷ trước, các nhà toán học đã phát triển lý thuyết về đại số vi phân để làm việc với "các đạo hàm bậc cao" xảy ra trong hình học đa chiều. Yếu tố quyết định là trường hợp đặc biệt của các đối tượng cơ bản được thao tác bởi các đại số như vậy, thường là các dạng đa tuyến xen kẽ . Vẻ đẹp của điều này nằm ở cách tính toán đơn giản.

Đây là tất cả những gì bạn cần biết.

Một vi phân là một biểu thức có dạng " ". Đó là cách ghép của " " với bất kỳ tên biến nào. $dx_i$ $d$
Một dạng là một tổ hợp tuyến tính của các vi phân, chẳng hạn như hoặc thậm chí . Đó là, các hệ số là các hàm của các biến. $dx_1+dx_2$ $x_2 dx_1 - \exp(x_2) dx_2$
Các hình thức có thể được "nhân" sử dụng một sản phẩm nêm , viết . Sản phẩm này chống giao hoán (còn được gọi là xen kẽ ): cho bất kỳ hai dạng một và , $\wedge$ $\omega$ $\eta$

$ω \land η = - η \land ω .$ $\omega \wedge \eta = -\eta \wedge \omega.$
Phép nhân này là tuyến tính và kết hợp: nói cách khác, nó hoạt động theo kiểu quen thuộc. Một hậu quả trước mắt là , ngụ ý hình vuông của bất kỳ một hình thức luôn luôn là zero. Điều đó làm cho nhân vô cùng dễ dàng! $\omega \wedge \omega = -\omega \wedge \omega$
Theo mục đích của thao tác integrands xuất hiện trong tính toán xác suất, một biểu hiện như có thể được hiểu như là . $dx_1 dx_2 \cdots dx_{k+1}$ $|dx_1\wedge dx_2 \wedge \cdots \wedge dx_{k+1}|$
Khi là một hàm, thì sự khác biệt của nó được đưa ra bằng cách phân biệt: $y = g(x_1, \ldots, x_n)$

$d y = d g (x_{1}, \dots, x_{n}) = \frac{\partial g}{\partial x_{1}} (x_{1}, \dots, x_{n}) d x_{1} + \dots + \frac{\partial g}{\partial x_{1}} (x_{1}, \dots, x_{n}) d x_{n} .$ $dy = dg(x_1, \ldots, x_n) = \frac{\partial g}{\partial x_1}(x_1, \ldots, x_n) dx_1 + \cdots + \frac{\partial g}{\partial x_1}(x_1, \ldots, x_n) dx_n.$

Kết nối với Jacobians là thế này: Jacobian của một chuyển đổi , theo ký hiệu, chỉ đơn giản là hệ số của $(y_1, \ldots, y_n) = F(x_1, \ldots, x_n) = (f_1(x_1, \ldots, x_n), \ldots, f_n(x_1, \ldots, x_n))$ xuất hiện trong điện toán $dx_1\wedge \dots \wedge dx_n$

d y_{1} \land \dots \land d y_{n} = d f_{1} (x_{1}, \dots, x_{n}) \land \dots \land d f_{n} (x_{1}, \dots, x_{n})

$dy_1 \wedge \cdots \wedge dy_n = df_1(x_1,\ldots, x_n)\wedge \cdots \wedge df_n(x_1, \ldots, x_n)$

sau khi mở rộng mỗi dưới dạng kết hợp tuyến tính của theo quy tắc (5). $df_i$ $dx_j$

Thí dụ

Sự đơn giản của định nghĩa này về một Jacobian là hấp dẫn. Chưa thuyết phục nó có đáng không? Xét bài toán nổi tiếng của chuyển đổi tích phân hai chiều từ tọa độ Descartes để tọa độ cực , nơi . Sau đây là một ứng dụng hoàn toàn cơ học của các quy tắc trước đó, trong đó " $(x, y)$ $(r,\theta)$ $(x,y) = (r\cos(\theta), r\sin(\theta))$ $(*)$ "Được dùng để viết tắt biểu rằng rõ ràng là sẽ biến mất nhờ quy tắc (3), trong đó hàm ý . $dr\wedge dr = d\theta\wedge d\theta = 0$

\begin{aligned} d x d y & = | d x \land d y | = | d (r \cos (θ)) \land d (r \sin (θ)) | \\ = | (\cos (θ) d r - r \sin (θ) d θ) \land (\sin (θ) d r + r \cos (θ) d θ | \\ = | (*) d r \land d r + (*) d θ \land d θ - r \sin (θ) d θ \land \sin (θ) d r + \cos (θ) d r \land r \cos (θ) d θ | \\ = | 0 + 0 + r \sin^{2} (θ) d r \land d θ + r \cos^{2} (θ) d r \land d θ | \\ = | r (\sin^{2} (θ) + \cos^{2} (θ)) d r \land d θ) | \\ = r d r d θ \end{aligned} .

$\eqalign{ dx dy &= |dx\wedge dy| = |d(r\cos(\theta)) \wedge d(r\sin(\theta))| \\ &= |(\cos(\theta)dr - r\sin(\theta)d\theta) \wedge (\sin(\theta)dr + r\cos(\theta)d\theta| \\ &= |(*)dr\wedge dr + (*) d\theta\wedge d\theta - r\sin(\theta)d\theta\wedge \sin(\theta)dr + \cos(\theta)dr \wedge r\cos(\theta) d\theta| \\ &= |0 + 0 + r\sin^2(\theta) dr\wedge d\theta + r\cos^2(\theta) dr\wedge d\theta| \\ &= |r(\sin^2(\theta) + \cos^2(\theta)) dr\wedge d\theta)| \\ &= r\ dr d\theta }.$

Điểm chính của điều này là sự dễ dàng thực hiện các phép tính như vậy, mà không gây rối với ma trận, các định thức hoặc các đối tượng đa diện như vậy. Bạn chỉ cần nhân lên nhiều thứ, nhớ rằng nêm là chống giao hoán. Nó dễ hơn những gì được dạy trong đại số trung học.

Sơ bộ

Chúng ta hãy xem đại số vi phân này trong hành động. Trong vấn đề này, PDF của phân phối chung của là sản phẩm của các tệp PDF riêng lẻ (vì được coi là độc lập). Để xử lý sự thay đổi của các biến chúng ta phải rõ ràng về các yếu tố khác biệt sẽ được tích hợp. Những thành thuật ngữ $(X_1, X_2, \ldots, X_{k+1})$ $X_i$ $Y_i$ $dx_1 dx_2 \cdots dx_{k+1}$ . Bao gồm PDF cho yếu tố xác suất

\begin{aligned} f_{X} (x, α) d x_{1} \dots d x_{k + 1} & \propto (x_{1}^{α_{1} - 1} \exp (- x_{1})) \dots (x_{k + 1}^{α_{k + 1} - 1} \exp (- x_{k + 1})) d x_{1} \dots d x_{k + 1} \\ = x_{1}^{α_{1} - 1} \dots x_{k + 1}^{α_{k + 1} - 1} \exp (- (x_{1} + \dots + x_{k + 1})) d x_{1} \dots d x_{k + 1} . \end{aligned}

$\eqalign{ f_\mathbf{X}(\mathbf{x},\mathbf{\alpha})dx_1 \cdots dx_{k+1} &\propto \left(x_1^{\alpha_1-1}\exp\left(-x_1\right)\right)\cdots \left(x_{k+1}^{\alpha_{k+1}-1}\exp\left(-x_{k+1}\right) \right)dx_1 \cdots dx_{k+1} \\ &= x_1^{\alpha_1-1}\cdots x_{k+1}^{\alpha_{k+1}-1}\exp\left(-\left(x_1+\cdots+x_{k+1}\right)\right)dx_1 \cdots dx_{k+1}. }$

(Hằng số chuẩn hóa đã bị bỏ qua; nó sẽ được phục hồi vào cuối.)

Nhìn chằm chằm vào các định nghĩa của một vài giây nên tiết lộ tiện ích giới thiệu biến mới $Y_i$

Z = X_{1} + X_{2} + \dots + X_{k + 1},

$Z = X_1 + X_2 + \cdots + X_{k+1},$

cho các mối quan hệ

X_{i} = Y_{i} Z .

$X_i = Y_i Z.$

Điều này cho thấy việc thay đổi các biến trong phần tử xác suất. Mục đích là để giữ lại đầu tiên biến cùng với và sau đó tích hợp ra . Để làm như vậy, chúng ta phải thể hiện lại tất cả các theo các biến mới. Đây là trung tâm của vấn đề. Đó là nơi diễn ra đại số vi phân. Đầu tiên là, $x_i \to y_i z$ $k$ $y_1, \ldots, y_k$ $z$ $z$ $dx_i$

d x_{i} = d (y_{i} z) = y_{i} d z + z d y_{i} .

$dx_i = d(y_i z) = y_i dz + z dy_i.$

Lưu ý rằng kể từ khi , sau đó $Y_1+Y_2+\cdots+Y_{k+1}=1$

0 = d (1) = d (y_{1} + y_{2} + \dots + y_{k + 1}) = d y_{1} + d y_{2} + \dots + d y_{k + 1} .

$0 = d(1) = d(y_1 + y_2 + \cdots + y_{k+1}) = dy_1 + dy_2 + \cdots + dy_{k+1}.$

Hãy xem xét một hình thức

ω = d x_{1} + \dots + d x_{k} = z (d y_{1} + \dots + d y_{k}) + (y_{1} + \dots + y_{k}) d z .

$\omega = dx_1 + \cdots + dx_k = z(dy_1 + \cdots + dy_k) + (y_1+\cdots + y_k) dz.$

Nó xuất hiện trong vi sai của biến cuối cùng:

\begin{aligned} d x_{k + 1} & = z d y_{k + 1} + y_{k + 1} d z \\ = - z (d y_{1} + \dots + d y_{k}) + (1 - y_{1} - \dots y_{k}) d z \\ = d z - ω . \end{aligned}

$\eqalign{ dx_{k+1} &= z dy_{k+1} + y_{k+1}dz \\ &= -z(dy_1 + \cdots + dy_k) + (1-y_1-\cdots y_k)dz \\ &= dz - \omega. }$

Giá trị của điều này nằm trong quan sát rằng

d x_{1} \land \dots \land d x_{k} \land ω = 0

$dx_1 \wedge \cdots \wedge dx_k \wedge \omega = 0$

bởi vì, khi bạn mở rộng sản phẩm này, có một hạn chứa là một yếu tố, một chứa , và vân vân: tất cả đều biến mất. Hậu quả là, $dx_1 \wedge dx_1 = 0$ $dx_2 \wedge dx_2 = 0$

\begin{aligned} d x_{1} \land \dots \land d x_{k} \land d x_{k + 1} & = d x_{1} \land \dots \land d x_{k} \land z - d x_{1} \land \dots \land d x_{k} \land ω \\ = d x_{1} \land \dots \land d x_{k} \land z . \end{aligned}

$\eqalign{ dx_1 \wedge \cdots \wedge dx_k \wedge dx_{k+1} &= dx_1 \wedge \cdots \wedge dx_k \wedge z - dx_1 \wedge \cdots \wedge dx_k \wedge \omega \\ &= dx_1 \wedge \cdots \wedge dx_k \wedge z. }$

$dz\wedge dz$

\begin{aligned} d x_{1} \land \dots \land d x_{k + 1} & = (z d y_{1} + y_{1} d z) \land \dots \land (z d y_{k} + y_{k} d z) \land d z \\ = z^{k} d y_{1} \land \dots \land d y_{k} \land d z . \end{aligned}

$\eqalign{ dx_1 \wedge \cdots \wedge dx_{k+1} &= (z dy_1 + y_1 dz) \wedge \cdots \wedge (z dy_k + y_k dz) \wedge dz \\ &= z^k dy_1 \wedge \cdots \wedge dy_k \wedge dz. }$

$|z^k| = z^k$

Giải pháp

$(x_1, \ldots, x_k, x_{k+1})\to (y_1, \ldots, y_k, z)$ $x_i = y_i z$ $1\le i\le k$ $x_{k+1} = z(1-y_1-\cdots-y_k)$

\begin{aligned} (z y_{1})^{α_{1} - 1} \dots (z y_{k})^{α_{k} - 1} {(z (1 - y_{1} - \dots - y_{k}))}^{α_{k + 1} - 1} \exp (- z) | z^{k} d y_{1} \land \dots \land d y_{k} \land d z | \\ = (z^{α_{1} + \dots + α_{k + 1} - 1} \exp (- z) d z) (y_{1}^{α_{1} - 1} \dots y_{k}^{α_{k} - 1} {(1 - y_{1} - \dots - y_{k})}^{α_{k + 1} - 1} d y_{1} \dots d y_{k}) . \end{aligned}

$\eqalign{ &(z y_1)^{\alpha_1-1}\cdots (z y_k)^{\alpha_k-1}\left(z(1-y_1-\cdots-y_k)\right)^{\alpha_{k+1}-1}\exp\left(-z\right)|z^k dy_1 \wedge \cdots \wedge dy_k \wedge dz| \\ &= \left(z^{\alpha_1+\cdots+\alpha_{k+1}-1}\exp\left(-z\right) dz\right)\left( y_1^{\alpha_1-1} \cdots y_k^{\alpha_k-1}\left(1-y_1-\cdots-y_k\right)^{\alpha_{k+1}-1}dy_1 \cdots dy_k\right). }$

$(\alpha_1+\cdots+\alpha_{k+1})$ $Z$ $(\mathbf\alpha)$ $(Y_1,\ldots, Y_k)$ $\Gamma(\alpha_i)$ $\Gamma(\alpha_1+\cdots+\alpha_{k+1})$

f_{Y} (y, α) = \frac{Γ (α_{1} + \dots + α_{k + 1})}{Γ (α_{1}) \dots Γ (α_{k + 1})} (y_{1}^{α_{1} - 1} \dots y_{k}^{α_{k} - 1} {(1 - y_{1} - \dots - y_{k})}^{α_{k + 1} - 1}) .

$f_\mathbf{Y}(\mathbf{y},\mathbf{\alpha}) = \frac{\Gamma(\alpha_1+\cdots+\alpha_{k+1})}{\Gamma(\alpha_1)\cdots\Gamma(\alpha_{k+1})}\left( y_1^{\alpha_1-1} \cdots y_k^{\alpha_k-1}\left(1-y_1-\cdots-y_k\right)^{\alpha_{k+1}-1}\right).$

— whuber
nguồn