Định lượng sự phụ thuộc của các biến ngẫu nhiên Cauchy

7

Đưa ra hai biến ngẫu nhiên Cauchy và . Đó không phải là độc lập. Cấu trúc phụ thuộc của các biến ngẫu nhiên thường có thể được định lượng với hệ số tương quan hoặc hệ số tương quan của chúng. Tuy nhiên, các biến ngẫu nhiên Cauchy này không có thời điểm. Do đó, hiệp phương sai và tương quan không tồn tại. $\theta_1 \sim \mathrm{Cauchy}(x_0^{(1)}, \gamma^{(1)})$ $\theta_2 \sim \mathrm{Cauchy}(x_0^{(2)}, \gamma^{(2)})$

Có những cách khác để biểu diễn sự phụ thuộc của các biến ngẫu nhiên? Có thể ước tính những người có Monte Carlo?

— Giô-na
nguồn

3

Có thể xem xét các số liệu phụ thuộc chung như thông tin lẫn nhau: en.wikipedia.org/wiki/Mutual_inatures

— John Madden

9

Chỉ vì họ không có hiệp phương sai không có nghĩa là cơ bản $x^t\Sigma^{-1} x$ cấu trúc thường được liên kết với hiệp phương sai không thể được sử dụng. Trong thực tế, đa biến ( $k$ -thimensional) Cauchy có thể được viết là:

f (x; μ, Σ, k) = \frac{Γ (\frac{1 + k}{2})}{Γ (\frac{1}{2}) π^{\frac{k}{2}} {| Σ |}^{\frac{1}{2}} {[1 + (x - μ)^{T} Σ^{- 1} (x - μ)]}^{\frac{1 + k}{2}}}

$f({\mathbf x}; {\mathbf\mu},{\mathbf\Sigma}, k)= \frac{\Gamma\left(\frac{1+k}{2}\right)}{\Gamma(\frac{1}{2})\pi^{\frac{k}{2}}\left|{\mathbf\Sigma}\right|^{\frac{1}{2}}\left[1+({\mathbf x}-{\mathbf\mu})^T{\mathbf\Sigma}^{-1}({\mathbf x}-{\mathbf\mu})\right]^{\frac{1+k}{2}}}$

mà tôi đã nâng lên từ trang Wikipedia . Đây chỉ là một sinh viên đa biến- $t$ phân phối với một mức độ tự do.

Với mục đích phát triển trực giác, tôi sẽ chỉ sử dụng các yếu tố ngoài đường chéo được chuẩn hóa của $\Sigma$ như thể chúng là tương quan, mặc dù chúng không phải là. Chúng phản ánh sức mạnh của mối quan hệ tuyến tính giữa các biến theo cách rất giống với mối tương quan; $\Sigma$ phải đối xứng dương xác định; nếu $\Sigma$ là đường chéo, các biến thể là độc lập, vv

Ước tính khả năng tối đa của các tham số có thể được thực hiện bằng thuật toán EM, trong trường hợp này được thực hiện dễ dàng. Nhật ký của hàm khả năng là:

L (μ, Σ) = - \frac{n}{2} | Σ | - \frac{k + 1}{2} \sum_{i = 1}^{n} \log (1 + s_{i})

$\mathcal{L}(\mu, \Sigma) = -{n\over 2}|\Sigma| - {k+1 \over 2}\sum_{i=1}^n\log(1+s_i)$

Ở đâu $s_i = (x_i-\mu)^T\Sigma^{-1}(x_i-\mu)$ . Phân biệt dẫn đến các biểu thức đơn giản sau:

μ = \sum w_{i} x_{i} / \sum w_{i}

$\mu = \sum w_ix_i/\sum w_i$

Σ = \frac{1}{n} \sum w_{i} (x_{i} - μ) (x_{i} - μ)^{T}

$\Sigma = {1 \over n}\sum w_i(x_i-\mu)(x_i-\mu)^T$

w_{i} = (1 + k) / (1 + s_{i})

$w_i = (1+k)/(1+s_i)$

Thuật toán EM chỉ lặp lại qua ba biểu thức này, thay thế các ước tính gần đây nhất của tất cả các tham số ở mỗi bước.

Để biết thêm về điều này, hãy xem Phương pháp ước tính cho phân phối đa biến , Nadarajah và Kotz, 2008.

— khuỷu tay
nguồn

Đó là một kế hoạch rất tốt và một câu trả lời rất chi tiết. Một câu hỏi nữa có thể là: Có thể viết bất kỳ phân phối Cauchy chung nào như bạn đã làm không? Đối với Gaussian, một câu trả lời tương tự là có. Nhưng cũng đối với mối tương quan và sự phụ thuộc của Gaussian là tương đương. Có phải đó cũng là trường hợp của Cauchy?

— Jonas

Vâng, đây là cách tiêu chuẩn để viết một mật độ Cauchy đa biến. Đối với MV Cauchy, mối tương quan giả và sự phụ thuộc cũng tương đương; tất cả trực giác của bạn mang qua.

σ_{i j} = σ_{i} σ_{j}

$\sigma_{ij} = \sigma_i\sigma_j$ ngụ ý

x_{i}

$x_i$ luôn luôn

= x_{j}

$= x_j$ , v.v.

— jbowman

6

Trong khi $\text{cov}(X,Y)$ không tồn tại, đối với một cặp biến thiên có lề Cauchy, $\text{cov}(\Phi(X),\Phi(Y))$ không tồn tại cho, ví dụ, các hàm giới hạn $\Phi(\cdot)$ . Trên thực tế, khái niệm ma trận hiệp phương sai không phù hợp để mô tả các phân phối chung trong mọi cài đặt, vì nó không bất biến dưới các phép biến đổi.

Vay mượn từ khái niệm về công thức (cũng có thể giúp xác định phân phối chung joint cho $(X,Y)$ ), người ta có thể biến $X$ và $Y$ thành Đồng phục $(0,1)$ thay đổi, bằng cách sử dụng các cdfs cận biên của họ, $\Phi_X(X)\sim\mathcal{U}(0,1)$ và $\Phi_Y(Y)\sim\mathcal{U}(0,1)$ và xem xét hiệp phương sai hoặc tương quan của các biến thiên kết quả.

InstanceVí dụ, khi $X$ và $Y$ Cả hai đều là Cauchys tiêu chuẩn,

Z_{X} = Φ^{- 1} ({\arg \tan (X) / π + 1} / 2)

$Z_X=\Phi^{-1}(\{\arg\tan(X)/\pi+1\}/2)$ được phân phối dưới dạng Bình thường tiêu chuẩn và phân phối chung của

(Z_{X}, Z_{Y})

$(Z_X,Z_Y)$ có thể được chọn là một khớp bình thường

(Z_{X}, Z_{Y}) \sim N_{2} (0_{2}, Σ)

$(Z_X,Z_Y) \sim \mathcal{N}_2(0_2,\Sigma)$ Đây là một copula Gaussian .

— Tây An
nguồn

Cảm ơn bạn vì câu trả lời. Mặc dù vậy, tôi không hoàn toàn chắc chắn, liệu đây có phải là con đường đúng đắn. Các giá trị được lấy mẫu với phân phối Cauchy sẽ có khả năng rất lớn. Khi biến đổi chúng như thế này thành Gaussian, có lẽ cuối cùng chúng ta sẽ đặt tất cả các giá trị trong một tập hợp rất nhỏ ở đuôi Gaussian. Trong trường hợp đó, chúng ta vẫn có thể ước tính hiệp phương sai, nhưng tôi đoán mối tương quan sẽ gần bằng 1.

— Jonas

Quan điểm của tôi là mối tương quan là một thước đo phụ thuộc tuyến tính tùy thuộc vào tham số hóa phân phối, và một khi hai biến thể Cauchy được chuyển thành Gaussian, mối tương quan của chúng có thể là bất cứ điều gì giữa -1 và 1. Kiểm tra copulatừ khóa trên Wikipedia.

— Tây An