Giới hạn cho mối tương quan của ba biến ngẫu nhiên

28

Có ba biến ngẫu nhiên, . Ba tương quan giữa ba biến là như nhau. Đó là, $x,y,z$

ρ = cor (x, y) = cor (x, z) = cor (y, z)

$\rho=\textrm{cor}(x,y)=\textrm{cor}(x,z)=\textrm{cor}(y,z)$

Giới hạn chặt chẽ nhất bạn có thể đưa ra cho gì? $\rho$

correlation correlation-matrix

— người dùng1352399
nguồn

1

Có lẽ bởi "phở", ý bạn là rho (

ρ

$\rho$ ). Tuy nhiên, câu hỏi của bạn không rõ ràng. Bạn có ý nghĩa gì bởi "Điều gì ràng buộc chặt chẽ nhất bạn có thể đưa ra"?

— gung - Phục hồi Monica

Tên của biến chỉ là một hình nộm. Theo ràng buộc chặt chẽ nhất, tôi có nghĩa là một cái gì đó như [-1, 1] cho một mối tương quan, nhưng rõ ràng đây không phải là ràng buộc chặt chẽ nhất có thể.

— user1352399

Bạn có nghĩa là rho = cor (x, y) = cor (x, z) = cor (y, z), và các giới hạn cho rho là gì?

— user31264

Có, ý tôi là rho = cor (x, y) = cor (x, z) = cor (y, z) và các giới hạn cho rho là gì. Dilip, bạn có thể mở rộng điều đó để nói rằng rho phải không âm, tức là> = 0?

— user1352399

1

Một cuốn sách giáo khoa để trích dẫn cho điều này là "Phân tích hồi quy tuyến tính" của Seber & Lee (Ít nhất là trong phiên bản đầu tiên ...)

— kjetil b halvorsen

29

Mối tương quan chung có thể có giá trị nhưng không . Nếu , sau đó không thể bằng nhưng là trong thực tế . Giá trị nhỏ nhất của mối tương quan phổ biến của ba biến ngẫu nhiên là $\rho$ $+1$ $-1$ $\rho_{X,Y}= \rho_{X,Z}=-1$ $\rho_{Y,Z}$ $-1$ $+1$ . Tổng quát hơn, mối tương quan phổ biến tối thiểu củabiến ngẫu nhiên là $-\frac{1}{2}$ $n$ khi, được coi là vectơ, chúng ở các đỉnh của một đơn vị (có kích thước) trongkhông gianchiều. $-\frac{1}{n-1}$ $n-1$ $n$

Xét phương sai của tổng biến ngẫu nhiên phương sai đơn vị . Chúng tôi có mà $n$ $X_i$ nơi làgiá trị trung bìnhcủa

\begin{aligned} var (\sum_{i = 1}^{n} X_{i}) & = \sum_{i = 1}^{n} var (X_{i}) + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} cov (X_{i}, X_{j}) \\ = n + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} ρ_{X_{i}, X_{j}} \\ (1) & = n + n (n - 1) \bar{ρ} \end{aligned}

$\begin{align*} \operatorname{var}\left(\sum_{i=1}^n X_i\right) &= \sum_{i=1}^n \operatorname{var}(X_i) + \sum_{i=1}^n\sum_{j\neq i}^n \operatorname{cov}(X_i,X_j)\\ &= n + \sum_{i=1}^n\sum_{j\neq i}^n \rho_{X_i,X_j}\\ &= n + n(n-1)\bar{\rho} \tag{1} \end{align*}$

\bar{ρ}

$\bar{\rho}$

hệ số tương quan. Nhưng kể từ

, chúng ta dễ dàng nhận được từ

mà

(\binom{n}{2})

$\binom{n}{2}$

var (\sum_{i} X_{i}) \geq 0

$\operatorname{var}\left(\sum_i X_i\right) \geq 0$

(1)

$(1)$

\bar{ρ} \geq - \frac{1}{n - 1} .

$\bar{\rho} \geq -\frac{1}{n-1}.$

Vì vậy, giá trị trung bình của một hệ số tương quan ít nhất là . Nếutất cảcác hệ số tương quan cócùnggiá trị, sau đó trung bình của họ cũng tương đương vớivà vì vậy chúng tôi có mà $-\frac{1}{n-1}$ $\rho$ $\rho$ Có thể có các biến ngẫu nhiên mà giá trị tương quan chungbằng

ρ \geq - \frac{1}{n - 1} .

$\rho \geq -\frac{1}{n-1}.$

ρ

$\rho$

? Vâng. Giả sử rằng

là các biến ngẫu nhiên phương sai đơn vịkhông tương quanvà đặt

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

X_{i}

$X_i$

. Sau đó,

, trong khi

Y_{i} = X_{i} - \frac{1}{n} \sum_{j = 1}^{n} X_{j} = X_{i} - \bar{X}

$Y_i = X_i - \frac{1}{n}\sum_{j=1}^n X_j = X_i -\bar{X}$

E [Y_{i}] = 0

$E[Y_i]=0$

và

var (Y_{i}) = {(\frac{n - 1}{n})}^{2} + (n - 1) {(\frac{1}{n})}^{2} = \frac{n - 1}{n}

$\displaystyle \operatorname{var}(Y_i) = \left(\frac{n-1}{n}\right)^2 + (n-1)\left(\frac{1}{n}\right)^2 = \frac{n-1}{n}$

cho

cov (Y_{i}, Y_{j}) = - 2 (\frac{n - 1}{n}) (\frac{1}{n}) + (n - 2) {(\frac{1}{n})}^{2} = - \frac{1}{n}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{n-1}{n}\right)\left(\frac{1}{n}\right) + (n-2)\left(\frac{1}{n}\right)^2 = -\frac{1}{n}$

Do đó,

là các biến ngẫu nhiên đạt được giá trị tương quan chung tối thiểu là

ρ_{Y_{i}, Y_{j}} = \frac{cov (Y_{i}, Y_{j})}{\sqrt{var (Y_{i}) var (Y_{j})}} = \frac{- 1 / n}{(n - 1) / n} = - \frac{1}{n - 1} .

$\rho_{Y_i,Y_j} = \frac{\operatorname{cov}(Y_i,Y_j)}{\sqrt{\operatorname{var}(Y_i)\operatorname{var}(Y_j)}} =\frac{-1/n}{(n-1)/n} = -\frac{1}{n-1}.$

Y_{i}

$Y_i$

. Lưu ý, tình cờ, đó

, và như vậy, coi như là vectơ, các biến ngẫu nhiên nằm trong một

siêu phẳng chiều của

không gian ba chiều.

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

\sum_{i} Y_{i} = 0

$\sum_i Y_i = 0$

(n - 1)

$(n-1)$

n

$n$

— Dilip Sarwate
nguồn

25

Các ràng buộc chặt chẽ nhất có thể là . $-1/2 \le \rho \le 1$ Tất cả các giá trị như vậy thực sự có thể xuất hiện - không có gì là không thể.

Để cho thấy không có gì đặc biệt sâu sắc hay bí ẩn về kết quả, câu trả lời này trước tiên trình bày một giải pháp hoàn toàn cơ bản, chỉ yêu cầu một thực tế rõ ràng là phương sai - là giá trị mong đợi của hình vuông - phải không âm. Tiếp theo là một giải pháp chung (sử dụng các sự kiện đại số phức tạp hơn một chút).

Giải pháp cơ bản

Phương sai của bất kỳ tổ hợp tuyến tính nào của phải không âm. $x,y,z$ Hãy để cho phương sai của các biến này được và , tương ứng. Tất cả đều khác 0 (nếu không, một số tương quan sẽ không được xác định). Sử dụng các thuộc tính cơ bản của phương sai chúng ta có thể tính toán $\sigma^2, \tau^2,$ $\upsilon^2$

0 \leq Var (α x / σ + β y / τ + γ z / υ) = α^{2} + β^{2} + γ^{2} + 2 ρ (α β + β γ + γ α)

$0 \le \text{Var}(\alpha x/\sigma + \beta y/\tau + \gamma z/\upsilon) = \alpha^2 +\beta^2+\gamma^2 + 2\rho(\alpha\beta+\beta\gamma+\gamma\alpha)$

cho tất cả các số thực . $(\alpha, \beta, \gamma)$

Giả sử , một chút thao tác đại số hàm ý này tương đương với $\alpha+\beta+\gamma\ne 0$

\frac{- ρ}{1 - ρ} \leq \frac{1}{3} {(\frac{\sqrt{(α^{2} + β^{2} + γ^{2}) / 3}}{(α + β + γ) / 3})}^{2} .

$\frac{-\rho}{1-\rho} \le \frac{1}{3} \left(\frac{\sqrt{(\alpha^2+\beta^2+\gamma^2)/3}}{(\alpha+\beta+\gamma)/3}\right)^2.$

Thuật ngữ bình ở phía bên tay phải là tỉ số của hai phương tiện sức mạnh của . Các điện trung bình bất bình đẳng tiểu học (với trọng lượng ) khẳng định rằng tỷ lệ không thể vượt quá (và sẽ bằng khi ). Một chút đại số sau đó ngụ ý $(\alpha, \beta, \gamma)$ $(1/3, 1/3, 1/3)$ $1$ $1$ $\alpha=\beta=\gamma\ne 0$

ρ \geq - 1 / 2.

$\rho \ge -1/2.$

Ví dụ rõ ràng của bên dưới (liên quan đến trivariate biến bình thường ) cho thấy tất cả các giá trị như vậy, , thực sự làm phát sinh như mối tương quan. Ví dụ này chỉ sử dụng định nghĩa của Định mức đa biến, nhưng mặt khác không gọi kết quả của Đại số tính toán hoặc Đại số tuyến tính. $n=3$ $(x,y,z)$ $-1/2 \le \rho \le 1$

Giải pháp chung

Tổng quan

Bất kỳ ma trận tương quan nào cũng là ma trận hiệp phương sai của các biến ngẫu nhiên được tiêu chuẩn hóa, từ đó - giống như tất cả các ma trận tương quan - nó phải là bán xác định dương. Tương đương, giá trị riêng của nó là không âm. Áp đặt này là một điều kiện đơn giản trên : nó không phải là bất kỳ ít hơn (và dĩ nhiên là không thể vượt quá ). Ngược lại, bất kỳ đó thực sự tương ứng với ma trận tương quan của một số phân phối trivariate, chứng minh những giới hạn là có thể chặt chẽ. $\rho$ $-1/2$ $1$ $\rho$

Nguồn gốc của các điều kiện về $\rho$

Hãy xem xét bởi ma trận tương quan với tất cả các giá trị off-đường chéo tương đương với (Các mối quan tâm câu hỏi trường hợp nhưng tổng quát này là không có khó khăn hơn để phân tích.) Hãy gọi nó là Theo định nghĩa, là một eigenvalue của cung cấp tồn tại một khác không vector như vậy $n$ $n$ $\rho.$ $n=3,$ $\mathbb{C}(\rho, n).$ $\lambda$ $\mathbf{x}_\lambda$

C (ρ, n) x_{λ} = λ x_{λ} .

$\mathbb{C}(\rho,n) \mathbf{x}_\lambda = \lambda \mathbf{x}_\lambda.$

Những giá trị riêng này rất dễ tìm thấy trong trường hợp hiện tại, bởi vì

Cho , tính toán rằng $\mathbf{1} = (1, 1, \ldots, 1)'$

$C (ρ, n) 1 = (1 + (n - 1) ρ) 1 .$ $\mathbb{C}(\rho,n)\mathbf{1} = (1+(n-1)\rho)\mathbf{1}.$
$\mathbf{y}_j = (-1, 0, \ldots, 0, 1, 0, \ldots, 0)$ $1$ $j^\text{th}$ $j = 2, 3, \ldots, n$

$C (ρ, n) y_{j} = (1 - ρ) y_{j} .$ $\mathbb{C}(\rho,n)\mathbf{y}_j = (1-\rho)\mathbf{y}_j.$

$n$ $n$ $n$ $1+(n-1)\rho$ $1-\rho$ $n-1$ $-1 \le \rho \le 1$ hài lòng bởi tất cả các mối tương quan, không phủ định của giá trị riêng đầu tiên ngụ ý thêm

ρ \geq - \frac{1}{n - 1}

$\rho \ge -\frac{1}{n-1}$

trong khi tính không tiêu cực của giá trị riêng thứ hai áp đặt không có điều kiện mới.

Bằng chứng về sự đầy đủ của các điều kiện

$-1/(n-1)\le \rho \le 1,$ $\mathbb{C}(\rho, n)$

Σ (ρ, n) = (1 + (n - 1) ρ) I_{n} - \frac{ρ}{(1 - ρ) (1 + (n - 1) ρ)} 1 1^{'}

$\Sigma(\rho, n) = (1 + (n-1)\rho)\mathbb{I}_n - \frac{\rho}{(1-\rho)(1+(n-1)\rho)}\mathbf{1}\mathbf{1}'$

$\mathbb{C}(\rho, n)$ $-1/(n-1) \lt \rho \lt 1.$ $n=3$

Σ (ρ, 3) = \frac{1}{(1 - ρ) (1 + 2 ρ)} (\begin{array}{ccc} ρ + 1 & - ρ & - ρ \\ - ρ & ρ + 1 & - ρ \\ - ρ & - ρ & ρ + 1 \end{array}) .

$\color{gray}{\Sigma(\rho, 3) = \frac{1}{(1-\rho)(1+2\rho)} \left( \begin{array}{ccc} \rho +1 & -\rho & -\rho \\ -\rho & \rho +1 & -\rho \\ -\rho & -\rho & \rho +1 \\ \end{array} \right)}.$

$(X_1, X_2, \ldots, X_n)$

f_{ρ, n} (x) = \frac{\exp (- \frac{1}{2} x Σ (ρ, n) x^{'})}{(2 π)^{n / 2} {((1 - ρ)^{n - 1} (1 + (n - 1) ρ))}^{1 / 2}}

$f_{\rho, n}(\mathbf{x}) = \frac{\exp\left(-\frac{1}{2}\mathbf{x}\Sigma(\rho, n)\mathbf{x}'\right)}{(2\pi)^{n/2}\left((1-\rho)^{n-1}(1+(n-1)\rho)\right)^{1/2}}$

$\mathbf{x} = (x_1, x_2, \ldots, x_n)$ $n=3$

\frac{1}{\sqrt{(2 π)^{3} (1 - ρ)^{2} (1 + 2 ρ)}} \exp (- \frac{(1 + ρ) (x^{2} + y^{2} + z^{2}) - 2 ρ (x y + y z + z x)}{2 (1 - ρ) (1 + 2 ρ)}) .

$\color{gray}{\frac{1}{\sqrt{(2\pi)^{3}(1-\rho)^2(1+2\rho)}} \exp\left(-\frac{(1+\rho)(x^2+y^2+z^2) - 2\rho(xy+yz+zx)}{2(1-\rho)(1+2\rho)}\right)}.$

$n$ $\mathbb{C}(\rho, n).$

Nhân vật

$f_{\rho,3}.$ $\rho=-4/10, 0, 4/10, 8/10$ $x+y+z=0$ $x=y=z$

$\rho = -1/(n-1)$ $\rho = 1$ $\mathbf{x}.\mathbf{1}=0$ $0$ $\mathbf{1}'$ $0$

Thông tin thêm về bệnh không thoái hóa

$\mathbb{C}(-1/(n-1), n)$ $n-1$ $\mathbb{C}(1, n)$ $1$ $n\ge 2$ $\Sigma(\rho, n)$

— whuber
nguồn

20

Ma trận tương quan của bạn là

(\begin{matrix} 1 & ρ & ρ \\ ρ & 1 & ρ \\ ρ & ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho&\rho\\ \rho&1&\rho\\ \rho&\rho&1 \end{pmatrix}$

Ma trận là semidefinite dương nếu các vị thành niên chính hàng đầu đều không âm. Các vị thành niên chính là các yếu tố quyết định của các khối "tây bắc" của ma trận, tức là 1, yếu tố quyết định của

(\begin{matrix} 1 & ρ \\ ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho\\ \rho&1\end{pmatrix}$

và yếu tố quyết định của chính ma trận tương quan.

$1-\rho^2$ $\rho\in[-1,1]$

2 ρ^{3} - 3 ρ^{2} + 1.

$2\rho^3-3\rho^2+1.$

$[-1,1]$ nhập mô tả hình ảnh ở đây

Bạn thấy hàm này không âm trong phạm vi được đưa ra bởi @stochazesthai (mà bạn cũng có thể kiểm tra bằng cách tìm các gốc của phương trình xác định).

— Christoph Hanck
nguồn

V a r () = 1

$Var( )=1$

1

@Anold Bạn dường như đang đọc "hiệp phương sai" trong đó "tương quan" được viết.

— whuber

6

$X$ $Y$ $Z$ $\rho_{XY} = \rho_{YZ} = \rho_{XZ} = \rho$ $\rho \in [-\frac{1}{2},1]$

— stochazesthai
nguồn

2

bạn có thể giải thích điều này bằng những thuật ngữ rất đơn giản

— Elizabeth Susan Joseph

1

Tôi không nghĩ rằng có một lời giải thích không đòi hỏi kiến thức về đại số ma trận. Tôi đề nghị bạn xem trang Wikipedia ( en.wikipedia.org/wiki/, ).

— stochazesthai

4

Tôi tìm thấy một lời giải thích chỉ yêu cầu đại số cơ bản (cấp trung học) và đã đưa nó vào câu trả lời của tôi.