Dấu hiệu hiệp phương sai và của Spearman's Rho

Có ai có bằng chứng cho thấy hiệp phương sai giữa hai biến luôn có cùng dấu với Rho của Spearman, giả sử rằng cả hai đều không bằng 0 , hoặc một lời giải thích / phản biện để cho thấy tại sao điều này không đúng?

Tôi đang nói về độ lớn của "dân số" (lý thuyết), chứ không phải các đối tác mẫu của họ. Cụ thể là $X, Y$ hai biến ngẫu nhiên có chức năng phân phối $F_X, F_Y$ và với tất cả các khoảnh khắc cần thiết, đồng thời, v.v., hiện có,

Cov (X, Y) = E (X Y) - E (X) E (Y)

$\text{Cov}(X,Y) = E(XY) - E(X)E(Y)$ trong khi

ρ_{s} (X, Y) = Cov [F_{X} (X), F_{Y} (Y)]

$\rho_s(X,Y) = \text{Cov}[F_X(X),F_Y(Y)]$

Tôi biết rằng nếu $X,Y$ là phụ thuộc Quadrant ( $QD$ ), tích cực hoặc tiêu cực, điều này thực sự giữ,

(X, Y) = Q D ⟹ sign {Cov (X, Y)} = sign {ρ_{s} (X, Y)}

$(X,Y) = QD \implies \text{sign}\left\{\text{Cov}(X,Y)\right\} = \text{sign}\left\{\rho_s(X,Y)\right\}$

... một lần nữa, nếu cả hai không bằng không. Nhưng nếu $QD$ không thể được thiết lập hoặc không giữ?

Những gì tôi cuối cùng sau đó là một bằng chứng rằng nếu $h(Y)$ là một sự chuyển đổi đơn điệu ngày càng tăng của $Y$ , sau đó $\text{sign}\left\{\text{Cov}(X,Y)\right\} = \text{sign}\left\{\text{Cov}(X,h(Y))\right\}$ . Tôi biết rằng điều này xuất hiện mạnh mẽ trực quan và thậm chí là "hiển nhiên", nhưng tôi không thể tìm thấy bằng chứng như vậy ở bất cứ đâu, tôi cũng không thể tự mình chứng minh điều đó. Chính xác hơn, những gì tôi muốn thể hiện là, nếu cả hai không bằng 0, chúng không thể có dấu hiệu trái ngược nhau.

Bây giờ, vì Spearman's Rho là bất biến đối với các phép biến đổi đơn điệu mà chúng ta có $\rho_s(X,Y) = \rho_s(X,h(Y))$ , do đó, một cách để chứng minh kết quả "cùng dấu" cho hiệp phương sai, sẽ là chứng minh rằng hiệp phương sai luôn có cùng dấu với Rho của Spearman, do đó câu hỏi này.

Tôi đã tìm thấy một biểu hiện đẹp cũ cho hiệp phương sai do W. Hoeffding mang lại $\text{Cov}$ và $\rho_s$ định nghĩa "rất gần", nhưng tôi không thể chứng minh tuyên bố chung mà không giả sử Phụ thuộc Quadrant.

Tất nhiên, nếu ai đó có một cái gì đó trực tiếp trên kết quả "cùng dấu" (mong muốn) cho hiệp phương sai, nó sẽ hữu ích không kém.

CẬP NHẬT
Tôi thấy câu hỏi này có liên quan nhưng không giống nhau. Như đã đề cập, nó sửa đổi câu hỏi của tôi như sau: "Giả sử rằng cả hai biện pháp đều không bằng 0. Chúng có thể có dấu hiệu trái ngược nhau không?"

covariance non-independent spearman-rho

— Alecos Papadopoulos
nguồn

Bất kỳ mẫu xác định một phân phối: phân phối theo kinh nghiệm của nó. Do đó, nỗ lực của bạn để loại trừ các mẫu khỏi xem xét phải được hiểu là loại trừ các phân phối rời rạc hoặc thậm chí có thể tất cả các phân phối không liên tục. Nhưng tương ứng với bất kỳ phân phối rời rạc nào là một chuỗi các phân phối liên tục gần đúng gần đúng mà các thuộc tính hiệp phương sai và Spearman Rho sẽ hội tụ đến các phân phối rời rạc. Do đó, việc nhấn mạnh vào các loại trừ này là vô nghĩa - và cho phép chúng cung cấp cái nhìn sâu sắc để tạo ra vô số phản mẫu.

— whuber

@whuber Tôi không thấy cách "không quan tâm đến kết quả từ các mẫu từ phân phối", "phải" được hiểu là "không bao gồm các phân phối rời rạc". Thực sự, tôi không hiểu điều đó. Tất cả những gì tôi yêu cầu là đưa cho tôi một CDF hai biến và hai lề có các yếu tố tương quan sao cho hai biểu thức được biểu thị theo các giá trị dự kiến có thể có dấu hiệu trái ngược nhau, ít nhất là đối với một số giá trị của các tham số phân phối. Hoặc không thể có.

— Alecos Papadopoulos

Bạn có một CDF hai biến như vậy: một phân phối thống nhất về các điểm mà mô phỏng của tôi đưa ra.

— Dave

Câu trả lời:

Có rất nhiều mẫu. Nhưng hãy giải quyết câu hỏi cơ bản:

Những gì tôi cuối cùng sau đó là một bằng chứng rằng nếu $h$ là một sự biến đổi đơn điệu ngày càng tăng, sau đó $\operatorname{Sign}\{\operatorname{Cov}(X,Y)\}=\operatorname{Sign}\{\operatorname{Cov}(X,h(Y))\}$ .

Điều này là sai.

Ví dụ đầu tiên là phân phối thống nhất rời rạc $F$ trên $(x_i,y_i)$ điểm $(1,8.1), (2,9.1), (3,10.1), (4,11.1), (5,12.1), (6,13.1), (7,0.1),$ ở đây được mô tả bằng cách vẽ bảy điểm đó thành các vòng tròn màu đỏ trong bảng điều khiển bên trái:

Hãy xem xét gia đình của các phép biến đổi Box-Cox

h_{p} (y) = \frac{y^{p} - 1}{p C} + 1

$h_p(y) = \frac{y^p - 1}{p\, C} + 1$

nơi hằng số $C$ được chọn để làm cho các giá trị của $h_p(y_i)$ có thể so sánh với $y$ (ví dụ: bằng cách cài đặt $C$ trở thành $p-1$ sức mạnh của ý nghĩa hình học của $y_i$ ) và $1$ được thêm vào để thực hiện $h_1$ nhận dạng. Đây đều là những thứ đơn điệu; một ví dụ được hiển thị cho $p=2$ trong bảng bên phải. Ảnh hưởng của chúng đối với hiệp phương sai được vẽ trong bảng giữa. Nó cho thấy sự thay đổi từ hiệp phương sai (do điểm ngoại vi ở phía dưới bên trái) sang hiệp phương sai dương (vì phép biến đổi làm cho điểm chỉ bớt đi một chút, làm giảm tác động tiêu cực của nó đối với hiệp phương sai dương mạnh mẽ của tất cả các dữ liệu khác) .

Cụ thể, để hoàn toàn rõ ràng, bạn có thể tính toán rằng

h (y_{i}, 2) = (7.0, 8.6, 10.4, 12.4, 14.5, 16.8, 0.908),

$h(y_i,2) = (7.0, 8.6, 10.4, 12.4, 14.5, 16.8, 0.908),$

cho $\operatorname{Cov}(x_i,y_i) = -7/3 \lt 0$ và $\operatorname{Cov}(x_i, h(y_i,2))=0.39217 \gt 0.$ Các điểm $(x_i, h(y_i,2))$ được vẽ như hình tam giác màu xanh rỗng trong bảng điều khiển bên trái.

Ví dụ thứ hai là một phiên bản liên tục của lần đầu tiên. Để cho $(U,V)$ có bất kỳ phân phối liên tục được hỗ trợ trên $[-1,1]\times[-1,1].$ Đối với bất kỳ số thực $\epsilon$ định nghĩa

(X_{ϵ}, Y_{ϵ}) = (X, Y) + ϵ (U, V) .

$(X_\epsilon, Y_\epsilon) = (X,Y) + \epsilon(U,V).$

Cung cấp $\epsilon\ne 0,$ $(X_\epsilon, Y_\epsilon)$ có phân phối liên tục (xem Là tổng của một biến ngẫu nhiên liên tục và biến ngẫu nhiên hỗn hợp liên tục? ). Cung cấp $|\epsilon| \lt 1/10,$ sự hỗ trợ của $(X_\epsilon, Y_\epsilon)$ nằm trong góc phần tư thứ nhất (hoàn toàn tích cực trong cả hai biến), ngụ ý các phép biến đổi Box-Cox có thể được áp dụng cho $Y_\epsilon.$ Bạn có thể thực hiện các tính toán xác nhận rằng hiệp phương sai của $(X_\epsilon,Y_\epsilon)$ là một chức năng liên tục của $\epsilon.$ Ergo, cho đủ nhỏ $\epsilon,$ mẫu phản biện đầu tiên cho thấy hiệp phương sai của $(X_\epsilon,Y_\epsilon)$ là tiêu cực trong khi đó của $(X_\epsilon, h_2(Y_\epsilon))$ là tích cực, QED.

— whuber
nguồn

Tôi nói rằng họ có thể có dấu hiệu trái ngược.

Hãy xem mô phỏng sau đây.

# Set a random seed so that everyone can get the same results
#     
set.seed(1)

# Import the library that simulates correlated bivariate data
#  
library(MASS) 

# Simulate bivariate normal data with standard normal 
# marginals and 0.9 Pearson correlation. To those 99 
# observations, add a gigantic outlier completely out 
# of the mainstream of the other 99 points. This is why 
# we end up with negative covariance.
#  
X <- rbind(mvrnorm(99,c(0,0),matrix(c(1,0.9,0.9,1),2,2)),c(-10000,10000)) 

# Plot the data
#  
plot(X[,1],X[,2]) 

# Calculate the covariance of the sample. When we regard 
# the simulated data as a discrete population, this is 
# the population covariance.
#  
cov(X[,1],X[,2]) # comes out negative, as the plot suggests

# Calculate the sample Spearman correlation, which is 
# positive, since 99% of the data follow an upward trend.
#  
cor(X[,1],X[,2],method='spearman') # comes out positive

Tuy nhiên, chúng ta có thể lấy dữ liệu mô phỏng thành một quần thể rời rạc.

# Apply the empirical CDF function to perform the probability
# integral transform. If we regard the sampled data as a
# discrete population, we have tricked R into calculating the
# population Spearman correlation.
#  
cov(ecdf(X[,1])(X[,1]),ecdf(X[,2])(X[,2])) # Positive, same value as before

"Ecdf" (CDF theo kinh nghiệm) lừa R tạo ra CDF dân số của biến số rời rạc này, vì vậy tôi nghĩ chúng ta đang làm việc ở cấp độ dân số và đây là một ví dụ điển hình.

— Dave
nguồn

Cảm ơn bạn vì câu trả lời. Bạn có thể vui lòng giải mã mã, liên quan đến cơ chế tạo dữ liệu ở đây là gì không?

— Alecos Papadopoulos

Tôi đã thêm ý kiến vào mã của tôi. Hy vọng rằng sẽ giúp.

— Dave

Cảm ơn bạn. Thật vậy, họ giúp đỡ, bởi vì họ làm rõ rằng những gì bạn tìm thấy hoàn toàn là một vấn đề mẫu, vì hai biến ngẫu nhiên có tương quan bivariate Bình thường, luôn luôn phụ thuộc Quadrant. Vì vậy, đối với dân số này, hiệp phương sai dân số luôn có cùng dấu hiệu với dân số Spearman's rho.

— Alecos Papadopoulos

Nếu chúng ta lấy dân số làm phân phối thống nhất rời rạc trên 99 điểm đó, thì đây không phải là một ví dụ về các dấu hiệu dân số khác nhau như thế nào?

— Dave

Nếu tôi hiểu chính xác, cơ chế tạo dữ liệu là Bivariate Bình thường, điều đó có đúng không?

— Alecos Papadopoulos

Để nâng cao giá trị của chủ đề này, tôi sẽ trình bày lý do tại sao Quadrant Dependence ngụ ý rằng
a) Hiệp phương sai sẽ có cùng dấu hiệu với Spearman's Rho nếu cả hai không bằng 0
) Dấu hiệu hiệp phương sai không bị ảnh hưởng bởi sự biến đổi đơn điệu, nếu vẫn còn khác không.

Tôi sẽ chỉ ra nó cho các bản phân phối liên tục với mật độ, nhưng đây không phải là một điều kiện quan trọng.

Để cho $X$ , $Y$ là hai biến ngẫu nhiên có chức năng phân phối chung $F_{XY}(x,y)$ , hàm phân phối cận biên $F_X(x), F_Y(y)$ và mật độ biên / hàm khối xác suất $f_X(x), f_Y(y)$ . Sau đó chúng tôi có

{\begin{cases} Positive Quadrant Dependence iff F_{X Y} (x, y) - F_{X} (x) F_{Y} (y) \geq 0 \forall (x, y) \\ Negative Quadrant Dependence iff F_{X Y} (x, y) - F_{X} (x) F_{Y} (y) \leq 0 \forall (x, y) \end{cases}

$\begin{cases} \text{Positive Quadrant Dependence iff} \;\;\; F_{XY}(x,y) - F_X(x)F_Y(y) \geq 0\;\;\; \forall (x,y)\\ \text{Negative Quadrant Dependence iff}\;\;\ F_{XY}(x,y) - F_X(x)F_Y(y) \leq 0\;\;\; \forall (x,y) \end{cases}$

Lưu ý rằng điều kiện quan trọng là "cho tất cả $(x,y)$ "Vòng loại.

Bây giờ "công thức hiệp phương sai tuyệt đẹp của Hoeffding" là

Cov (X, Y) = \int \int_{S_{X Y}} [F_{X Y} (x, y) - F_{X} (x) F_{Y} (y)] d x d y

$\text{Cov}(X,Y) = \int\int_{S_{XY}}[F_{XY}(x,y) - F_X(x)F_Y(y)] dx dy$

Ở đâu $S_{XY}$ là sự hỗ trợ chung. Mặt khác, Spearman's Rho có thể được thể hiện như

ρ_{S} (X, Y) = 12 \cdot \int \int_{S_{X Y}} f_{x} (x) f_{y} (y) [F_{X Y} (x, y) - F_{X} (x) F_{Y} (y)] d x d y

$\rho_S(X,Y) = 12\cdot \int\int_{S_{XY}}f_x(x)f_y(y)[F_{XY}(x,y) - F_X(x)F_Y(y)] dx dy$

Những người nhớ rằng $dF(x) = f(x)dx$ hiểu tại sao sự tồn tại của mật độ không quan trọng. Nhưng nó đang làm rõ: nén $[F_{XY}(x,y) - F_X(x)F_Y(y)] \equiv QD(x,y)$ chúng ta có

Cov (X, Y) = \int \int_{S_{X Y}} Q D (x, y) d x d y

$\text{Cov}(X,Y) = \int\int_{S_{XY}}QD(x,y) dx dy$

ρ_{S} (X, Y) = 12 \cdot \int \int_{S_{X Y}} f_{x} (x) f_{y} (y) Q D (x, y) d x d y

$\rho_S(X,Y) = 12\cdot \int\int_{S_{XY}}f_x(x)f_y(y)QD(x,y) dx dy$

Chúng tôi thấy rằng hiệp phương sai "tổng hợp" số lượng $QD(x,y)$ vượt qua sự hỗ trợ chung "không trọng số", trong khi Spearman's Rho tính tổng chúng bằng trọng số của sản phẩm mật độ, $f_x(x)f_y(y)$ (luôn luôn không âm). Nếu Phụ thuộc Quadrant giữ, thì trong cả hai biện pháp, chúng tôi chỉ "tổng hợp" những điều không tiêu cực hoặc chỉ những điều không tích cực.

Vì thế

a) Dưới $QD$ , Hiệp phương sai sẽ có cùng dấu hiệu với Spearman's Rho nếu cả hai không bằng 0:

sign {Cov (X, Y)} = sign {ρ_{s} (X, Y)}

$\text{sign}\left\{\text{Cov}(X,Y)\right\} = \text{sign}\left\{\rho_s(X,Y)\right\}$

Hơn nữa, hãy xem xét một sự chuyển đổi đơn điệu ngày càng tăng của $Y$ , $h(Y)$ . Spearmans's Rho là bất biến dưới sự biến đổi như vậy

ρ_{S} (X, Y) = ρ_{S} (X, h (Y))

$\rho_S(X,Y) = \rho_S(X,h(Y))$

Theo Phụ thuộc Quadrant, chúng ta sẽ có, một lần nữa khi cả hai biện pháp không bằng không,

sign {Cov (X, h (Y))} = sign {ρ_{s} (X, h (Y))}

$\text{sign}\left\{\text{Cov}(X,h(Y))\right\} = \text{sign}\left\{\rho_s(X,h(Y))\right\}$

Liên kết dấu bằng chúng ta sau đó có được

sign {Cov (X, Y)} = sign {Cov (X, h (Y))}

$\text{sign}\left\{\text{Cov}(X,Y)\right\} = \text{sign}\left\{\text{Cov}(X,h(Y))\right\}$

Như được ngụ ý trong các câu trả lời khác, kết quả trái ngược ở đây là không thể loại bỏ sự phụ thuộc Quadrant: nếu nó không giữ được, thì chúng ta không có gì đảm bảo rằng một biến đổi tăng nghiêm ngặt của một biến sẽ bảo toàn dấu hiệu hiệp phương sai. Do đó, các đối số không chính thức "khá logic" như "kể từ khi nào $Y$ có xu hướng tăng $h(Y)$ , nó theo sau nếu $X$ đồng biến tích cực với $Y$ , nó sẽ đồng biến tích cực với $h(Y)$ "là sai -" nó theo sau "chỉ khi $QD$ giữ

Chính thức, người ta có thể thấy điều này bằng cách thiết lập $Z= h(Y), h'(y) >0$ và quan sát rằng

F_{Z} (z) = F_{Y} (h^{- 1} (z)), F_{X Z} (x, z) = F_{X Y} (x, h^{- 1} (z)), d z = h^{'} (y) d y

$F_Z(z) = F_Y(h^{-1}(z)),\;\;\;F_{XZ}(x,z) = F_{XY}(x,h^{-1}(z)), dz = h'(y)dy$ . Sau đó chúng tôi có

Cov (X, Z) = \int \int_{S_{X Z}} [F_{X Z} (x, z) - F_{X} (x) F_{Z} (z)] d x d z

$\text{Cov}(X,Z) = \int\int_{S_{XZ}}[F_{XZ}(x,z) - F_X(x)F_Z(z)] dx dz$

= \int \int_{S_{X Z}} [F_{X Y} (x, h^{- 1} (z)) - F_{X} (x) F_{Y} (h^{- 1} (z))] d x d z

$= \int\int_{S_{XZ}}[F_{XY}(x,h^{-1}(z)) - F_X(x)F_Y(h^{-1}(z))] dx dz$ và sau đó thực hiện thay đổi biến từ

Z

$Z$ đến

Y

$Y$ , để có được

Cov (X, Z) = \int \int_{S_{X, Y}} h^{'} (y) \cdot Q D (x, y) d x d y

$\text{Cov}(X,Z) = \int\int_{S_{X,Y}}h'(y)\cdot QD(x,y)dx dy$

Nếu $QD$ không giữ, có nghĩa là một số $QD(x,y)$ sẽ tích cực và một số tiêu cực. Sau đó, thực tế rằng, nói $\text{Cov}(X,Y) >0$ một mình không thể đảm bảo rằng $\text{Cov}(X,Z) >0$ Ngoài ra, kể từ đây, chúng tôi cân trọng số trước $h'(y)$ , mặc dù hoàn toàn tích cực không phải là một hằng số và do đó, nó có thể là trường hợp mà nó có trọng số không tương xứng nhiều hơn $QD(x,y)$ đó là tiêu cực, hơn những người tích cực, dẫn đến tổng thể trong một giá trị âm. Vì vậy, từ con đường này ít nhất, tài sản của Quadrant Dependence là rất cần thiết.

— Alecos Papadopoulos
nguồn