Tương quan Pearson của các tập dữ liệu với độ lệch chuẩn có thể bằng không?

Tôi đang gặp vấn đề khi tính toán hệ số tương quan pearson của các tập dữ liệu với độ lệch chuẩn có thể bằng 0 (tức là tất cả dữ liệu có cùng giá trị).

Giả sử rằng tôi có hai bộ dữ liệu sau:

float x[] = {2, 2, 2, 3, 2};
float y[] = {2, 2, 2, 2, 2};

Hệ số tương quan "r", sẽ được tính bằng phương trình sau:

float r = covariance(x, y) / (std_dev(x) * std_dev(y));

Tuy nhiên, vì tất cả dữ liệu trong tập dữ liệu "y" có cùng giá trị, độ lệch chuẩn std_dev (y) sẽ bằng 0 và "r" sẽ không được xác định.

Có giải pháp nào cho vấn đề này? Hoặc tôi nên sử dụng các phương pháp khác để đo lường mối quan hệ dữ liệu trong trường hợp này?

"Lý thuyết lấy mẫu" mọi người sẽ nói với bạn rằng không có ước tính nào như vậy tồn tại. Nhưng bạn có thể có được một, bạn chỉ cần hợp lý về thông tin trước đó của bạn, và làm công việc toán học khó hơn rất nhiều.

Nếu bạn đã chỉ định một phương pháp ước lượng Bayes và hậu thế giống như trước, thì bạn có thể nói dữ liệu không nói gì về tham số. Bởi vì mọi thứ có thể có "số ít" đối với chúng tôi, sau đó chúng tôi không thể sử dụng không gian tham số vô hạn. Tôi giả sử rằng vì bạn sử dụng tương quan Pearson, bạn có khả năng bình thường bivariate:

nơi Qi=(xi-μx)

$$p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)=\left(\sigma_x\sigma_y\sqrt{2\pi(1-\rho^2)}\right)^{-N}exp\left(-\frac{\sum_{i}Q_i}{2(1-\rho^2)}\right)$$ $$Q_i=\frac{(x_i-\mu_x)^2}{\sigma_x^2}+\frac{(y_i-\mu_y)^2}{\sigma_y^2}-2\rho\frac{(x_i-\mu_x)(y_i-\mu_y)}{\sigma_x\sigma_y}$$

Bây giờ để chỉ ra rằng một tập dữ liệu có thể có cùng giá trị, hãy viết và sau đó chúng tôi nhận được:$y_i=y$

trong đó s2x=

$$\sum_{i}Q_i=N\left[\frac{(y-\mu_y)^2}{\sigma_y^2}+\frac{s_x^2 + (\overline{x}-\mu_x)^2}{\sigma_x^2}-2\rho\frac{(\overline{x}-\mu_x)(y-\mu_y)}{\sigma_x\sigma_y}\right]$$ $$s_x^2=\frac{1}{N}\sum_{i}(x_i-\overline{x})^2$$

Và như vậy khả năng của bạn phụ thuộc vào bốn số, . Vì vậy, bạn muốn một ước lượng ρ , vì vậy bạn cần phải nhân với một trước, và tích hợp ra những phiền toái thông số μ x , μ y , σ x , σ y . Bây giờ để chuẩn bị cho hội nhập, chúng ta "hoàn thành vuông" Σ i Q $s_x^2,y,\overline{x},N$$\rho$$\mu_x,\mu_y,\sigma_x,\sigma_y$

$$\frac{\sum_{i}Q_i}{1-\rho^2}=N\left[\frac{\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{\sigma_y^2(1-\rho^{2})}+\frac{s_x^2}{\sigma_{x}^{2}(1-\rho^{2})} + \frac{(\overline{x}-\mu_x)^2}{\sigma_x^2}\right]$$

Bây giờ chúng ta nên lỗi ở phía thận trọng và đảm bảo xác suất chuẩn hóa đúng. Bằng cách đó chúng ta không thể gặp rắc rối. Một lựa chọn như vậy là sử dụng thông tin yếu trước, chỉ giới hạn phạm vi của từng loại. Vì vậy, chúng ta có cho các phương tiện với TV trước và L σ < σ x , σ y < U σ cho độ lệch chuẩn với Jeffreys trước. Những giới hạn này dễ dàng được thiết lập với một chút suy nghĩ "thông thường" về vấn đề. Tôi sẽ lấy một trước không xác định cho $L_{\mu}<\mu_x,\mu_y<U_{\mu}$$L_{\sigma}<\sigma_x,\sigma_y<U_{\sigma}$$\rho$và vì vậy chúng tôi nhận được (đồng phục sẽ hoạt động tốt, nếu không cắt bớt điểm kỳ dị ở ):$\pm 1$

$$p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)=\frac{p(\rho)}{A\sigma_x\sigma_y}$$

Trong đó . Điều này mang lại cho một hậu thế của:$A=2(U_{\mu}-L_{\mu})^{2}[log(U_{\sigma})-log(L_{\sigma})]^{2}$

$$p(\rho|D)=\int p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

$$=\frac{p(\rho)}{A[2\pi(1-\rho^2)]^{\frac{N}{2}}}\int_{L_{\sigma}}^{U_{\sigma}}\int_{L_{\sigma}}^{U_{\sigma}}\left(\sigma_x\sigma_y\right)^{-N-1}exp\left(-\frac{N s_x^2}{2\sigma_{x}^{2}(1-\rho^{2})}\right) \times$$ $$\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N(\overline{x}-\mu_x)^2}{2\sigma_x^2}\right)\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{2\sigma_y^2(1-\rho^{2})}\right)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

Now the first integration over $\mu_y$ can be done by making a change of variables $z=\sqrt{N}\frac{\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\sigma_y\sqrt{1-\rho^{2}}}\implies dz=\frac{\sqrt{N}}{\sigma_y\sqrt{1-\rho^{2}}}d\mu_y$ and the first integral over $\mu_y$ becomes:

$$\frac{\sigma_y\sqrt{2\pi(1-\rho^{2})}}{\sqrt{N}}\left[\Phi\left( \frac{U_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)-\Phi\left( \frac{L_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)\right]$$

And you can see from here, no analytic solutions are possible. However, it is also worthwhile to note that the value $\rho$ has not dropped out of the equations. This means that the data and prior information still have something to say about the true correlation. If the data said nothing about the correlation, then we would be simply left with $p(\rho)$ as the only function of $\rho$ in these equations.

It also shows how that passing to the limit of infinite bounds for $\mu_y$ "throws away" some of the information about $\rho$, which is contained in the complicated looking normal CDF function $\Phi(.)$. Now if you have a lot of data, then passing to the limit is fine, you don't loose much, but if you have very scarce information, such as in your case - it is important keep every scrap you have. It means ugly maths, but this example is not too hard to do numerically. So we can evaluate the integrated likelihood for $\rho$ at values of say $-0.99,-0.98,\dots,0.98,0.99$ fairly easily. Just replace the integrals by summations over a small enough intervals - so you have a triple summation

I agree with sesqu that the correlation is undefined in this case. Depending on your type of application you could e.g. calculate the Gower Similarity between both vectors, which is: $gower(v1,v2)=\frac{\sum_{i=1}^{n}\delta(v1_i,v2_i)}{n}$ where $\delta$ represents the kronecker-delta, applied as function on $v1,v2$.

So for instance if all values are equal, gower(.,.)=1. If on the other hand they differ only in one dimension, gower(.,.)=0.9. If they differ in every dimension, gower(.,.)=0 and so on.

Of course this is no measure for correlation, but it allows you to calculate how close the vector with s>0 is to the one with s=0. Of course you can apply other metrics,too, if they serve your purpose better.

The correlation is undefined in that case. If you must define it, I would define it as 0, but consider a simple mean absolute difference instead.

This question is coming from programmers, so I'd suggest plugging in zero. There's no evidence of a correlation, and the null hypothesis would be zero (no correlation). There might be other context knowledge that would provide a "typical" correlation in one context, but the code might be re-used in another context.