Có nghĩa là trung tâm làm giảm hiệp phương sai?

Giả sử tôi có hai biến ngẫu nhiên không độc lập và tôi muốn giảm hiệp phương sai giữa chúng càng nhiều càng tốt mà không mất quá nhiều "tín hiệu", có nghĩa là giúp định tâm? Tôi đã đọc ở đâu đó có nghĩa là định tâm làm giảm sự tương quan bởi một yếu tố quan trọng, vì vậy tôi nghĩ rằng nó nên làm như vậy cho hiệp phương sai.

Nếu $X$ và $Y$ là các biến ngẫu nhiên và $a$ và $b$ là hằng số, thì

$$\begin{aligned} \operatorname{Cov}(X + a, Y + b) &= E[(X + a - E[X + a])(Y + b - E[Y + b])] \\ &= E[(X + a - E[X] - E[a])(Y + b - E[Y] - E[b])] \\ &= E[(X + a - E[X] - a)(Y + b - E[Y] - b)] \\ &= E[(X - E[X])(Y - E[Y])] \\ &= \operatorname{Cov}(X, Y). \end{aligned}$$ Định tâm là trường hợp đặc biệt$a = -E[X]$và$b = -E[Y]$, do đó, định tâm không ảnh hưởng đến hiệp phương sai.

---

Ngoài ra, vì tương quan được định nghĩa là

$$\operatorname{Corr}(X, Y) = \frac{\operatorname{Cov}(X, Y)}{\sqrt{\operatorname{Var}(X) \operatorname{Var}(Y)}},$$ chúng ta có thể thấy $$\begin{aligned} \operatorname{Corr}(X + a, Y + b) &= \frac{\operatorname{Cov}(X + a, Y + b)}{\sqrt{\operatorname{Var}(X + a) \operatorname{Var}(Y + b)}} \\ &= \frac{\operatorname{Cov}(X, Y)}{\sqrt{\operatorname{Var}(X) \operatorname{Var}(Y)}}, \end{aligned}$$ do đó, đặc biệt, mối tương quan không bị ảnh hưởng bởi việc định tâm.

---

Đó là phiên bản dân số của câu chuyện. Phiên bản mẫu giống nhau: Nếu chúng ta sử dụng

$$\widehat{\operatorname{Cov}}(X, Y) = \frac{1}{n} \sum_{i=1}^n \left(X_i - \frac{1}{n}\sum_{j=1}^n X_j\right)\left(Y_i - \frac{1}{n}\sum_{j=1}^n Y_j\right)$$ theo ước tính hiệp phương sai giữa$X$và$Y$từ một mẫu được ghép$(X_1,Y_1), \ldots, (X_n,Y_n)$, sau đó $$\begin{aligned} \widehat{\operatorname{Cov}}(X + a, Y + b) &= \frac{1}{n} \sum_{i=1}^n \left(X_i + a - \frac{1}{n}\sum_{j=1}^n (X_j + a)\right)\left(Y_i + b - \frac{1}{n}\sum_{j=1}^n (Y_j + b)\right) \\ &= \frac{1}{n} \sum_{i=1}^n \left(X_i + a - \frac{1}{n}\sum_{j=1}^n X_j - \frac{n}{n} a\right)\left(Y_i + b - \frac{1}{n}\sum_{j=1}^n Y_j - \frac{n}{n} b\right) \\ &= \frac{1}{n} \sum_{i=1}^n \left(X_i - \frac{1}{n}\sum_{j=1}^n X_j\right)\left(Y_i - \frac{1}{n}\sum_{j=1}^n Y_j\right) \\ &= \widehat{\operatorname{Cov}}(X, Y) \end{aligned}$$ cho bất kỳ$a$và$b$.

Định nghĩa hiệp phương sai của $X$ và $Y$ là $E[(X-E[X])(Y-E[Y])]$$X-E[X]$$X$$X$khi chúng ta lấy hiệp phương sai, và định tâm là một toán tử idempotent; một khi một biến được định tâm, áp dụng quy trình định tâm thêm lần nữa sẽ không thay đổi nó. Nếu công thức không lấy các phiên bản trung tâm của các biến, thì sẽ có tất cả các loại hiệu ứng kỳ lạ, chẳng hạn như hiệp phương sai giữa nhiệt độ và một biến khác khác nhau tùy thuộc vào việc chúng ta đo nhiệt độ bằng Celsius hay Kelvin.

"ở đâu đó" có xu hướng là một nguồn khá không đáng tin cậy ...

Hiệp phương sai / tương quan được xác định với định tâm rõ ràng . Nếu bạn không tập trung vào dữ liệu, thì bạn không tính toán hiệp phương sai / tương quan. (Chính xác: Tương quan Pearson)

Sự khác biệt chính là liệu bạn tập trung vào một mô hình lý thuyết (ví dụ: giá trị mong đợi được cho là chính xác 0) hoặc dựa trên dữ liệu (trung bình số học). Dễ dàng thấy rằng trung bình số học sẽ mang lại Hiệp phương sai nhỏ hơn bất kỳ trung tâm khác nhau.

Tuy nhiên, hiệp phương sai nhỏ hơn không ngụ ý tương quan nhỏ hơn, hoặc ngược lại. Giả sử rằng chúng ta có dữ liệu X = (1,2) và Y = (2,1). Dễ dàng thấy rằng với việc định tâm trung bình số học, điều này sẽ mang lại mối tương quan hoàn toàn âm, trong khi nếu chúng ta biết quá trình tạo ra trung bình 0, thì dữ liệu thực sự có mối tương quan tích cực. Vì vậy, trong ví dụ này, chúng tôi đang định tâm - nhưng với giá trị lý thuyết dự kiến ​​là 0.

Điều này có thể phát sinh dễ dàng. Hãy xem xét chúng ta có một mảng cảm biến, 11x11, với các ô được đánh số từ -5 đến +5. Thay vì lấy trung bình số học, sẽ tốt hơn nếu sử dụng giá trị trung bình "vật lý" của mảng cảm biến của chúng tôi ở đây khi tìm mối tương quan của các sự kiện cảm biến (nếu chúng tôi liệt kê các ô từ 0 đến 10, chúng tôi sẽ sử dụng 5 là trung bình cố định, và chúng tôi sẽ nhận được kết quả chính xác như nhau, để lựa chọn lập chỉ mục biến mất khỏi phân tích - tốt đẹp).