Tại sao điểm thành phần chính không tương quan?

Giả sử là một ma trận của dữ liệu trung tâm. Ma trận là , có giá trị riêng biệt và các hàm riêng , ... , là trực giao. $\mathbf A$ $\mathbf S=\text{cov}(\mathbf A)$ $m\times m$ $m$ $\mathbf s_1$ $\mathbf s_2$ $\mathbf s_m$

Thành phần chính thứ (một số người gọi chúng là "điểm số") là vectơ . Nói cách khác, đó là một sự kết hợp tuyến tính của các cột của , nơi các hệ số là các thành phần của -thứ eigenvector của . $i$ $\mathbf z_i = \mathbf A\mathbf s_i$ $\mathbf A$ $i$ $\mathbf S$

Tôi không hiểu tại sao và bật ra được không tương quan cho tất cả . Có phải nó xuất phát từ thực tế là và là trực giao? Chắc chắn là không, vì tôi có thể dễ dàng tìm thấy một ma trận và một cặp vectơ trực giao sao cho và tương quan với nhau. $\mathbf z_i$ $\mathbf z_j$ $i\neq j$ $\mathbf s_i$ $\mathbf s_j$ $\mathbf B$ $\mathbf x, \mathbf y$ $\mathbf B\mathbf x$ $\mathbf B\mathbf y$

correlation pca linear-algebra

— Ernest A
nguồn

Một câu trả lời liên quan thống kê.stackexchange.com/a/110546/3277 .

— ttnphns

z_{Tôi}^{⊤} z_{j} = = (Một S_{Tôi})^{⊤} (Một S_{j}) = = S_{Tôi}^{⊤} {Một}^{⊤} Một S_{j} = = (n - 1) S_{Tôi}^{⊤} S S_{j} = = (n - 1) S_{Tôi} λ_{j} S_{j} = = (n - 1) λ_{j} S_{Tôi} S_{j} = = 0.

$\mathbf z_i^\top \mathbf z_j = (\mathbf A\mathbf s_i)^\top (\mathbf A\mathbf s_j) = \mathbf s_i^\top \mathbf A^\top \mathbf A \mathbf s_j = (n-1) \mathbf s_i^\top \mathbf S \mathbf s_j = (n-1) \mathbf s_i \lambda_j \mathbf s_j = (n-1) \lambda_j \mathbf s_i \mathbf s_j = 0.$

— amip
nguồn

Toán học: thật là một ngôn ngữ đẹp.

— Néstor

Điều này có nghĩa là

và

là trực giao. Phương tiện không tương quan rằng đây phải là sự thật:

. Tôi cho rằng bằng cách nào đó

, và sau đó

cũng ngụ ý rằng chúng không tương quan.

z_{i}

$\mathbf z_i$

z_{j}

$\mathbf z_j$

(z_{i} - {\bar{z}}_{i})^{⊤} (z_{j} - {\bar{z}}_{j}) = 0

$(\mathbf z_i-\bar z_i)^\top(\mathbf z_j-\bar z_j)=0$

{\bar{z}}_{i} = {\bar{z}}_{j} = 0

$\bar z_i=\bar z_j=0$

z_{i}^{⊤} z_{j} = 0

$\mathbf z_i^\top \mathbf z_j=0$

— Ernest A

Điểm tốt, @Ernest. Các phương tiện thực sự bằng không, bởi vì dữ liệu được tập trung vào trung bình (theo giả định của bạn). Sau đó, tất cả các phép chiếu phải có nghĩa là không.

— amip

@Jubble vì

, do đó

S = cov (A) = \frac{1}{n - 1} A^{⊤} A

$S = \text{cov}(\mathbf A) = \frac{1}{n-1}\mathbf A^\top \mathbf A$

A^{⊤} A = (n - 1) S

$\mathbf A^\top \mathbf A = (n-1) \mathbf S$

— Ernest A

@Ernest, tôi không thể cưỡng lại việc cung cấp câu trả lời không chứa văn bản, nhưng có lẽ tôi nên thêm rằng lý do cơ bản tại sao PC không được sửa chữa là ma trận hiệp phương sai của chúng được đưa ra bởi

trong cơ sở eigenvector và trong cơ sở này

trở thành đường chéo - - đó là toàn bộ quan điểm của eigendecro.

S

$S$

S

$S$

— amip