Hồi quy bội hay hệ số tương quan một phần? Và quan hệ giữa hai người

Tôi thậm chí không biết câu hỏi này có ý nghĩa gì không, nhưng sự khác biệt giữa hồi quy bội và tương quan một phần (ngoài sự khác biệt rõ ràng giữa tương quan và hồi quy, đó không phải là điều tôi đang hướng tới)?

Tôi muốn tìm hiểu như sau:
Tôi có hai biến độc lập ( $x_1$ , $x_2$ ) và một biến phụ thuộc ( $y$ ). Bây giờ riêng lẻ các biến độc lập không tương quan với biến phụ thuộc. Nhưng với $x_1$ $y$ giảm khi $x_2$ giảm. Vì vậy, tôi phân tích rằng bằng phương pháp hồi quy bội hoặc tương quan một phần ?

chỉnh sửa để hy vọng cải thiện câu hỏi của tôi: Tôi đang cố gắng hiểu sự khác biệt giữa hồi quy bội và tương quan một phần. Vì vậy, khi $y$ giảm cho $x_1$ khi $x_2$ giảm, đó có phải là do hiệu ứng kết hợp của $x_1$ và $x_2$ trên $y$ (hồi quy bội) hay là do loại bỏ ảnh hưởng của $x_1$ (tương quan một phần)?

Nhiều hệ số hồi quy tuyến tính và tương quan một phần được liên kết trực tiếp và có cùng tầm quan trọng (giá trị p). Một phần r chỉ là một cách khác để chuẩn hóa hệ số, cùng với hệ số beta (hệ số hồi quy chuẩn hóa) 1 . Vì vậy, nếu biến phụ thuộc là y và độc lập là x 1 và x 2 thì$^1$$y$$x_1$$x_2$

$$\text{Beta:} \quad \beta_{x_1} = \frac{r_{yx_1} - r_{yx_2}r_{x_1x_2} }{1-r_{x_1x_2}^2}$$

$$\text{Partial r:} \quad r_{yx_1.x_2} = \frac{r_{yx_1} - r_{yx_2}r_{x_1x_2} }{\sqrt{ (1-r_{yx_2}^2)(1-r_{x_1x_2}^2) }}$$

Bạn thấy rằng các tử số là như nhau cho biết cả hai công thức đều đo cùng một hiệu ứng duy nhất của . Tôi sẽ cố gắng giải thích làm thế nào hai công thức giống nhau về cấu trúc và làm thế nào chúng không.$x_1$

Giả sử rằng bạn có tiêu chuẩn z (trung bình 0, phương sai 1) cả ba biến. Tử số sau đó là bằng với hiệp phương sai giữa hai loại dư : (a) dư còn lại trong dự đoán bởi x 2 [cả hai biến chuẩn] và (b) dư còn lại trong dự đoán x 1 bởi x 2 [cả hai biến chuẩn] . Hơn nữa, phương sai của phần dư (a) là 1 - r 2 y x 2 ; phương sai của phần dư (b) là 1 - r 2 x 1 x 2 .$y$$x_2$$x_1$$x_2$$1-r_{yx_2}^2$$1-r_{x_1x_2}^2$

Công thức cho tương quan một phần sau đó xuất hiện rõ ràng công thức của Pearson , như được tính trong trường hợp này giữa phần dư (a) và phần dư (b): Pearson r , chúng ta biết, là hiệp phương sai được chia cho mẫu số là trung bình hình học của hai phương sai khác nhau.$r$$r$

Beta hệ số chuẩn hóa có cấu trúc giống như Pearson , chỉ có mẫu số là giá trị trung bình hình học của phương sai với chính mình . Phương sai của phần dư (a) không được tính; nó đã được thay thế bằng cách đếm thứ hai của phương sai của phần dư (b). Do đó, Beta là hiệp phương sai của hai phần dư so với phương sai của một trong số chúng (cụ thể là phần tử liên quan đến yếu tố dự đoán lợi ích, x 1 ). Trong khi tương quan một phần, như đã nhận thấy, là cùng một hiệp phương sai tương đối phương sai lai của chúng . Cả hai loại hệ số là cách để tiêu chuẩn hóa hiệu ứng của x 1 trong môi trường của các yếu tố dự đoán khác.$r$$x_1$$x_1$

Một số hậu quả số của sự khác biệt. Nếu bình phương R của hồi quy bội của theo x 1 và x 2 xảy ra là 1 thì cả hai tương quan một phần của các yếu tố dự đoán với phụ thuộc cũng sẽ là 1 giá trị tuyệt đối (nhưng nhìn chung betas sẽ không phải là 1). Thật vậy, như đã nói trước đây, r y x 1 . x 2 là mối tương quan giữa phần dư của và phần dư của . Nếu những gì không phải là x 2 trong y thì chính xác là những gì không phải là x 2 trong x $y$$x_1$$x_2$$r_{yx_1.x_2}$y <- x2x1 <- x2$x_2$$y$ $x_2$$x_1$thì không có gì trong cả x 1 hay x 2 : hoàn toàn phù hợp. Số phần của phần không giải thích được (bằng x 2 ) còn lại trong y (phần 1 - r 2 y x 2 ) là bao nhiêu, nếu phần này được thu tương đối cao bởi phần độc lập của x 1 (bởi phần 1 - r 2 x 1 x 2 ), r y x 1 . x 2 sẽ cao. β x $y$$x_1$$x_2$$x_2$$y$$1-r_{yx_2}^2$$x_1$$1-r_{x_1x_2}^2$$r_{yx_1.x_2}$$\beta_{x_1}$mặt khác, sẽ chỉ cao với điều kiện là phần bị bắt không giải thích được của tự nó là một phần đáng kể của y .$y$$y$

---

Từ các công thức trên một thu được (và kéo dài từ hồi quy 2 dự đoán đến một hồi quy với số lượng tùy ý các nhân tố ảnh ) Công thức chuyển đổi giữa phiên bản beta và tương ứng với r phần:$x_1,x_2,x_3,...$

$$r_{yx_1.X} = \beta_{x_1} \sqrt{ \frac {\text{var} (e_{x_1 \leftarrow X})} {\text{var} (e_{y \leftarrow X})}},$$

Trong đó là viết tắt của tập hợp tất cả các yếu tố dự đoán ngoại trừ dòng điện ( x 1 ); e y ← X là phần dư từ hồi quy y theo X và e x 1 ← X là phần dư từ hồi quy x 1 của X , các biến trong cả hai hồi quy này đều được chuẩn hóa .$X$$x_1$$e_{y \leftarrow X}$$y$$X$$e_{x_1 \leftarrow X}$$x_1$$X$

Lưu ý: nếu chúng ta cần tính toán tương quan một phần của với mọi yếu tố dự đoán x, chúng ta thường sẽ không sử dụng công thức này để thực hiện hai hồi quy bổ sung. Thay vào đó, các hoạt động quét (thường được sử dụng theo từng bước và tất cả các thuật toán hồi quy tập hợp con) sẽ được thực hiện hoặc ma trận tương quan chống ảnh sẽ được tính toán.$y$$x$

---

β x 1 = b x 1 σ x $^1$ là mối quan hệ giữa các nguyênbvà chuẩnβhệ số hồi quy trong với đánh chặn.$\beta_{x_1} = b_{x_1} \frac {\sigma_{x_1}}{\sigma_y}$$b$$\beta$

Chỉ tình cờ gặp phải bước đi này. Trong câu trả lời ban đầu, trong công thức cho yếu tố $\beta_{x_1}$ bị thiếu, đó là β x 1 = r y x 1 - r y x 2 r x 1 x $\sqrt{SSY/SSX_1}$ nơiSSY=Σ

$$\beta_{x_1} = \frac{r_{yx_1} - r_{y x_2} ~r_{x_1 x_2}} {1-r^2_{x_1 x_2}} \times \sqrt{\frac{SSY}{SSX_1}},$$ và S S X 1 = ∑ i ( x 1 i - ˉ x 1 ) 2 .$SSY=\sum_i (y_i-\bar y)^2$$SSX_1 = \sum_i {(x_{1i} - \bar{x}_1)^2}$