Mối quan hệ giữa

Hãy nói rằng tôi có mảng hai 1 chiều, và . Mỗi điểm chứa 100 điểm dữ liệu. là dữ liệu thực tế và là dự đoán mô hình. Trong trường hợp này, giá trị sẽ là: Trong khi đó, giá trị này sẽ bằng giá trị bình phương của hệ số tương quan, Bây giờ nếu tôi trao đổi hai: là dữ liệu thực tế và là dự đoán mô hình. Từ phương trình , bởi vì hệ số tương quan không quan tâm đến trước,$a_1$$a_2$$a_1$$a_2$$R^2$

$$R^2 = 1 - \frac{SS_{res}}{SS_{tot}} \quad\quad\quad\quad\quad\ \ \quad\quad(1).$$ $$R^2 = (\text{Correlation Coefficient})^2 \quad (2).$$ $a_2$$a_1$$(2)$$R^2$Giá trị sẽ giống nhau. Tuy nhiên, từ phương trình , , các giá trị sẽ thay đổi, vì đã thay đổi nếu chúng ta chuyển từ để ; trong khi đó, không thay đổi.S S t o t = ∑ i ( y i - ˉ y ) 2 R 2 S S t o t y a 1 a 2 S S r e s = ∑ i ( f i - ˉ y ) $(1)$$SS_{tot}=\sum_i(y_i - \bar y )^2$$R^2$$SS_{tot}$$y$$a_1$$a_2$$SS_{res}=\sum_i(f_i-\bar y)^2$

Câu hỏi của tôi là: Làm thế nào những điều này có thể mâu thuẫn với nhau?

Chỉnh sửa :

1. Tôi đã tự hỏi rằng, mối quan hệ trong Eq. (2) vẫn đứng vững, nếu đó không phải là hồi quy tuyến tính đơn giản, nghĩa là mối quan hệ giữa IV và DV không phải là tuyến tính (có thể là hàm mũ / log)?

2. Mối quan hệ này sẽ vẫn đứng vững, nếu tổng các lỗi dự đoán không bằng không?

Điều này đúng là sẽ thay đổi ... nhưng bạn đã quên thực tế là tổng hồi quy của bình phương cũng sẽ thay đổi. Vì vậy, hãy xem xét mô hình hồi quy đơn giản và biểu thị Hệ số tương quan là r 2 x y = S 2 x $SS_{tot}$ , trong đó tôi đã sử dụng chỉ số phụxyđể nhấn mạnh thực tế rằngxlà biến độc lập vàylà biến phụ thuộc. Rõ ràng,r2 x y không thay đổi nếu bạn hoán đổixvớiy. Chúng ta có thể dễ dàng chỉ ra rằngSSRxy=Syy(R2 x y ), trong đóSSRxylà tổng hồi quy của bình phương và $r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$ là tổng tổng bình phương trong đó x là độc lập và y là biến phụ thuộc. Do đó: R 2 x y = S S R x $S_{yy}$$x$$y$trong đóSSExylà tổng bình phương tương ứng của bình phương trong đóxlà độc lập vàylà biến phụ thuộc. Lưu ý rằng trong trường hợp này, chúng ta cóSSExy=b2 x y Sxxvớib=Sx

$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}=\dfrac{S_{yy}-SSE_{xy}}{S_{yy}},$$ $SSE_{xy}$$x$$y$$SSE_{xy}=b^2_{xy}S_{xx}$ (Xem ví dụ: Phương trình (34) - (41)tại đây.) Do đó:R2 x y =Syy- S 2 x $b=\dfrac{S_{xy}}{S_{xx}}$Rõ ràng phương trình trên là đối xứng vớixvày. Nói cách khác:R2 x y =R2 y x . Để tóm tắt khi bạn thay đổixvớiytrong mô hình hồi quy đơn giản, cả tử số và mẫu số củaR2 x y =SSRx $$R_{xy}^2=\dfrac{S_{yy}-\dfrac{S^2_{xy}}{S^2_{xx}}.S_{xx}}{S_{yy}}=\dfrac{S_{yy}S_{xx}-S^2_{xy}}{S_{xx}.S_{yy}}.$$ $x$$y$ $$R_{xy}^2=R_{yx}^2.$$ $x$$y$ sẽ thay đổi theo cáchR2 x y =R2 y x$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}$$R_{xy}^2=R_{yx}^2.$

Một cách để giải thích các hệ số xác định là nhìn vào nó như là tương quan Hệ số Squared Pearson giữa các giá trị quan sát y i và các giá trị được trang bị y i .$R^{2}$$y_{i}$$\hat{y}_{i}$

Bằng chứng đầy đủ về cách lấy hệ số xác định R2 từ Hệ số tương quan Squared Pearson giữa các giá trị quan sát yi và các giá trị được trang bị y ^ i có thể được tìm thấy theo liên kết sau:

http: // ec economtheoryblog.wordpress.com/2014/11/05/proof/

Trong mắt tôi nó khá dễ hiểu, chỉ cần làm theo các bước duy nhất. Tôi đoán nhìn vào nó là điều cần thiết để hiểu làm thế nào thực tế giữa hai nhân vật quan trọng thực sự hoạt động.

Trong trường hợp hồi quy tuyến tính đơn giản chỉ có một yếu tố dự đoán . Nhưng trong nhiều hồi quy tuyến tính có nhiều hơn một yếu tố dự đoán, khái niệm tương quan giữa các yếu tố dự đoán và phản ứng không tự động mở rộng. Công thức được: $R^2 = r^2 = Corr(x,y)^2$

$$R^2 = Corr(y_{estimated},y_{observed})^2$$

Bình phương của mối tương quan giữa đáp ứng và mô hình tuyến tính được trang bị.

@Stat đã cung cấp một câu trả lời chi tiết. Trong câu trả lời ngắn gọn của tôi, tôi sẽ trình bày ngắn gọn theo một cách khác nhau về sự tương đồng và khác biệt giữa và r 2 .$r$$r^2$

là hệ số hồi quy chuẩn hóabetacủa Y theo X hoặc của X theo Y và do đó, đây là thước đokích thước hiệu ứng(tương hỗ). Điều này được thấy rõ nhất khi các biến là nhị phân. Sau đó, r , ví dụ, 30 có nghĩa là 30% trường hợp sẽ thay đổi giá trị của nó thành ngược lại trong một biến khi biến khác thay đổi giá trị của nó sang ngược lại.$r$$Y$$X$$X$$Y$$r$$.30$

Mặt khác, r 2 là biểu thức củatỷ lệ đồng biếntrong tổng biến thiên: r 2 = ( c o $r^2$ . Lưu ý rằng đây là sản phẩm có hai tỷ lệ, hay nói chính xác hơn là hai tỷ lệ (tỷ lệ có thể> 1). Nếu lỏng lẻo ngụ ý bất kỳ tỷ lệ hoặc tỷ lệ nào là xác suất gần đúng hoặc xu hướng, thìr2biểu thị "xác suất chung (xu hướng)". Khác và như biểu hiện giá trị sản phẩm chung của hai tỷ lệ (hoặc tỷ lệ) sẽ là trung bình hình học của họ,$r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$$r^2$ , mà là rấtr.$\sqrt{prop*prop}$$r$

(Hai tỷ lệ là chất nhân, không phụ gia, để nhấn mạnh ý tưởng rằng họ cộng tác và không thể bù đắp cho nhau, trong tinh thần đồng đội của họ. Họ phải được nhân giống vì tầm quan trọng của phụ thuộc vào cả độ lớn σ 2 x và σ 2 y và, một cách phù hợp, c o v phải được chia hai lần một lần - để tự chuyển đổi thành "tỷ lệ phương sai được chia sẻ" thích hợp. Nhưng c o v , "phương sai chéo", chia sẻ cùng một phép đo đơn vị với cả hai σ 2 x và σ $cov$$\sigma_x^2$$\sigma_y^2$$cov$$cov$$\sigma_x^2$ , "phương sai tự",chứ không phảivớiσxσy, "phương sai lai"; đó là lý do tại saor2, chứ không phảir, là đầy đủ hơn như "tỷ lệ phương sai được chia sẻ".)$\sigma_y^2$$\sigma_x \sigma_y$$r^2$$r$

Vì vậy, bạn thấy rằng ý nghĩa của và r 2 là thước đo số lượng của hiệp hội là khác nhau (cả hai ý nghĩa hợp lệ), nhưng vẫn không có hệ số này mâu thuẫn với nhau. Và cả hai đều như nhau cho dù bạn dự đoán Y ~ X hay X ~ Y .$r$$r^2$$Y\text~X$$X\text~Y$

$R^2=r^2$$R^2$

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

$R^2$$R^2$

$R^2\ne r^2$$R^2$$r$$\rho$