Là hữu ích hoặc nguy hiểm không?

Tôi đã đọc lướt qua một số ghi chú bài giảng của Cosma Shalizi (đặc biệt, phần 2.1.1 của bài giảng thứ hai ), và được nhắc nhở rằng bạn có thể nhận được rất thấp ngay cả khi bạn có một mô hình tuyến tính hoàn toàn.$R^2$

Để diễn giải ví dụ của Shalizi: giả sử bạn có một mô hình , trong đó được biết đến. Sau đó \ newcommand {\ Var} {\ mathrm {Var}} \ Var [Y] = a ^ 2 \ Var [x] + \ Var [\ epsilon] và lượng phương sai được giải thích là ^ 2 \ Var [X] , vì vậy R ^ 2 = \ frac {a ^ 2 \ Var [x]} {a ^ 2 \ Var [X] + \ Var [\ epsilon]} . Điều này chuyển đến 0 là \ Var [X] \ rightarrow 0 và 1 là \ Var [X] \ rightarrow \ infty .$Y = aX + \epsilon$$a$$\newcommand{\Var}{\mathrm{Var}}\Var[Y] = a^2 \Var[x] + \Var[\epsilon]$$a^2 \Var[X]$$R^2 = \frac{a^2 \Var[x]}{a^2 \Var[X] + \Var[\epsilon]}$$\Var[X] \rightarrow 0$$\Var[X] \rightarrow \infty$

Ngược lại, bạn có thể nhận được $R^2$ ngay cả khi mô hình của bạn đáng chú ý là phi tuyến tính. (Bất cứ ai cũng có một ví dụ tốt?)

Vậy khi nào $R^2$ là một thống kê hữu ích, và khi nào nên bỏ qua?

Để giải quyết câu hỏi đầu tiên , hãy xem xét mô hình

$$Y = X + \sin(X) + \varepsilon$$

với iid có nghĩa là không và phương sai hữu hạn. Khi phạm vi của (được coi là cố định hoặc ngẫu nhiên) tăng lên, chuyển sang 1. Tuy nhiên, nếu phương sai của là nhỏ (khoảng 1 hoặc ít hơn), dữ liệu sẽ "phi tuyến tính rõ rệt". Trong các ô, .X R 2 ε v một r ( ε ) = $\varepsilon$$X$$R^2$$\varepsilon$$var(\varepsilon)=1$

Ngẫu nhiên, một cách dễ dàng để có nhỏ là cắt các biến độc lập thành các phạm vi hẹp. Hồi quy (sử dụng chính xác cùng một mô hình ) trong mỗi phạm vi sẽ có thấp ngay cả khi hồi quy đầy đủ dựa trên tất cả dữ liệu có . Chiêm ngưỡng tình huống này là một bài tập thông tin và chuẩn bị tốt cho câu hỏi thứ hai.R 2 R $R^2$$R^2$$R^2$

Cả hai lô sau đều sử dụng cùng một dữ liệu. Các cho hồi quy đầy đủ là 0,86. Các cho các slice (chiều rộng 1/2 từ -5/2 đến 5/2) là 0,16, 0,18, 0,07, 0,14, 0,08, 0,17, 0,20, 0,12, 0,01 , 0,00, đọc từ trái sang phải. Nếu bất cứ điều gì, sự phù hợp trở nên tốt hơn trong tình huống bị cắt bởi vì 10 dòng riêng biệt có thể phù hợp chặt chẽ hơn với dữ liệu trong phạm vi hẹp của chúng. Mặc dù cho tất cả các lát nằm dưới đầy đủ , nhưng sức mạnh của mối quan hệ, độ tuyến tính cũng như bất kỳ khía cạnh nào của dữ liệu (ngoại trừ phạm vi được sử dụng cho hồi quy) đã thay đổi.R 2 R 2 R 2$R^2$$R^2$$R^2$$R^2$$X$

(Người ta có thể phản đối rằng quy trình cắt này thay đổi phân phối của Điều đó đúng, nhưng nó vẫn tương ứng với việc sử dụng phổ biến nhất trong mô hình hiệu ứng cố định và cho thấy mức độ mà đang nói với chúng ta về phương sai của trong tình huống hiệu ứng ngẫu nhiên. Đặc biệt, khi bị hạn chế thay đổi trong một khoảng nhỏ hơn trong phạm vi tự nhiên của nó, thường sẽ giảm xuống.)R 2 R 2 X X R $X$$R^2$$R^2$$X$$X$$R^2$

Vấn đề cơ bản với là nó phụ thuộc vào quá nhiều thứ (ngay cả khi được điều chỉnh theo hồi quy bội), nhưng đặc biệt nhất là về phương sai của các biến độc lập và phương sai của phần dư. Thông thường nó không cho chúng ta biết gì về "tuyến tính" hay "sức mạnh của mối quan hệ" hay thậm chí là "mức độ phù hợp" để so sánh một chuỗi các mô hình.$R^2$

Hầu hết thời gian bạn có thể tìm thấy một thống kê tốt hơn . Để lựa chọn mô hình, bạn có thể tìm đến AIC và BIC; để thể hiện sự đầy đủ của một mô hình, hãy nhìn vào phương sai của phần dư. $R^2$

Điều này cuối cùng đưa chúng ta đến câu hỏi thứ hai . Một tình huống trong đó có thể có một số sử dụng là khi các biến độc lập được đặt thành giá trị tiêu chuẩn, về cơ bản kiểm soát ảnh hưởng của phương sai của chúng. Thì thực sự là một ủy quyền cho phương sai của phần dư, được chuẩn hóa phù hợp. 1 - R $R^2$$1 - R^2$

Ví dụ của bạn chỉ áp dụng khi biến phải có trong mô hình . Nó chắc chắn không áp dụng khi người ta sử dụng các ước tính bình phương nhỏ nhất thông thường. Để thấy điều này, lưu ý rằng nếu chúng tôi ước tính ô vuông nhỏ nhất trong ví dụ của bạn, chúng tôi sẽ nhận được:$\newcommand{\Var}{\mathrm{Var}}X$ $a$

s 2 X =

$$\hat{a}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{\frac{1}{N}\sum_{i=1}^{N}X_{i}^{2}}=\frac{\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}}{s_{X}^{2}+\overline{X}^{2}}$$ Trong đó là phương sai (mẫu) của và là giá trị trung bình (mẫu) của$s_{X}^2=\frac{1}{N}\sum_{i=1}^{N}(X_{i}-\overline{X})^{2}$$X$$\overline{X}=\frac{1}{N}\sum_{i=1}^{N}X_{i}$$X$

$$\hat{a}^{2}\Var[X]=\hat{a}^{2}s_{X}^{2}=\frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}\left(\frac{s_{X}^{2}}{s_{X}^{2}+\overline{X}^{2}}\right)^2$$

Bây giờ thuật ngữ thứ hai luôn nhỏ hơn (bằng trong giới hạn), vì vậy chúng tôi nhận được giới hạn trên cho đóng góp cho từ biến :$1$$1$$R^2$$X$

$$\hat{a}^{2}\Var[X]\leq \frac{\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2}{s_{X}^2}$$

Và vì vậy trừ khi , chúng ta sẽ thực sự thấy là (vì tử số sẽ về 0, nhưng mẫu số sẽ đi vào ). Ngoài ra, chúng tôi có thể nhận được hội tụ đến một cái gì đó trong khoảng từ đến tùy thuộc vào mức độ nhanh chóng của hai thuật ngữ. Bây giờ, thuật ngữ trên thường sẽ phân kỳ nhanh hơn nếu nên có trong mô hình và chậm hơn nếu không nên có trong mô hình. Trong cả hai trường hợp đi đúng hướng.$\left(\frac{1}{N}\sum_{i=1}^{N}X_{i}Y_{i}\right)^2\to\infty$$R^2\to 0$$s_{X}^{2}\to\infty$$\Var[\epsilon]>0$$R^2$$0$$1$$s_{X}^2$$X$$X$$R^2$

Và cũng lưu ý rằng đối với bất kỳ tập dữ liệu hữu hạn nào (tức là dữ liệu thực), chúng ta không bao giờ có thể có trừ khi tất cả các lỗi đều chính xác bằng không. Điều này về cơ bản chỉ ra rằng là một số đo tương đối, chứ không phải là một số đo tuyệt đối. Vì trừ khi thực sự bằng , chúng ta luôn có thể tìm thấy một mô hình phù hợp tốt hơn. Đây có lẽ là khía cạnh "nguy hiểm" của ở chỗ vì nó được chia tỷ lệ từ đến , có vẻ như chúng ta có thể can thiệp nó theo nghĩa tuyệt đối.$R^2=1$$R^2$$R^2$$1$$R^2$$0$$1$

Có lẽ sẽ hữu ích hơn khi xem xét giảm nhanh như thế nào khi bạn thêm các biến vào mô hình. Và cuối cùng, nhưng không kém phần quan trọng, không bao giờ được bỏ qua trong lựa chọn biến, vì là một thống kê đủ cho lựa chọn biến - nó chứa tất cả thông tin về lựa chọn biến trong dữ liệu. Điều duy nhất cần thiết là chọn mức giảm trong tương ứng với "điều chỉnh các lỗi" - thường phụ thuộc vào kích thước mẫu và số lượng biến.$R^2$$R^2$$R^2$

Nếu tôi có thể thêm một ví dụ về khi nguy hiểm. Cách đây nhiều năm, tôi đã làm việc trên một số dữ liệu sinh trắc học và còn trẻ và dại dột, tôi rất vui khi tìm thấy một số giá trị có ý nghĩa thống kê cho các hồi quy ưa thích mà tôi đã xây dựng bằng các hàm từng bước. Chỉ sau khi nhìn lại sau phần trình bày của tôi trước đông đảo khán giả quốc tế, tôi mới nhận ra rằng với sự khác biệt lớn của dữ liệu - kết hợp với sự biểu hiện nghèo nàn của mẫu đối với dân số, của 0,02 hoàn toàn vô nghĩa ngay cả khi nó "có ý nghĩa thống kê" ...$R^2$$R^2$$R^2$

Những người làm việc với số liệu thống kê cần phải hiểu dữ liệu!

Khi bạn có một yếu tố dự báo đơn là chính xác hiểu là tỷ lệ thay đổi trong có thể được giải thích bởi các tuyến mối quan hệ với . Giải thích này phải được ghi nhớ khi nhìn vào giá trị của .$R^{2}$$Y$$X$$R^2$

Bạn chỉ có thể nhận được từ mối quan hệ phi tuyến tính khi mối quan hệ gần với tuyến tính. Ví dụ: giả sử trong đó và . Nếu bạn làm tính toán$R^2$$Y = e^{X} + \varepsilon$$X \sim {\rm Uniform}(2,3)$$\varepsilon \sim N(0,1)$

$$R^{2} = {\rm cor}(X, e^{X} + \varepsilon)^{2}$$

bạn sẽ thấy nó ở khoảng (tôi chỉ xấp xỉ điều này bằng mô phỏng) mặc dù mối quan hệ rõ ràng không phải là tuyến tính. Lý do là trông rất giống một hàm tuyến tính trong khoảng .$.914$$e^{X}$$(2,3)$

Một tình huống bạn muốn tránh là hồi quy bội, trong đó việc thêm các biến dự đoán không liên quan vào mô hình trong một số trường hợp có thể làm tăng . Điều này có thể được giải quyết bằng cách sử dụng giá trị điều chỉnh thay vào đó, được tính như$R^2$$R^2$$R^2$

n$\bar{R}^2 = 1 - (1-R^2)\frac{n-1}{n-p-1}$ trong đó là số lượng mẫu dữ liệu và là số lượng hồi quy không tính thuật ngữ không đổi .$n$$p$

1. Một ví dụ điển hình cho với hàm phi tuyến là hàm bậc hai bị giới hạn trong khoảng . Với 0 nhiễu, nó sẽ không có phương 1 nếu bạn có 3 điểm trở lên vì chúng sẽ không khớp hoàn toàn trên một đường thẳng. Nhưng nếu các điểm thiết kế nằm rải rác đồng đều trên thì bạn nhận được sẽ cao có lẽ đáng ngạc nhiên như vậy. Điều này có thể không phải là trường hợp nếu bạn có nhiều điểm gần 0 và rất nhiều điểm gần 1 với rất ít hoặc không có gì ở giữa.$R^2$$y=x^2$$[0,1]$$R^2$$[0, 1]$$R^2$

2. $R^2$ sẽ kém trong trường hợp tuyến tính hoàn hảo nếu thuật ngữ nhiễu có phương sai lớn. Vì vậy, bạn có thể lấy mô hình về mặt kỹ thuật là một mô hình tuyến tính hoàn hảo nhưng để phương sai trong e có xu hướng vô cùng và bạn sẽ có về 0. Kiểm tra sự thiếu hụt của nó R vuông sẽ đo tỷ lệ phần trăm của phương sai được giải thích bởi dữ liệu và do đó, nó đo lường mức độ phù hợp. Một cao có nghĩa là một sự phù hợp tốt nhưng chúng tôi vẫn phải cẩn thận về sự phù hợp tốt được gây ra bởi quá nhiều thông số cho kích thước của tập dữ liệu mà chúng tôi có.$Y= x + \epsilon$$R^2$$R^2$

3. Trong tình huống hồi quy bội có vấn đề quá mức. Thêm biến và sẽ luôn tăng. điều chỉnh khắc phục điều này phần nào vì nó tính đến số lượng tham số.$R^2$$R^2$