Thêm một công cụ dự báo hồi quy tuyến tính làm giảm bình phương R

Tập dữ liệu của tôi ( ) có một biến phụ thuộc (DV), năm biến "đường cơ sở" độc lập (P1, P2, P3, P4, P5) và một biến quan tâm độc lập (Q). $N \approx 10,000$

Tôi đã chạy hồi quy tuyến tính OLS cho hai mô hình sau:

DV ~ 1 + P1 + P2 + P3 + P4 + P5
                                  -> R-squared = 0.125

DV ~ 1 + P1 + P2 + P3 + P4 + P5 + Q
                                  -> R-squared = 0.124

Tức là, thêm bộ dự đoán Q đã làm giảm lượng phương sai được giải thích trong mô hình tuyến tính. Theo tôi hiểu, điều này không nên xảy ra .

Để rõ ràng, đây là các giá trị bình phương R và không điều chỉnh giá trị R bình phương.

Tôi đã xác minh các giá trị R-squared sử dụng Jasp và Python của statsmodels .

Có bất kỳ lý do tôi có thể được nhìn thấy hiện tượng này? Có lẽ một cái gì đó liên quan đến phương pháp OLS?

regression linear r-squared

— Cái
nguồn

vấn đề số? Các số khá gần nhau ...

@ user2137591 Đây là những gì tôi nghĩ, nhưng tôi không biết làm thế nào để xác minh điều này. Sự khác biệt tuyệt đối trong các giá trị R-squared là 0,000513569, đó là nhỏ, nhưng không phải là nhỏ.

— Cai

X

$\mathbf{X}$

det X^{T} X

$\det\mathbf{X}^{T}\mathbf{X}$

T

$T$

det

$\det$

Thiếu giá trị được tự động giảm?

— generic_user

0,000513569 là một con số rất nhỏ: đó là 0,41 phần trăm thay đổi. Nó rất có thể là một vấn đề số. Điều mà Clarinetist đang cố nói là có thể ma trận thiết kế của bạn có số điều kiện kém và khi đảo ngược nó không ổn định về số lượng ...

Có thể là bạn đã thiếu các giá trị trong Qđó đang bị tự động loại bỏ? Điều đó có ý nghĩa đối với mẫu, làm cho hai hồi quy không thể so sánh được.

— chung_user
nguồn