Hiểu kết quả hồi quy sườn

Tôi mới đến hồi quy sườn núi. Khi tôi áp dụng hồi quy sườn tuyến tính, tôi nhận được các kết quả sau:

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0 

Câu hỏi:

• Có được không để có được không GCV?
• Nó chính xác có ý nghĩa gì?
• Có một vấn đề với mô hình của tôi?
• Làm thế nào tôi có thể tìm thấy giá trị của ?$R^2$myridge

Bạn có thể tốt hơn với gói bị phạt hoặc gói glmnet ; cả hai đều thực hiện lasso hoặc lưới đàn hồi để kết hợp các thuộc tính của lasso (lựa chọn tính năng) và hồi quy sườn (xử lý các biến cộng tuyến). bị phạt cũng làm sườn núi. Hai gói được xa đầy đủ hơn đặc trưng hơn lm.ridge()trong MASS gói cho những thứ như vậy.

Dù sao, hàm ý hình phạt bằng 0, do đó, ước tính bình phương nhỏ nhất là tối ưu theo nghĩa là chúng có điểm số GCV (xác thực chéo tổng quát) thấp nhất. Tuy nhiên, bạn có thể không cho phép một hình phạt đủ lớn; nói cách khác, ước tính bình phương nhỏ nhất là tối ưu của tập hợp nhỏ giá trị mà bạn đã xem. Vẽ đường dẫn sườn núi (các giá trị của các hệ số là hàm của và xem liệu dấu vết có ổn định hay không. Nếu không, hãy tăng phạm vi của giá trị đánh giá.$\lambda = 0$$\lambda$$\lambda$$\lambda$

Lý do bạn nhận được 0 GCV là vì bạn đã sử dụng:

myridge = lm.ridge (y ~ ma + sa + lka + cb + ltb, temp, lamda = seq (0,0.1,0.001))

thay vì

myridge = lm.ridge (y ~ ma + sa + lka + cb + ltb, temp, lambda = seq (0,0.1,0.001))