Ý nghĩa của đường dẫn chính quy trong LASSO hoặc các vấn đề thưa thớt liên quan là gì?

Nếu chúng ta chọn các giá trị khác nhau của tham số , chúng ta có thể thu được các giải pháp với các mức độ thưa thớt khác nhau. Có phải nó có nghĩa là đường dẫn chính quy là làm thế nào để chọn tọa độ có thể hội tụ nhanh hơn? Tôi hơi bối rối mặc dù tôi đã nghe nói về sự thưa thớt thường xuyên. Ngoài ra, bạn có thể vui lòng đưa ra một mô tả đơn giản về các giải pháp hiện có của vấn đề không?$\lambda$LASSO

Giả sử bạn có một mô hình với các biến dự đoán : . Đặt thành giá trị ban đầu và ước tính các hệ số của bạn . Những hệ số có thể được coi như là một điểm trong không gian ba chiều. *x 1 , x 2 , ... x p bước sóng β 1 , β 2 , ... β p$p$$x_1, x_2, \ldots x_p$$\lambda$$\beta_1, \beta_2, \ldots \beta_p$$p$

Lặp lại quy trình cho giá trị tiếp theo của bạn là và nhận một bộ ước tính khác. Những thành một điểm trong không gian ba chiều. Làm điều này cho tất cả giá trị bạn và bạn sẽ nhận được một chuỗi các điểm như vậy. Trình tự này là con đường chính quy.p $\lambda$$p$$\lambda$

* Ngoài ra còn có thuật ngữ chặn vì vậy tất cả điều này về mặt kỹ thuật diễn ra trong không gian hai chiều , nhưng đừng tâm điều đó. Dù sao, hầu hết các chương trình net / lasso đàn hồi sẽ chuẩn hóa các biến trước khi khớp mô hình, vì vậy sẽ luôn là 0. ( p + 1 ) beta $\beta_0$$(p+1)$$\beta_0$

Có thể tìm thấy lời giải thích đồ họa về giải pháp Lasso trên các trang 69-73 của văn bản "Các yếu tố của học thống kê" (phiên bản trực tuyến tại đây ).