Giả định của LASSO


17

Trong kịch bản hồi quy LASSO trong đó

y= =Xβ+ε ,

và các ước tính LASSO được đưa ra bởi vấn đề tối ưu hóa sau

tối thiểuβ||y-Xβ||+τ||β||1

Có bất kỳ giả định phân phối nào liên quan đến ε không?

Trong kịch bản OLS, người ta sẽ mong đợi rằng ε độc lập và được phân phối bình thường.

Liệu nó có ý nghĩa gì để phân tích phần dư trong hồi quy LASSO không?

Tôi biết rằng ước tính LASSO có thể được lấy làm chế độ sau theo các mục sư lũy thừa kép độc lập cho βj . Nhưng tôi không tìm thấy bất kỳ "giai đoạn kiểm tra giả định" tiêu chuẩn nào.

Cảm ơn trước (:

Câu trả lời:


16

Tôi không phải là một chuyên gia về LASSO, nhưng đây là của tôi.

Lưu ý đầu tiên rằng OLS khá mạnh mẽ khi vi phạm tính độc lập và tính quy tắc. Sau đó đánh giá từ Định lý 7 và thảo luận ở trên trong bài viết Robust Regression và Lasso (của X. Huân, C. Caramanis và S. Mannor) Tôi đoán rằng, trong hồi quy LASSO, chúng tôi quan tâm nhiều hơn đến việc phân phối εTôi , nhưng trong phân phối chung của (yTôi,xTôi) . Định lý dựa trên giả định rằng (yTôi,xTôi) là một mẫu, do đó, điều này có thể so sánh với các giả định OLS thông thường. Nhưng LASSO ít hạn chế hơn, nó không ràng buộc yTôi được tạo ra từ mô hình tuyến tính.

Tóm lại, câu trả lời cho câu hỏi đầu tiên của bạn là không. Không có giả định phân phối trên , tất cả các giả định phân phối đều bật . Hơn nữa, chúng yếu hơn, vì trong LASSO, không có định đề nào về phân phối có điều kiện .ε(y,X)(y|X)

Có nói rằng, câu trả lời cho câu hỏi thứ hai là không. Vì không đóng vai trò gì, nên không có ý nghĩa gì để phân tích chúng theo cách bạn phân tích chúng trong OLS (kiểm tra tính quy tắc, độ không đồng nhất, Durbin-Watson, v.v.). Tuy nhiên, bạn nên phân tích chúng trong bối cảnh mô hình phù hợp như thế nào.ε

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.