Có một cách giải thích Bayes về hồi quy tuyến tính với chính quy hóa L1 và L2 đồng thời (còn gọi là lưới đàn hồi) không?


17

Người ta biết rằng hồi quy tuyến tính với hình phạt tương đương với việc tìm ước tính MAP được đưa ra một Gaussian trước các hệ số. Tương tự, sử dụng hình phạt tương đương với sử dụng phân phối Laplace như trước.tôi2l1

Không có gì lạ khi sử dụng một số kết hợp có trọng số của chính quy hóa và . Chúng ta có thể nói rằng điều này tương đương với một số phân phối trước trên các hệ số (theo trực giác, có vẻ như nó phải như vậy)? Chúng ta có thể cung cấp cho bản phân phối này một hình thức phân tích tốt đẹp (có thể là hỗn hợp của Gaussian và Laplacian) không? Nếu không, tai sao không?l1l2


1
xem bài viết này: tandfonline.com/doi/abs/10.1198/jasa.2011.tm09241 (Nếu điều này không được trả lời đúng trong một hoặc hai tuần, tôi sẽ đăng (ít nhiều) một bản tóm tắt của bài báo đó)
user795305

7
Tôi nên nói thêm rằng bất cứ khi nào những người thường xuyên có phạt , một người bay có thể hiểu rằng đó là một (có thể không đúng) trước theo mô hình gaussian tiêu chuẩn. pene-pen
user795305

cảm ơn, bài báo này và trích dẫn của nó trả lời câu hỏi của tôi một cách hoàn hảo!
Michael Curry

Tuyệt quá! Bạn có nhớ chỉ ra những trích dẫn mà bạn muốn nói không? (Tôi dự định sớm đọc bài viết này và quan tâm đến ý kiến ​​của bạn)
user795305

1
Được, tuyệt đấy! Tôi nghĩ rằng cách giải thích
bayes

Câu trả lời:


6

Nhận xét của Ben có khả năng là đủ, nhưng tôi cung cấp thêm một số tài liệu tham khảo mà một trong số đó là từ trước bài báo Ben tham khảo.

Một đại diện lưới đàn hồi Bayes đã được đề xuất bởi Kyung et. al. trong Phần 3.1 của họ. Mặc dù trước đó cho hệ số hồi quy là chính xác, các tác giả đã viết không chính xác biểu diễn hỗn hợp.β

Một mô hình Bayes được sửa chữa cho lưới đàn hồi gần đây đã được đề xuất bởi Roy và Chakraborty (phương trình 6 của họ). Các tác giả cũng tiếp tục trình bày một bộ lấy mẫu Gibbs thích hợp để lấy mẫu từ phân phối sau và cho thấy rằng bộ lấy mẫu Gibbs hội tụ đến phân phối đứng yên ở tốc độ hình học. Vì lý do này, các tài liệu tham khảo này có thể hữu ích, ngoài bài báo Hans .


(+1) Câu trả lời tuyệt vời!
user795305

1
đối với bất kỳ ai trong tương lai - tất cả các bài báo đều đáng xem, nhưng bài báo Hans cung cấp cho bạn một số bộ lấy mẫu Gibbs cho các bản phân phối khác nhau cũng như biểu diễn phân cấp của phần trước có thể được dịch dễ dàng cho Stan.
Michael Curry
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.