Cái nào chính xác hơn glm hay glmnet?


10

R glm và glmnet sử dụng các thuật toán khác nhau.

Tôi nhận thấy sự khác biệt không nhỏ giữa các hệ số ước tính khi tôi sử dụng cả hai.

Tôi quan tâm đến khi cái này chính xác hơn cái khác và thời gian để giải quyết / đánh đổi độ chính xác.

Cụ thể tôi đang đề cập đến trường hợp người ta đặt lambda = 0 trong glmnet st, nó đang ước tính điều tương tự như glm.


1
Bạn đang hỏi về sự khác biệt về hiệu suất và độ chính xác khi lambda = 0, trong đó hai lý thuyết nên giống hệt nhau. Tôi nghĩ bạn nên thêm nó vào câu hỏi của bạn.
smci

Câu trả lời:


14

Glmnet là cho hồi quy mạng đàn hồi. Điều này phạt kích thước của các hệ số ước tính (thông qua sự kết hợp của hình phạt L1 và L2). Nó cố gắng giải thích càng nhiều phương sai trong dữ liệu thông qua mô hình càng tốt trong khi vẫn giữ các hệ số mô hình nhỏ. Tôi tìm thấy những slide hữu ích để hiểu nó.

Glm không sử dụng một điều khoản phạt.

Theo tôi hiểu, hiệu quả của nó là với mạng đàn hồi, bạn có thể chấp nhận một số sai lệch để đổi lấy việc giảm phương sai của công cụ ước tính. Vì vậy, điều tốt nhất phải phụ thuộc vào cách bạn xác định 'tốt nhất' về mặt thiên vị và phương sai. (Ví dụ: tôi biết glmnet có lợi thế khi bạn có nhiều tính năng so với quan sát)


liên kết dường như bị phá vỡ
ndoogan

liên kết hoạt động ngay bây giờ
smci

Vâng, bạn chỉ cần giải thích glmnet làm gì - nhưng OP đã đề cập đến tình huống khi bạn đặt lambda = 0 trong glmnet, trong trường hợp đó, về nguyên tắc, kết quả sẽ trả về giống như một glm (không thâm nhập) (tiết kiệm cho một số nhỏ sự khác biệt liên quan đến phương pháp khớp nối gốc tọa độ theo chu kỳ được sử dụng trong glmnet).
Tom Wenseleers
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.