Lựa chọn k knots trong hồi quy làm mịn spline tương đương với k biến phân loại?

Tôi đang làm việc trên một mô hình chi phí dự đoán trong đó tuổi của bệnh nhân (số lượng nguyên được đo bằng năm) là một trong những biến dự đoán. Một mối quan hệ phi tuyến mạnh mẽ giữa tuổi và nguy cơ nằm viện là điều hiển nhiên:

Tôi đang xem xét một spline làm mịn hồi quy bị phạt cho tuổi bệnh nhân. Theo The Elements of Statistics Learning (Hastie et al, 2009, tr.151), vị trí nút tối ưu là một nút trên mỗi giá trị duy nhất của tuổi thành viên.

Cho rằng tôi đang giữ tuổi như một số nguyên, liệu spline làm mịn bị phạt có tương đương với chạy hồi quy sườn hoặc lasso với 101 biến chỉ báo tuổi khác biệt, một giá trị theo tuổi được tìm thấy trong tập dữ liệu (trừ một giá trị tham chiếu) không? Sau đó, vượt quá tham số được tránh vì các hệ số trên mỗi chỉ số tuổi được thu nhỏ về 0.

Câu hỏi tuyệt vời. Tôi tin rằng câu trả lời cho câu hỏi mà bạn đặt ra - "là spline làm mịn bị phạt tương đương với chạy hồi quy sườn hoặc lasso" - là có. Có một số nguồn có thể cung cấp bình luận và quan điểm. Một nơi mà bạn có thể muốn bắt đầu là liên kết PDF này . Như đã lưu ý trong phần ghi chú:

"Lắp một mô hình spline làm mịn số lượng để thực hiện một hình thức hồi quy sườn trên cơ sở cho các spline tự nhiên."

Nếu bạn đang tìm kiếm một số cách đọc chung, bạn có thể thích xem bài viết xuất sắc này về Penalized Regressions: The Bridge Versus the Lasso . Điều này có thể giúp trả lời câu hỏi liệu spline làm mịn bị phạt có hoàn toàn tương đương hay không - mặc dù nó cung cấp quan điểm chung hơn. Tôi thấy thú vị khi họ so sánh các kỹ thuật khác nhau với nhau, cụ thể là mô hình hồi quy cầu mới với LASSO, cũng như Hồi quy độ dốc.

Một vị trí chiến thuật khác để kiểm tra có thể là ghi chú gói cho gói smooth.spline trong R. Lưu ý rằng họ gợi ý về mối quan hệ ở đây, bằng cách quan sát rằng: "với các định nghĩa này, trong đó biểu diễn cơ sở B-spline có thể được nêu là f = X c (nghĩa là c là vectơ của các hệ số spline), khả năng nhật ký bị phạt là , và do đó là giải pháp của (hồi quy sườn núi) . "c ( X T W X + λ Σ ) c = X T W $L = (y - f)^T W (y - f) + \lambda c^T \Sigma c$$c$$(X^T W X + \lambda \Sigma) c = X^T W y$

Tôi không chắc bạn thực sự muốn rất nhiều nút thắt, đưa ra cốt truyện.

Có vẻ như bạn có thể có một số mẫu nhỏ ở độ tuổi cụ thể; đỉnh ở mức 74 và giá trị 0 ở mức thấp và cao có ý nghĩa rất nhỏ.

Thay vào đó, với quyền hạn của nguồn trang web của bạn, có lẽ bạn muốn các spline khối bị hạn chế thay vào đó, với số lượng nút thắt nhỏ hơn nhiều?

Tôi đến trễ cuộc thảo luận này, nhưng hãy nhìn vào biểu đồ dữ liệu ... sự tăng đột biến rõ ràng trong dữ liệu trên 70 tuổi không phải là sự phản ánh đúng về rủi ro liên quan đến tuổi, đó là triệu chứng của dữ liệu thưa thớt và một số ngẫu nhiên.

Bạn sẽ không muốn mô hình hóa rằng sử dụng một nút mỗi năm, điều đó chắc chắn sẽ dẫn đến việc làm quá mức tiếng ồn.

Ngoài ra, bạn sẽ tìm thấy một mô hình rất khác nếu bạn nhìn vào nữ vs nam. Hầu hết các đỉnh trong độ tuổi 15-30 sẽ là Sản khoa.