Cách khắc phục một hệ số và phù hợp với các hệ số khác bằng hồi quy

Tôi muốn sửa thủ công một hệ số nhất định, giả sử , sau đó khớp hệ số với tất cả các yếu tố dự đoán khác, trong khi vẫn giữ trong mô hình.β 1 = $\beta_1=1.0$$\beta_1=1.0$

Làm thế nào tôi có thể đạt được điều này bằng cách sử dụng R? Tôi đặc biệt muốn làm việc với LASSO ( glmnet) nếu có thể.

Ngoài ra, làm cách nào tôi có thể giới hạn hệ số này trong một phạm vi cụ thể, giả sử ?$0.5\le\beta_1\le1.0$

Bạn cần sử dụng offsetđối số như thế này:

library(glmnet)
x=matrix(rnorm(100*20),100,20)
x1=matrix(rnorm(100),100,1)
y=rnorm(100)
fit1=glmnet(x,y,offset=x1)
fit1$offset
print(fit1)

Về phạm vi ... Tôi không nghĩ rằng đã được thực hiện trong glmnet. Nếu họ sử dụng một số phương pháp số, bạn có thể muốn đào sâu vào mã R và cố gắng hạn chế nó ở đó, nhưng bạn sẽ cần một nền tảng lập trình tốt, vững chắc.

Hãy nghĩ xem. Bạn có:

$Y = b_0 + b_1x_1 + b_2x_2 + e$

(để đơn giản) Bạn muốn buộc vì vậy, bạn muốn$b_1 = 1$

$Y = b_0 + x_1 + b_2x_2 + e$

vì vậy bạn chỉ có thể trừ từ mỗi bên để lại:$x_1$

$Ynew = Y-x_1 = b_0 + b_2x_2 + e$

$b_2$

Đối với việc hạn chế các hệ số nằm trong một phạm vi, cách tiếp cận Bayes để ước tính là một phương tiện để thực hiện điều này.

Cụ thể, người ta sẽ dựa vào Chuỗi Markov Monte Carlo. Đầu tiên, hãy xem xét thuật toán lấy mẫu Gibbs, đó là cách bạn sẽ phù hợp với MCMC trong khung Bayes mà không có hạn chế. Trong lấy mẫu Gibbs, trong mỗi bước của thuật toán, bạn lấy mẫu từ phân phối sau của từng tham số (hoặc nhóm tham số) có điều kiện trên dữ liệu và tất cả các tham số khác. Wikipedia cung cấp một bản tóm tắt tốt về cách tiếp cận.

Một cách để hạn chế phạm vi là áp dụng một bước của Metropolis-Hastings. Ý tưởng cơ bản là chỉ cần loại bỏ bất kỳ biến mô phỏng nào nằm ngoài giới hạn của bạn. Sau đó, bạn có thể tiếp tục lấy mẫu lại cho đến khi nó nằm trong giới hạn của bạn trước khi chuyển sang lần lặp tiếp theo. Nhược điểm của điều này là bạn có thể bị kẹt mô phỏng rất nhiều lần, làm chậm MCMC. Một cách tiếp cận khác, ban đầu được John Geweke phát triển trong một vài bài báo và được Rodriguez-Yam, Davis, Sharpe mở rộng trong một bài báo để mô phỏng từ một phân phối thông thường đa biến bị hạn chế. Cách tiếp cận này có thể xử lý các ràng buộc bất bình đẳng tuyến tính và phi tuyến tính trên các tham số và tôi đã có một số thành công với nó.

Tôi không quen thuộc với LASSO hoặc glmnet, nhưng lavaan(viết tắt của "phân tích biến tiềm ẩn") tạo điều kiện cho nhiều mô hình hồi quy với cả ràng buộc đẳng thức và ràng buộc bất đẳng thức giới hạn đơn (xem bảng trên trang 7 của PDF này, "lavaan: Gói R cho mô hình phương trình cấu trúc " ). Tôi không biết liệu bạn có thể có cả giới hạn trên và dưới của hệ số hay không, nhưng có lẽ bạn có thể thêm từng giới hạn bằng các dòng riêng biệt, ví dụ:

Coefficient>.49999999
Coefficient<1.0000001

Tất nhiên, nếu bạn đang chuẩn hóa mọi thứ trước khi lắp mô hình, bạn không cần phải lo lắng về việc áp đặt giới hạn trên 1 cho các hệ số hồi quy của mình. Tôi muốn nói rằng bạn tốt hơn nên bỏ qua nó trong trường hợp này, chỉ trong trường hợp có điều gì đó không ổn! ( lavaan Là vẫn còn trong phiên bản beta sau khi tất cả ... Tôi đã nhìn thấy một số kết quả hơi tanh sử dụng hạn chế riêng của tôi về nó cho đến nay.)