Câu hỏi được gắn thẻ «lasso»

Hồi quy LASSO thu nhỏ các hệ số về 0, do đó cung cấp lựa chọn mô hình hiệu quả. Tôi tin rằng trong dữ liệu của mình có những tương tác có ý nghĩa giữa hiệp phương sai danh nghĩa và liên tục. Tuy nhiên, không nhất thiết là …

25 machine-learning  lasso  glmnet  shrinkage  penalized 

Phần mềm thực hiện khác nhau có sẵn cho lasso . Tôi biết rất nhiều thảo luận về cách tiếp cận Bayes so với cách tiếp cận thường xuyên trong các diễn đàn khác nhau. Câu hỏi của tôi rất cụ thể đối với Lasso - Sự khác biệt hoặc …

24 r  machine-learning  linear-model  lasso 

Vì vậy, tôi đã được hỏi một câu hỏi về các biện pháp trung tâm L1 (tức là lasso) và L2 (nghĩa là hồi quy sườn núi) ước tính. Câu trả lời là L1 = trung vị và L2 = trung bình. Có bất kỳ loại lý luận trực quan …

24 lasso  regularization  loss-functions  ridge-regression 

Một số chức năng phạt và các xấp xỉ được nghiên cứu kỹ, chẳng hạn như LASSO ( ) và ( ) và cách so sánh chúng trong hồi quy.L1L1L_1L2L2L_2 Tôi đã đọc về hình phạt Cầu, đó là hình phạt tổng quát . So sánh với LASSO, có \ …

22 regression  lasso  regularization  ridge-regression  elastic-net 

Tôi muốn hiểu rõ hơn về các gói R Larsvà Glmnet, được sử dụng để giải quyết vấn đề Lasso: (đối với Biến và mẫu, xem www.stanford.edu/~hastie/Papers/glmnet.pdf trên trang 3)pmin(β0β)∈Rp+1[12N∑i=1N(yi−β0−xTiβ)2+λ||β||l1]min(β0β)∈Rp+1[12N∑i=1N(yi−β0−xiTβ)2+λ||β||l1]min_{(\beta_0 \beta) \in R^{p+1}} \left[\frac{1}{2N}\sum_{i=1}^{N}(y_i-\beta_0-x_i^T\beta)^2 + \lambda||\beta ||_{l_{1}} \right]pppNNN Do đó, tôi đã áp dụng cả hai trên cùng một tập …

22 r  regression  machine-learning  lasso  regularization 

Tôi đang chạy một thử nghiệm nhỏ với hồi quy LASSO trong R để kiểm tra xem nó có thể tìm thấy một cặp dự đoán hoàn hảo hay không. Cặp được định nghĩa như thế này: f1 + f2 = kết quả Kết quả ở đây là một vectơ …

20 r  regression  feature-selection  lasso  high-dimensional 

Tất cả chúng ta đều quen thuộc với khái niệm, được ghi lại trong tài liệu, rằng tối ưu hóa LASSO (vì đơn giản là chú ý đến trường hợp hồi quy tuyến tính) tương đương với mô hình tuyến tính có lỗi Gaussian trong đó các tham số được …

20 lasso  laplace-distribution 

Tôi có một câu hỏi liên quan đến việc cần sử dụng các phương pháp lựa chọn tính năng (Rừng ngẫu nhiên có giá trị quan trọng hoặc phương pháp lựa chọn tính năng Univariate, v.v.) trước khi chạy thuật toán học thống kê. Chúng tôi biết để tránh bị …

20 regression  machine-learning  feature-selection  lasso  regularization 

Hồi quy bị phạt L1 (còn gọi là lasso) được trình bày theo hai công thức. Đặt hai hàm mục tiêu là Q1=12||Y−Xβ||22Q2=12||Y−Xβ||22+λ||β||1.Q1=12||Y−Xβ||22Q2=12||Y−Xβ||22+λ||β||1. Q_1 = \frac{1}{2}||Y - X\beta||_2^2 \\ Q_2 =\frac{1}{2}||Y - X\beta||_2^2 + \lambda ||\beta||_1. Sau đó, hai công thức khác nhau là argminβQ1argminβQ1 \text{argmin}_\beta \; Q_1 môn học …

20 regression  lasso  penalized 

Tôi đang sử dụng gói R bị phạt để có được các ước tính hệ số thu nhỏ cho một tập dữ liệu trong đó tôi có rất nhiều dự đoán và ít kiến ​​thức về cái nào là quan trọng. Sau khi tôi chọn các tham số điều chỉnh …

20 regression  lasso  stepwise-regression  ridge-regression 

Gần đây tôi đã thấy rằng trong tài liệu kinh tế lượng kinh tế học ứng dụng, khi xử lý các vấn đề lựa chọn tính năng, không có gì lạ khi thực hiện LASSO theo sau là hồi quy OLS bằng các biến được chọn. Tôi đã tự hỏi …

20 regression  feature-selection  econometrics  least-squares  lasso 

Sau đây là sơ đồ của glmnet với alpha mặc định (1, do đó là lasso) sử dụng mtcarsdữ liệu được đặt trong R với mpgDV và các biến khác làm biến dự đoán. glmnet(as.matrix(mtcars[-1]), mtcars[,1]) Những gì chúng ta có thể kết luận từ cốt truyện này liên quan …

19 regression  feature-selection  lasso  glmnet 

Tôi đang thực sự quan tâm đến thủ tục mạng đàn hồi cho sự co ngót / lựa chọn dự đoán. Có vẻ như rất mạnh mẽ. Nhưng từ quan điểm khoa học, tôi không biết phải làm gì một khi đã có hệ số. Tôi đang trả lời câu …

19 hypothesis-testing  prediction  inference  lasso  elastic-net 

Các phương pháp chọn biến thuật toán theo chiều dọc có xu hướng chọn các mô hình thiên vị ít nhiều mọi ước tính trong các mô hình hồi quy ( s và SE của chúng, giá trị p , thống kê F , v.v.) và có khả năng loại …

18 regression  feature-selection  lasso  regression-strategies  stepwise-regression 

Câu hỏi Điều gì để kết luận từ cốt truyện Lasso này (glmnet) cho thấy các đường dẫn giải pháp cho công cụ ước tính Lasso không đơn điệu. Đó là, một số quan tài phát triển về giá trị tuyệt đối trước khi chúng co lại. Tôi đã áp …

18 lasso  ridge-regression  elastic-net