Câu hỏi được gắn thẻ «lasso»

Tôi đã suy nghĩ để giải quyết Lasso thông qua các phương pháp nâng cấp vanilla. Nhưng tôi đã đọc những người đề nghị sử dụng giảm dần độ dốc Proximal. Ai đó có thể làm nổi bật lý do tại sao GD gần nhất thay vì phương pháp nâng …

9 machine-learning  optimization  lasso  gradient-descent 

Hàm R cv.glm (library: boot) tính toán lỗi dự đoán xác thực chéo K ước tính cho các mô hình tuyến tính tổng quát và trả về delta. Liệu nó có ý nghĩa để sử dụng chức năng này cho hồi quy lasso (thư viện: glmnet) và nếu vậy, làm …

9 r  regression  cross-validation  lasso  glmnet 

Tôi đang tiến hành phân tích trong đó mục tiêu chính là tìm hiểu dữ liệu. Bộ dữ liệu đủ lớn để xác thực chéo (10k) và các yếu tố dự đoán bao gồm cả biến liên tục và biến giả, và kết quả là liên tục. Mục tiêu chính …

9 lasso  explanatory-models 

LLLminβ∥y−Xβ∥22+λ∥β∥1minβ‖y−Xβ‖22+λ‖β‖1 \min_\beta \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 \; Nhưng thường thì tôi thấy công cụ ước tính Lasso có thể được viết là β^n(λ)=argminβ{12n∥y−Xβ∥22+λ∥β∥1}β^n(λ)=arg⁡minβ{12n‖y−Xβ‖22+λ‖β‖1} \hat{\beta}_n(\lambda) = \displaystyle\arg \min_{\beta} \{\frac {1}{2n} \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 \} Câu hỏi của tôi là, tương đương? Thuật ngữ 12n12n\frac …

9 lasso 

Tôi đã nhận được từ các bài đăng khác rằng người ta không thể gán thuộc tính 'tầm quan trọng' hoặc 'tầm quan trọng' cho các biến dự đoán nhập vào mô hình Lasso vì việc tính giá trị p của các biến đó hoặc độ lệch chuẩn vẫn đang …

9 statistical-significance  bootstrap  simulation  lasso  regression-strategies 

Tôi có một câu hỏi về cách mô hình hóa văn bản qua dữ liệu đếm, đặc biệt là làm thế nào tôi có thể sử dụng lassokỹ thuật để giảm các tính năng. Nói rằng tôi có N bài viết trực tuyến và số lượt xem trang cho mỗi …

9 poisson-distribution  lasso  glmnet  overdispersion  penalized 

Tôi đang làm việc trên một mô hình chi phí dự đoán trong đó tuổi của bệnh nhân (số lượng nguyên được đo bằng năm) là một trong những biến dự đoán. Một mối quan hệ phi tuyến mạnh mẽ giữa tuổi và nguy cơ nằm viện là điều hiển …

9 nonlinear-regression  lasso  ridge-regression  smoothing  splines 

Giả sử tôi có dữ liệu theo chiều dọc có dạng (Tôi có nhiều quan sát, đây chỉ là dạng của một quan sát duy nhất). Tôi quan tâm đến các hạn chế đối với . không bị hạn chế tương đương với việc lấy với .Σ Σ Y j …

9 feature-selection  lasso  shrinkage 

Các mô hình được xử lý có thể được sử dụng để ước tính các mô hình trong đó số lượng tham số bằng hoặc thậm chí lớn hơn kích thước mẫu. Tình huống này có thể phát sinh trong các mô hình log-linear của các bảng dữ liệu phân …

9 categorical-data  lasso  elastic-net  log-linear  many-categories 

Vì vậy, tôi có 16 thử nghiệm trong đó tôi đang cố gắng xác thực một người từ một đặc điểm sinh trắc học bằng cách sử dụng Hamming Khoảng cách. Ngưỡng của tôi được đặt thành 3,5. Dữ liệu của tôi ở bên dưới và chỉ có bản dùng …

9 mathematical-statistics  roc  classification  cross-validation  pac-learning  r  anova  survival  hazard  machine-learning  data-mining  hypothesis-testing  regression  random-variable  non-independent  normal-distribution  approximation  central-limit-theorem  interpolation  splines  distributions  kernel-smoothing  r  data-visualization  ggplot2  distributions  binomial  random-variable  poisson-distribution  simulation  kalman-filter  regression  lasso  regularization  lme4-nlme  model-selection  aic  r  mcmc  dlm  particle-filter  r  panel-data  multilevel-analysis  model-selection  entropy  graphical-model  r  distributions  quantiles  qq-plot  svm  matlab  regression  lasso  regularization  entropy  inference  r  distributions  dataset  algorithms  matrix-decomposition  regression  modeling  interaction  regularization  expected-value  exponential  gamma-distribution  mcmc  gibbs  probability  self-study  normality-assumption  naive-bayes  bayes-optimal-classifier  standard-deviation  classification  optimization  control-chart  engineering-statistics  regression  lasso  regularization  regression  references  lasso  regularization  elastic-net  r  distributions  aggregation  clustering  algorithms  regression  correlation  modeling  distributions  time-series  standard-deviation  goodness-of-fit  hypothesis-testing  statistical-significance  sample  binary-data  estimation  random-variable  interpolation  distributions  probability  chi-squared  predictor  outliers  regression  modeling  interaction 

Cho , hành vi lý thuyết của các hệ số LASSO là gì và tại sao?x2=2x1x2=2x1x_2 = 2 x_1 Một trong số hoặc thu nhỏ về hoặc cả hai?x 2 0x1x1x_1x2x2x_2000 require(glmnet) x1 = runif(100, 1, 2) x2 = 2*x1 x_train = cbind(x1, x2) y = 100*x1 + 100 + …

9 lasso  multicollinearity 

Trong bài báo chuyên đề 'Hồi quy góc tối thiểu' , Efron et al mô tả một sửa đổi đơn giản của thuật toán LARS cho phép tính toán các đường dẫn chính quy LASSO đầy đủ. Tôi đã triển khai biến thể này một cách thành công và thường …

9 regression  lasso  regularization  lars 

\def\l{|\!|} Cho hồi quy mạng đàn hồi minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1\min_b \frac{1}{2}\l y - Xb \l^2 + \alpha\lambda \l b\l_2^2 + (1 - \alpha) \lambda \l b\l_1 làm thế nào có thể chọn một phạm vi thích hợp của λλ\lambda để xác thực chéo? Trong trường hợp α=1α=1\alpha=1 (hồi quy sườn) công thức …

9 least-squares  lasso  regularization  ridge-regression  elastic-net 

Tôi có một bộ dự đoán lớn (hơn 43.000) để dự đoán một biến phụ thuộc có thể lấy 2 giá trị (0 hoặc 1). Số lượng quan sát là hơn 45.000. Hầu hết các dự đoán là unigram, bigram và trigram của các từ, vì vậy có mức độ …

9 r  multiple-regression  lasso  glmnet 

Giả sử tôi có một bộ dữ liệu chiều cao và muốn thực hiện lựa chọn tính năng. Một cách là đào tạo một mô hình có khả năng xác định các tính năng quan trọng nhất trong bộ dữ liệu này và sử dụng mô hình này để loại …

9 feature-selection  linear-model  lasso  ridge-regression