Câu hỏi được gắn thẻ «ridge-regression»

Tôi mới đến hồi quy sườn núi. Khi tôi áp dụng hồi quy sườn tuyến tính, tôi nhận được các kết quả sau: >myridge = lm.ridge(y ~ ma + sa + lka + cb + ltb , temp, lamda = seq(0,0.1,0.001)) > select(myridge) modified HKB estimator is 0.5010689 modified L-W …

9 ridge-regression 

\def\l{|\!|} Cho hồi quy mạng đàn hồi minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1\min_b \frac{1}{2}\l y - Xb \l^2 + \alpha\lambda \l b\l_2^2 + (1 - \alpha) \lambda \l b\l_1 làm thế nào có thể chọn một phạm vi thích hợp của λλ\lambda để xác thực chéo? Trong trường hợp α=1α=1\alpha=1 (hồi quy sườn) công thức …

9 least-squares  lasso  regularization  ridge-regression  elastic-net 

Trong các bình phương tối thiểu thông thường, hồi quy một vectơ đích so với tập hợp các yếu tố dự đoán X , ma trận mũ được tính làyyyXXX H= X( XtX)- 1XtH=X(XtX)−1XtH = X (X^tX)^{-1} X^t và PRESS (dự đoán tổng bình phương còn lại) được tính bằng …

9 regression  cross-validation  ridge-regression 

Theo câu hỏi trước đây của tôi , giải pháp cho các phương trình bình thường cho hồi quy sườn được đưa ra bởi: β^λ=(XTX+λI)−1XTyβ^λ=(XTX+λI)−1XTy\hat{\beta}_\lambda = (X^TX+\lambda I)^{-1}X^Ty Bạn có thể cung cấp bất kỳ hướng dẫn để chọn tham số chính quy . Ngoài ra, do đường chéo của …

9 regression  regularization  ridge-regression 

Giả sử tôi có một bộ dữ liệu chiều cao và muốn thực hiện lựa chọn tính năng. Một cách là đào tạo một mô hình có khả năng xác định các tính năng quan trọng nhất trong bộ dữ liệu này và sử dụng mô hình này để loại …

9 feature-selection  linear-model  lasso  ridge-regression 

Tôi mới đến ML. Tôi được thông báo rằng việc bình thường hóa L2 của hồi quy sườn không trừng phạt việc chặn . Như trong hàm chi phí: Thuật ngữ chuẩn hóa L2 chỉ tính tổng từ đến , không phải từ đến . Tôi cũng đọc rằng:θ0θ0\theta_{0}∇θJ(θ)=12∑i=1m(hθ⃗ (x(i))−y(i))2+λ∑j=1nθ2j∇θJ(θ)=12∑i=1m(hθ→(x(i))−y(i))2+λ∑j=1nθj2 …

8 machine-learning  ridge-regression 

Bất cứ ai cũng có thể cung cấp một cái nhìn trực quan về lý do tại sao tốt hơn là có bản beta nhỏ hơn? Đối với LASSO tôi có thể hiểu rằng, có một thành phần lựa chọn tính năng ở đây. Ít tính năng làm cho mô …

8 regression  lasso  ridge-regression  shrinkage 

tôi tự hỏi về độ mịn lưới tối ưu và mối quan hệ giữa độ mịn lưới và quá mức là gì trong các phương pháp chính quy hóa như LASSO, hồi quy sườn hoặc lưới đàn hồi. Giả sử tôi muốn điều chỉnh mô hình hồi quy bằng LASSO …

8 lasso  regularization  ridge-regression  overfitting  elastic-net 

Tôi đang cố xác định sử dụng alpha nào trong glmnetchức năng của mình , nhưng tệp trợ giúp cho tôi biết: Lưu ý rằng cv.glmnet KHÔNG tìm kiếm giá trị cho alpha. Một giá trị cụ thể phải được cung cấp, mặc định khác alpha = 1 được giả …

8 r  lasso  ridge-regression  glmnet 

Tôi có dữ liệu mô tả tần suất một sự kiện diễn ra trong một giờ ("số lượng mỗi giờ", nph) và thời gian các sự kiện kéo dài ("thời gian tính bằng giây mỗi giờ", dph). Đây là dữ liệu gốc: nph <- c(2.50000000003638, 3.78947368414551, 1.51456310682008, 5.84686774940732, 4.58823529414907, 5.59999999993481, …

8 normal-distribution  data-transformation  logistic  generalized-linear-model  ridge-regression  t-test  wilcoxon-signed-rank  paired-data  naive-bayes  distributions  logistic  goodness-of-fit  time-series  eviews  ecm  panel-data  reliability  psychometrics  validity  cronbachs-alpha  self-study  random-variable  expected-value  median  regression  self-study  multiple-regression  linear-model  forecasting  prediction-interval  normal-distribution  excel  bayesian  multivariate-analysis  modeling  predictive-models  canonical-correlation  rbm  time-series  machine-learning  neural-networks  fishers-exact  factorisation-theorem  svm  prediction  linear  reinforcement-learning  cdf  probability-inequalities  ecdf  time-series  kalman-filter  state-space-models  dynamic-regression  index-decomposition  sampling  stratification  cluster-sample  survey-sampling  distributions  maximum-likelihood  gamma-distribution 

Tôi đang cố gắng tìm ước tính MAP cho một mô hình theo độ dốc. Ưu tiên của tôi là Gaussian đa biến với ma trận hiệp phương sai đã biết. Ở mức độ khái niệm, tôi nghĩ rằng tôi biết làm thế nào để làm điều này, nhưng tôi …

8 normal-distribution  covariance-matrix  regularization  gradient-descent  ridge-regression 

Tôi có hai triển khai khác nhau ridgetrong MATLAB. Một là đơn giản x=(A′A+Iλ)−1A′bx=(A′A+Iλ)−1A′b\mathbf x = (\mathbf{A}'\mathbf{A}+\mathbf{I}\lambda)^{-1}\mathbf{A}'\mathbf b (như đã thấy trên trang hồi quy sườn của Wikipedia ), với II\mathbf{I} là ma trận danh tính của các cột kích thước ( AA\mathbf{A} ) ××\times cột ( AA\mathbf{A} ) và …

8 matlab  ridge-regression  sparse 

Có ai biết làm thế nào để tính khoảng dự đoán cho hồi quy sườn? và mối quan hệ của nó với khoảng dự đoán của hồi quy OLS là gì?

8 ridge-regression  prediction-interval 

Tôi mong muốn được tìm hiểu thêm về các kỹ thuật hồi quy chính quy như hồi quy Ridge và Lasso. Tôi muốn biết những gì có thể đạt được bằng cách sử dụng các kỹ thuật này khi so sánh với mô hình hồi quy tuyến tính. Ngoài ra …

8 multiple-regression  regression-coefficients  regularization  ridge-regression 

Tôi hiện đang làm việc về vấn đề này và mục tiêu là phát triển mô hình hồi quy tuyến tính để dự đoán Y (huyết áp) của tôi với 8 yếu tố dự đoán, sử dụng hồi quy Ridge & Lasso. Tôi bắt đầu bằng cách kiểm tra tầm …

7 multiple-regression  lasso  ridge-regression