Câu hỏi được gắn thẻ «lasso»

Tôi đã tự hỏi, tại sao các phương pháp lựa chọn mô hình LASSO và LARS lại phổ biến như vậy mặc dù về cơ bản chúng chỉ là các biến thể của lựa chọn chuyển tiếp theo bước (và do đó bị phụ thuộc vào đường dẫn)? Tương tự, …

15 feature-selection  model-selection  lasso  stepwise-regression  lars 

Tôi đã đọc những cuốn sách phổ biến nhất trong học thống kê 1- Các yếu tố của học thống kê. 2- Giới thiệu về học thống kê . Cả hai đều đề cập rằng hồi quy sườn có hai công thức tương đương nhau. Có một bằng chứng toán …

15 regression  lasso  regularization  ridge-regression  lagrange-multipliers 

Có bất kỳ kết quả phân tích hoặc tài liệu thử nghiệm nào liên quan đến việc lựa chọn tối ưu hệ số của thời hạn hình phạt ℓ1ℓ1\ell_1 . Theo tối ưu , tôi có nghĩa là một tham số tối đa hóa xác suất chọn mô hình tốt …

15 model-selection  lasso  shrinkage 

Đã đóng cửa. Câu hỏi này không đúng chủ đề . Nó hiện không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Cập nhật câu hỏi để nó thuộc chủ đề cho Xác thực chéo. Đóng cửa 3 năm trước . Tôi đang xây dựng một …

15 r  logistic  categorical-data  lasso  glmnet 

Xác định ước tính lasso nơi i ^ {th} hàng x_i \ in \ mathbb {R} ^ p của thiết kế ma trận X \ in \ mathbb {R} ^ {n \ times p} là một vector của hiệp phương sai để giải thích đáp ứng ngẫu nhiên y_i (cho …

14 lasso  regularization 

Tôi muốn tạo một khu rừng ngẫu nhiên bằng quy trình sau: Xây dựng cây trên một mẫu ngẫu nhiên của dữ liệu và tính năng bằng cách sử dụng thông tin để xác định phân tách Chấm dứt một nút lá nếu vượt quá độ sâu được xác định …

14 classification  random-forest  lasso  ensemble 

Hiểu biết chung của tôi là AIC liên quan đến sự đánh đổi giữa mức độ phù hợp của mô hình và độ phức tạp của mô hình. Một tôiC= 2 k - 2 l n ( L )MộtTôiC= =2k-2tôin(L)AIC =2k -2ln(L) kkk = số lượng tham số trong mô …

14 cross-validation  lasso  aic  ridge-regression  bic 

Độ phức tạp thời gian tiệm cận của hồi quy Lasso là gì khi số lượng hàng hoặc cột tăng lên?

14 lasso  time-complexity 

http://www.chioka.in/differences-b between-l1-and-l2-as-loss-feft-and-THERization/ Nếu bạn nhìn vào đầu bài này, người viết đề cập rằng định mức L2 có một giải pháp duy nhất và định mức L1 có thể có nhiều giải pháp. Tôi hiểu điều này về mặt chính quy hóa, nhưng không phải là về việc sử dụng …

14 regression  lasso  regularization 

Tôi đang đọc về lựa chọn tập hợp con tốt nhất trong các yếu tố của cuốn sách học thống kê. Nếu tôi có 3 dự đoán , tôi tạo tập con:x1,x2,x3x1,x2,x3x_1,x_2,x_323=823=82^3=8 Tập hợp con không có dự đoán tập hợp con với bộ dự đoánx1x1x_1 tập hợp con với …

13 regression  feature-selection  lasso  bias-variance-tradeoff 

\newcommand{\diag}{\operatorname{diag}} Chúng tôi có vấn đề: với giả định rằng: \ sum_ {i = 1} ^ nx_ix_i ^ T = \ diag (\ sigma_1 ^ 2, ..., \ sigma_d ^ 2).minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),∑i=1nxixTi=diag(σ21,...,σ2d).∑i=1nxixiT=diag⁡(σ12,...,σd2).\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2). Có một giải pháp dạng đóng trong trường hợp này? Tôi có điều …

13 mathematical-statistics  lasso  computational-statistics  regularization 

Một trong những động lực cho mạng lưới đàn hồi là giới hạn sau của LASSO: Trong trường hợp , lasso chọn tối đa n biến trước khi nó bão hòa, vì bản chất của vấn đề tối ưu hóa lồi. Đây dường như là một tính năng giới hạn …

13 regression  optimization  feature-selection  lasso 

Có một số bài viết nặng về toán học mô tả Bayesian Lasso, nhưng tôi muốn kiểm tra, mã JAGS chính xác mà tôi có thể sử dụng. Ai đó có thể gửi mã BUGS / JAGS mẫu thực hiện hồi quy logistic thường xuyên không? Bất kỳ sơ đồ …

13 bayesian  logistic  lasso  jags  regularization 

Bảng 18.1 trong Các yếu tố của học thống kê tóm tắt hiệu suất của một số phân loại trên tập dữ liệu 14 lớp. Tôi đang so sánh một thuật toán mới với lasso và lưới đàn hồi cho các vấn đề phân loại đa lớp như vậy. Sử …

13 classification  lasso  glmnet 

Tôi muốn nhận được các hệ số cho vấn đề LASSO ||Y−Xβ||+λ||β||1.||Y−Xβ||+λ||β||1.||Y-X\beta||+\lambda ||\beta||_1. Vấn đề là chức năng glmnet và lars cho câu trả lời khác nhau. Đối với hàm glmnet, tôi yêu cầu các hệ số củathay vì chỉ , nhưng tôi vẫn nhận được câu trả lời khác …

13 r  machine-learning  regression  lasso  regularization