Câu hỏi được gắn thẻ «regularization»

Đây là một cái gì đó tôi đọc trong cuốn sách Deep Learning của Ian Goodfellow . Trong ngữ cảnh của các mạng thần kinh, "hình phạt định mức tham số L2 thường được gọi là phân rã trọng lượng. Chiến lược chính quy này đẩy trọng số gần với …

11 machine-learning  neural-networks  deep-learning  regularization 

Khi chọn tham số chính quy lambda trong Ridge hoặc Lasso, phương pháp được đề xuất là thử các giá trị khác nhau của lambda, đo lỗi trong Tập xác thực và cuối cùng chọn giá trị đó của lambda trả về lỗi thấp nhất. Nó không phải là cleat …

11 cross-validation  error  regularization  validation  optimization 

Tôi đã có một ý tưởng về ưu và nhược điểm của hồi quy sườn và LASSO. Đối với LASSO, thời hạn phạt L1 sẽ mang lại một vectơ hệ số thưa thớt, có thể được xem như một phương pháp lựa chọn tính năng. Tuy nhiên, có một số …

11 feature-selection  lasso  regularization  ridge-regression  elastic-net 

Tôi đang nghiên cứu LASSO (toán tử co ngót và lựa chọn tối thiểu tuyệt đối) vào lúc này. Tôi thấy rằng giá trị tối ưu cho tham số chính quy có thể được chọn bằng xác nhận chéo. Tôi cũng thấy trong hồi quy sườn và nhiều phương pháp …

11 lasso  regularization  shrinkage 

Bằng các kỹ thuật chính quy, tôi đang đề cập đến lasso, hồi quy sườn, lưới đàn hồi và những thứ tương tự. Xem xét một mô hình dự đoán về dữ liệu chăm sóc sức khỏe có chứa dữ liệu nhân khẩu học và chẩn đoán trong đó thời …

11 multiple-regression  random-effects-model  regularization 

Đã đóng cửa. Câu hỏi này không đúng chủ đề . Nó hiện không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Cập nhật câu hỏi để nó thuộc chủ đề cho Xác thực chéo. Đóng cửa năm ngoái . Những triển khai nguồn mở nào …

11 regression  lasso  regularization 

Hiểu biết của tôi về hồi quy LASSO là các hệ số hồi quy được chọn để giải quyết vấn đề tối thiểu hóa: minβ∥y−Xβ∥22 s.t.∥β∥1≤tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t Trong thực tế, điều này được thực hiện bằng cách sử dụng hệ số …

10 optimization  lasso  regularization  lagrange-multipliers 

Trong một số câu trả lời tôi đã thấy người dùng CrossValidated đề nghị OP tìm các bài báo sớm về Lasso, Ridge và Elastic Net. Đối với hậu thế, các tác phẩm tinh xảo trên Lasso, Ridge và Elastic Net là gì?

10 references  lasso  regularization  ridge-regression  elastic-net 

Nếu tôi có ma trận thiết kế , trong đó là số lượng quan sát của kích thước , thì độ phức tạp của việc giải quyết cho với LASSO, wrt và ? Tôi nghĩ rằng câu trả lời nên đề cập đến cách một thang đo LASSO chia tỷ …

10 optimization  lasso  regularization  time-complexity 

Gần đây tôi đã tham gia một vài cuộc nói chuyện thống kê về Lasso (chính quy hóa) và một điểm tiếp tục được đưa ra là chúng tôi không thực sự hiểu tại sao Lasso hoạt động hoặc tại sao nó hoạt động tốt như vậy. Tôi tự hỏi …

10 machine-learning  lasso  regularization 

Như tiêu đề, tôi đang cố gắng sao chép các kết quả từ tuyến tính glmnet bằng trình tối ưu hóa LBFGS từ thư viện lbfgs. Trình tối ưu hóa này cho phép chúng ta thêm một thuật ngữ chính quy L1 mà không phải lo lắng về tính khác …

10 r  regression  regularization  glmnet  elastic-net 

Điều nổi tiếng (ví dụ trong lĩnh vực cảm biến nén) rằng định mức là "cảm ứng thưa thớt", theo nghĩa là nếu chúng ta giảm thiểu chức năng (đối với ma trận và vectơ cố định ) cho đủ lớn \ lambda> 0 , chúng tôi có thể có …

10 regression  matrix  normalization  regularization  sparse 

Có nhiều phương pháp để thực hiện chính quy hóa - ví dụ: chính quy hóa định mức , và . Theo Friedman Hastie & Tibsharani , bộ chỉnh tần số tốt nhất phụ thuộc vào vấn đề: cụ thể là bản chất của chức năng đích thực, cơ sở …

10 r  regression  machine-learning  regularization 

Tôi sử dụng RNN hai chiều để phát hiện sự kiện xảy ra mất cân bằng. Lớp tích cực ít hơn 100 lần so với lớp âm. Mặc dù không sử dụng chính quy, tôi có thể có được độ chính xác 100% trên tập tàu và 30% cho tập …

10 neural-networks  deep-learning  regularization  rnn 

Làm thế nào để thực hiện hồi quy sườn không âm? Lasso không âm có sẵn trong scikit-learn, nhưng đối với sườn núi, tôi không thể thực thi phi âm của betas, và thực sự, tôi đang nhận được hệ số âm. Có ai biết tại sao điều này? Ngoài …

10 regression  lasso  regularization  ridge-regression