Câu hỏi được gắn thẻ «loss-functions»

Tensorflow có một ví dụ hướng dẫn về phân loại CIFAR-10 . Trong hướng dẫn, tổn thất entropy chéo trung bình trên toàn lô được giảm thiểu. def loss(logits, labels): """Add L2Loss to all the trainable variables. Add summary for for "Loss" and "Loss/avg". Args: logits: Logits from inference(). labels: …

14 neural-networks  loss-functions  tensorflow 

Trong phần 3.2 của Nhận dạng mẫu và học máy của Giám mục , ông đã thảo luận về phân rã phương sai thiên vị, nói rằng đối với hàm mất bình phương, tổn thất dự kiến ​​có thể được phân tách thành một thuật ngữ sai lệch bình phương …

13 self-study  variance  bias  regularization  loss-functions 

Trình phân loại Naive Bayes là trình phân loại gán các mục xxx cho một lớp CCC dựa trên việc tối đa hóa P(C|x)P(C|x)P(C|x) cho thành viên lớp và giả định rằng các tính năng của các mục là độc lập. Mất 0-1 là tổn thất chỉ định cho bất …

13 machine-learning  bayesian  optimization  naive-bayes  loss-functions 

Tôi đang cố gắng đào tạo một mạng lưới thần kinh để phân loại, nhưng các nhãn tôi có khá ồn ào (khoảng 30% nhãn là sai). Mất mát entropy chéo thực sự hoạt động, nhưng tôi đã tự hỏi liệu có sự thay thế nào hiệu quả hơn trong …

13 machine-learning  neural-networks  loss-functions  noise 

Trong cuốn sách Deep Learning của Ian Goodfellow , người ta viết rằng Đôi khi, chức năng mất mà chúng ta thực sự quan tâm (giả sử, lỗi phân loại) không phải là một chức năng có thể được tối ưu hóa một cách hiệu quả. Ví dụ, giảm thiểu …

12 neural-networks  deep-learning  loss-functions 

Tôi bắt đầu học về các mạng nơ-ron với hướng dẫn chấm com nơ-ron thần kinh. Cụ thể trong chương 3 có một phần về hàm entropy chéo và định nghĩa mất entropy chéo là: C= - 1nΣxΣj( yjlnmộtLj+ ( 1 - yj) ln( 1 - mộtLj) )C=−1n∑x∑j(yjln⁡ajL+(1−yj)ln⁡(1−ajL))C = -\frac{1}{n} …

12 neural-networks  loss-functions  softmax  cross-entropy 

Tôi muốn sử dụng học sâu để huấn luyện phát hiện nhị phân mặt / không mặt, tôi nên sử dụng mất gì, tôi nghĩ đó là SigmoidCrossEntropyLoss hoặc Hinge-loss . Có đúng không, nhưng tôi cũng tự hỏi có nên sử dụng softmax nhưng chỉ với hai lớp không?

11 deep-learning  loss-functions  computer-vision  conv-neural-network 

Trong cuốn sách của Goodfellow (2016) về học tập sâu, ông đã nói về sự tương đương của việc dừng sớm với chính quy L2 ( https://www.deeplearningbook.org/contents/THERization.html trang 247). Xấp xỉ bậc hai của hàm chi phí jjj được cho bởi: J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)\hat{J}(\theta)=J(w^*)+\frac{1}{2}(w-w^*)^TH(w-w^*) HHHf(w+ϵ)=f(w)+f′(w)⋅ϵ+12f′′(w)⋅ϵ2f(w+ϵ)=f(w)+f′(w)⋅ϵ+12f″(w)⋅ϵ2f(w+\epsilon)=f(w)+f'(w)\cdot\epsilon+\frac{1}{2}f''(w)\cdot\epsilon^2

11 neural-networks  deep-learning  loss-functions  derivative 

Tôi sẽ hỏi một câu hỏi liên quan đến cái này . Tôi tìm thấy một ví dụ về cách viết chức năng mất tùy chỉnh cho xgboost tại đây : loglossobj <- function(preds, dtrain) { # dtrain is the internal format of the training data # We extract the …

11 r  machine-learning  gradient-descent  boosting  loss-functions 

Tôi đang cố gắng thực hiện một trình phát hiện các đối tượng hiếm khi xảy ra (bằng hình ảnh), dự định sử dụng trình phân loại nhị phân CNN được áp dụng trong cửa sổ trượt / thay đổi kích thước. Tôi đã xây dựng các bộ kiểm tra …

11 logistic  classification  unbalanced-classes  loss-functions 

Đây là hàm mất lệch nhị thức của GradientBoosting, def __call__(self, y, pred, sample_weight=None): """Compute the deviance (= 2 * negative log-likelihood). """ # logaddexp(0, v) == log(1.0 + exp(v)) pred = pred.ravel() if sample_weight is None: return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred)) else: return (-2.0 / …

11 machine-learning  scikit-learn  boosting  loss-functions 

Giải pháp cho vấn đề: minmE[|m−X|]minmE[|m−X|] \min_{m} \; E[|m-X|] được biết đến là trung vị của XXX , nhưng hàm mất mát trông như thế nào đối với các phần trăm khác? Ví dụ: phân vị thứ 25 của X là giải pháp để: minmE[L(m,X)]minmE[L(m,X)] \min_{m} \; E[ L(m,X) ] …

11 expected-value  loss-functions 

Tôi đã bắt gặp những slide này (slide # 16 & # 17) trong một trong những khóa học trực tuyến. Người hướng dẫn đã cố gắng giải thích tối đa Ước tính Posterior (MAP) thực sự là giải pháp , trong đó là tham số thực.θ *L(θ)=I[θ≠θ∗]L(θ)=I[θ≠θ∗]L(\theta) = \mathcal{I}[\theta …

10 bayesian  optimization  loss-functions  decision-theory  map-estimation 

Tôi đang làm việc thông qua bài báo Cho 2014 giới thiệu kiến ​​trúc bộ mã hóa-giải mã cho mô hình seq2seq. Trong bài báo, dường như họ sử dụng xác suất của đầu ra cho đầu vào (hoặc đó là khả năng ghi nhật ký âm) làm hàm mất …

10 deep-learning  loss-functions  rnn 

Được rồi - tin nhắn ban đầu của tôi không thể tạo ra một phản hồi; Vì vậy, hãy để tôi đặt câu hỏi khác nhau. Tôi sẽ bắt đầu bằng cách giải thích sự hiểu biết của tôi về ước tính từ góc độ lý thuyết quyết định. Tôi …

10 bias  loss-functions  frequentist  decision-theory  risk