Câu hỏi được gắn thẻ «deep-learning»

Tôi đang đọc bài viết Học tập dư thừa sâu để nhận dạng hình ảnh và tôi gặp khó khăn trong việc hiểu chắc chắn 100% những gì một khối còn lại đòi hỏi tính toán. Đọc bài báo của họ, họ có hình 2: trong đó minh họa những …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Làm cách nào để mã hóa ngày và thời gian của một sự kiện cho mạng thần kinh? Tôi không có chuỗi thời gian liên tục, nhưng một số sự kiện có ngày và thời gian, và tôi phân tích một số loại quan tâm. Sở thích này khác nhau …

12 neural-networks  deep-learning 

Tôi hiểu rằng đã đưa ra một tập hợp các quan sát độc lập các Maximum Likelihood Estimator (hay tương đương, MAP với TV / thống nhất trước đó) xác định các thông số \ mathbf {θ} sản xuất phân phối model p_ {model} \ bên trái (\, \ cdot …

12 maximum-likelihood  deep-learning  cross-entropy 

Cấu trúc liên kết của mô hình Google Inception có thể được tìm thấy ở đây: Google Inception Netowrk Tôi nhận thấy rằng có 3 lớp softmax trong mô hình này (# 154, # 152, # 145) và 2 trong số đó là một lối thoát sớm của mô hình …

12 deep-learning  conv-neural-network 

Theo như tôi biết, cả hai bộ tự động và t-SNE đều được sử dụng để giảm kích thước phi tuyến. Sự khác biệt giữa chúng là gì và tại sao tôi nên sử dụng cái này so với cái khác?

12 neural-networks  deep-learning  dimensionality-reduction  autoencoders  tsne 

Tôi muốn sử dụng học sâu để huấn luyện phát hiện nhị phân mặt / không mặt, tôi nên sử dụng mất gì, tôi nghĩ đó là SigmoidCrossEntropyLoss hoặc Hinge-loss . Có đúng không, nhưng tôi cũng tự hỏi có nên sử dụng softmax nhưng chỉ với hai lớp không?

11 deep-learning  loss-functions  computer-vision  conv-neural-network 

Trong cuốn sách của Goodfellow (2016) về học tập sâu, ông đã nói về sự tương đương của việc dừng sớm với chính quy L2 ( https://www.deeplearningbook.org/contents/THERization.html trang 247). Xấp xỉ bậc hai của hàm chi phí jjj được cho bởi: J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)\hat{J}(\theta)=J(w^*)+\frac{1}{2}(w-w^*)^TH(w-w^*) HHHf(w+ϵ)=f(w)+f′(w)⋅ϵ+12f′′(w)⋅ϵ2f(w+ϵ)=f(w)+f′(w)⋅ϵ+12f″(w)⋅ϵ2f(w+\epsilon)=f(w)+f'(w)\cdot\epsilon+\frac{1}{2}f''(w)\cdot\epsilon^2

11 neural-networks  deep-learning  loss-functions  derivative 

Gần đây tôi đã nhận thức được các phương pháp 'không có khả năng' đang được băng bó trong văn học. Tuy nhiên tôi không rõ ý nghĩa của một phương pháp suy luận hoặc tối ưu hóa là không có khả năng . Trong học máy, mục tiêu thường …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

Đây là một cái gì đó tôi đọc trong cuốn sách Deep Learning của Ian Goodfellow . Trong ngữ cảnh của các mạng thần kinh, "hình phạt định mức tham số L2 thường được gọi là phân rã trọng lượng. Chiến lược chính quy này đẩy trọng số gần với …

11 machine-learning  neural-networks  deep-learning  regularization 

Trong học máy (đối với các vấn đề hồi quy), tôi thường thấy lỗi bình phương trung bình (MSE) hoặc lỗi trung bình tuyệt đối (MAE) được sử dụng làm hàm lỗi để giảm thiểu (cộng với thuật ngữ chính quy). Tôi tự hỏi nếu có những tình huống sử …

11 regression  machine-learning  svm  optimization  deep-learning 

Gần đây, chúng ta đã thấy sự xuất hiện của Mạng lưới thần kinh dư, trong đó, mỗi lớp bao gồm một mô đun tính toán và một kết nối phím tắt bảo tồn đầu vào của lớp như đầu ra của lớp thứ i thể hiện: Mạng cho phép …

11 machine-learning  neural-networks  deep-learning  gradient-descent  residual-networks 

Tôi gặp vấn đề trong việc hiểu mô hình bỏ qua của thuật toán Word2Vec. Trong các từ liên tục có thể dễ dàng thấy các từ ngữ cảnh có thể "khớp" trong Mạng thần kinh như thế nào, vì về cơ bản, bạn trung bình chúng sau khi nhân …

11 neural-networks  deep-learning  natural-language  word2vec  word-embeddings 

Giả sử tôi muốn tìm hiểu một bộ phân loại lấy một vectơ số làm đầu vào và đưa ra một nhãn lớp làm đầu ra. Dữ liệu đào tạo của tôi bao gồm một số lượng lớn các cặp đầu vào-đầu ra. Tuy nhiên, khi tôi đến thử nghiệm …

11 machine-learning  classification  neural-networks  deep-learning 

Tôi đang vật lộn để tạo ra kết nối toán học giữa một mạng thần kinh và một mô hình đồ họa. Trong các mô hình đồ họa, ý tưởng rất đơn giản: phân phối xác suất nhân tố theo các nhóm trong biểu đồ, với các tiềm năng thường …

11 neural-networks  markov-process  graphical-model  deep-learning  deep-belief-networks 

Tôi đã xem các bài giảng CS231N từ Stanford và tôi đang cố gắng xoay quanh một số vấn đề trong kiến ​​trúc CNN. Điều tôi đang cố gắng hiểu là nếu có một số hướng dẫn chung để chọn kích thước bộ lọc tích chập và những thứ như …

11 neural-networks  deep-learning  conv-neural-network