Câu hỏi được gắn thẻ «backpropagation»

Khi khởi tạo trọng lượng kết nối trong mạng nơ ron phản hồi, điều quan trọng là khởi tạo chúng ngẫu nhiên để tránh mọi đối xứng mà thuật toán học sẽ không thể phá vỡ. Khuyến nghị mà tôi đã thấy ở nhiều nơi (ví dụ: trong hướng dẫn …

13 neural-networks  backpropagation  weights  truncated-normal 

Tôi có kiến ​​thức cơ bản về cách RNNs (và đặc biệt, với các đơn vị LSTM) hoạt động. Tôi có một ý tưởng hình ảnh về kiến ​​trúc của một đơn vị LSTM, đó là một ô và một vài cổng, điều chỉnh dòng chảy của các giá trị. …

13 neural-networks  lstm  rnn  backpropagation 

Chuẩn hóa hàng loạt đã được ghi nhận với những cải tiến hiệu suất đáng kể trong mạng lưới thần kinh sâu. Rất nhiều tài liệu trên internet cho thấy cách triển khai nó trên cơ sở kích hoạt bằng cách kích hoạt. Tôi đã triển khai backprop bằng cách …

12 machine-learning  neural-networks  deep-learning  backpropagation  batch-normalization 

Giả sử tôi sử dụng RNN / LSTM để phân tích tình cảm, đây là cách tiếp cận nhiều-một (xem blog này ). Mạng được đào tạo thông qua việc truyền bá ngược thời gian (BPTT), trong đó mạng không được kiểm soát chỉ trong 30 bước cuối cùng như …

12 neural-networks  deep-learning  natural-language  backpropagation 

Nếu chúng tôi xử lý 10 ví dụ trong một đợt, tôi hiểu rằng chúng tôi có thể tính tổng tổn thất cho mỗi ví dụ, nhưng làm thế nào để truyền bá hoạt động liên quan đến việc cập nhật các trọng số cho mỗi ví dụ? Ví dụ: …

12 neural-networks  gradient-descent  backpropagation  tensorflow 

Tôi hiện đang làm việc trên một phần mềm nhận dạng khuôn mặt sử dụng mạng thần kinh tích chập để nhận diện khuôn mặt. Dựa trên các bài đọc của tôi, tôi đã tập hợp rằng một mạng lưới thần kinh tích chập đã chia sẻ các trọng số, …

11 machine-learning  neural-networks  computer-vision  backpropagation  conv-neural-network 

Tôi đã tự hỏi nếu có thể đào tạo một SVM (nói một tuyến tính, để làm cho mọi thứ dễ dàng) bằng cách sử dụng backpropagation? Hiện tại, tôi đang ở trên một con đường, bởi vì tôi chỉ có thể nghĩ về việc viết đầu ra của trình …

10 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

Tôi hiểu rằng sơ tuyển được sử dụng để tránh một số vấn đề với đào tạo thông thường. Nếu tôi sử dụng backpropagation, giả sử là một bộ mã hóa tự động, tôi biết rằng tôi sẽ gặp phải các vấn đề về thời gian bởi vì backpropagation chậm …

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

Từ video này của Andrew Ng khoảng 5:00 Làm thế nào được và có nguồn gốc? Trong thực tế, thậm chí có nghĩa là gì? có được bằng cách so sánh với y, không có sự so sánh nào như vậy đối với đầu ra của một lớp ẩn, phải …

10 machine-learning  neural-networks  backpropagation 

Tôi đang giải quyết các vấn đề trong bài tập viết sâu của lớp học NLP Stanford http://cs224d.stanford.edu/assocate1/assocate1_soln Tôi đang cố gắng để hiểu câu trả lời cho 3a nơi họ đang tìm kiếm đạo hàm cho vectơ cho từ trung tâm. Giả sử bạn được cung cấp một vectơ …

9 self-study  neural-networks  backpropagation  word2vec 

Tôi đã bắt đầu đọc về Mạng thần kinh tái phát (RNNs) và Bộ nhớ ngắn hạn (LSTM) ... (... ồ, không đủ điểm đại diện ở đây để liệt kê tài liệu tham khảo ...) Một điều tôi không nhận được: Dường như các nơ-ron trong mỗi trường hợp …

8 machine-learning  neural-networks  backpropagation 

Tôi đang sử dụng hai tri giác đa lớp (MLP) 3 lớp. Với cùng một dữ liệu đầu vào (14 nơ ron đầu vào), tôi thực hiện một phân loại (đúng / sai) và một hồi quy (nếu đúng, "bao nhiêu"). Cho đến thời điểm hiện tại, tôi đã lười …

8 regression  machine-learning  backpropagation 

Tôi đã dành một chút thời gian để thử và hiểu các tính toán và cơ học của các thuật toán học máy mà tôi sử dụng trong cuộc sống hàng ngày. Nghiên cứu tài liệu truyền bá về khóa học CS231n, tôi muốn chắc chắn rằng tôi đã hiểu …

7 machine-learning  intuition  backpropagation