Câu hỏi được gắn thẻ «neural-networks»

Tôi muốn hiểu rõ hơn tại sao LSTM có thể nhớ thông tin trong một khoảng thời gian dài hơn vanilla / mạng thần kinh tái phát đơn giản (SRNN) bằng cách làm lại một thử nghiệm từ bài báo Học phụ thuộc lâu dài với Gradient Descent là khó …

8 neural-networks  lstm  tensorflow  rnn  keras 

Tôi có một mạng nơ ron (lớp đơn chuyển tiếp) mà tôi cố gắng dự đoán một biến liên quan đến môi trường từ hai biến tài chính (hồi quy). Tôi sử dụng chức năng "tàu" từ gói caret. Tôi sử dụng nnet()thuật toán trong gói caret. Tôi có hai …

8 r  neural-networks  overfitting  caret 

Đã đóng cửa. Câu hỏi này không đúng chủ đề . Nó hiện không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Cập nhật câu hỏi để nó thuộc chủ đề cho Xác thực chéo. Đóng cửa 2 năm trước . Điều đó có nghĩa là …

8 neural-networks  tensorflow  keras 

Tôi hơi bối rối và bối rối trước ý tưởng về cách xác định kỹ thuật dừng sớm. Nếu bạn xem Wikipedia , nó được định nghĩa như sau: Chia dữ liệu đào tạo thành tập huấn luyện và tập xác thực, ví dụ theo tỷ lệ 2 trên 1. …

8 machine-learning  neural-networks  cross-validation  hyperparameter 

Tôi đã đọc mô hình word2vec tiêu chuẩn / nổi tiếng và theo ghi chú của standord cho cs224n , hàm mục tiêu thay đổi từ: Joriginal=−∑j=0,j≠m2mu⊤c−m+jvc+2mlog(∑k=1|V|exp(u⊤kvc))Joriginal=−∑j=0,j≠m2muc−m+j⊤vc+2mlog(∑k=1|V|exp(uk⊤vc))J_{original} = -\sum^{2m}_{j=0,j\neq m} u^\top_{c-m+j} v_c + 2m log \left( \sum^{|V|}_{k=1} exp(u^{\top}_k v_c) \right) đến: JNS1=−logσ(u⊤c−m+jvc)−∑k=1Klogσ(−u⊤kvc)JNS1=−logσ(uc−m+j⊤vc)−∑k=1Klogσ(−uk⊤vc)J_{NS1} = -log \sigma( u^\top_{c-m+j} v_c ) - \sum^{K}_{k=1} …

8 neural-networks  deep-learning  natural-language  word2vec  word-embeddings 

Tôi mới học sâu và đang cố gắng tính đạo hàm của hàm sau đối với ma trận ww\mathbf w: p(a)=ew⊤axΣdew⊤dxp(a)=ewa⊤xΣdewd⊤xp(a) = \frac{e^{w_a^\top x}}{\Sigma_{d} e^{w_d^\top x}} Sử dụng quy tắc thương, tôi nhận được: ∂p(a)∂w=xew⊤axΣdew⊤dx−ew⊤axΣdxew⊤dx[Σdew⊤dx]2=0∂p(a)∂w=xewa⊤xΣdewd⊤x−ewa⊤xΣdxewd⊤x[Σdewd⊤x]2=0\frac{\partial p(a)}{\partial w} = \frac{xe^{w_a^\top x}\Sigma_{d} e^{w_d^\top x} - e^{w_a^\top x}\Sigma_{d} xe^{w_d^\top x}}{[\Sigma_{d} e^{w_d^\top x}]^2} = …

8 machine-learning  self-study  neural-networks  derivative  softmax 

Câu hỏi này liên quan đến bài viết Deepmind trên DDPG: https://arxiv.org/pdf/1509.02971v5.pdf . Hầu hết (tất cả?) Việc triển khai thuật toán DDPG mà tôi đã thấy tính toán cập nhật độ dốc cho mạng diễn viên theo , trong đó đại diện cho các tham số của mạng diễn …

8 machine-learning  neural-networks  deep-learning  reinforcement-learning 

Tôi tìm thấy ở đâu đó rằng bộ kiểm tra không được sử dụng làm bộ xác nhận. Tại sao? Bộ xác nhận được thực hiện khi các tham số mô hình được cố định và việc học chỉ xảy ra thông qua backprop trên lô đào tạo. Vậy tại …

8 machine-learning  neural-networks  cross-validation  deep-learning 

Lần đầu tiên tôi nghiên cứu về mạng nơ ron nhân tạo (ANN) và tôi bị ấn tượng bởi cách các khái niệm về mạng nơ ron xuất hiện tương tự như mô hình phương trình cấu trúc (SEM). Ví dụ, các nút đầu vào trong ANN nhắc nhở tôi …

8 machine-learning  neural-networks  sem 

Tôi có đầu vào x1Giáo dụcxnx1…xnx_1\ldots x_n đã biết 1 σ1σ1\sigma sự không chắc chắn ε1Giáo dụcεnϵ1…ϵn\epsilon_1 \ldots \epsilon_n. Tôi đang sử dụng chúng để dự đoán đầu ray1Giáo dụcymy1…ymy_1 \ldots y_mtrên một mạng lưới thần kinh được đào tạo. Làm thế nào tôi có thể có được 1σσ\sigma sự …

8 machine-learning  neural-networks  predictive-models  prediction  error-propagation 

Mọi kiến ​​trúc bộ mã hóa tự động mà tôi thấy có một kiến ​​trúc tương tự nhau, chủ yếu là bộ giải mã chỉ là mặt trái của bộ mã hóa. Nếu mục tiêu của bộ giải mã tự động là học tính năng chiều thấp, tại sao bộ …

7 neural-networks  dimensionality-reduction  autoencoders 

Tôi muốn tìm hiểu kiến ​​trúc mạng thần kinh nào hiện là trạng thái của nghệ thuật (đôi khi viết tắt là "SOTA") đối với các tác vụ phân loại hình ảnh tiêu chuẩn như MNIST, STLN-10 và CIFAR. Đây là một thách thức vì kết quả mới được công …

7 neural-networks  references  conv-neural-network 

Giả sử bạn có hai bộ dữ liệu D1 và D2. Cả hai đều được lấy mẫu từ cùng một phân phối cơ bản X. Tôi muốn sử dụng chúng để huấn luyện một mạng lưới thần kinh. Các tính năng là tất cả các số nguyên không dấu trong …

7 neural-networks  dataset  normalization  z-score 

Dựa trên sự hiểu biết của tôi, bộ tự động được sử dụng để tìm một biểu diễn nhỏ gọn của các tính năng đầu vào mang thông tin cơ bản cần thiết. Có bất kỳ mối quan hệ giữa khoảng cách L2 trong không gian đầu vào ban đầu …

7 neural-networks  dimensionality-reduction  distance  autoencoders 

Giả sử bạn có bộ dữ liệu phát hiện đối tượng (ví dụ: MS COCO hoặc Pascal VOC) với hình ảnh N trong đó các lớp đối tượng k đã được dán nhãn. Bạn huấn luyện một mạng lưới thần kinh (ví dụ: Faster-RCNN hoặc YOLO) và đo lường độ …

7 machine-learning  neural-networks  object-detection  labeling