Câu hỏi được gắn thẻ «neural-networks»

Tôi đang bắt đầu hành trình tiến sĩ của mình và mục tiêu cuối cùng mà tôi đặt ra trước bản thân là phát triển ANN để theo dõi môi trường họ làm việc và tự động điều chỉnh kiến ​​trúc của họ theo vấn đề. Hàm ý rõ ràng …

9 machine-learning  neural-networks 

Tôi đang đào tạo một mạng lưới thần kinh nhân tạo (backpropagation, feed-forward) với dữ liệu phân tán không bình thường. Bên cạnh lỗi bình phương trung bình gốc, tài liệu thường đề xuất hệ số tương quan Pearson để đánh giá chất lượng của mạng được đào tạo. Nhưng, …

9 correlation  neural-networks  spearman-rho 

Bộ mã hóa tự động biến đổi (VAE) cung cấp cách học phân phối xác suất liên quan đến đầu vào x với biểu diễn tiềm ẩn z của nó . Cụ thể, bộ mã hóa e ánh xạ đầu vào x thành phân phối trên z . Một bộ …

9 neural-networks  deep-learning  autoencoders  variational-bayes 

Tiêu đề nói lên tất cả - có bao nhiêu tham số có thể huấn luyện trong một lớp GRU? Loại câu hỏi này xuất hiện rất nhiều khi cố gắng so sánh các mô hình của các loại lớp RNN khác nhau, chẳng hạn như các đơn vị bộ …

9 neural-networks  rnn  gru 

Trong https://cs231n.github.io/neural-networks-case-study/ tại sao nó lại đề cập đến "trình phân loại Softmax diễn giải mọi yếu tố của ff là giữ xác suất nhật ký (không chuẩn hóa) của ba lớp." Tôi hiểu tại sao nó không được chuẩn hóa nhưng không phải tại sao nó lại đăng nhập? …

9 machine-learning  neural-networks  information-theory  softmax 

Tôi đang sử dụng mô hình Mạng thần kinh chuyển đổi được đào tạo trước của TensorFlow. https://github.com/tensorflow/models/blob/master/slim/nets/resnet_v2.py#L130 Tôi tìm thấy câu sau: Tuy nhiên, đối với các nhiệm vụ dự đoán dày đặc, chúng tôi khuyên người ta nên sử dụng các đầu vào có kích thước không gian …

9 neural-networks  conv-neural-network 

Tôi đã cố gắng tạo ra một chương trình đào tạo Mạng nơ-ron trên máy tính của mình. Đối với Mạng được đề cập, tôi đã quyết định sử dụng chức năng Lỗi Entropy chéo: E= - ΣjtjlnojE=−∑jtjln⁡ojE = -\sum_jt_j\ln o_j Trong đó là đầu ra đích của Neuron và …

9 machine-learning  neural-networks  derivative  cross-entropy  differential-equations 

Tôi đã gắn nhãn dữ liệu gồm 10000 ví dụ tích cực và 50000 ví dụ tiêu cực, đưa ra tổng số 60000 ví dụ. Rõ ràng dữ liệu này là mất cân bằng. Bây giờ hãy để chúng tôi nói rằng tôi muốn tạo bộ xác thực của mình …

9 machine-learning  neural-networks  cross-validation  dataset  unbalanced-classes 

Bài viết trên GAN cho biết người phân biệt đối xử sử dụng gradient sau để huấn luyện: ∇θd1mΣi = 1m[ nhật kýD ( x( tôi )) +nhật ký( 1 - D ( G ( z( tôi )) ) ) ]∇θd1mΣTôi= =1m[đăng nhập⁡D(x(Tôi))+đăng nhập⁡(1-D(G(z(Tôi))))]\nabla _{\theta_d} \frac{1}{m}\sum^{m}_{i=1} [\log{D(x^{(i)})} + \log{(1-D(G(z^{(i)})))}] Các …

9 machine-learning  neural-networks 

Có rất nhiều kỹ thuật chính quy, không thực tế để thử tất cả các kết hợp: l1 / l2 định mức tối đa rơi ra ngoài dừng sớm ... Có vẻ như hầu hết mọi người đều hài lòng với sự kết hợp của bỏ học + dừng sớm: …

9 neural-networks  regularization  dropout 

Khi áp dụng bỏ học trong các mạng lưới thần kinh nhân tạo, người ta cần phải bù đắp cho thực tế là tại thời điểm đào tạo, một phần của các tế bào thần kinh đã bị vô hiệu hóa. Để làm như vậy, tồn tại hai chiến lược …

9 neural-networks  deep-learning  dropout 

Tôi đang đọc bài viết này: dịch giả skype nơi họ sử dụng CD-DNN-HMM (Mạng lưới thần kinh sâu phụ thuộc bối cảnh với các mô hình Markov ẩn). Tôi có thể hiểu ý tưởng của dự án và kiến ​​trúc mà họ đã thiết kế nhưng tôi không hiểu …

9 neural-networks  deep-learning  terminology  natural-language  hidden-markov-model 

Trong các mô hình CBOW và Skip-gram của word2vec, việc chọn vectơ từ từ (ma trận từ đầu vào) so với việc chọn vectơ từ từ (ma trận từ đầu ra) ảnh hưởng đến chất lượng của vectơ từ kết quả như thế nào?W 'WWWW′W′W' CBOW: Bỏ qua gram:

9 neural-networks  natural-language  word2vec  word-embeddings 

Tôi muốn sử dụng Mạng thần kinh để dự đoán chuỗi thời gian tài chính. Tôi đến từ một nền tảng CNTT và có một số kiến ​​thức về Mạng nơ-ron và tôi đã đọc về những điều này: TDNN RNN Tôi đã tìm kiếm các gói R cho chúng …

9 time-series  forecasting  neural-networks  finance 

Tôi đang xử lý một vấn đề liên quan đến việc tìm độ dốc của hàm mất entropy chéo, ghi tham số trong đó:θθ\theta CE(θ)=−∑iyi∗log(y^i)CE(θ)=−∑iyi∗log(y^i)CE(\theta) = -\sum\nolimits_{i}{y_i*log({\hat{y}_{i}})} Trong đó, và là một đầu vào vector.y^i=softmax(θi)y^i=softmax(θi)\hat{y}_{i} = softmax(\theta_i)θiθi\theta_i Ngoài ra, là một vectơ nóng của lớp đúng và là dự đoán …

9 machine-learning  neural-networks