Câu hỏi được gắn thẻ «deep-learning»

Tôi đã đọc bài viết này của Michael Honiball (người tạo ra Spacy) trong đó anh ấy nói về vấn đề 'Sự lãng quên thảm khốc' . Ở đây, ông nói rằng khi chúng tôi muốn tinh chỉnh một mô hình được đào tạo trước để thêm nhãn mới hoặc …

8 deep-learning  natural-language 

Tôi đã đọc mô hình word2vec tiêu chuẩn / nổi tiếng và theo ghi chú của standord cho cs224n , hàm mục tiêu thay đổi từ: Joriginal=−∑j=0,j≠m2mu⊤c−m+jvc+2mlog(∑k=1|V|exp(u⊤kvc))Joriginal=−∑j=0,j≠m2muc−m+j⊤vc+2mlog(∑k=1|V|exp(uk⊤vc))J_{original} = -\sum^{2m}_{j=0,j\neq m} u^\top_{c-m+j} v_c + 2m log \left( \sum^{|V|}_{k=1} exp(u^{\top}_k v_c) \right) đến: JNS1=−logσ(u⊤c−m+jvc)−∑k=1Klogσ(−u⊤kvc)JNS1=−logσ(uc−m+j⊤vc)−∑k=1Klogσ(−uk⊤vc)J_{NS1} = -log \sigma( u^\top_{c-m+j} v_c ) - \sum^{K}_{k=1} …

8 neural-networks  deep-learning  natural-language  word2vec  word-embeddings 

Tôi đã từng huấn luyện mô hình của mình trên máy cục bộ, nơi bộ nhớ chỉ đủ cho 10 ví dụ mỗi lô. Tuy nhiên, khi tôi di chuyển mô hình của mình sang AWS và sử dụng GPU lớn hơn (Tesla K80), tôi có thể điều chỉnh kích …

8 machine-learning  deep-learning  computer-vision 

Trong bài báo về mạng nơ ron tích chập hoàn toàn , các tác giả đề cập đến cả vá đào tạo khôn ngoan và đào tạo chập hoàn toàn. Sự hiểu biết của tôi cho việc xây dựng tập huấn luyện như sau: Đưa ra một M*Mhình ảnh, trích …

8 machine-learning  deep-learning  data-mining  conv-neural-network  computer-vision 

Câu hỏi này liên quan đến bài viết Deepmind trên DDPG: https://arxiv.org/pdf/1509.02971v5.pdf . Hầu hết (tất cả?) Việc triển khai thuật toán DDPG mà tôi đã thấy tính toán cập nhật độ dốc cho mạng diễn viên theo , trong đó đại diện cho các tham số của mạng diễn …

8 machine-learning  neural-networks  deep-learning  reinforcement-learning 

Tôi tìm thấy ở đâu đó rằng bộ kiểm tra không được sử dụng làm bộ xác nhận. Tại sao? Bộ xác nhận được thực hiện khi các tham số mô hình được cố định và việc học chỉ xảy ra thông qua backprop trên lô đào tạo. Vậy tại …

8 machine-learning  neural-networks  cross-validation  deep-learning 

Tôi đang cố gắng tìm hiểu bài báo từ openAI có tên là Diễn viên đa tác nhân - Phê bình cho môi trường hợp tác cạnh tranh hỗn hợp Trong bài báo, họ đề cập rằng họ chống lại vấn đề không cố định môi trường bằng cách lấy …

7 machine-learning  deep-learning  reinforcement-learning 

Tôi đã đọc được rằng có lợi khi áp dụng một số biến đổi tính năng phổ biến nhất định trên các bộ dữ liệu trước khi chúng đạt được các mô hình học máy. Chúng dựa trên sự phân phối các tính năng của bộ dữ liệu; ví dụ: …

7 neural-networks  deep-learning  data-transformation 

Trong những năm gần đây, lĩnh vực phát hiện đối tượng đã trải qua một bước đột phá lớn sau khi phổ biến mô hình Deep Learning. Các cách tiếp cận như YOLO, SSD hoặc FasterRCNN giữ trạng thái hiện đại trong nhiệm vụ chung là phát hiện đối tượng …

7 neural-networks  deep-learning  image-processing  computer-vision  object-detection 

Vào năm 2015, Tishby và Zaslavsky đã xuất bản một bài báo nổi tiếng tuyên bố rằng cái gọi là Nguyên tắc thắt cổ chai thông tin có thể được sử dụng để hiểu một số hành vi của các mạng lưới thần kinh sâu sắc. Trong một bài báo …

7 neural-networks  references  deep-learning  information-theory 

Giả sử tôi có một văn bản như dưới đây thường có 2/3 câu và 100-200 ký tự. Johny đã mua sữa 50 đô la từ walmart. Bây giờ anh chỉ còn lại 20 đô la. Tôi muốn giải nén Tên người: Johny Chi tiêu: 50 đô la Tiền còn …

7 machine-learning  deep-learning  data-mining  text-mining  rnn 

Tôi đang đọc Why Momentum really Works , một bài đăng từ tạp chí chưng cất mới. Tôi sẽ diễn giải các phương trình chính dẫn đến phần làm tôi bối rối, bài viết mô tả trực giác chi tiết hơn. Thuật toán giảm độ dốc được đưa ra bởi …

7 machine-learning  optimization  deep-learning 

Tôi đã đọc cuốn sách này về học tập sâu của Ian và Aron. Trong phần mô tả về DBN, họ nói rằng DBN đã không còn được ưa chuộng và hiếm khi được sử dụng. Các mạng lưới niềm tin sâu sắc đã chứng minh rằng các kiến ​​trúc …

7 machine-learning  deep-learning  deep-belief-networks 

Học từ xa dựa trên bộ ba để nhận dạng khuôn mặt có vẻ rất hiệu quả. Tôi tò mò về một khía cạnh cụ thể của bài báo. Là một phần của việc tìm kiếm sự nhúng cho một khuôn mặt, các tác giả đã bình thường hóa các …

7 neural-networks  deep-learning  normalization  image-processing 

Theo tôi hiểu, có ba cách tiếp cận chính để giảm kích thước phi tuyến: Học tập đa dạng (các thuật toán hình học / topo như ISOMAP, LLE, LTSA) Bộ tự động những thứ không phù hợp với 2 loại đầu tiên (xác suất lấy cảm hứng từ t-SNE, …

7 machine-learning  deep-learning  dimensionality-reduction  autoencoders  manifold-learning