Câu hỏi được gắn thẻ «deep-learning»

Tôi đang sử dụng mạng lstm và chuyển tiếp nguồn cấp dữ liệu để phân loại văn bản. Tôi chuyển đổi văn bản thành các vectơ một nóng và đưa từng văn bản vào lstm để tôi có thể tóm tắt nó dưới dạng một đại diện duy nhất. Sau …

13 classification  neural-networks  deep-learning  lstm 

Tôi đã đọc cuốn sách của Yoshua Bengio về học sâu và nó nói ở trang 224: Các mạng kết hợp đơn giản là các mạng thần kinh sử dụng phép chập thay cho phép nhân ma trận chung trong ít nhất một trong các lớp của chúng. tuy nhiên, …

13 machine-learning  neural-networks  deep-learning  convolution 

Gần đây tôi đã đọc một bài báo của Yann Dauphin et al. Xác định và tấn công vấn đề điểm yên trong tối ưu hóa không lồi chiều cao , trong đó họ giới thiệu một thuật toán gốc thú vị có tên là Yên không có Newton , …

13 optimization  deep-learning  gradient-descent 

Có các nhóm nghiên cứu làm việc về việc sử dụng học tập sâu cho các vấn đề tối ưu hóa tổ hợp?

13 optimization  deep-learning 

Có tài liệu nào kiểm tra sự lựa chọn kích thước xe buýt nhỏ khi thực hiện giảm độ dốc ngẫu nhiên không? Theo kinh nghiệm của tôi, nó dường như là một lựa chọn theo kinh nghiệm, thường được tìm thấy thông qua xác nhận chéo hoặc sử dụng …

13 machine-learning  gradient-descent  hyperparameter  deep-learning 

Có thể có trọng số âm (sau đủ epoch) cho các mạng thần kinh tích chập sâu khi chúng ta sử dụng ReLU cho tất cả các lớp kích hoạt không?

13 machine-learning  neural-networks  deep-learning  conv-neural-network 

Đã đóng cửa. Câu hỏi này không đúng chủ đề . Nó hiện không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Cập nhật câu hỏi để nó thuộc chủ đề cho Xác thực chéo. Đóng cửa 9 tháng trước . Tôi biết có rất nhiều …

13 neural-networks  deep-learning  conv-neural-network 

Chuẩn hóa hàng loạt đã được ghi nhận với những cải tiến hiệu suất đáng kể trong mạng lưới thần kinh sâu. Rất nhiều tài liệu trên internet cho thấy cách triển khai nó trên cơ sở kích hoạt bằng cách kích hoạt. Tôi đã triển khai backprop bằng cách …

12 machine-learning  neural-networks  deep-learning  backpropagation  batch-normalization 

Những tiến bộ gần đây trong các mạng lưới thần kinh được tóm tắt bằng một chuỗi các kiến ​​trúc mới lạ được đặc trưng bởi sự phức tạp trong thiết kế ngày càng tăng của nó. Từ LeNet5 (1994) đến AlexNet (2012), đến Overfeat (2013) và GoogleLeNet / Inception …

12 neural-networks  deep-learning 

Một người ngoài đối với trường ML / DL; bắt đầu khóa học Deepacity của Udacity dựa trên Tensorflow; làm bài tập 3 bài 4; cố gắng điều chỉnh tốc độ học tập với cấu hình sau: Kích thước hàng loạt 128 Số bước: đủ để lấp đầy 2 epoch …

12 python  machine-learning  tensorflow  deep-learning 

Giả sử tôi sử dụng RNN / LSTM để phân tích tình cảm, đây là cách tiếp cận nhiều-một (xem blog này ). Mạng được đào tạo thông qua việc truyền bá ngược thời gian (BPTT), trong đó mạng không được kiểm soát chỉ trong 30 bước cuối cùng như …

12 neural-networks  deep-learning  natural-language  backpropagation 

Trong cuốn sách Deep Learning của Ian Goodfellow , người ta viết rằng Đôi khi, chức năng mất mà chúng ta thực sự quan tâm (giả sử, lỗi phân loại) không phải là một chức năng có thể được tối ưu hóa một cách hiệu quả. Ví dụ, giảm thiểu …

12 neural-networks  deep-learning  loss-functions 

Bối cảnh: Tôi đang học chương 6 của Deep Learning của Ian Goodfellow và Yoshua Bengio và Aaron Courville. Trong phần 6.2.2.2 (trang 182 trên 183 có thể xem tại đây ) việc sử dụng sigmoid để xuất được thúc đẩy.P(y=1|x)P(y=1|x)P(y=1|x) Để tóm tắt một số tài liệu họ cho …

12 neural-networks  deep-learning 

Tôi thiết lập một tìm kiếm lưới cho một loạt các params. Tôi đang cố gắng tìm các tham số tốt nhất cho mạng lưới thần kinh Keras có phân loại nhị phân. Đầu ra là 1 hoặc 0. Có khoảng 200 tính năng. Khi tôi thực hiện tìm kiếm …

12 machine-learning  cross-validation  deep-learning  tensorflow  theano 

Tôi muốn biết sự khác biệt giữa hồi quy tuyến tính trong phân tích máy học thông thường và hồi quy tuyến tính trong cài đặt "học sâu". Những thuật toán được sử dụng cho hồi quy tuyến tính trong cài đặt học tập sâu.

12 regression  machine-learning  deep-learning