Tôi đang tìm một bài viết chi tiết những điều cơ bản của việc học sâu. Lý tưởng như khóa học Andrew Ng để học sâu. Bạn có biết nơi tôi có thể tìm thấy điều này?
Tôi đang tìm một bài viết chi tiết những điều cơ bản của việc học sâu. Lý tưởng như khóa học Andrew Ng để học sâu. Bạn có biết nơi tôi có thể tìm thấy điều này?
Câu trả lời:
Đây liên kết có chứa một số lượng đáng kinh ngạc của văn học học sâu. Tóm tắt nó ở đây (theo thứ tự một người mới bắt đầu lý tưởng nên) - LƯU Ý: Tất cả các tài nguyên này chủ yếu sử dụng python.
1) Trước hết, cần có kiến thức cơ bản về học máy. Tôi thấy Học tập từ dữ liệu của Caltech là lý tưởng cho tất cả các khóa học về máy học có sẵn trên mạng.
Khóa học Coursera của Andrew Ng cũng khá tốt.
2) Đối với các mạng thần kinh, không ai giải thích điều đó tốt hơn Dr.Patrick Winston . Các bài tập nên được thử để hiểu rõ hơn. Họ đang ở trăn.
3) Để hiểu rõ hơn về Mạng nơ-ron, khóa học của Michael Nielsen nên được thực hiện (theo đề xuất của Alexey). Nó là khá cơ bản nhưng nó hoạt động.
4) Đối với các mạng thần kinh sâu và triển khai chúng nhanh hơn trên GPU, có nhiều khung có sẵn, chẳng hạn như Theano , Caffe , Pybrain , Torch , v.v. Trong số này, Theano cung cấp chức năng cấp thấp tốt hơn cho phép người dùng tạo NN tùy chỉnh. Nó là một thư viện python, vì vậy có thể sử dụng numpy, scikit-learn, matplotlib, scipy cùng với nó là một điểm cộng lớn. Các hướng dẫn học sâu được viết bởi Lisa Lab nên được thử nghiệm cho một sự hiểu biết tốt hơn về theano.
5) Đối với Mạng nơ-ron kết hợp, hãy làm theo hướng dẫn của andrej karpathy .
6) Đối với việc học tập không giám sát, hãy theo dõi tại đây và tại đây .
7) Để có sự giao thoa giữa học tập sâu và NLP, hãy theo dõi lớp của Richard Soker .
8) Đối với các LSTM, hãy đọc Hochreiter, S., & Schmidhuber, J. (1997). Trí nhớ ngắn hạn. Tính toán thần kinh, 9 (8), 1735-1780 và Graves, Alex. Ghi nhãn trình tự giám sát với các mạng thần kinh tái phát. Tập 385. Mùa xuân, 2012 .
Đây là mã Theano của LSTM .
Chủ đề này là mới nên hầu hết sự khôn ngoan nằm rải rác trong các bài báo, nhưng đây là hai cuốn sách gần đây:
Và một số tài liệu thực tế: http://deeplearning.net/tutorial/
Mạng lưới thần kinh và học tập sâu của Michael Nielsen. Cuốn sách vẫn đang được tiến hành, nhưng nó trông khá thú vị và đầy hứa hẹn. Và nó miễn phí! Đây là liên kết: http://neuralnetworksanddeeplearning.com/
Cho đến nay chỉ có 5 chương và phần lớn trong số chúng nói về các mạng lưới thần kinh thông thường, nhưng nó vẫn đáng để xem.
Cập nhật: cuốn sách đã được hoàn thành!
Tài liệu tham khảo chính:
Các khóa học về học tập sâu:
Định hướng NLP:
Định hướng tầm nhìn:
Hướng dẫn dành riêng cho bộ công cụ:
Ngoài ra còn có luận án tiến sĩ gần đây của Richard Soker về giao điểm của NLP và học sâu: Học sâu đệ quy để xử lý ngôn ngữ tự nhiên và thị giác máy tính
Để hiểu được thuật toán truyền bá Back, tôi đề xuất video youtube của Ryan Harris ít gây khó chịu hơn. Bạn có thể tìm thấy video thứ hai là tốt.