Thống kê và dữ liệu lớn deep-learning

2

Sự khác biệt giữa trình khởi tạo tỷ lệ phương sai và trình khởi tạo xavier là gì?

Trong triển khai ResNet của Tensorflow , tôi thấy họ sử dụng trình khởi tạo tỷ lệ phương sai, tôi cũng thấy trình khởi tạo xavier là phổ biến. Tôi không có quá nhiều kinh nghiệm về điều này, cái nào tốt hơn trong thực tế?

20 machine-learning neural-networks deep-learning conv-neural-network tensorflow

2

Học sâu ở đâu và tại sao?

Với tất cả các cuộc nói chuyện trên phương tiện truyền thông và sự cường điệu về việc học sâu ngày nay, tôi đã đọc một số nội dung cơ bản về nó. Tôi chỉ thấy rằng nó chỉ là một phương pháp học máy khác để học các mẫu …

20 machine-learning data-mining deep-learning deep-belief-networks

2

Trong các mạng lưới thần kinh, tại sao sử dụng các phương pháp gradient hơn là các siêu dữ liệu khác?

Trong đào tạo mạng lưới thần kinh sâu và nông, tại sao các phương pháp gradient (ví dụ: độ dốc gốc, Nesterov, Newton-Raphson) thường được sử dụng, trái ngược với các siêu dữ liệu khác? Theo siêu dữ liệu, ý tôi là các phương pháp như ủ mô phỏng, tối …

20 neural-networks optimization deep-learning gradient-descent backpropagation

2

Làm thế nào và tại sao Batch Chuẩn hóa sử dụng các đường trung bình di động để theo dõi độ chính xác của mô hình khi nó đào tạo?

Tôi đã đọc giấy bình thường hóa hàng loạt (BN) (1) và không hiểu nhu cầu sử dụng đường trung bình di động để theo dõi độ chính xác của mô hình và ngay cả khi tôi chấp nhận rằng đó là điều đúng đắn, tôi không hiểu những gì …

20 machine-learning neural-networks deep-learning conv-neural-network batch-normalization

3

Làm thế nào để sử dụng dừng sớm đúng cách để đào tạo mạng lưới thần kinh sâu?

Tôi có một mô hình mạng nơ-ron sâu và tôi cần đào tạo nó trên tập dữ liệu của mình bao gồm khoảng 100.000 ví dụ, dữ liệu xác nhận của tôi chứa khoảng 1000 ví dụ. Bởi vì cần có thời gian để đào tạo từng ví dụ (khoảng …

19 neural-networks deep-learning

3

Tầm quan trọng của nút thiên vị trong các mạng thần kinh

Tôi tò mò muốn biết nút thiên vị quan trọng như thế nào đối với hiệu quả của các mạng thần kinh hiện đại. Tôi có thể dễ dàng hiểu rằng nó có thể quan trọng trong một mạng nông chỉ với một vài biến đầu vào. Tuy nhiên, các …

19 neural-networks deep-learning bias-node

2

Các lớp được kết nối đầy đủ làm gì trong CNNs?

Tôi hiểu các lớp chập và gộp, nhưng tôi không thể thấy lý do cho một lớp được kết nối đầy đủ trong CNNs. Tại sao lớp trước không được kết nối trực tiếp với lớp đầu ra?

19 neural-networks deep-learning conv-neural-network

4

Khi nào tôi nên sử dụng bộ mã hóa tự động thay đổi so với bộ mã hóa tự động?

Tôi hiểu cấu trúc cơ bản của bộ mã hóa tự động biến đổi và bộ mã hóa tự động (xác định) thông thường và toán học đằng sau chúng, nhưng khi nào và tại sao tôi lại thích một loại bộ mã hóa tự động hơn loại kia? Tất …

19 deep-learning autoencoders variational-bayes

5

Sự khác biệt giữa 'học chuyển' và 'thích ứng miền' là gì?

Có sự khác biệt nào giữa 'học chuyển' và 'thích ứng miền' không? Tôi không biết về ngữ cảnh, nhưng tôi hiểu rằng chúng tôi có một số tập dữ liệu 1 và đào tạo về nó, sau đó chúng tôi có một tập dữ liệu 2 khác mà chúng …

19 deep-learning terminology conv-neural-network transfer-learning domain-adaptation

2

Tại sao gộp tối đa cần thiết trong các mạng thần kinh tích chập?

Các mạng nơ ron tích chập phổ biến nhất chứa các lớp gộp để giảm kích thước của các tính năng đầu ra. Tại sao tôi không thể đạt được điều tương tự bằng cách đơn giản là tăng bước tiến của lớp chập? Điều gì làm cho lớp tổng …

18 deep-learning conv-neural-network pooling

3

Mô hình biểu tượng (đồ chơi) của mạng lưới thần kinh

Các giáo sư vật lý của tôi ở trường cấp ba, cũng như Feynman, người đoạt giải Cao quý, sẽ luôn trình bày những gì họ gọi là mô hình đồ chơi để minh họa các khái niệm và phương pháp cơ bản trong vật lý, như dao động điều …

18 machine-learning neural-networks deep-learning

2

Học sâu so với cây quyết định và phương pháp thúc đẩy

Tôi đang tìm kiếm các bài báo hoặc văn bản so sánh và thảo luận (theo kinh nghiệm hoặc lý thuyết): Các thuật toán cây tăng cường và quyết định như Rừng ngẫu nhiên hoặc AdaBoost và GentleBoost được áp dụng cho cây quyết định. với Các phương pháp học …

18 machine-learning deep-learning cart rbm adaboost

2

Là phương pháp tìm kiếm dòng được sử dụng trong học tập sâu? Tại sao không?

Rất nhiều hướng dẫn trực tuyến nói về độ dốc gốc và hầu hết tất cả chúng đều sử dụng kích thước bước cố định (tỷ lệ học tập ). Tại sao không sử dụng tìm kiếm dòng (chẳng hạn như tìm kiếm dòng quay lại hoặc tìm kiếm dòng …

18 machine-learning neural-networks optimization deep-learning

2

Có nên rút mẫu ngẫu nhiên rút ra cho lưới thần kinh đào tạo hàng loạt nhỏ mà không cần thay thế?

Chúng tôi xác định một kỷ nguyên là đã trải qua toàn bộ tất cả các mẫu đào tạo có sẵn và kích thước lô nhỏ là số lượng mẫu mà chúng tôi lấy trung bình để tìm các bản cập nhật về trọng số / độ lệch cần thiết …

18 machine-learning neural-networks optimization deep-learning

4

Làm thế nào để giải thích chính quy bỏ học trong thuật ngữ đơn giản?

Nếu bạn có một nửa trang để giải thích về việc bỏ học , bạn sẽ tiến hành như thế nào? Đó là lý do đằng sau kỹ thuật này?

17 neural-networks deep-learning regularization dropout

Câu hỏi được gắn thẻ «deep-learning»