Khoa học dữ liệu neural-network

10

Gần đây tôi đã đọc Mạng đầy đủ kết hợp cho phân đoạn ngữ nghĩa của Jonathan Long, Evan Shelhamer, Trevor Darrell. Tôi không hiểu "các lớp giải mã" làm gì / chúng hoạt động như thế nào. Phần có liên quan là 3.3. Upsampling là tích chập ngược Một …

188 neural-network convnet convolution

17

Thư viện python tốt nhất cho các mạng thần kinh

Tôi đang sử dụng Mạng thần kinh để giải quyết các vấn đề về Máy học khác nhau. Tôi đang sử dụng Python và pybrain nhưng thư viện này gần như không còn nữa. Có những lựa chọn thay thế tốt khác trong Python?

130 machine-learning python neural-network

5

Vấn đề ReLU sắp chết trong các mạng nơ-ron là gì?

Đề cập đến các ghi chú khóa học Stanford về Mạng thần kinh chuyển đổi để nhận dạng trực quan , một đoạn văn nói: "Thật không may, các đơn vị ReLU có thể dễ vỡ trong quá trình luyện tập và có thể" chết ". Ví dụ, một gradient …

119 machine-learning neural-network deep-learning

6

Khi nào nên sử dụng GRU trên LSTM?

Sự khác biệt chính giữa GRU và LSTM là GRU có hai cổng (cổng đặt lại và cập nhật ) trong khi LSTM có ba cổng (cụ thể là cổng đầu vào , đầu ra và cổng quên ). Tại sao chúng ta sử dụng GRU khi chúng ta rõ …

95 neural-network deep-learning

8

Chọn tỷ lệ học tập

Tôi hiện đang làm việc để thực hiện Stochastic Gradient Descent, SGDđối với các mạng lưới thần kinh sử dụng phương pháp truyền ngược và trong khi tôi hiểu mục đích của nó, tôi có một số câu hỏi về cách chọn giá trị cho tốc độ học tập. Là …

85 machine-learning neural-network deep-learning optimization hyperparameter

15

Làm thế nào để bạn hình dung kiến trúc mạng thần kinh?

Khi viết một bài báo / thuyết trình về một chủ đề liên quan đến mạng lưới thần kinh, người ta thường hình dung kiến trúc mạng. Những cách tốt / đơn giản để tự động hình dung các kiến trúc phổ biến là gì?

79 machine-learning neural-network deep-learning visualization

5

Làm thế nào để vẽ sơ đồ kiến trúc mạng Deep learning?

Tôi đã xây dựng mô hình của tôi. Bây giờ tôi muốn vẽ sơ đồ kiến trúc mạng cho bài nghiên cứu của mình. Ví dụ được hiển thị dưới đây:

78 machine-learning neural-network deep-learning svm software-recommendation

3

Backprop thông qua các lớp tổng hợp tối đa?

Đây là một câu hỏi nhỏ về khái niệm đã làm tôi khó chịu trong một thời gian: Làm thế nào chúng ta có thể truyền bá lại qua một lớp tổng hợp tối đa trong một mạng lưới thần kinh? Tôi đã xem qua các lớp tổng hợp tối …

62 neural-network backpropagation

4

Làm thế nào các kết cấu 1x1 giống như một lớp được kết nối đầy đủ?

Gần đây tôi đã đọc bình luận của Yan LeCun về các kết quả 1x1 : Trong Convolutional Nets, không có thứ gọi là "các lớp được kết nối đầy đủ". Chỉ có các lớp chập với các hạt tích chập 1x1 và một bảng kết nối đầy đủ. Một …

55 neural-network convnet

3

RNN vs CNN ở mức cao

Tôi đã suy nghĩ về Mạng thần kinh tái phát (RNN) và các giống và Mạng thần kinh chuyển đổi (CNN) và các giống của chúng. Hai điểm này có công bằng không khi nói: Sử dụng CNN để chia một thành phần (chẳng hạn như hình ảnh) thành các …

53 machine-learning neural-network beginner

2

Khi nào nên sử dụng (He hoặc Glorot) khởi tạo bình thường trên đồng phục init? Và tác dụng của nó với Batch Normalization là gì?

Tôi biết rằng Mạng dư (ResNet) khiến cho việc khởi tạo bình thường trở nên phổ biến. Trong ResNet, He khởi tạo bình thường được sử dụng , trong khi lớp đầu tiên sử dụng khởi tạo thống nhất He. Tôi đã xem qua giấy ResNet và giấy "Đi sâu …

51 neural-network deep-learning normalization

3

Làm thế nào để chống lại sự thiếu hụt trong một mạng lưới thần kinh sâu

Khi tôi bắt đầu với mạng lưới thần kinh nhân tạo (NN), tôi nghĩ rằng tôi phải chiến đấu với tình trạng quá mức là vấn đề chính. Nhưng trong thực tế, tôi thậm chí không thể khiến NN của mình vượt qua rào cản tỷ lệ lỗi 20%. Tôi …

50 neural-network deep-learning

4

Mạng lưới thần kinh: sử dụng chức năng chi phí nào?

Tôi đang sử dụng TensorFlow cho các thí nghiệm chủ yếu với các mạng thần kinh. Mặc dù tôi đã thực hiện khá nhiều thử nghiệm (XOR-Problem, MNIST, một số công cụ Hồi quy, ...), tôi vẫn phải vật lộn với việc chọn hàm chi phí "chính xác" cho các …

48 machine-learning python neural-network statistics tensorflow

1

Sự khác biệt giữa LeakyReLU và PReLU là gì?

Tôi nghĩ cả hai, PReLU và Leaky ReLU là đụ( x ) = tối đa ( x , α x ) với α ∈ ( 0 , 1 )f(x)=max(x,αx) with α∈(0,1)f(x) = \max(x, \alpha x) \qquad \text{ with } \alpha \in (0, 1) Keras, tuy nhiên, có cả hai chức …

42 neural-network

4

Thêm tính năng cho mô hình chuỗi thời gian LSTM

đã đọc một chút về LSTM và việc sử dụng chúng cho chuỗi thời gian và điều đó thật thú vị nhưng khó khăn cùng một lúc. Một điều tôi gặp khó khăn với sự hiểu biết là cách tiếp cận để thêm các tính năng bổ sung vào danh …

42 machine-learning neural-network deep-learning time-series

Câu hỏi được gắn thẻ «neural-network»