Câu hỏi được gắn thẻ «batch-normalization»

Tôi đã đọc giấy bình thường hóa hàng loạt (BN) (1) và không hiểu nhu cầu sử dụng đường trung bình di động để theo dõi độ chính xác của mô hình và ngay cả khi tôi chấp nhận rằng đó là điều đúng đắn, tôi không hiểu những gì …

20 machine-learning  neural-networks  deep-learning  conv-neural-network  batch-normalization 

Chuẩn hóa hàng loạt đã được ghi nhận với những cải tiến hiệu suất đáng kể trong mạng lưới thần kinh sâu. Rất nhiều tài liệu trên internet cho thấy cách triển khai nó trên cơ sở kích hoạt bằng cách kích hoạt. Tôi đã triển khai backprop bằng cách …

12 machine-learning  neural-networks  deep-learning  backpropagation  batch-normalization 

Theo như tôi hiểu nó, định mức hàng loạt normalises tất cả các tính năng đầu vào cho một lớp với phân phối chuẩn đơn vị, . Giá trị trung bình và phương sai μ , σ 2 được ước tính bằng cách đo giá trị của họ cho dòng …

11 batch-normalization 

Tôi muốn đào tạo một mạng lưới với các phi tuyến tính bị sự biến mất (hoặc bùng nổ vấn đề độ dốc mặc dù chủ yếu là biến mất). Tôi biết rằng cách tiêu chuẩn (hiện tại) là sử dụng chuẩn hóa hàng loạt 1 [BN] 1 hoặc đơn …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

Tôi đã đọc bài viết chuẩn hóa hàng loạt (BN) (1) và nó nói: Đối với điều này, khi mạng đã được đào tạo, chúng tôi sử dụng chuẩn hóa bằng cách sử dụng dân số , thay vì mini -batch, thống kê.x^=x−E[x]Var[x]+ϵ−−−−−−−−√x^=x−E[x]Var[x]+ϵ\hat{x} = \frac{x - E[x]}{ \sqrt{Var[x] + \epsilon}} …

7 machine-learning  neural-networks  deep-learning  conv-neural-network  batch-normalization