Câu hỏi được gắn thẻ «activation-function»

Tôi chọn chức năng kích hoạt cho lớp đầu ra tùy thuộc vào đầu ra mà tôi cần và các thuộc tính của chức năng kích hoạt mà tôi biết. Ví dụ: tôi chọn hàm sigmoid khi tôi xử lý các xác suất, ReLU khi tôi xử lý các giá …

13 neural-networks  machine-learning  math  activation-function 

Có một số chức năng kích hoạt, chẳng hạn như ReLU, sigmoid hoặc . Điều gì xảy ra khi tôi trộn các chức năng kích hoạt?tanhtanh\tanh Gần đây tôi phát hiện ra rằng Google đã phát triển chức năng kích hoạt Swish (x * sigmoid). Bằng cách thay đổi chức …

10 neural-networks  machine-learning  activation-function  relu  sigmoid 

Tôi chỉ vấp phải khái niệm về sự bao phủ của tế bào thần kinh, đó là tỷ lệ của các tế bào thần kinh được kích hoạt và tổng số tế bào thần kinh trong một mạng lưới thần kinh. Nhưng nó có nghĩa gì đối với một tế …

10 neural-networks  ai-basics  concepts  activation-function 

Tôi nghĩ rằng lợi thế của việc sử dụng Leaky ReLU thay vì ReLU là theo cách này chúng ta không thể có độ dốc biến mất. ReLU tham số có cùng một lợi thế với sự khác biệt duy nhất là độ dốc của đầu ra cho đầu vào …

10 neural-networks  activation-function  relu 

Tại sao một chức năng kích hoạt của một mạng thần kinh phải khác biệt? Là nó thực sự cần thiết hay chỉ là lợi thế?

9 neural-networks  math  activation-function