Mối liên hệ giữa tỷ lệ học tập và số lớp ẩn?

Có quy tắc nào giữa độ sâu của mạng lưới thần kinh và tốc độ học tập không? Tôi đã nhận thấy rằng mạng lưới càng sâu thì tỷ lệ học tập phải càng thấp.

Nếu đó là chính xác, tại sao vậy?

Câu hỏi này đã được trả lời ở đây:

Với các mạng thần kinh, tốc độ học tập có thể tỷ lệ thuận với kích thước lớp ẩn? Họ có nên ảnh hưởng lẫn nhau?

Câu trả lời ngắn gọn là có, có một mối quan hệ. Mặc dù, mối quan hệ không phải là tầm thường này, tất cả những gì tôi có thể nói với bạn rằng những gì bạn nhìn thấy là do bề mặt tối ưu hóa trở nên phức tạp hơn khi số lượng các lớp ẩn tăng lên, do đó tỷ lệ học tập nhỏ hơn thường tốt hơn. Mặc dù bị mắc kẹt trong cực tiểu địa phương là một khả năng với tỷ lệ học tập thấp, nhưng nó tốt hơn nhiều so với bề mặt phức tạp và tỷ lệ học tập cao.