Có một quy tắc ngón tay cái để thiết kế mạng lưới thần kinh?

Tôi biết rằng kiến ​​trúc mạng nơ-ron chủ yếu dựa trên chính vấn đề và các loại đầu vào / đầu ra, nhưng vẫn luôn có một "hình vuông" khi bắt đầu xây dựng một vấn đề. Vì vậy, câu hỏi của tôi là - được cung cấp một bộ dữ liệu đầu vào của MxN (M là số lượng bản ghi, N là số lượng tính năng) và một lớp đầu ra C có thể - có nên áp dụng quy tắc ngón tay cái cho bao nhiêu lớp / đơn vị không?

Câu hỏi này đã được trả lời chi tiết trên CrossValidated: Làm thế nào để chọn số lượng các lớp và nút ẩn trong mạng thần kinh feedforward?

Tuy nhiên, hãy để tôi thêm hai xu của riêng tôi:

Không có quy tắc kỳ diệu nào để chọn kiến ​​trúc mạng thần kinh tốt nhất, nhưng nếu bạn có thể tìm thấy một kiến ​​trúc mà ai đó đã sử dụng để giải quyết vấn đề tương tự thì đây thường là điểm khởi đầu tuyệt vời.

Những nơi tốt nhất để tìm là các ví dụ chính thức hoặc không chính thức bằng cách sử dụng các thư viện mạng thần kinh phổ biến như Keras, PyTorch hoặc Tensorflow và các kiến ​​trúc được mô tả trong tài liệu học thuật. máy ảnh / ví dụ trên github là một tài nguyên tuyệt vời.

Những kiến ​​trúc này có thể đã được chọn sau rất nhiều thử nghiệm và sai sót, vì vậy hầu hết các công việc sẽ được thực hiện cho bạn.

Tôi đọc một bài báo khám phá ý tưởng sử dụng các mạng thần kinh để thiết kế các mạng thần kinh khác, bằng cách khám phá cấu hình nào của các nút và các lớp là hiệu quả nhất. Đây là trang nơi bạn có thể tải xuống bản PDF https://arxiv.org/abs/1611.02120

Theo câu trả lời của @ Imran, tôi thấy bài viết này trong một trong những bình luận của bài đăng CrossValidated mà anh ấy liên kết đến. Bên cạnh nỗ lực tìm kiếm kiến ​​trúc phù hợp bằng Mô hình di truyền (thay vì sử dụng quy tắc ngón tay cái), phần 2.1 đưa ra một số giới hạn về mặt lý thuyết cho việc có bao nhiêu đơn vị ẩn trong hệ thống một / hai lớp.

EDIT: Tôi đã thử nghiệm định lý này và phát hiện ra rằng sử dụng Mô hình di truyền cũng tốt như chọn một kiến ​​trúc ngẫu nhiên.