Tôi đang đọc bài viết nền tảng Trình tự học tập tuần tự với Mạng lưới thần kinh của Ilya Sutskever và Quốc Lê. Trên trang đầu tiên, nó đề cập ngắn gọn rằng:
A surprising example of the power of DNNs is their ability to sort
N N-bit numbers using only 2 hidden layers of quadratic size
Bất cứ ai cũng có thể phác thảo ngắn gọn cách sắp xếp số chỉ bằng 2 lớp ẩn?
Câu trả lời:
Thực hiện một số nghiên cứu, tôi đã tìm thấy một bài báo chứng minh rằng việc sắp xếp có thể được thực hiện với tối đa 3 lớp và giải pháp của chúng là tối ưu nếu bạn giới hạn kích thước của mạng là đa thức với số lượng đầu vào:
Mạng lưới thần kinh hiệu quả sâu cho sự phân chia và các vấn đề liên quan , xem Định lý 7 trên trang 955 (trang 10 trong PDF).
Tôi tưởng tượng người ta có thể đưa ra trọng lượng bằng tay để thực hiện công việc một cách chính xác, nhưng có lẽ vấn đề là có thể đào tạo một người? Một vài ví dụ:
Làm thế nào để sắp xếp các số bằng cách sử dụng Mạng thần kinh Convolutional?