Có mạng lưới thần kinh với rất ít nút giải quyết vấn đề không tầm thường không?


11

Tôi muốn biết liệu có tồn tại bất kỳ mạng thần kinh nào không, giải quyết được (với độ chính xác> = 80%) cho bất kỳ vấn đề không cần thiết nào, sử dụng rất ít nút (trong đó 20 nút không phải là giới hạn cứng). Tôi muốn phát triển một trực giác về kích thước của các mạng thần kinh.


Định lý xấp xỉ phổ quát: một mạng nơ ron có một lớp ẩn có thể xấp xỉ bất kỳ hàm "hợp lý" nào với đủ số lượng nút trong lớp ẩn.
nbro

2
Tôi nghĩ sẽ không dễ để trả lời câu hỏi của bạn. Bạn có ý nghĩa gì bởi "vấn đề không tầm thường"?
nbro

Tôi muốn một vài nút ngay cả trong các lớp ẩn.
Guillermo Mosse

@nbro ý thức của tôi về "không tầm thường" trong bối cảnh này là khó hiểu hoặc chưa được giải quyết.
DukeZhou

Câu trả lời:


13

Ngay cả khi không thể trả lời đúng câu hỏi này, vì không tầm thường không được xác định rõ (có thể tác giả sẽ chỉnh sửa câu hỏi này sau, để xác định rõ hơn), tôi vẫn có cơ hội chỉ ra bài báo này có vẻ thú vị đối với tôi

Mạng lưới thần kinh nhỏ nhất để tìm hiểu sự quan trọng

Giả sử bạn có một ý tưởng chung về Mô hình Ising Tôi nghĩ rằng vấn đề xác định nhiệt độ tới hạn từ góc độ hướng dữ liệu có thể được coi là không tầm thường và bài báo cho thấy các tác giả đã cải thiện hiệu suất liên quan như thế nào để giải quyết nhiệm vụ này với NN chuyển từ 100 Neuron ẩn, như được thực hiện trong bài báo này Máy học các giai đoạn của vật chất từ năm 2017, chỉ có 2 Neuron ẩn

Chỉ cần xu của tôi:

  • làm giảm các tế bào thần kinh, trong khi vẫn giữ hiệu suất tốt, sẽ giúp về mặt khả năng giải thích xử lý thần kinh vốn bị che khuất và sự phức tạp của nó tăng lên (theo cấp số nhân) với số lượng tế bào thần kinh

3
Tôi chỉ muốn các ví dụ mà chính cộng đồng thấy thú vị. Tôi nghĩ rằng nó thực sự không tầm thường để định nghĩa không tầm thường. Đúng?
Guillermo Mosse

1
@GuillermoMosse Không, việc định nghĩa không tầm thường là khá tầm thường. Định nghĩa là nhiều hay ít tùy ý tùy thuộc vào những gì phù hợp nhất với tình huống. Tôi chắc rằng một NN rất đơn giản có thể học cách nhận biết một số đã cho có phải là một căn bậc hai không tầm thường không ...
rừng
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.