Vâng, nó phụ thuộc vào kiến trúc mạng và lớp cụ thể. Nói chung, các NN không thể hiểu được, đây là nhược điểm lớn của chúng trong phân tích dữ liệu thương mại (trong đó mục tiêu của bạn là khám phá những hiểu biết có thể hành động từ mô hình của bạn).
Nhưng tôi thích mạng chập chững, vì chúng khác nhau! Mặc dù các lớp trên của chúng học các khái niệm rất trừu tượng, có thể sử dụng để học chuyển và phân loại, không thể hiểu được một cách dễ dàng, các lớp dưới cùng của chúng học các bộ lọc Gabor trực tiếp từ dữ liệu thô (và do đó có thể hiểu là các bộ lọc như vậy). Hãy xem ví dụ từ một bài giảng của Le Cun:
Ngoài ra, M. Zeiler ( pdf ) và nhiều nhà nghiên cứu khác đã phát minh ra phương pháp rất sáng tạo để "hiểu" mạng lưới và đảm bảo nó học được một cái gì đó hữu ích được gọi là mạng Deconvolutional , trong đó họ 'theo dõi' một số mạng lưới bằng cách chuyển tiếp qua hình ảnh đầu vào và ghi nhớ tế bào thần kinh có kích hoạt lớn nhất mà bức ảnh. Điều này mang đến sự hướng nội tuyệt đẹp như thế này (một vài lớp được hiển thị bên dưới):
Hình ảnh màu xám ở phía bên trái là kích hoạt nơ-ron (cường độ lớn hơn - kích hoạt lớn hơn) bằng hình ảnh màu ở phía bên phải. Chúng tôi thấy rằng các kích hoạt này là biểu diễn bộ xương của các bức ảnh thực, nghĩa là các kích hoạt không phải là ngẫu nhiên. Vì vậy, chúng tôi có một hy vọng vững chắc, rằng mạng lưới của chúng tôi thực sự đã học được điều gì đó hữu ích và sẽ có sự khái quát hóa tốt trong các bức ảnh không nhìn thấy.
