Mạng thần kinh là một hộp đen theo nghĩa là trong khi nó có thể xấp xỉ bất kỳ chức năng nào, việc nghiên cứu cấu trúc của nó sẽ không cung cấp cho bạn bất kỳ thông tin chi tiết nào về cấu trúc của hàm được tính gần đúng.
Ví dụ, một cách sử dụng phổ biến của mạng lưới thần kinh trong kinh doanh ngân hàng là phân loại người cho vay theo "người trả tiền tốt" và "người trả tiền xấu". Bạn có một ma trận các đặc điểm đầu vào (giới tính, tuổi tác, thu nhập, v.v.) và một vectơ kết quả ("mặc định", "không được mặc định", v.v.). Khi bạn mô hình hóa điều này bằng cách sử dụng mạng nơ ron, bạn cho rằng có một hàm , theo đúng nghĩa của một hàm toán học. Hàm f này có thể phức tạp tùy ý và có thể thay đổi theo sự phát triển của doanh nghiệp, vì vậy bạn không thể lấy được nó bằng tay.CRf( C) = R
f
Vấn đề hộp đen là: Sự gần đúng được đưa ra bởi mạng lưới thần kinh sẽ không cung cấp cho bạn bất kỳ cái nhìn sâu sắc nào về hình thức của f. Không có liên kết đơn giản giữa các trọng số và hàm được tính gần đúng. Ngay cả việc phân tích đặc tính đầu vào nào không liên quan cũng là một vấn đề mở (xem liên kết này ).
Ngoài ra, theo quan điểm thống kê truyền thống, mạng nơ-ron là mô hình không thể nhận dạng: Đưa ra một tập dữ liệu và cấu trúc liên kết mạng, có thể có hai mạng thần kinh có trọng số khác nhau và kết quả giống nhau. Điều này làm cho việc phân tích rất khó khăn.
Như một ví dụ về "mô hình hộp không đen" hay "mô hình có thể hiểu được", bạn có phương trình hồi quy và cây quyết định. Cái đầu tiên cung cấp cho bạn một xấp xỉ dạng đóng của f trong đó tầm quan trọng của từng yếu tố là rõ ràng, cái thứ hai là một mô tả đồ họa của một số tỷ lệ rủi ro tương đối.