Mạng thần kinh có thể tính được

Theo tinh thần của trò đùa Fizz Buzz nổi tiếng và vấn đề XOr nổi tiếng , tôi bắt đầu nghĩ, liệu có thể thiết kế một mạng lưới thần kinh thực hiện chức năng $y = x^2$ không?

Với một số biểu diễn của một số (ví dụ như một vectơ ở dạng nhị phân, do đó số đó 5được biểu diễn dưới dạng [1,0,1,0,0,0,0,...]), mạng nơ ron nên học cách trả về bình phương của nó - 25 trong trường hợp này.

Nếu tôi có thể triển khai $y=x^2$ , tôi có thể thực hiện $y=x^3$ và nói chung là bất kỳ đa thức nào của x, và với chuỗi Taylor, tôi có thể ước chừng $y=\sin(x)$ , điều này sẽ giải quyết vấn đề Fizz Buzz - một mạng lưới thần kinh có thể tìm thấy phần còn lại của bộ phận.

Rõ ràng, chỉ phần tuyến tính của NN sẽ không thể thực hiện nhiệm vụ này, vì vậy nếu chúng ta có thể thực hiện phép nhân, điều đó sẽ xảy ra nhờ chức năng kích hoạt.

Bạn có thể đề xuất bất kỳ ý tưởng hoặc đọc về chủ đề?

Các mạng nơ ron cũng được gọi là xấp xỉ hàm phổ quát dựa trên định lý xấp xỉ hàm phổ quát . Nó nói rằng:

Trong lý thuyết toán học của các mạng nơ ron nhân tạo, định lý gần đúng phổ quát nói rằng một mạng chuyển tiếp với một lớp ẩn duy nhất chứa một số nơ-ron hữu hạn có thể xấp xỉ các hàm liên tục trên các tập con nhỏ gọn của Rn, theo các giả định nhẹ về chức năng kích hoạt

Có nghĩa là ANN với chức năng kích hoạt phi tuyến tính có thể ánh xạ chức năng liên quan đến đầu vào với đầu ra. Hàm $y = x^2$ có thể dễ dàng xấp xỉ bằng hồi quy ANN.

Bạn có thể tìm thấy một bài học tuyệt vời ở đây với một ví dụ máy tính xách tay.

Ngoài ra, do khả năng như vậy, ANN có thể ánh xạ các mối quan hệ phức tạp, ví dụ giữa hình ảnh và nhãn của nó.

$f(x)=x^2$$\mathbb{R}^n$

$\mathbb{R}^n$$\mathbb{R}^n$$x$$f(x)=x^2$$\mathbb{R}$ sau đó chúng tôi có thể trả lời câu hỏi của bạn bằng có . Nhưng nếu bạn muốn gần đúng$f(x)=x^2$$x\in \mathbb{R}$

$\sin(x)$$x=0$ sẽ cho bạn kết quả khủng khiếp cho $x\to 10000$ nếu bạn không sử dụng đủ các điều khoản trong bản mở rộng Taylor của mình.