Softmax tràn [đóng]

Chờ khóa tiếp theo của Andrew Ng trên Coursera, tôi đang cố gắng lập trình trên Python một trình phân loại với chức năng softmax ở lớp cuối cùng để có các xác suất khác nhau. Tuy nhiên, khi tôi cố gắng sử dụng nó trên tập dữ liệu CIFAR-10 (đầu vào: (3072, 10000)), tôi gặp phải lỗi tràn khi tính toán số mũ. Thật vậy, tôi có các số như 5000, 10000 hoặc 25000.

Tôi đã thử hai điều:

• trừ một hằng số cho ma trận trước khi tính toán theo cấp số nhân nhưng tôi có sự khác biệt lớn giữa các số vì vậy, tôi không thể làm điều đó.
• tính toán số mũ của nhật ký ma trận nhưng nó vẫn tràn.

Ai đó có thể giúp tôi tránh vấn đề này?

Cảm ơn bạn

EDIT: https://github.com/Kentena/softmax/

$$\frac{e^{x_i}}{\sum_j e^{x_j}} = \frac{e^{-m}}{e^{-m}}\frac{e^{x_i}}{\sum_j e^{x_j}}= \frac{e^{x_i-m}}{\sum_j e^{x_j-m}}$$ $m$

$e^{x_i} = e^{x_i-m}$$x_i$$m$$m$$x_i$