Hàm chi phí cho hồi quy thông thường sử dụng mạng thần kinh

Hàm chi phí tốt nhất để huấn luyện mạng thần kinh thực hiện hồi quy thứ tự là gì, nghĩa là dự đoán một kết quả có giá trị tồn tại trên thang đo tùy ý trong đó chỉ có thứ tự tương đối giữa các giá trị khác nhau là có ý nghĩa (ví dụ: để dự đoán kích thước sản phẩm mà khách hàng sẽ đặt hàng : 'nhỏ' (mã hóa là 0), 'trung bình' (mã hóa là 1), 'lớn' (mã hóa là 2) hoặc 'cực lớn' (mã hóa là 3))? Tôi đang cố gắng tìm ra liệu có phương án nào tốt hơn mất phương trình bậc hai (mô hình hóa vấn đề theo hồi quy 'vanilla') hay mất entropy chéo (mô hình hóa vấn đề theo phân loại).

Một cách tiếp cận khác đã được đề xuất trong bài viết này để ước tính tuổi mặt:

https://www.cv-foundation.org/openaccess/content_cvpr_2016/ con / Niu_Ordinal_Regression_With_CVPR_2016_apers.pdf

Những kẻ này sử dụng một số phân loại nhị phân dự đoán liệu một điểm dữ liệu có lớn hơn ngưỡng hay không và thực hiện điều này cho nhiều ngưỡng. Tức là trong trường hợp của bạn, mạng sẽ có ba đầu ra nhị phân tương ứng với

• lớn hơn 0
• lớn hơn 1
• lớn hơn 2.

Ví dụ: đối với 'lớn (2)' thì sự thật sẽ là [1 1 0]. Hàm chi phí cuối cùng là tổng trọng số của các hàm chi phí entropy chéo riêng lẻ cho mỗi phân loại nhị phân.

Điều này có lợi thế là vốn đã có trọng số lỗi lớn hơn vì nhiều điều khoản entropy chi phí cá nhân sẽ bị vi phạm. Đơn giản chỉ cần thực hiện phân loại phân loại các kết quả được đặt hàng vốn không có tính năng này.