Tôi đang cố gắng để có được một viễn cảnh toàn cầu về một số ý tưởng thiết yếu trong học máy, và tôi đã tự hỏi liệu có một cách xử lý toàn diện các khái niệm khác nhau về mất mát (bình phương, log, bản lề, proxy, v.v.). Tôi đã suy nghĩ điều gì đó dọc theo một bài thuyết trình chính thức, toàn diện hơn về bài viết xuất sắc của John Langford về Ngữ nghĩa mất chức năng .
Câu trả lời:
Các Hướng dẫn về Năng lượng Dạy học bằng LeCun et al. có thể giúp bạn có một phần tốt của cách đó. Họ mô tả một số hàm mất mát và thảo luận về những gì làm cho chúng "tốt hay xấu" cho các mô hình dựa trên năng lượng.
Hàm mất được đưa ra bởi bài toán. Nó có thể là bất cứ điều gì. Ví dụ, bạn cũng có thể xử phạt thời gian và không gian CPU đã sử dụng.
Trong học tăng cường, hàm mất là hàm không xác định chưa biết. Bạn không thể xác định lại nó mà không thay đổi vấn đề.
Tôi biết câu hỏi này là loại ngày, nhưng đó là điều tôi hiện đang quan tâm.
Một bài viết rất hay về chủ đề các hàm mất lồi và tính nhất quán của phân loại là " Hành vi thống kê và tính nhất quán của các phương pháp phân loại dựa trên tối thiểu hóa rủi ro lồi " của Tong Zhang.