Đánh giá chất lượng phân phối dự đoán

Tôi có một tập hợp các điểm dữ liệu $X_i, y_i$ Ở đâu $x$ là các biến độc lập và tôi tin rằng mỗi $y_i$ có thể được mô hình hóa như được rút ra từ một phân phối theo cấp số nhân với các tham số $\lambda_i$.

Nếu tôi sử dụng $X_i$ dự đoán $\lambda_i$, làm cách nào tôi có thể đánh giá chất lượng của các bản phân phối dự đoán của mình đối với các quan sát $y_i$?

Chỉnh sửa: Đây thực chất là cùng một câu hỏi như Làm thế nào để đánh giá chất lượng của công cụ ước tính xác suất cho các thí nghiệm Bernoulli? nhưng trong một bối cảnh liên tục chứ không phải là một bối cảnh nhị thức. Nó không rõ ràng đối với tôi nên sử dụng cái gì trong trường hợp này thay vì entropy chéo.

Cách tiếp cận tiêu chuẩn cho việc này là sử dụng khả năng đăng nhập của phân phối theo cấp số nhân. Đây thực sự là chính xác làm thế nào entropy chéo có nguồn gốc, đó là khả năng đăng nhập của phân phối Bernoulli.

Trong trường hợp phân phối theo cấp số nhân, pdf là:

$$f(y; \lambda) = \lambda e^{-\lambda y}$$

Vì vậy, khả năng đăng nhập là:

$$LL(\lambda_i; y_i ) = \log(f(y_i; \lambda_i)) = \log(\lambda_i) - \lambda_i y_i$$

Vì vậy nếu $y_i$ là giá trị thực sự của bạn, và $\lambda_i$ là những dự đoán của bạn, một mô hình theo cấp số nhân sẽ giảm thiểu:

$$LL(\{\lambda_i\}; \{y_i\}) = \sum_i \log(\lambda_i) -\lambda_i y_i$$

Lắp mô hình bằng cách tối đa hóa khả năng đăng nhập theo cách này dẫn đến lý thuyết về mô hình tuyến tính tổng quát; mô hình hàm mũ là một trường hợp đặc biệt.

Cách tiêu chuẩn để đánh giá phân phối dự đoán là thông qua các quy tắc tính điểm . Khả năng đăng nhập mà Matthew Drury đề xuất là một ví dụ, đó là quy tắc tính điểm logarit . Cũng có những người khác. Merkle & Steyvers (2013, Phân tích quyết định ) thảo luận về cách các quy tắc tính điểm khác nhau kết hợp với nhau và cách chọn một quy tắc.

Thông tin thêm có thể được tìm thấy trong thẻ wiki và chúng tôi có một số câu hỏi mangquy tắc tính điểm nhãn.