Hồi quy logistic cho dữ liệu từ các bản phân phối Poisson

Từ một số ghi chú học máy nói về một số phương pháp phân loại phân biệt, cụ thể là hồi quy logistic, trong đó y là nhãn lớp (0 hoặc 1) và x là dữ liệu, người ta nói rằng:

nếu $x|y = 0 \sim \mathrm{Poisson}(λ_0)$ và $x|y = 1 \sim \mathrm{Poisson}(λ_1)$ , thì $p(y|x)$ sẽ là logistic.

Tại sao điều này lại đúng?

$Y$ có hai giá trị có thể cho bất kỳ giá trị nhất định của $X$ . Theo các giả định,

$$\Pr(X=x|Y=0) = \exp(-\lambda_0) \frac{\lambda_0^x}{x!}$$

và

$$\Pr(X=x|Y=1) = \exp(-\lambda_1) \frac{\lambda_1^x}{x!}.$$

Do đó (đây là một trường hợp tầm thường của Định lý Bayes) khả năng điều kiện trên là xác suất tương đối của trường hợp sau, cụ thể là$Y=1$$X=x$

$$\Pr(Y=1|X=x) = \frac{\exp(-\lambda_1) \frac{\lambda_1^x}{x!}}{\exp(-\lambda_1) \frac{\lambda_1^x}{x!} + \exp(-\lambda_0) \frac{\lambda_0^x}{x!}}= \frac{1}{1 + \exp(\beta_0 + \beta_1 x)}$$

Ở đâu

$$\beta_0 = \lambda_1 - \lambda_0$$

và

$$\beta_1 = -\log(\lambda_1/\lambda_0).$$

Đó thực sự là mô hình hồi quy logistic tiêu chuẩn.