Các động lực cho việc sử dụng chức năng logistic như là một mô hình để phân loại nhị phân là gì?

Hồi quy logistic, được sử dụng trong phân loại nhị phân, sử dụng hàm logistic như một mô hình cho xác suất cơ bản của biến kết quả.

Nó có một số tính chất hữu ích và cần thiết để phù hợp với một mô hình như vậy. Ví dụ, nó đang tăng đơn điệu, nó có xu hướng 1 khi x có xu hướng vô cùng, nó có xu hướng 0 vì x có xu hướng trừ vô cùng, nó không bao giờ là 0 hay 1 (cho phép xác suất dương của kết quả bất kể đầu vào). Tuy nhiên, có các tùy chọn khác cho chức năng thỏa mãn các tính chất này.

Vì vậy, chức năng logistic được sử dụng đơn giản cho thuận tiện, hoặc có những động lực khác cho lý do tại sao chức năng logistic là "chính xác" hoặc chỉ có chức năng phù hợp để sử dụng?

Có một số lý do để chọn hàm logistic làm phương thức "mặc định" để ước tính xác suất từ ​​một hoặc nhiều biến. Ở đây có một ít:

1. Lịch sử, ví dụ đường cong phản ứng với liều
2. Khi được sử dụng với đặc tả hồi quy ở phía bên phải của mô hình, các hiệu ứng hồi quy có thể hiểu được ở chỗ chúng có thể liên quan đến tỷ lệ cược cho các hiệu ứng riêng biệt của các yếu tố dự đoán
3. Nếu bạn bắt đầu với một giả định quy tắc đa biến cho các yếu tố dự đoán như trong phân tích phân biệt tuyến tính, sử dụng quy tắc Bayes để đảo ngược điều kiện mang lại mô hình logistic
4. Hình dạng phù hợp với dữ liệu thực tế rất nhiều thời gian

Xin lưu ý rằng logistic không được sử dụng để phân loại mà để ước tính xác suất trực tiếp.

Một tính năng kỹ thuật của chức năng liên kết logistic là khi kết hợp với ước lượng ML (hoặc chế độ sau với phẳng trước), phương trình gradient trở thành

Đó là, phần dư của bạn, , không tương thích với các đồng biến, (lưu ý:$p_i - y_i$$x_i$$y_i$ là nhị phân $0$ hoặc là $1$). Điều này tương tự với hồi quy ols. Nếu bạn có một hàm liên kết khác - phương trình sẽ được sửa đổi bằng cách đưa vào "trọng số" phụ thuộc vào mức độ khác nhau của hàm liên kết với hàm logistic. Một đặc điểm thực tế của điều này là nếu bạn bao gồm một phần chặn trong mô hình của mình, các xác suất được trang bị sẽ cộng với số lượng "thành công" (quan sát trong đó$y_i=1$). Tương tự cho các biến nhân tố.