Tại sao hồi quy logistic là một mô hình tuyến tính?

24

Tôi muốn biết tại sao hồi quy logistic được gọi là mô hình tuyến tính. Nó sử dụng hàm sigmoid, không tuyến tính. Vậy tại sao hồi quy logistic là một mô hình tuyến tính?

regression logistic terminology

— người dùng34790
nguồn

6

Các logit của

(log của tỷ lệ cược) là tuyến tính trong các tham số, nhưng người ta không đề cập đến hậu cần hồi quy tuyến tính như xa như tôi biết. Bạn có thể trích dẫn ai đã nói điều này?

π

$\pi$

— gung - Tái lập Monica

@ gung-ReinstateMonica Ví dụ, trong sách Deep Learning ở trang 169 ( deeplearningbook.org/contents/mlp.html ). Trong cuốn sách họ lưu ý "Các mô hình tuyến tính, như hồi quy logistic và hồi quy tuyến tính, rất hấp dẫn ....." Tôi nghĩ rằng chúng có nghĩa là Mô hình tuyến tính tổng quát cho hồi quy logistic.

— YOUNG

33

Mô hình hồi quy logistic có dạng Nó được gọi làmô hình tuyến tínhtổng quátkhông phải vì xác suất ước tính của sự kiện phản hồi là tuyến tính, mà bởi vì logit của phản ứng xác suất ước tính là một hàm tuyến tính của cáctham số~~dự đoán~~.

tôi o g tôi t (p_{tôi}) = = tôi n (\frac{p_{tôi}}{1 - p_{tôi}}) = = β_{0} + β_{1} x_{1, tôi} + β_{2} x_{2, tôi} + \dots + β_{p} x_{p, tôi} .

$\mathrm{logit}(p_i) = \mathrm{ln}\left(\frac{p_i}{1-p_i}\right) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i}.$

g (μ_{tôi}) = = β_{0} + β_{1} x_{1, tôi} + β_{2} x_{2, tôi} + \dots + β_{p} x_{p, tôi},

$\mathrm{g}(\mu_i) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i},$

μ

$\mu$

Chỉnh sửa: Cảm ơn bạn đã chỉnh sửa.

— P Schnell
nguồn

7

Nếu bạn đã viết "tuyến tính tổng quát" thay vì "tuyến tính" và các tham số thay vì dự đoán, điều này sẽ đúng. (Nhiều mô hình hồi quy logistic không phải là tuyến tính trong các yếu tố dự báo. Chẳng hạn, không có hồi quy logistic nào có thuật ngữ tương tác sẽ là tuyến tính trong các prdictors.)

— whuber

Bạn đã đúng, cảm ơn bạn. Tôi đã cập nhật câu trả lời của mình để phản ánh điều này.

— P Schnell

Pi ở đó là gì?

— Aaron

7

$Y=b_0+∑(b_i X_i)+\epsilon$ $Y$

$Y=1$

P (Y = = 1) = = \frac{1}{1 + e^{- (b_{0} + Σ (b_{tôi} X_{tôi}))}}

$P(Y=1) = {1 \over 1+e^{-(b_0+\sum{(b_iX_i)})}}$

— lennon 310
nguồn

7

Tuyến tính có nghĩa là tuyến tính trong betas (các hệ số) nhưng không có trong x (các biến độc lập), miễn là betas của bạn không tuyến tính, mô hình của bạn là tuyến tính.

— Yilun Zhang
nguồn

3

Điều đó đúng - nhưng không may là hồi quy logistic là một mô hình tuyến tính tổng quát và nó không phải là tuyến tính trong các tham số.

— whuber