Cách tính thủ công chặn và hệ số trong hồi quy logistic


9

Tôi hiện đang nghiên cứu về hồi quy logistic. Nhưng tôi đang gặp khó khăn khi tính toán đánh chặn (β0 ) và hệ số (β1 ). Tôi đã tìm kiếm nó qua internet, nhưng chỉ nhận được hướng dẫn sử dụng Microsoft Excel hoặc các hàm tích hợp trong R. Tôi nghe nói nó có thể được giải quyết bằng Maximum Likabilities, nhưng tôi không hiểu cách sử dụng nó, vì tôi không hiểu Không có một nền tảng thống kê. Bất cứ ai cũng có thể cho tôi một lời giải thích ngắn gọn và mô phỏng để tính toán các hệ số bằng tay?


Bạn có hiểu tối ưu hóa theo nghĩa chung? Chẳng hạn như tìm tối thiểu hoặc tối đa của một chức năng?
xác suất

1
Tôi thực sự muốn nhiều người hỏi những câu hỏi như thế này.
Maddenker

Câu trả lời:


9

Thật không may, không giống như hồi quy tuyến tính, không có công thức đơn giản nào cho ước tính khả năng tối đa của hồi quy logistic. Bạn sẽ phải thực hiện một số loại thuật toán tối ưu hóa, như giảm độ dốc hoặc lặp lại các ô vuông nhỏ nhất .


4
Điều đó nói chung là đúng. Một ngoại lệ tồn tại khi biến giải thích duy nhất là phân loại hoặc khi tất cả các biến giải thích là phân loại tất cả các tương tác (bậc cao hơn) được bao gồm trong mô hình. Trong trường hợp đó, các hệ số là biến đổi của phương tiện.
Maarten Buis

Bạn có một nguồn cho việc này?
information_interchange

3

Tôi muốn đề xuất phương pháp của tôi và hy vọng nó có ích.

Để tính toán các hệ số theo cách thủ công, bạn phải có một số dữ liệu hoặc nói các ràng buộc. Trong hồi quy logistic, trên thực tế nó là như thế nào logistic chức năng được xác định thông qua entropy tối đa và số nhân Lagrange, ràng buộc này phải được đáp ứng với hai khác: . Đó là, kỳ vọng của mô hình phải phù hợp với kỳ vọng được quan sát , đã được minh họa trong bài viết này . Đó là lý do tại sao hàm logit là hàm liên kết trong hồi quy logistic cũng được gọi là hàm trung bình.Epfj=Ep^fj

Lấy ví dụ, phần dưới crosstab cho thấy có bao nhiêu nam / nữ trong lớp danh dự.

           |         female
       hon |      male     female |     Total  
-----------+----------------------+----------
         0 |        74         77 |       151 
         1 |        17         32 |        49 
-----------+----------------------+----------
     Total |        91        109 |       200

iyixij=ipixij

log(p1p)=β0+β1xip=11+e(β0+β1xi)xiX=1X=0

32109=11+e(β0+β11)

1791=11+e(β0+β10)

β0β1

Dọc theo cùng một dòng, bạn có thể tính toán thủ công các hệ số của các mô hình hồi quy logistic khác (nó cũng áp dụng cho hồi quy softmax nhưng nó nằm ngoài phạm vi của câu hỏi này) nếu có đủ dữ liệu.

Tôi hy vọng tôi đúng, nếu không xin vui lòng cho tôi biết. Cảm ơn.


Bất cứ ai có thể cho tôi biết lý do tại sao tôi nhận được một downvote? Cảm ơn.
Lerner Zhang

3
Tôi không phải là downvote, vì vậy tôi không thể nói chắc chắn. Nhưng tôi nghĩ rằng bạn có thể cải thiện câu trả lời của mình bằng 1) liên quan đến các tính toán của bạn cho vấn đề khả năng tối đa mà hồi quy logistic giải quyết, 2) Giải thích tại sao chính xác ví dụ này có thể được xử lý bằng tay nhưng những người khác không thể, 3) phù hợp với hồi quy bằng thuật toán lặp và cho thấy câu trả lời là như nhau.
Matthew Drury

@MatthewDrury Tôi đã cập nhật câu trả lời của mình sau khi đào. Hãy kiểm tra.
Lerner Zhang

Hey @Lerner Bạn cần nhân 1 / (1 + e− (0 + 1 1)) 32 lần và 1 / (1 + e− (0 + 1 ∗ 0)) 17 lần. Không chỉ sử dụng bổ sung đơn giản như 32/109.
Aerin

@BYOR OK, tôi sẽ kiểm tra và cập nhật sớm.
Lerner Zhang
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.