Các lựa chọn thay thế cho mô hình logit đa phương


8

Tôi đang cố gắng ước tính một mô hình lựa chọn nghề nghiệp với ba lựa chọn. Có sự thay thế nào cho việc sử dụng hồi quy logistic đa thức khi xử lý các kết quả phân loại không theo thứ tự như vậy không?

Khi xử lý các biến phụ thuộc nhị phân, dường như có một số lựa chọn như mô hình LPM cũng như mô hình logbit và logit nhị phân. Tuy nhiên, khi xử lý các biến phân loại không có thứ tự, tài liệu vẫn đề xuất mô hình logit đa phương mà không so sánh nó với các lựa chọn thay thế.


1
Bạn chỉ hỏi nếu có các chức năng liên kết thay thế (trừ logit) có sẵn cho trường hợp đa phương thức? Hoặc, bạn đang hỏi về các loại mô hình khác nhau (chẳng hạn như mô hình giỏ hàng )? Hoặc có lẽ một cái gì đó khác? (Lưu ý bên cạnh, nếu là lần đầu tiên, nó có thể giúp bạn đọc câu trả lời của tôi ở đây: mô hình khác biệt giữa logit-và-probit , để biết thông tin chung về vấn đề này, mặc dù nó được viết trong một ngữ cảnh hơi khác.)
gung - Phục hồi Monica

Cảm ơn bạn rất nhiều về lời nhận xét. Tôi chắc chắn sẽ đọc lên trên liên kết. Tôi chủ yếu tự hỏi nếu có bất kỳ lựa chọn thay thế nào sử dụng hồi quy tuyến tính thông thường (OLS) để xử lý các kết quả phân loại không theo thứ tự. Bạn có biết bất kỳ lựa chọn thay thế như vậy? Khi nói đến kết quả nhị phân, dường như có cả một cuộc thảo luận về việc nên sử dụng OLS hay mô hình logit / probit nhị phân.
Thor

Đối với một xấp xỉ đầu tiên, OLS không bao giờ nên được sử dụng cho các kết quả nhị phân. Tôi chắc chắn có, hoặc có thể là các thuật toán hồi quy đa cực sử dụng các hàm liên kết thay thế, nhưng tôi không biết liệu phần mềm chính có hỗ trợ chúng không.
gung - Phục hồi Monica

1
Không chắc chắn ý của bạn bằng cách xấp xỉ đầu tiên (xin lỗi, tôi là người mới). Nhưng dường như có một số nhà kinh tế lượng học nổi bật lập luận rằng việc sử dụng các chức năng mô hình LPM cũng như mô hình logit mà ước tính kết quả nhị phân. Ít nhất Angrist và Pischke làm như vậy trong cuốn sách của họ 'Chủ yếu là kinh tế lượng vô hại' (2009). Bạn có bất cứ lời khuyên về nơi tôi có thể đọc các chức năng liên kết thay thế như vậy không? Một lần nữa, cảm ơn bạn đã phản hồi!
Thor

1
"Đến một xấp xỉ đầu tiên ... không bao giờ ..." có nghĩa là 99% thời gian bạn không nên sử dụng OLS với kết quả nhị phân. Tôi biết rằng có một số trường hợp ít tạo ra sự khác biệt & một số người không đồng ý với lời khuyên tiêu chuẩn - đó là lý do tại sao tôi không chỉ nói 'không bao giờ' với các hàng rào. Thật không may, tôi không biết một nơi tốt để đọc về việc sử dụng các hàm liên kết thay thế với hồi quy đa phương thức.
gung - Phục hồi Monica

Câu trả lời:


3

Có một loạt các mô hình có sẵn để mô hình các mô hình đa cực.

Tôi khuyên dùng Cameron & Trivingi Microeconometrics Sử dụng Stata để giới thiệu dễ dàng và xuất sắc hoặc xem qua các Bài giảng của Imbens & Wooldridge hoặc ở đây có sẵn trực tuyến.

Các mô hình được sử dụng rộng rãi bao gồm:

hồi quy logistic đa thức hoặc mlogit trong Stata

logit đa điều kiện (cho phép dễ dàng bao gồm không chỉ các yếu tố dự đoán cụ thể mà còn cả các lựa chọn cụ thể) hoặc asclogit trong Stata

logit lồng nhau (thư giãn sự độc lập khỏi giả định thay thế không liên quan (IIA) bằng cách nhóm / lựa chọn xếp hạng theo cách phân cấp) hoặc nlogit trong Stata

logit hỗn hợp (làm giảm giả định IIA bằng cách giả sử các tham số phân phối bình thường) hoặc mixlogit trong Stata.

Mô hình probit đa cực (có thể làm giảm thêm giả định IIA nhưng bạn nên có sẵn các dự đoán cụ thể theo lựa chọn) logit (thư giãn giả định IIA giả sử, ví dụ như các tham số phân tán bình thường), sử dụng asmprobit trong Stata (mprobit không cho phép sử dụng các dự đoán cụ thể theo lựa chọn nhưng bạn nên sử dụng chúng để thư giãn IIA )


1
β

Vâng tất nhiên, cảm ơn, xem Wikipedia để được giải thích: https://en.wikipedia.org/wiki/Mixed_logit
Arne Jonas Warnke

2

Nếu bạn muốn các tùy chọn khác hoàn toàn với hồi quy logistic, bạn có thể sử dụng mạng lưới thần kinh. Ví dụ, nnetgói của R có multinomchức năng. Hoặc bạn có thể sử dụng Rừng ngẫu nhiên ( randomForestgói R và các gói khác). Và có một số lựa chọn thay thế Machine Learning khác, mặc dù các tùy chọn như SVM có xu hướng không được hiệu chỉnh tốt khiến cho kết quả đầu ra của chúng kém hơn - theo ý kiến ​​của tôi - đối với hồi quy logistic.

[Trên thực tế, một logit có thể đang được sử dụng dưới mui xe bởi các tế bào thần kinh trong mạng lưới thần kinh. Vì vậy, nó khá khác nhau, nhưng không hoàn toàn khác nhau cùng một lúc.]


+1. Chỉ cần mở rộng trên một vài điểm ... Các SVM có thể được hiệu chỉnh sau khi đào tạo để tạo ra xác suất tốt (ví dụ: sử dụng quy mô Platt hoặc hồi quy đẳng hướng, với chi phí của một bước bổ sung). Mạng lưới thần kinh với đầu ra softmax (và bất kỳ loại chức năng kích hoạt phi tuyến nào trong các lớp ẩn) có thể được coi là đồng thời học ánh xạ phi tuyến vào một số không gian tính năng và thực hiện hồi quy logistic đa phương thức trong không gian tính năng đó.
user20160

@Wayne; Tôi tự hỏi rằng vì logit đa phương đòi hỏi giả định IIA; Nhưng về mạng thần kinh với kích hoạt softmax? Liệu nó cũng đòi hỏi cùng một giả định?
ElleryL

0

Ngoài ra, hãy nghĩ rằng Mạng lưới thần kinh (với kích hoạt softmax), Cây quyết định (hoặc Rừng ngẫu nhiên) không yêu cầu giả định IIA phải được xem xét khi xem xét độ tin cậy của các thử nghiệm này liên quan đến việc kiểm tra giả định IIA. Vì vậy, đây có thể là một lợi thế so với logistic đa quốc gia nếu tất cả những gì chúng ta quan tâm chỉ là dự đoán.

Ngoài ra, nhiều mô hình logistic có thể được xây dựng cho các danh mục K-1 với danh mục Kth làm tham chiếu. Điều này cũng cho phép các dự đoán khác nhau được cắm cho mỗi phương trình trái ngược với đa phương thức


1
Đây là một nhận xét hơn là một câu trả lời. Chúng tôi có thể chuyển đổi câu trả lời của bạn trong một bình luận hoặc bạn có thể mở rộng câu trả lời của mình.
Ferdi

bạn có thể giải thích tại sao Mạng lưới thần kinh (với kích hoạt softmax) không yêu cầu giả định IIA. theo điều này, vi.wikipedia.org/wiki/Luce%27s_choice_axiom Tôi nghĩ rằng Mạng lưới thần kinh (với kích hoạt softmax) có cùng một hạn chế
ElleryL
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.