Điểm kỳ dị bất ngờ trong lỗi ma trận Hessian trong hồi quy logistic đa thức


8

Tôi đã thực hiện phân tích hồi quy logistic đa thức bằng SPSS 19. Tôi đã gặp phải vấn đề sau khi chạy quy trình phân tích:

"Điểm kỳ dị bất ngờ trong ma trận Hessian gặp phải. Điều này cho thấy rằng một số biến dự đoán nên được loại trừ hoặc một số loại nên được hợp nhất."

Một chút nền tảng về dữ liệu của tôi được sử dụng. Tôi có bốn dự đoán phân loại với hai cấp độ mỗi, 1 hoặc 2. Biến trả lời trong mô hình của tôi là biến phân loại ba cấp. Tôi đã sử dụng cấp độ cuối cùng như là thể loại tham khảo. Tôi đã cố gắng so sánh các hệ số của đánh chặn với bốn yếu tố dự đoán trong hai bản ghi để tìm mức nào của biến phản ứng có thể gây ra vấn đề này. Sự khác biệt lớn về hệ số giữa đánh chặn và ba trong số các yếu tố dự đoán cho thấy nó có thể là loại tham chiếu có vấn đề. Tuy nhiên, tôi không thể kết hợp các cấp của biến trả lời (mà tôi không được phép cho nghiên cứu của mình).

Tôi cũng đã cố gắng loại trừ từng người dự đoán, nhưng vẫn gặp vấn đề tương tự.

Bất cứ ai có thể xin vui lòng cho tôi biết tôi nên làm gì để giải quyết vấn đề này?


1
Kiểm tra đầu tiên sẽ là tính toán thứ hạng của ma trận thiết kế của bạn. Nếu nó ít hơn số lượng cột, có lẽ bạn cần kết hợp và / hoặc mã hóa lại một cách thích hợp.
hồng y

Cho rằng tất cả các biến là phân loại, một lựa chọn thay thế là sử dụng các phương pháp bảng dự phòng. Tức là bạn có một bảng dự phòng năm cách. Điều này có thể được thực hiện bằng cách sử dụng glm poisson (mô hình log-linear), có thể ổn định hơn (có thể không phải vậy). Cũng có thể là một "vấn đề phân tách" - phản ứng của bạn có thể được dự đoán hoàn hảo từ các hiệp phương sai - làm cho máy tính trở nên kỳ quặc khi điều này xảy ra vì phương sai bằng không.
xác suất

Trên thực tế, kết hợp các mức của biến trả lời là một cách được đề xuất để tiếp cận các vấn đề trong hồi quy logistic đa phương. Bằng cách kết hợp hai cấp độ thấp hơn và sau đó là hai cấp độ trên, bạn có thể tính gần đúng các kết quả đa phương thức bằng hai hồi quy logistic (đơn giản hơn). Những hồi quy logistic và chẩn đoán của chúng có thể chỉ ra điều gì sai.
whuber

Câu trả lời:


4

Tôi là chìa khóa mà bạn có thể đang tìm kiếm có thể được tìm thấy trên trang web của UCLA về Hồi quy logistic đa thức trong đó ghi rõ:

Dự đoán hoàn hảo: Dự đoán hoàn hảo có nghĩa là chỉ một giá trị của biến dự đoán được liên kết với chỉ một giá trị của biến trả lời. Bạn có thể nói từ đầu ra của các hệ số hồi quy rằng có gì đó không đúng. Sau đó, bạn có thể thực hiện lập bảng hai chiều của biến kết quả với biến có vấn đề để xác nhận điều này và sau đó chạy lại mô hình mà không có biến có vấn đề.

Tôi khuyên bạn nên chạy bảng hai chiều cho mỗi dự đoán (so với phản hồi) để xác định xem một cấp độ phản hồi có xảy ra chỉ với một cấp dự đoán của bạn không.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.