Tìm kiếm một sự hiểu biết lý thuyết về hồi quy logistic Firth


13

Tôi đang cố gắng hiểu hồi quy logistic Firth (phương pháp xử lý tách hoàn toàn / hoàn chỉnh hoặc gần như hoàn toàn trong hồi quy logistic) để tôi có thể giải thích nó cho người khác bằng các thuật ngữ đơn giản. Có ai có một lời giải thích rõ ràng về việc ước tính Firth sửa đổi gì cho MLE không?

Tôi đã đọc, tốt nhất có thể, Firth (1993) và tôi hiểu một sự điều chỉnh đang được áp dụng cho chức năng ghi điểm. Tôi mờ về nguồn gốc và sự biện minh của sự điều chỉnh và vai trò của chức năng điểm số trong MLE.

Xin lỗi nếu đây là kiến ​​thức thô sơ. Tài liệu tôi đã xem xét dường như đòi hỏi sự hiểu biết sâu sắc hơn về MLE so với tôi sở hữu.

Câu trả lời:


11

Sự điều chỉnh của Firth tương đương với việc chỉ định trước Jeffrey và tìm kiếm chế độ phân phối sau. Một cách thô bạo, nó bổ sung một nửa quan sát vào tập dữ liệu giả định rằng các giá trị thực của các tham số hồi quy bằng 0.

Bài báo của Firth là một ví dụ về sự tiệm cận bậc cao. Trình tự null, như vậy để nói, được cung cấp bởi các luật số lớn: trong các mẫu nơi θ 0 là giá trị đích thực. Bạn có thể đã học được rằng các MLE là bình thường không có triệu chứng, đại khái là vì chúng dựa trên các phép biến đổi phi tuyến của tổng các biến iid (điểm số). Đây là xấp xỉ lệnh đầu tiên: θ n = θ 0 + O ( n - 1 / 2 ) = θ 0 + v 1 n - 1 /θ^nθ0θ0nơi v 1 là một biến bình thường với zero trung bình và phương sai σ 2 1 (hoặc var-cov ma trận) đó là nghịch đảo của thông tin Fisher cho quan sát duy nhất. Thống kê kiểm tỷ lệ khả năng là sau đó tiệmn( θ n - θ 0 ) 2 / σ 2 1 ~ χ 2 1 hoặc bất cứ các phần mở rộng đa biến với các sản phẩm nội và nghịch đảo ma trận hiệp phương sai sẽ.θn= =θ0+Ôi(n-1/2)= =θ0+v1n-1/2+o(n-1/2)v1σ12n(θ^n-θ0)2/σ12~χ12

Cao asymptotics trật tự cố gắng để học được điều gì về điều đó tới hạn , thường là bằng cách trêu chọc ra tiếp theo hạn O ( n - 1 ) . Bằng cách đó, các ước tính và thống kê kiểm tra có thể kết hợp các thành kiến ​​mẫu nhỏ của thứ tự 1 / n (nếu bạn thấy bài báo có nội dung "chúng tôi có MLE không thiên vị", những người này có thể không biết họ đang nói về điều gì). Sự điều chỉnh được biết đến nhiều nhất của loại này là sự điều chỉnh của Bartlett cho các thử nghiệm tỷ lệ khả năng. Sự điều chỉnh của Firth cũng theo thứ tự đó: nó thêm một số lượng cố định 1o(n-1/2)Ôi(n-1)1/n(đỉnh p. 30) cho khả năng, và trong các mẫu lớn sự đóng góp tương đối của số lượng mà biến mất với tỷ lệ1/nlùn bởi những thông tin mẫu.12lnphát hiệnTôi(θ)1/n


Xin lỗi vì sự thiếu hiểu biết của tôi, nhưng tôi không hoàn toàn làm theo. Khi bạn nói "Roughly, nó sẽ thêm một nửa quan sát vào tập dữ liệu giả định rằng các giá trị thực của các tham số hồi quy bằng 0". Tại sao bạn cho rằng các giá trị thực của các tham số hồi quy bằng 0? Ngoài ra, làm thế nào để thêm một nửa quan sát vào tập dữ liệu?
ESmith5988

Từ phần còn lại của lời giải thích của bạn, có vẻ như chức năng khả năng đang được điều chỉnh bởi một số lượng cố định làm giảm độ lệch dương của các mẫu nhỏ. Số lượng cố định thực sự là một hàm của thông tin về 0 khi kích thước mẫu tăng, đúng không?
ESmith5988

Trên bình luận đầu tiên của bạn - Hiệu chỉnh Firth gần như là giá trị mong đợi của một đóng góp cho khả năng sẽ được thêm vào bởi một quan sát có trọng số hiệu quả bằng 1/2. Đây không phải là lời giải thích chính xác, chứ đừng nói đến trực giác về lý do tại sao bạn muốn làm điều này; nó chỉ mang đến cho bạn hương vị Bạn đặt các hệ số về 0 vì bạn không có ý tưởng nào tốt hơn về các con số sẽ là gì (và các hệ số 0 tương ứng độc đáo với không có tác dụng của các biến hồi quy, điều này có ý nghĩa hầu hết thời gian). Trên bình luận thứ hai của bạn - chính xác.
StasK
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.