Những nhược điểm của khả năng hồ sơ là gì?

Hãy xem xét một vectơ tham số , với tham số quan tâm và một tham số phiền toái. $(\theta_1, \theta_2)$ $\theta_1$ $\theta_2$

Nếu là khả năng được tạo từ dữ liệu , thì khả năng hồ sơ cho được xác định là trong đó là MLE của cho giá trị cố định là . $L(\theta_1, \theta_2 ; x)$ $x$ $\theta_1$ $L_P(\theta_1 ; x) = L(\theta_1, \hat{\theta}_2(\theta_1) ; x)$ $\hat{\theta}_2(\theta_1)$ $\theta_2$ $\theta_1$

$\bullet$ Tối đa hóa khả năng hồ sơ liên quan đến dẫn đến cùng một ước tính như ước tính có được bằng cách tối đa hóa khả năng đồng thời liên quan đến và . $\theta_1$ $\hat{\theta}_1$ $\theta_1$ $\theta_2$

$\bullet$ Tôi nghĩ rằng độ lệch chuẩn của cũng có thể được ước tính từ đạo hàm thứ hai của khả năng hồ sơ. $\hat{\theta}_1$

$\bullet$ Thống kê khả năng cho có thể được viết theo khả năng của hồ sơ: . $H_0: \theta_1 = \theta_0$ $LR = 2 \log( \tfrac{L_P(\hat{\theta}_1 ; x)}{L_P(\theta_0 ; x)})$

Vì vậy, có vẻ như khả năng hồ sơ có thể được sử dụng chính xác như thể đó là một khả năng thực sự. Có thực sự như vậy không? Những nhược điểm chính của phương pháp đó là gì? Và những gì về 'tin đồn' mà người ước tính thu được từ khả năng hồ sơ là sai lệch (chỉnh sửa: thậm chí không có triệu chứng)?

maximum-likelihood likelihood profile-likelihood

— bát giác
nguồn

chỉ cần một lưu ý, các công cụ ước tính từ khả năng cũng có thể bị sai lệch, ví dụ cổ điển là ước tính phương sai khả năng cho mẫu bình thường.

— mpiktas

@mpiktas: Cảm ơn bình luận của bạn. Thật vậy, mle cổ điển cũng có thể được thiên vị. Tôi sẽ chỉnh sửa câu hỏi để làm cho mọi thứ rõ ràng hơn.

— ocram

sự thiên vị giả định là gì? Bạn đang nói về những người ước tính không nhất quán?

— mpiktas

@mpiktas: Vâng, đây là những gì tôi nên nói ...

— ocram

Ước tính từ khả năng hồ sơ chỉ là MLE. Tối đa hóa đối với cho mỗi có thể và sau đó tối đa hóa đối với cũng giống như tối đa hóa đối với . $\theta_1$ $\theta_2$ $\theta_1$ $\theta_1$ $(\theta_1, \theta_2)$

Điểm yếu chính là, nếu bạn dựa vào ước tính SE của về độ cong của khả năng hồ sơ, bạn không hoàn toàn tính đến sự không chắc chắn trong . $\hat{\theta}_1$ $\theta_2$

McCullagh và Nelder, các mô hình tuyến tính tổng quát, phiên bản 2 , có một phần ngắn về khả năng hồ sơ (Sec 7.2.4, pss 254-255). Họ nói:

[A] các bộ tin cậy gần đúng có thể thu được theo cách thông thường .... các khoảng tin cậy như vậy thường thỏa đáng nếu [kích thước của ] nhỏ so với tổng số thông tin của Fisher, nhưng có thể bị sai lệch .. Thật không may [khả năng nhật ký hồ sơ] không phải là một chức năng khả năng đăng nhập theo nghĩa thông thường. Rõ ràng nhất, đạo hàm của nó không có nghĩa là không, một tính chất cần thiết để ước lượng các phương trình. $\theta_2$

— Karl
nguồn

E \frac{\partial l_{P} (θ_{1})}{\partial θ_{1}} \neq 0

$E \frac{\partial l_P(\theta_1)}{\partial \theta_1} \neq 0$

Câu hỏi thú vị, mặc dù nó đòi hỏi một chuyến đi đến kệ sách (mà dù sao tôi cũng nên làm). Tôi đã thêm một chút vào câu trả lời của tôi về điểm này.

— Karl

Cảm ơn bạn rất nhiều vì đã chỉnh sửa. Người ta nói rằng tính chất (điểm được đánh giá ở giá trị tham số thực có nghĩa là 0) là điều cần thiết để ước tính các phương trình. Nhưng mặc dù khả năng nhật ký hồ sơ không đáp ứng thuộc tính đó nhưng nó tạo ra MLE. Có điều gì tôi nhớ không?

— ocram

Tài sản đó không cần thiết để cung cấp MLE.

— Karl