Là công cụ ước tính khả năng tối đa không thiên vị luôn là công cụ ước tính không thiên vị tốt nhất?

22

Tôi biết đối với các vấn đề thường xuyên, nếu chúng ta có một công cụ ước tính không thiên vị thường xuyên tốt nhất, nó phải là công cụ ước tính khả năng tối đa (MLE). Nhưng nhìn chung, nếu chúng ta có một MLE không thiên vị, nó cũng sẽ là công cụ ước lượng không thiên vị tốt nhất (hoặc có lẽ tôi nên gọi nó là UMVUE, miễn là nó có phương sai nhỏ nhất)?

mathematical-statistics maximum-likelihood unbiased-estimator

— Gary Thành
nguồn

3

Câu hỏi thú vị. MLE là một chức năng của thống kê đầy đủ và UMVUE có thể thu được bằng cách điều hòa trên các số liệu thống kê đầy đủ và đầy đủ. Vì vậy, nếu MLE không thiên vị (và một chức năng của thống kê đầy đủ), cách duy nhất có thể để nó không có phương sai tối thiểu là nếu thống kê đầy đủ chưa hoàn thành. Tôi đã cố gắng tìm một ví dụ, nhưng không thành công.

— Greenparker

2

Và đây là một số thông tin ngắn gọn về thống kê đầy đủ và đầy đủ.

— Richard Hardy

10

Vấn đề thực sự là MLE hiếm khi không thiên vị: nếu là công cụ ước tính không thiên vị của và MLE của , là MLE của nhưng bị thiên vị nhất biến đổi sinh học .

θ

$\theta$

θ

$\theta$

θ

$\theta$

f (\hat{θ})

$f(\hat\theta)$

f (θ)

$f(\theta)$

f

$f$

— Tây An

1

Điều này có liên quan không? "Một người ước tính gần như không thiên vị về dân số có nghĩa là" Vyas Dubey Pt.Ravishankar Shukla University, Raipur, Ấn Độ

2

+1 cho nhận xét của Xi'ans. Công cụ ước tính tốt nhất có nghĩa là phương sai tối thiểu, không thiên vị có nghĩa là cái gì khác. Vì vậy, tôi không chắc chắn rằng bạn có thể bắt đầu cố gắng chứng minh điều đó, vì người ta ít liên quan đến người kia. Nhưng trước khi tôi bắt đầu phái sinh của riêng mình, tôi muốn thấy một số nỗ lực nghiêm túc trong bằng chứng (thử một). Tôi muốn nói rằng ngay cả bằng chứng của tuyên bố đầu tiên (MLE là tối ưu cho một số trường hợp nhất định) là không tầm thường.

— cherub

13

Theo tôi, câu hỏi không thực sự mạch lạc ở chỗ tối đa hóa khả năng và không thiên vị không hòa hợp với nhau, nếu chỉ bởi vì các ước lượng khả năng tối đa là tương đương , tức là biến đổi của công cụ ước tính là ước lượng của biến đổi tham số, trong khi không thiên vị không đứng dưới các biến đổi phi tuyến tính. Do đó, các ước tính khả năng tối đa hầu như không bao giờ thiên vị, nếu "gần như" được xem xét trong phạm vi của tất cả các tham số có thể.

Tuy nhiên, có một câu trả lời trực tiếp hơn cho câu hỏi: khi xem xét ước lượng của phương sai Bình thường, , UMVUE của là trong khi MLE của là Ergo, chúng khác nhau. Điều này ngụ ý rằng $\sigma^2$ $\sigma^2$

{\hat{σ}}_{n}^{2} = = \frac{1}{n - 1} Σ_{tôi = = 1}^{n} {x_{tôi} - {\bar{x}}_{n}}^{2}

$\hat{\sigma}^2_n = \frac{1}{n-1} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

σ^{2}

$\sigma^2$

{\overset{ˇ}{σ}}_{n}^{2} = = \frac{1}{n} Σ_{tôi = = 1}^{n} {x_{tôi} - {\bar{x}}_{n}}^{2}

$\check{\sigma}^2_n = \frac{1}{n} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

nếu chúng ta có một công cụ ước tính không thiên vị thường xuyên tốt nhất, thì nó phải là công cụ ước tính khả năng tối đa (MLE).

không giữ chung.

Lưu ý thêm rằng, ngay cả khi tồn tại các công cụ ước tính không thiên vị của một tham số , không nhất thiết phải có một công cụ ước tính phương sai tối thiểu không thiên vị tốt nhất (UNMVUE). $\theta$

— Tây An
nguồn

Vì vậy, chúng ta có thể nói rằng một MLE không thiên vị, đó là một MVUE (U), nhưng không phải tất cả (U) MVUE là MLE?

— Sextus Empiricus

2

Không, chúng tôi không có lý do để tin rằng điều này là đúng nói chung.

— Tây An

13

Nhưng nhìn chung, nếu chúng ta có một MLE không thiên vị, nó cũng sẽ là công cụ ước tính không thiên vị tốt nhất?

Nếu có một số liệu thống kê đầy đủ, có .

Bằng chứng:

Định lý của LehmannTHER Scheffé : Bất kỳ công cụ ước lượng không thiên vị nào là một hàm của một số liệu thống kê đầy đủ là tốt nhất (UMVUE).
MLE là một chức năng của bất kỳ số liệu thống kê đầy đủ. Xem 4.2.3 tại đây ;

Do đó, một MLE không thiên vị là hoàn toàn tốt nhất miễn là tồn tại một số liệu thống kê đầy đủ.

Nhưng thực sự kết quả này hầu như không có trường hợp ứng dụng nào vì một số liệu thống kê đầy đủ gần như không bao giờ tồn tại. Đó là bởi vì thống kê đầy đủ tồn tại (về cơ bản) chỉ dành cho các gia đình theo cấp số nhân mà MLE thường bị sai lệch nhất (ngoại trừ tham số vị trí của Gaussian).

Vì vậy, câu trả lời thực sự là không .

$p_\theta(x)=p(x-\theta$ $p$ $\forall t\in\mathbb{R} \quad p(-t)=p(t)$ $n$

MLE không thiên vị
nó bị chi phối bởi một công cụ ước lượng không thiên vị khác được gọi là công cụ ước lượng tương đương của Pitman

$p$

— Benoit Sanchez
nguồn

Tại sao điều này không có upvote cao nhất? Tôi cảm thấy câu trả lời này tốt hơn Xian.

— Red Floyd

0

Phương sai tiệm cận của MLE là UMVUE, tức là đạt được cramer rao có giới hạn thấp hơn nhưng phương sai hữu hạn có thể không phải là UMVUE để đảm bảo rằng công cụ ước tính là UMVUE, nó phải là số liệu thống kê đầy đủ và đầy đủ hoặc bất kỳ chức năng nào của số liệu thống kê đó.

— simsek
nguồn

0

Nói tóm lại, một công cụ ước tính là UMVUE, nếu nó không thiên vị và chức năng của một thống kê đầy đủ và đầy đủ. (Xem Rao-Blackwell và Scheffe)

— creutzml
nguồn

Điều đó có nghĩa là điều này bị hạn chế cho các gia đình theo cấp số nhân.

— Tây An