Các công cụ ước tính hiệu quả không thiên vị có chiếm ưu thế ngẫu nhiên so với các công cụ ước tính không thiên vị (trung vị) khác không?

Mô tả chung

Công cụ ước tính hiệu quả (có phương sai mẫu bằng với giới hạn Cramérọt Rao) có tối đa hóa xác suất để gần với tham số thực không?$\theta$

Giả sử chúng tôi so sánh sự khác biệt hoặc khác biệt tuyệt đối giữa ước tính và tham số thực

$$\hat\Delta = \hat \theta - \theta$$

Việc phân phối cho công cụ ước tính hiệu quả có chiếm ưu thế một cách ngẫu nhiên so với phân phối cho bất kỳ công cụ ước tính không thiên vị nào khác không?$\hat\Delta$$\tilde\Delta$

---

Động lực

Tôi đang suy nghĩ về điều này bởi vì Công cụ ước tính câu hỏi là tối ưu trong tất cả các hàm mất mát (đánh giá) hợp lý trong đó chúng ta có thể nói rằng công cụ ước tính tốt nhất không thiên vị đối với một hàm mất lồi cũng không phải là ước lượng tốt nhất đối với hàm mất mát khác (Từ Iosif Pinelis, 2015, Một đặc tính của các công cụ ước tính không thiên vị tốt nhất. Bản in sẵn arXiv arXiv: 1508.07636 ). Sự thống trị ngẫu nhiên để gần với tham số thực sự có vẻ giống với tôi (đó là một điều kiện đủ và một tuyên bố mạnh mẽ hơn).

---

Biểu thức chính xác hơn

Các câu hỏi ở trên là rộng, ví dụ như loại không thiên vị nào được xem xét và chúng ta có cùng một thước đo khoảng cách cho sự khác biệt tiêu cực và tích cực không?

Hãy xem xét hai trường hợp sau để làm cho câu hỏi bớt rộng hơn:$^\dagger$

Phỏng đoán 1: Nếu là một công cụ ước lượng trung bình và không thiên vị hiệu quả. Sau đó, đối với bất kỳ công cụ ước tính trung bình và không thiên vị nào trong đó và$\hat \theta$$\tilde \theta$

$$\text{if $x>0$ then } P[\hat\Delta \leq x] \geq P[\tilde\Delta \leq x] \\ \text{if $x<0$ then } P[\hat\Delta \geq x] \geq P[\tilde\Delta \geq x]$$ Δ = θ - θ ~ Δ = ~ θ - θ$\hat \Delta = \hat \theta - \theta$$\tilde \Delta = \tilde \theta - \theta$

Phỏng đoán 2: Nếu là một công cụ ước tính trung bình không thiên vị hiệu quả. Sau đó, đối với mọi công cụ ước tính không thiên vị và$\hat \theta$$\tilde \theta$$x>0$

$$P[\vert \hat\Delta \vert \geq x] \leq P[\vert \tilde\Delta \vert \geq x]$$

• Những phỏng đoán trên có đúng không?
• Nếu các đề xuất quá mạnh, chúng ta có thể điều chỉnh chúng để làm cho nó hoạt động không?

^{$\dagger$ Thứ hai có liên quan đến cái thứ nhất nhưng bỏ đi sự hạn chế về tính không thiên vị (và sau đó chúng ta cần kết hợp cả hai mặt hoặc nếu không thì mệnh đề te sẽ là sai đối với bất kỳ công cụ ước tính nào có trung vị khác với công cụ ước lượng hiệu quả).}

---

Ví dụ, minh họa:

Hãy xem xét ước tính trung bình của phân bố dân số (được giả định là phân phối bình thường) theo (1) trung vị mẫu và (2) trung bình mẫu.$\mu$

Trong trường hợp mẫu có kích thước 5 và khi phân bố dân số thực sự là thì điều này trông giống như$N(0,1)$

Trong hình ảnh, chúng ta thấy rằng CDF gấp của giá trị trung bình mẫu (là công cụ ước tính hiệu quả cho ) nằm dưới CDF gấp của trung vị mẫu. Câu hỏi đặt ra là liệu CDF gấp của trung bình mẫu có nằm dưới CDF gấp của bất kỳ công cụ ước tính không thiên vị nào khác không.$\mu$

Ngoài ra, bằng cách sử dụng CDF thay vì CDF gấp, chúng ta có thể đặt câu hỏi liệu CDF của giá trị trung bình có tối đa hóa khoảng cách từ 0,5 tại mọi điểm không. Chúng tôi biết rằng

$$\forall \hat \theta : |F_{mean}(\hat \theta)-0.5| \geq |F_{median}(\hat \theta)-0.5|$$

chúng ta cũng có điều này khi chúng ta thay thế để phân phối bất kỳ công cụ ước tính trung bình và không thiên vị nào khác?$F_{median}(\hat \theta)$

$(X_1,\ldots,X_N)$$\mathcal{C}(\mu,1)$$\mu$

1. $\hat{\mu}_1= \text{median}(X_1,\ldots,X_N)=X_{(N/2)}$
2. $\hat{\mu}_2= \text{mean}(X_{(N/4)},\ldots,X_{(3N/4)})=\frac{2}{N}(X_{(N/4)}+\ldots+X_{(3N/4)})$
3. $\hat{\mu}_3=\mu^\text{MLE}$
4. $\hat{\mu}_4=\hat{\mu}_1+\frac{2}{N}\frac{\partial \ell}{\partial \mu}(\hat{\mu}_1)$

$\hat{\mu}_3$$\hat{\mu}_4$$\hat{\mu}_1$$\hat{\mu}_2$

Một đại diện cho sự khác biệt đối với cdf theo kinh nghiệm của MLE làm cho nó rõ ràng hơn:

Đây là mã R tương ứng:

T=1e4
N=11
mlechy=function(x){
  return(optimize(function(theta) -sum(dcauchy(x, 
    location=theta, log=TRUE)),  c(-100,100))$minimum)
}
est=matrix(0,T,4)
for (t in 1:T){
cauc=sort(rcauchy(N))
est[t,1]=median(cauc)
est[t,2]=mean(cauc[4:8])
est[t,3]=mlechy(cauc)
est[t,4]=est[t,1]+(4/N)*sum((cauc-est[t,1])/(1+(cauc-est[t,1])^2))
}

plot(ecdf(est[,1]),col="steelblue",cex=.4,xlim=c(-1,1),main="",ylab="F(x)")
plot(ecdf(est[,2]),add=TRUE,col="sienna",cex=.4)
plot(ecdf(est[,3]),add=TRUE,col="gold",cex=.4)
plot(ecdf(est[,4]),add=TRUE,col="tomato",cex=.4)