Có thể có một công cụ ước tính không thiên vị và giới hạn?

Tôi có một tham số nằm giữa . Hãy để chúng tôi nói rằng tôi có thể chạy thử nghiệm và nhận được , trong đó là một Gaussian tiêu chuẩn. Những gì tôi cần là một ước tính của là 1) không thiên vị 2) gần như chắc chắn bị ràng buộc. Yêu cầu (2) là rất quan trọng đối với tôi. $\theta$ $[0,1]$ $\hat{\theta} = \theta + w$ $w$ $\theta$

Suy nghĩ tự nhiên cần làm là xây dựng cài đặt công cụ ước tính mới $\hat{\theta}$ thành $1$ nếu nó ở trên $1$ và đến $0$ nếu dưới $0$ . Nhưng sau đó, công cụ ước tính sẽ không thiên vị. Vậy tôi phải làm sao?

Chính thức, câu hỏi là liệu có tồn tại một hàm $f: \mathbb{R} \rightarrow \mathbb{R}$ sao cho $f(\hat \theta)$ thỏa mãn (1) và (2) ở trên. Hơn nữa, liệu tình hình có khác không nếu tôi vẽ nhiều hơn một mẫu?

— yves
nguồn

Bạn có thể nói thêm về tình hình của bạn? Tôi không phải là một nhà thống kê toán học, nhưng điều này có vẻ rất trừu tượng với tôi. Nó làm tôi nhớ đến hồi quy logistic, trong đó tham số

π

$\pi$ phải nằm trong

(0, 1)

$(0,1)$ và

E [\hat{π}] = π

$E[\hat\pi]=\pi$ , nhưng phân phối lấy mẫu của

\hat{π}

$\hat\pi$ không phải là Gaussian. (Tất nhiên,

logit (\hat{π})

$\text{logit}(\hat\pi)$ là, nhưng sau đó không bị giới hạn bởi

(0, 1)

$(0,1)$ .) Có bất kỳ điều nào liên quan đến tình huống của bạn không? FWIW, tôi nghi ngờ bạn sẽ không thể tìm thấy một chức năng như bạn muốn (nghĩa là bị ràng buộc), b / c

R

$\mathbb R$ không bị ràng buộc. (Xin lỗi, tôi có thể xóa nhận xét này nếu cần.)

— gung - Tái lập Monica

Tôi đồng ý rằng rất có thể không có chức năng như vậy tồn tại, ngay cả khi chúng tôi mở rộng điều kiện để thu thập nhiều mẫu. Tuy nhiên, nếu đó là trường hợp, tôi vẫn muốn thấy một bằng chứng cho thấy không có chức năng nào như vậy tồn tại.

f

$f$

— Yves

Biểu thức là biểu thức lý thuyết mà người ta thường đến trong khi cố gắng xác định các thuộc tính của công cụ ước tính, không thiên vị trong trường hợp này. Nhưng đây không phải là dạng chức năng thực tế của công cụ ước tính, vì nó chứa tham số chưa biết . Để khám phá câu hỏi của bạn một cách có ý nghĩa, chúng tôi cần biểu thức của như một chức năng của dữ liệu. Điều này không thể được trả lời nói chung.

\hat{θ} = θ + w

$\hat{\theta} = \theta + w$

θ

$\theta$

\hat{θ}

$\hat \theta$

— Alecos Papadopoulos

Tôi có cùng một câu hỏi! Chính xác hơn, câu hỏi là liệu có tồn tại và một hàm đo lường được sao choTôi tin rằng câu trả lời là không, nhưng tôi đang tìm một bằng chứng rằng không có như vậy tồn tại.

- \infty < a < b < \infty

$-\infty< a < b < \infty$

f : R \to [a, b]

$f : \mathbb{R} \to [a,b]$

\forall μ \in [0, 1] \underset{X \leftarrow N (μ, 1)}{E} [f (X)] = μ .

$\forall \mu \in [0,1] ~~~~~ \underset{X \leftarrow \mathcal{N}(\mu,1)}{\mathbb{E}}[ f(X) ] = \mu.$

f

$f$

— Thomas

Tôi sẽ trình bày các điều kiện theo đó một công cụ ước tính không thiên vị vẫn không thiên vị, ngay cả sau khi nó bị ràng buộc. Nhưng tôi không chắc chắn rằng họ lên tới một cái gì đó thú vị hoặc hữu ích.

Đặt một công cụ ước tính của tham số chưa biết của phân phối liên tục và . $\hat \theta$ $\theta$ $E(\hat \theta) =\theta$

Giả sử rằng vì một số lý do, trong quá trình lấy mẫu lặp đi lặp lại, chúng tôi muốn công cụ ước tính tạo ra các ước tính trong phạm vi . Chúng tôi giả sử rằng và vì vậy chúng tôi có thể viết khi thuận tiện khoảng thời gian là với số dương nhưng tất nhiên không xác định. $[\delta_l,\delta_u]$ $\theta \in [\delta_l,\delta_u]$ $[\theta-a,\theta+b]$ $\{a,b\}$

Sau đó, công cụ ước tính bị ràng buộc là

{\hat{θ}}_{c} = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$\hat \theta_c = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

và giá trị dự kiến của nó là

\begin{aligned} E ({\hat{θ}}_{c}) & = δ_{l} \cdot P [\hat{θ} \leq δ_{l}] \\ + E (\hat{θ} ∣ δ_{l} \leq \hat{θ} \leq δ_{u}) \cdot P [δ_{l} \leq \hat{θ} \leq δ_{u}] \\ + δ_{u} \cdot P [\hat{θ} > δ_{u}] \end{aligned}

$\begin{align} E(\hat \theta_c) &= \delta_l\cdot P[\hat \theta \leq \delta_l] \\&+ E(\hat \theta \mid \delta_l \leq\hat \theta \leq\delta_u )\cdot P[\delta_l \leq\hat \theta \leq \delta_u] \\ &+\delta_u\cdot P[\hat \theta > \delta_u]\end{align}$

Xác định ngay các chức năng chỉ báo

I_{l} = I (\hat{θ} \leq δ_{l}), I_{m} = I (δ_{l} \leq \hat{θ} \leq δ_{l}), I_{u} = I (\hat{θ} > δ_{u})

$I_l = I(\hat \theta \leq \delta_l),\;\; I_m = I(\delta_l\leq \hat \theta \leq \delta_l),\;\; I_u = I(\hat \theta > \delta_u)$

và lưu ý rằng

\begin{matrix} (1) & I_{l} + I_{u} = 1 - I_{m} \end{matrix}

$I_l + I_u = 1- I_m \tag{1}$

sử dụng các hàm chỉ báo và tích phân này, chúng ta có thể viết giá trị mong đợi của công cụ ước tính bị ràng buộc vì ( là hàm mật độ của ), $f(\hat \theta)$ $\hat \theta$

E ({\hat{θ}}_{c}) = \int_{- \infty}^{\infty} δ_{l} f (\hat{θ}) I_{l} d \hat{θ} + \int_{- \infty}^{\infty} \hat{θ} f (\hat{θ}) I_{m} d \hat{θ} + \int_{- \infty}^{\infty} δ_{u} f (\hat{θ}) I_{u} d \hat{θ}

$E(\hat \theta_c) = \int_{-\infty}^{\infty}\delta_lf(\hat \theta)I_ld\hat \theta + \int_{-\infty}^{\infty}\hat \theta f(\hat \theta)I_md\hat \theta + \int_{-\infty}^{\infty} \delta_uf(\hat \theta)I_ud\hat \theta$

= \int_{- \infty}^{\infty} f (\hat{θ}) [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] d \hat{θ}

$=\int_{-\infty}^{\infty}f(\hat \theta)\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big]d\hat \theta$

\begin{matrix} (2) & = E [δ_{l} I_{l} + \hat{θ} I_{m} + δ_{u} I_{u}] \end{matrix}

$=E\Big[\delta_lI_l + \hat \theta I_m + \delta_uI_u\Big] \tag{2}$

Phân tách giới hạn trên và dưới, chúng ta có

E ({\hat{θ}}_{c}) = E [(θ - a) I_{l} + \hat{θ} I_{m} + (θ + b) I_{u}]

$E(\hat \theta_c) = E\Big[(\theta-a)I_l + \hat \theta I_m + (\theta+b)I_u\Big]$

= E [θ \cdot (I_{l} + I_{u}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$=E\Big[\theta\cdot(I_l+I_u) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

và sử dụng , $(1)$

= E [θ \cdot (1 - I_{m}) + \hat{θ} I_{m}] - a E (I_{l}) + b E (I_{u})

$= E\Big[\theta\cdot(1-I_m) + \hat \theta I_m\Big] -aE(I_l)+bE(I_u)$

\begin{matrix} (3) & \Rightarrow E ({\hat{θ}}_{c}) = θ + E [(\hat{θ} - θ) I_{m}] - a E (I_{l}) + b E (I_{u}) \end{matrix}

$\Rightarrow E(\hat \theta_c) = \theta +E\big[(\hat \theta -\theta)I_m\big]-aE(I_l)+bE(I_u) \tag {3}$

Bây giờ, vì chúng ta có $E(\hat \theta) = \theta$

E [(\hat{θ} - θ) I_{m}] = E (\hat{θ} I_{m}) - E (\hat{θ}) E (I_{m})

$E\big[(\hat \theta -\theta)I_m\big] = E\big(\hat \theta I_m\big) - E(\hat \theta)E(I_m)$

Nhưng

E (\hat{θ} I_{m}) = E (\hat{θ} I_{m} ∣ I_{m} = 1) E (I_{m}) = E (\hat{θ}) E (I_{m})

$E\big(\hat \theta I_m\big) = E\big(\hat \theta I_m\mid I_m=1\big)E(I_m) = E\big(\hat \theta \big)E(I_m)$

Do đó, và cứ thế $E\big[(\hat \theta -\theta)I_m\big] =0$

\begin{matrix} (4) & \begin{aligned} E ({\hat{θ}}_{c}) & = θ - a E (I_{l}) + b E (I_{u}) \\ = θ - a P (\hat{θ} \leq δ_{l}) + b P (\hat{θ} > δ_{u}) \end{aligned} \end{matrix}

$\begin{align} E(\hat \theta_c) &= \theta -aE(I_l)+bE(I_u) \\ &= \theta -aP(\hat \theta \leq \delta_l)+bP(\hat \theta > \delta_u)\end{align}\tag {4}$

Hay cách khác

\begin{matrix} (4a) & E ({\hat{θ}}_{c}) = θ - (θ - δ_{l}) P (\hat{θ} \leq δ_{l}) + (δ_{u} - θ) P (\hat{θ} > δ_{u}) \end{matrix}

$E(\hat \theta_c) = \theta -(\theta-\delta_l)P(\hat \theta \leq \delta_l)+(\delta_u-\theta)P(\hat \theta > \delta_u)\tag {4a}$

Do đó, từ , chúng ta thấy rằng đối với công cụ ước tính bị ràng buộc cũng không thiên vị, chúng ta phải có $(4)$

\begin{matrix} (5) & a P (\hat{θ} \leq δ_{l}) = b P (\hat{θ} > δ_{u}) \end{matrix}

$aP(\hat \theta \leq \delta_l) = bP(\hat \theta > \delta_u) \tag {5}$

Vấn đề với điều kiện gì? Nó liên quan đến các số chưa biết , vì vậy trong thực tế, chúng ta sẽ không thể xác định được một khoảng để ràng buộc công cụ ước tính và giữ cho nó không thiên vị. $(5)$ $\{a,b\}$

Nhưng hãy nói rằng đây là một số thử nghiệm mô phỏng có kiểm soát, nơi chúng tôi muốn điều tra các thuộc tính khác của công cụ ước tính, không thiên vị. Sau đó, chúng ta có thể "vô hiệu hóa" và bằng cách đặt , về cơ bản tạo ra một khoảng đối xứng xung quanh giá trị của ... Trong trường hợp này, để đạt được tính không thiên vị, chúng ta phải có nhiều hơn , tức là chúng ta phải có khối lượng xác suất của công cụ ước lượng không giới hạn bằng bên trái và bên phải của khoảng (đối xứng quanh khoảng ) ... $a$ $b$ $a=b$ $\theta$ $P(\hat \theta \leq \delta_l) = P(\hat \theta > \delta_u)$ $\theta$

... và vì vậy chúng ta học được rằng (với điều kiện đủ), nếu phân phối của công cụ ước lượng không bị ràng buộc đối xứng với giá trị thực, thì công cụ ước tính bị ràng buộc trong một khoảng đối xứng xung quanh giá trị thực cũng sẽ không thiên vị ... nhưng đây là gần như hiển nhiên hoặc trực quan, phải không?

Nó trở nên thú vị hơn một chút, nếu chúng ta nhận ra rằng điều kiện cần và đủ (được đưa ra một khoảng đối xứng) a) không yêu cầu phân phối đối xứng , chỉ có khối lượng xác suất bằng nhau "ở đuôi" (và điều này không có nghĩa là phân bố khối lượng ở mỗi đuôi phải giống hệt nhau) và b) cho phép bên trong khoảng, mật độ của công cụ ước tính có thể có bất kỳ hình dạng không đối xứng nào phù hợp với việc duy trì tính không thiên vị - nó vẫn sẽ làm cho công cụ ước lượng bị ràng buộc không thiên vị.

ỨNG DỤNG: Trường hợp của OP Công
cụ ước tính của chúng tôi là và vì vậy . Sau đó, sử dụng trong khi viết theo , chúng tôi có, cho khoảng giới hạn , $\hat \theta = \theta + w,\;\; w \sim N(0,1)$ $\hat \theta \sim N(\theta,1)$ $(4)$ $a,b$ $\theta, \delta$ $[0,1]$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} \leq 0) + (1 - θ) P (\hat{θ} > 1)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta \leq 0) +(1-\theta)P(\hat \theta > 1)$

Phân phối đối xứng quanh . Biến đổi ( là CDF bình thường tiêu chuẩn) $\theta$ $\Phi()$

E [{\hat{θ}}_{c}] = θ - θ P (\hat{θ} - θ \leq - θ) + (1 - θ) P (\hat{θ} - θ > 1 - θ)

$E[\hat \theta_c] = \theta -\theta P(\hat \theta-\theta \leq -\theta) +(1-\theta)P(\hat \theta -\theta > 1-\theta)$

= θ - θ Φ (- θ) + (1 - θ) [1 - Φ (1 - θ)]

$=\theta -\theta \Phi(-\theta) +(1-\theta)[1-\Phi(1-\theta)]$

Người ta có thể xác minh rằng các điều khoản bổ sung chỉ hủy nếu , cụ thể là, chỉ khi khoảng giới hạn cũng đối xứng quanh . $\theta =1/2$ $\theta$

— Alecos Papadopoulos
nguồn

Tôi không nghĩ rằng điều này trả lời câu hỏi. Bạn đang phân tích cắt ngắn. Câu hỏi không phải là "Liệu cắt ngắn có hoạt động không?", Mà là "Có cách nào khác để cắt ngắn không hoạt động không?". OP dường như nhận thức được rằng cắt ngắn không hoạt động.

— Thomas

@Thomas OP hỏi (câu cuối của bài viết của OP) liệu chúng ta có thể có một công cụ ước tính giới hạn rằng nó cũng không thiên vị không. Trước tiên tôi trình bày một cách xử lý chung về vấn đề này và sau đó là một ứng dụng trực tiếp trên cơ sở của OP. Tôi không hiểu tại sao điều này "không trả lời câu hỏi".

— Alecos Papadopoulos

Bạn đang giả sử một dạng chức năng cụ thể cho công cụ ước tính, cụ thể là đối với một số . Giải thích của tôi là câu hỏi hỏi về bất kỳ công cụ ước tính ràng buộc , không chỉ các công cụ ước tính với hình thức chức năng này. Ví dụ: sẽ là một công cụ ước tính giới hạn (mặc dù không phải là một công cụ hữu ích).

f (\hat{θ}) = {\begin{matrix} δ_{l} & \hat{θ} < δ_{l} \\ \hat{θ} & δ_{l} \leq \hat{θ} \leq δ_{u} \\ δ_{u} & δ_{u} < \hat{θ} \end{matrix}}

$f(\hat \theta) = \left\{\begin{matrix} \delta_l & \hat \theta <\delta_l\\\hat \theta &\delta_l \leq \hat \theta \leq \delta_u \\\delta_u & \delta_u < \hat \theta \end{matrix} \right\}$

δ_{l}, δ_{u} \in R

$\delta_l,\delta_u \in \mathbb{R}$

f

$f$

f (\hat{θ}) = \sin (\hat{θ})

$f(\hat \theta) = \sin(\hat \theta)$

— Thomas

(Tôi đang bình luận về câu hỏi lâu năm này bởi vì tôi có cùng một câu hỏi. Đặc biệt, câu hỏi tôi quan tâm là dành cho những người ước tính bị ràng buộc tùy ý.)

— Thomas

@Thomas Đúng là những khám phá của tôi không đối xử với sự ràng buộc trong tính tổng quát nhất của nó. Cũng đúng là một khi bạn soạn công cụ ước tính với hàm phi tuyến tính, nói chung, nó phải tự thiên vị, như một điều kiện cần thiết để biến đổi không thiên vị.

— Alecos Papadopoulos