Đối với phân phối nào có một công cụ ước tính không thiên vị dạng đóng cho độ lệch chuẩn?

Đối với phân phối chuẩn, có một ước lượng không thiên vị về độ lệch chuẩn được đưa ra bởi:

{\hat{σ}}_{không thiên vị} = = \frac{Γ (\frac{n - 1}{2})}{Γ (\frac{n}{2})} \sqrt{\frac{1}{2} Σ_{k = = 1}^{n} (x_{Tôi} - \bar{x})^{2}}

$\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2}$

Lý do kết quả này không được biết đến nhiều dường như là vì nó phần lớn là một lý lịch chứ không phải là một vấn đề nhập khẩu lớn . Bằng chứng được đề cập trên chủ đề này ; nó tận dụng một thuộc tính quan trọng của phân phối bình thường:

\frac{1}{σ^{2}} Σ_{k = = 1}^{n} (x_{Tôi} - \bar{x})^{2} ~ χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

Từ đó, với một chút công việc, có thể lấy kỳ vọng và bằng cách xác định câu trả lời này là bội số của , chúng ta có thể suy ra kết quả cho . $\mathbb{E}\left( \sqrt{\sum_{k=1}^n(x_i-\bar{x})^2} \right)$ $\sigma$ $\hat{\sigma}_\text{unbiased}$

Điều này khiến tôi tò mò những phân phối khác có công cụ ước lượng không thiên vị ở dạng đóng của độ lệch chuẩn. Không giống như công cụ ước lượng không thiên vị của phương sai, đây rõ ràng là phân phối cụ thể. Hơn nữa, sẽ không đơn giản để điều chỉnh bằng chứng để tìm các công cụ ước tính cho các bản phân phối khác.

Các phân phối xiên bình thường có một số thuộc tính phân phối đẹp cho các dạng bậc hai của chúng, mà thuộc tính phân phối bình thường mà chúng ta sử dụng thực sự là một trường hợp đặc biệt (vì bình thường là một loại xiên đặc biệt) nên có lẽ sẽ không quá khó để mở rộng phương pháp này cho họ. Nhưng đối với các phân biệt khác, nó sẽ xuất hiện một cách tiếp cận hoàn toàn khác.

Có bất kỳ phân phối nào khác mà các công cụ ước tính như vậy được biết đến không?

mathematical-statistics standard-deviation unbiased-estimator

— Cá bạc
nguồn

Nếu bạn bỏ qua các phiền nhiễu kỹ thuật, bản chất của câu trả lời sẽ trở nên rõ ràng hơn. Trong trường hợp Bình thường, rất ít những gì bạn viết có liên quan đến kết luận; tất cả vấn đề là số lượng sai lệch trong công cụ ước tính cụ thể này là một hàm của (và không phụ thuộc vào các tham số phân phối khác cần được ước tính từ dữ liệu).

n

$n$

— whuber

@whuber Tôi nghĩ rằng tôi có thể thấy ý tưởng chung mà bạn đang gợi ý và rõ ràng "chức năng của một mình" là cần thiết. Nhưng tôi không nghĩ nó sẽ đủ - nếu chúng tôi không có quyền truy cập vào một số kết quả phân phối tốt, thì tôi không thể thấy khía cạnh "dạng đóng" sẽ có thể điều chỉnh được như thế nào.

n

$n$

— Cá bạc

Nó phụ thuộc vào những gì bạn có nghĩa là "hình thức đóng." Ví dụ, đối với một người, chức năng theta có thể bị "đóng" nhưng đối với người khác, đó chỉ là một sản phẩm vô hạn, chuỗi lũy thừa hoặc tích phân phức tạp. Hãy nghĩ về nó, đó chính xác là chức năng Gamma là :-).

— whuber

@whuber Điểm tốt! Theo "số lượng sai lệch trong công cụ ước tính cụ thể này", tôi cho rằng bạn có nghĩa là độ lệch trong (chứ không phải là công cụ ước tính được liệt kê trong câu hỏi, có độ lệch bằng 0) là một hàm của (và cả trong , nhưng may mắn thay theo cách mà chúng ta có thể dễ dàng sắp xếp lại để tìm một công cụ ước tính không thiên vị)?

s

$s$

n

$n$

σ

$\sigma$

— Cá bạc

@whuber: Nên có một công thức tương tự cho bất kỳ gia đình nào ở quy mô địa điểm, với lời cảnh báo mà bạn đã chỉ ra rằng chức năng của có thể là một tích phân không thể tách rời.

n

$n$

— Tây An

Câu trả lời:

Mặc dù điều này không liên quan trực tiếp đến câu hỏi, nhưng có một bài báo năm 1968 của Peter Bickel và Erich Lehmann nói rằng, đối với một họ phân phối lồi , tồn tại một công cụ ước lượng không thiên vị của một hàm (cho một cỡ mẫu đủ lớn) khi và chỉ khi là một đa thức trong $F$ $q(F)$ $n$ $q(\alpha F+(1-\alpha)G)$ $0\le \alpha\le 1$ . Định lý này không áp dụng cho bài toán ở đây vì tập hợp các phân phối Gaussian không lồi (một hỗn hợp Gaussian không phải là Gaussian).

Một phần mở rộng của kết quả trong câu hỏi là bất kỳ công suất của độ lệch chuẩn có thể được ước tính không thiên vị, miễn là có đủ các quan sát khi . Điều này sau kết quả $\sigma^\alpha$ $\alpha<0$ đólà tham số quy mô (và duy nhất) cho.

\frac{1}{σ^{2}} Σ_{k = = 1}^{n} (x_{Tôi} - \bar{x})^{2} ~ χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

σ

$\sigma$

\sum_{k = 1}^{n} (x_{i} - \bar{x})^{2}

$\sum_{k=1}^n(x_i-\bar{x})^2$

Thiết lập bình thường này sau đó có thể được mở rộng đến bất kỳ gia đình vị trí quy mô với một phương sai hữu hạn . Thật,

X_{1}, Giáo dục, X_{n} \overset{iid}{~} τ^{- 1} f (τ^{- 1} {x - μ})

$X_1,\ldots,X_n\stackrel{\text{iid}}{\sim} \tau^{-1}f(\tau^{-1}\{x-\mu\})$

σ^{2}

$\sigma^2$

phương sai chỉ là một chức năng của ; ${var}_{μ, τ} (X) = = E_{μ, τ} [(X - μ)^{2}] = = τ^{2} E_{0, 1} [X^{2}]$ $\text{var}_{\mu,\tau}(X)=\mathbb{E}_{\mu,\tau}[(X-\mu)^2]=\tau^2\mathbb{E}_{0,1}[X^2]$ $\tau$
tổng bình phương có một kỳ vọng của mẫu; $\begin{aligned} E_{μ, τ} [Σ_{k = = 1}^{n} (X_{Tôi} - \bar{X})^{2}] & = = τ^{2} E_{μ, τ} [Σ_{k = = 1}^{n} τ^{- 2} (X_{Tôi} - μ - \bar{X} + μ)^{2}] \\ = = τ^{2} E_{0, 1} [Σ_{k = = 1}^{n} (X_{Tôi} - \bar{X})^{2}] \end{aligned}$ $\begin{align*}\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]&=\tau^2\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n\tau^{-2}(X_i-\mu-\bar{X}+\mu)^2\right]\\ &=\tau^2\mathbb{E}_{0,1}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]\end{align*}$ $\tau^2\psi(n)$
và tương tự cho bất kỳ điện sao cho kỳ vọng là hữu hạn. $E_{μ, τ} [{Σ_{k = = 1}^{n} (X_{Tôi} - \bar{X})^{2}}^{α}] = = τ^{2 α} E_{0, 1} [{Σ_{k = = 1}^{n} (X_{Tôi} - \bar{X})^{2}}^{α}]$ $\mathbb{E}_{\mu,\tau}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]=\tau^{2\alpha}\mathbb{E}_{0,1}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]$

— Tây An
nguồn

$U(0,\theta)$ $X_{(n)}$

E (X_{(n)}) = = \frac{n}{n + 1} θ

$E(X_{(n)}) = \frac {n}{n+1}\theta$

Độ lệch chuẩn của phân phối là

σ = = \frac{θ}{2 \sqrt{3}}

$\sigma = \frac {\theta}{2\sqrt 3}$

\hat{σ} = = \frac{1}{2 \sqrt{3}} \frac{n + 1}{n} X_{(n)}

$\hat \sigma = \frac 1{2\sqrt 3}\frac {n+1}{n}X_{(n)}$

$\sigma$

Điều này khái quát cho trường hợp giới hạn dưới của phân phối cũng không xác định, vì chúng ta có thể có một công cụ ước tính không thiên vị cho Phạm vi, và sau đó độ lệch chuẩn lại là một hàm tuyến tính của Phạm vi (về cơ bản cũng ở trên).

$n$

— Alecos Papadopoulos
nguồn

Bây giờ phần khó: khi nào trên thế giới chúng ta quan tâm đến độ lệch chuẩn của phân phối đồng đều? (+1)

— Shadowtalker

@ssdecontrol Đó là một câu hỏi xuất sắc! -Xin vui lòng chuyển sang phần tiếp theo ...

— Alecos Papadopoulos

\hat{θ}

$\hat{\theta}$

@Silverfish Nghèo theo cách nào? Một số mô phỏng nhanh cho thấy điều này có MSE thấp hơn độ lệch chuẩn thông thường (điều làm tôi ngạc nhiên).

— Dave

@ Thú vị! Tôi đã đi đến kết luận rằng nó sẽ rất kém vì nó chỉ nhìn vào thống kê đơn hàng tối đa, nhưng tôi quá ngạc nhiên! Cho thấy giá trị của việc thực hiện một số mô phỏng ...

— Silverfish