Lỗi xấp xỉ của khoảng tin cậy cho giá trị trung bình khi

Đặt $\{X_i\}_{i=1}^n$ là một họ các biến ngẫu nhiên iid lấy các giá trị trong $[0,1]$ , có giá trị trung bình $\mu$ và phương sai $\sigma^2$ . Một khoảng tin cậy đơn giản cho giá trị trung bình, sử dụng $\sigma$ bất cứ khi nào nó được biết đến, được cho bởi

$$P( | \bar X - \mu| > \varepsilon) \le \frac{\sigma^2}{n\varepsilon^2} \le\frac{1}{n \varepsilon^2} \qquad (1).$$

Ngoài ra, vì $\frac{\bar X- \mu}{\sigma/\sqrt{n}}$ được phân phối không có triệu chứng như một biến ngẫu nhiên tiêu chuẩn thông thường, phân phối chuẩn đôi khi được sử dụng để "xây dựng" một khoảng tin cậy gần đúng.

---

Trong các kỳ thi trắc nghiệm thống kê câu trả lời, tôi đã sử dụng xấp xỉ này thay vì $(1)$ bất cứ khi nào $n \geq 30$ . Tôi luôn cảm thấy rất khó chịu với điều này (nhiều hơn bạn có thể tưởng tượng), vì lỗi gần đúng không được định lượng.

---

• Tại sao sử dụng xấp xỉ bình thường chứ không phải $(1)$ ?

• Tôi không muốn, một lần nữa, áp dụng một cách mù quáng quy tắc $n \geq 30$ . Có tài liệu tham khảo tốt nào có thể hỗ trợ tôi từ chối làm như vậy và cung cấp giải pháp thay thế phù hợp không? ( $(1)$ là một ví dụ về những gì tôi cho là một sự thay thế phù hợp.)

Ở đây, trong khi $\sigma$ và $E[ |X|^3]$ không rõ, chúng dễ dàng bị ràng buộc.

Xin lưu ý rằng câu hỏi của tôi là một yêu cầu tham khảo đặc biệt về khoảng tin cậy và do đó khác với các câu hỏi được đề xuất là trùng lặp một phần ở đây và đây . Nó không được trả lời ở đó.

Tại sao sử dụng xấp xỉ bình thường?

Thật đơn giản khi nói rằng luôn luôn tốt hơn để sử dụng nhiều thông tin hơn là ít hơn. Phương trình (1) sử dụng định lý Ch Quashev . Lưu ý, cách nó không sử dụng bất kỳ thông tin nào về hình dạng phân phối của bạn, tức là nó hoạt động cho bất kỳ phân phối nào có phương sai nhất định. Do đó, nếu bạn sử dụng một số thông tin về hình dạng phân phối của mình, bạn phải có được xấp xỉ tốt hơn. Nếu bạn biết rằng phân phối của bạn là Gaussian, thì bằng cách sử dụng kiến ​​thức này, bạn sẽ có được ước tính tốt hơn.

Vì, bạn đã áp dụng định lý giới hạn trung tâm, tại sao không sử dụng xấp xỉ Gaussian của giới hạn? Thực tế, chúng sẽ tốt hơn, chặt chẽ hơn (hoặc sắc nét hơn) bởi vì những ước tính này dựa trên kiến ​​thức về hình dạng là một phần thông tin bổ sung.

Quy tắc của ngón tay cái 30 là một huyền thoại, được hưởng lợi từ xu hướng xác nhận . Nó chỉ tiếp tục được sao chép từ cuốn sách này sang cuốn sách khác. Khi tôi tìm thấy một tài liệu tham khảo gợi ý quy tắc này trong một bài báo vào những năm 1950. Đó không phải là bằng chứng vững chắc, như tôi nhớ. Đó là một số loại nghiên cứu thực nghiệm. Về cơ bản, lý do duy nhất nó được sử dụng là vì nó là loại công việc. Bạn không thấy nó bị vi phạm thường xuyên.

CẬP NHẬT Tra cứu bài báo của Zachary R. Smith và Craig S. Wells " Định lý giới hạn trung tâm và cỡ mẫu ". Họ trình bày một nghiên cứu thực nghiệm về sự hội tụ đến CLT cho các loại phân phối khác nhau. Dĩ nhiên, ma thuật số 30 không hoạt động trong nhiều trường hợp.

Vấn đề với việc sử dụng bất đẳng thức Ch Quashev để có được một khoảng cho giá trị thực, là nó chỉ cung cấp cho bạn một giới hạn thấp hơn cho xác suất, hơn nữa đôi khi là tầm thường, hoặc, để không tầm thường, nó có thể cho một khoảng rất rộng khoảng tin cậy. Chúng ta có

$$P( | \bar X - \mu| > \varepsilon) = 1 - P(\bar X-\varepsilon \leq \mu \leq \bar X+\varepsilon)$$

$$\implies P(\bar X-\varepsilon \leq \mu \leq \bar X+\varepsilon) \geq 1- \frac{1}{n \varepsilon^2}$$

Chúng ta thấy rằng, cũng tùy thuộc vào kích thước mẫu, nếu chúng ta giảm "quá nhiều" chúng ta sẽ nhận được câu trả lời tầm thường "xác suất là lớn hơn không".$\varepsilon$

Bên cạnh đó, những gì chúng ta nhận được từ phương pháp này là một kết luận có dạng "" xác suất rơi vào [ ˉ X ± ε $\mu$$[\bar X \pm \varepsilon]$ là bằng hoặc lớn hơn ..."

Nhưng chúng ta hãy giả định rằng chúng tôi tốt với điều này, và biểu thị xác suất tối thiểu mà chúng tôi cảm thấy thoải mái. Vì vậy, chúng tôi muốn$p_{min}$

$$1- \frac{1}{n \varepsilon^2} = p_{min} \implies \varepsilon = \sqrt {\frac {1}{(1-p_{min})n}}$$

Với kích thước mẫu nhỏ và xác suất tối thiểu mong muốn cao, điều này có thể mang lại khoảng tin cậy rộng không thỏa đáng. Ví dụ: với và n = 100, chúng ta sẽ nhận được ε ≈ .316 , ví dụ, đối với biến được xử lý bởi OP được giới hạn trong [ 0 , 1 $p_{min} =0.9$$n=100$$\varepsilon \approx .316$$[0,1]$ dường như quá lớn sẽ không hữu ích.

Nhưng cách tiếp cận là hợp lệ và không phân phối, và do đó, có thể có những trường hợp có thể hữu ích.

Người ta cũng có thể muốn kiểm tra sự bất bình đẳng của VysochanskijTHER Petunin được đề cập trong một câu trả lời khác, trong đó có các phân phối không chính thống liên tục và tinh chỉnh sự bất bình đẳng của Ch Quashev .

Câu trả lời ngắn gọn là nó có thể đi khá tệ, nhưng chỉ khi một hoặc cả hai đuôi của phân phối lấy mẫu thực sự béo .

Mã R này tạo ra một triệu bộ gồm 30 biến phân phối gamma và lấy giá trị trung bình của chúng; nó có thể được sử dụng để hiểu được sự phân bố lấy mẫu của giá trị trung bình trông như thế nào. Nếu xấp xỉ bình thường hoạt động như dự định, kết quả sẽ xấp xỉ bình thường với trung bình 1 và phương sai 1/(30 * shape).

f = function(shape){replicate(1E6, mean(rgamma(30, shape, shape)))}

Khi shapelà 1.0, phân phối gamma trở thành phân phối theo cấp số nhân , điều này không bình thường. Tuy nhiên, các phần không phải là Gaussian hầu hết đều ở mức trung bình và do đó, xấp xỉ Gaussian không quá tệ:

Rõ ràng có một số sai lệch, và sẽ tốt hơn nếu tránh điều đó khi có thể. Nhưng thành thật mà nói, mức độ thiên vị đó có lẽ sẽ không phải là vấn đề lớn nhất đối với một nghiên cứu điển hình.

Điều đó nói rằng, mọi thứ có thể trở nên tồi tệ hơn nhiều. Với f(0.01), biểu đồ trông như thế này:

Chuyển đổi log 30 điểm dữ liệu được lấy mẫu trước khi lấy trung bình sẽ giúp ích rất nhiều:

Nói chung, các bản phân phối có đuôi dài (ở một hoặc cả hai mặt của bản phân phối) sẽ yêu cầu hầu hết các mẫu trước khi phép gần đúng Gaussian bắt đầu trở nên đáng tin cậy. Thậm chí có những trường hợp bệnh lý trong đó theo nghĩa đen sẽ không bao giờ có đủ dữ liệu để xấp xỉ Gaussian hoạt động, nhưng có lẽ bạn sẽ gặp vấn đề nghiêm trọng hơn trong trường hợp đó (vì phân phối lấy mẫu không có nghĩa hoặc phương sai được xác định rõ để bắt đầu với).

Problem with the Chebyshev confidence interval

As mentioned by Carlo, we have $\sigma^2 \le \frac{1}{4}$. This follows from $\text{Var}(X) \le \mu(1-\mu)$. Therefore a confidence interval for $\mu$ is given by

$$P(|\bar{X}-\mu| \geq \varepsilon) \le \frac{1}{4n\varepsilon^2}.$$ The problem is that the inequality is, in a certain sense, quite loose when $n$ gets large. An improvement is given by Hoeffding's bound and shown below. However, we can also demonstrate how bad it can get using the Berry-Esseen theorem, pointed out by Yves. Let $X_i$ have a variance $\tfrac{1}{4}$, the worst possible case. The theorem implies that $P(|\bar X - \mu| \geq \tfrac{\varepsilon}{2\sqrt{n}}) \le 2\, \text{SF}(\varepsilon) + \tfrac{8}{\sqrt{n}},$ where $\text{SF}$ is the survival function of the standard normal distribution. In particular, with $\varepsilon = 16$, we get $\text{SF}(16) \approx e^{-58}$ (according to Scipy), so that essentially $$P(|\bar X - \mu| \geq \tfrac{8}{\sqrt{n}}) \le \tfrac{8}{\sqrt{n}} + 0, \qquad (*)$$ whereas the Chebyshev inequality implies $$P(|\bar X - \mu| \geq \tfrac{8}{\sqrt{n}}) \le \tfrac{1}{256}.$$ Note that I did not try to optimize the bound given in $(*)$, the result here is only of conceptual interest.

---

Comparing the lengths of the confidence intervals

Consider the $(1-\alpha)$-level confidence interval lengths $\ell_Z(\alpha, n)$ and $\ell_C(\alpha, n)$ obtained using the normal approximation ($\sigma = \tfrac{1}{2}$) and the Chebyshev inequality, repectively. It turns out that $\ell_C(\alpha, n)$ is a constant times bigger than $\ell_Z(\alpha, n)$, independently of $n$. Precisely, for all $n$,

$$\ell_C(\alpha, n) = \kappa(\alpha) \ell_Z(\alpha, n), \quad \kappa(\alpha) = \left(\text{ISF}\left(\tfrac{\alpha}{2}\right) \sqrt{\alpha}\right)^{-1},$$ where $\text{ISF}$ is the inverse survival function of the standard normal distribution. I plot below the multiplicative constant.

$\hskip 1in$

In particular, the $95\%$ level confidence interval obtained using the Chebyshev inequality is about $2.3$ times bigger than the same level confidence interval obtained using the normal approximation.

---

Using Hoeffding's bound

Hoeffding's bound gives

$$P(|\bar X - \mu| \geq \varepsilon) \leq 2e^{-2n \varepsilon^2}.$$ Thus an $(1-\alpha)$-level confidence interval for $\mu$ is $$(\bar X - \varepsilon, \bar X + \varepsilon), \quad \varepsilon = \sqrt{\frac{-\ln \tfrac{\alpha}{2}}{2n}},$$ of length $\ell_H (\alpha, n) = 2\varepsilon$. I plot below the lengths of the different confidence intervals (Chebyshev inequality: $\ell_C$; normal approximation ($\sigma = 1/2$): $\ell_Z$; Hoeffding's inequality: $\ell_H$) for $\alpha = 0.05$.

$\hskip 0.5in$

let's start with the number 30: it's, as anyone will say, a rule of thumb. but how can we find a number that fits better to our data? It's actually mostly a matter of skewness: even the strangest distribution will fast converge to normal if they are simmetric and continuous, skewed data will be much slower. I remember learning that a binomial distribution can be properly approximated to normal when its variance is greater than 9; for this example it's to be considered that discrete distribution also have the problem that they need great numbers to simulate continuity, but think to this: a simmetric binomial distribution will reach that variance with n = 36, if p = 0.1 instead, n must go up to 100 (variabile trasformation, however, would help a lot)!

If you only want to use variance instead, dropping gaussian approximation, consider Vysochanskij–Petunin inequality over Chebichev's, it needs the assumption of unimodal distribution of the mean, but this is a very safe one with any sample size, I'd say, greater than 2.