Độc lập của trung bình mẫu và phương sai mẫu trong phân phối nhị thức

Đặt . Chúng tôi biết rằng và . Thực hiện điều này ngụ ý rằng các mẫu bình và các mẫu sai là phụ thuộc lẫn nhau? Hay nó chỉ có nghĩa là phương sai dân số có thể được viết như là một chức năng của dân số có nghĩa là gì?E [ X ] = n p V a r [ X ] = n p ( 1 - p ) ˉ x s $X\sim\mathrm{Binomial}(n,p)$$\mathrm{E}[X]=np$$\mathrm{Var}[X]=np(1-p)$$\bar x$$s^2$

$\bar x$ và là các biến ngẫu nhiên. Chúng tôi có thể làm việc phân phối chung của họ. Chúng ta hãy thử trường hợp không cần thiết đơn giản nhất có thể, đó là mẫu có kích thước từ phân phối Binomial . Chỉ có bốn khả năng cho mẫu đó, theo đó được lập bảng cùng với xác suất của chúng (được tính từ tính độc lập của hai yếu tố mẫu): 2 ( 1 , p $s^2$$2$$(1,p)$

First value | Second value | Mean | Variance | Probability
          0 |            0 |    0 |        0 | (1-p)^2
          0 |            1 |  1/2 |      1/2 | (1-p)p
          1 |            0 |  1/2 |      1/2 | p(1-p)
          1 |            1 |    1 |        0 | p^2

Giá trị trung bình hoàn toàn dự đoán phương sai trong ví dụ này. Do đó, với điều kiện tất cả các xác suất là khác không (nghĩa là không phải là hay ), trung bình mẫu và phương sai mẫu không độc lập.0 $p$$0$$1$

Một câu hỏi thú vị là, nếu trong một họ phân phối, giá trị trung bình xác định phương sai, giá trị trung bình mẫu và phương sai mẫu có thể độc lập. Câu trả lời là có: lấy bất kỳ họ phân phối Bình thường nào trong đó phương sai phụ thuộc vào giá trị trung bình, chẳng hạn như tập hợp của tất cả các phân phối Bình thường . Bất kể phân phối nào chi phối mẫu, giá trị trung bình mẫu và phương sai mẫu sẽ độc lập, vì đó là trường hợp của bất kỳ phân phối Bình thường nào .$(\mu, \mu^2)$

Phân tích này cho thấy các câu hỏi về cấu trúc của một họ phân phối (liên quan đến , , , v.v.) không liên quan đến câu hỏi về tính độc lập của thống kê mẫu từ bất kỳ yếu tố nào của gia đình.p $n$$p$$\mu$

Thuộc tính, đối với một mẫu iid, giá trị trung bình của mẫu và phương sai mẫu là độc lập, là một đặc tính của phân phối bình thường: không có phân phối nào khác mà thuộc tính đó giữ.

Xem Patel, JK, & Đọc, CB (1982). Sổ tay phân phối bình thường , p. 81 trong phiên bản 1 năm 1982, trong chương "Đặc tính" (có thể đã thay đổi các trang trong phiên bản 2 năm 1996).

Vì vậy, đối với bất kỳ phân phối nào khác, giá trị trung bình mẫu và phương sai mẫu phụ thuộc vào thống kê.

Kết quả chung về giá trị trung bình mẫu và phương sai mẫu từ mẫu iid của bất kỳ phân phối nào có thời điểm lên tới 3d, là như sau (sử dụng công cụ ước lượng không thiên vị cho phương sai):

$$\operatorname{Cov} (\bar X, s^2) = E(\bar X s^2) - E(x)\operatorname{Var}(x) = \frac 1n E[X-E(x)]^3$$

Nói cách, hiệp phương sai giữa giá trị trung bình mẫu và phương sai mẫu bằng với thời điểm trung tâm thứ ba, chia cho . Kết quả: $n$

1) Khi kích thước mẫu tăng lên, hai xu hướng trở nên không tương quan.

2) Đối với bất kỳ phân phối nào có thời điểm trung tâm thứ ba bằng 0, chúng không tương quan (mặc dù chúng vẫn phụ thuộc, cho tất cả các phân phối ngoại trừ bình thường). Tất nhiên điều này bao gồm tất cả các phân phối đối xứng về giá trị trung bình của chúng, nhưng cũng có các phân phối khác không đối xứng về giá trị trung bình của chúng nhưng vẫn có thời điểm trung tâm thứ ba bằng 0 , xem chủ đề này .

Một trường hợp cực đoan làHãy xem xét một mẫu có kích thước (viết hoa) Do đó khi (chữ thường) là$\operatorname{Bernoulli}(p) = \operatorname{Binomial}(1,p).$$N:$ n1,¯x¯x(1-¯x)

$$\begin{align} Ns^2 = \sum_{k=1}^N (x_k - \overline x)^2 = {} & \left( \sum_k x_k^2 \right) - \left( 2\overline x \sum_i x_k \right) + \left( N\overline x^2 \right) \\[10pt] = {} & \left( \sum_k x_k \right) - 2\overline x \sum_k x_k + \left( n\overline x^2 \right) \\ & \text{since $x_k = 0$ or $1$, so $x_k^2=x_k$} \\[12pt] = {} & N\overline x - 2N\overline x^2 + N \overline x^2 \\[10pt] = {} & N \overline x(1-\overline x), \\[10pt] \text{so } s^2 = {} & \overline x(1-\overline x). \end{align}$$ $n$$1,$sau đó trung bình mẫu xác định phương sai mẫu, do đó chúng cách xa độc lập. Nhưng phương sai mẫu không hoàn toàn xác định trung bình mẫu, vì có hai giá trị mang lại cùng giá trị của$\overline x$$\overline x(1-\overline x).$

Khi cả và đều lớn, thì tôi hy vọng giá trị trung bình mẫu và phương sai mẫu sẽ gần như độc lập do phân phối gần như bình thường.n ( 1 - p $np$$n(1-p)$