Ước tính xác suất trong quy trình Bernoulli bằng cách lấy mẫu cho đến khi 10 lần thất bại: nó có bị sai lệch không?

Giả sử chúng ta có một quá trình Bernoulli với xác suất thất bại $q$ (sẽ nhỏ, giả sử, $q \leq 0.01$ ) từ đó chúng ta lấy mẫu cho đến khi chúng ta gặp phải $10$ lần thất bại. Chúng tôi do đó ước tính xác suất thất bại như q : = 10 / N nơi N là số lượng mẫu.$\hat{q}:=10/N$$N$

Câu hỏi : Liệu q một ước tính thiên vị của q ? Và, nếu vậy, có cách nào để sửa nó không?$\hat{q}$$q$

Tôi lo ngại rằng việc khẳng định mẫu cuối cùng là sai lệch dự toán.

Đúng là q là một ước tính thiên vị của q theo nghĩa là E ( q ) ≠ q , nhưng bạn nên không nhất thiết phải để điều này ngăn cản bạn. Kịch bản chính xác này có thể được sử dụng như một lời chỉ trích chống lại ý tưởng rằng chúng ta nên luôn luôn sử dụng các công cụ ước tính không thiên vị, bởi vì ở đây sự thiên vị là một sự giả tạo của thí nghiệm cụ thể mà chúng ta đang thực hiện. Dữ liệu trông chính xác như chúng sẽ làm nếu chúng ta đã chọn số lượng mẫu trước, vậy tại sao suy luận của chúng ta phải thay đổi?$\hat{q}$$q$$\text{E}(\hat{q}) \neq q$

Thật thú vị, nếu bạn thu thập dữ liệu theo cách này và sau đó viết hàm khả năng theo cả hai mô hình nhị thức (cỡ mẫu cố định) và mô hình nhị thức âm, bạn sẽ thấy rằng hai tỷ lệ này với nhau. Điều này có nghĩa rằng q chỉ là bình thường ước tính tối đa khả năng theo mô hình nhị thức tiêu cực, trong đó tất nhiên là một ước tính hoàn toàn hợp lý.$\hat{q}$

Không khẳng định rằng mẫu cuối cùng là một thất bại làm sai lệch ước tính, nó đang lấy đối ứng của $N$

Vậy trong ví dụ của bạn nhưng E[$\mathbb{E}\left[\frac{N}{10}\right] =\frac{1}{q}$. Điều này gần với việc so sánh trung bình số học với trung bình hài$\mathbb{E}\left[\frac{10}{N}\right] \not = q$

Tin xấu là độ lệch có thể tăng khi nhỏ hơn, mặc dù không nhiều khi q đã nhỏ. Tin tốt là sự thiên vị giảm khi số lượng thất bại cần thiết tăng lên. Có vẻ như nếu bạn yêu cầu thất bại f , thì độ lệch được giới hạn ở trên bởi một hệ số nhân của $q$$q$$f$ choqnhỏ; bạn không muốn cách tiếp cận này khi bạn dừng lại sau thất bại đầu tiên $\frac{f}{f-1}$$q$

Dừng lại sau lần thất bại, với q = 0,01 bạn sẽ nhận được E [ $10$$q=0.01$nhưng E[$\mathbb{E}\left[\frac{N}{10}\right] = 100$, trong khi vớiq=0,001bạn sẽ nhận đượcE[$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.011097$$q=0.001$nhưng E[$\mathbb{E}\left[\frac{N}{10}\right] = 1000$. Độ lệch khoảng$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.001111$ nhân tử $\frac{10}{9}$

Là một bổ sung cho câu trả lời dsaxton của, đây là một số mô phỏng trong R cho thấy sự phân bố lấy mẫu của q khi k = 10 và q 0 = 0.02 :$\hat{q}$$k=10$$q_0 = 0.02$

n_replications <- 10000
k <- 10
failure_prob <- 0.02
n_trials <- k + rnbinom(n_replications, size=k, prob=failure_prob)
all(n_trials >= k)  # Sanity check, cannot have 10 failures in < 10 trials

estimated_failure_probability <- k / n_trials
histogram_breaks <- seq(0, max(estimated_failure_probability) + 0.001, 0.001)
## png("estimated_failure_probability.png")
hist(estimated_failure_probability, breaks=histogram_breaks)
abline(v=failure_prob, col="red", lty=2, lwd=2)  # True failure probability in red
## dev.off()

mean(estimated_failure_probability)  # Around 0.022
sd(estimated_failure_probability)
t.test(x=estimated_failure_probability, mu=failure_prob)  # Interval around [0.0220, 0.0223]

Dường như , mà là một xu hướng khá nhỏ so với sự thay đổi trong q .$\mathbb{E}\left[ \hat{q}\right] \approx 0.022$$\hat{q}$