Một vấn đề ước tính không thể?

Câu hỏi

Phương sai của phân phối nhị thức âm (NB) luôn lớn hơn giá trị trung bình của nó. Khi giá trị trung bình của mẫu lớn hơn phương sai của nó, cố gắng khớp các tham số của NB với khả năng tối đa hoặc với ước lượng thời điểm sẽ không thành công (không có giải pháp nào có tham số hữu hạn).

Tuy nhiên, có thể một mẫu được lấy từ phân phối NB có ý nghĩa lớn hơn phương sai. Dưới đây là một ví dụ tái tạo trong R.

set.seed(167)
x = rnbinom(100, size=3.2, prob=.8);
mean(x) # 0.82
var(x) # 0.8157576

Có một xác suất khác không rằng NB sẽ tạo ra một mẫu mà các tham số không thể ước tính được (theo khả năng tối đa và phương pháp thời điểm).

Ước tính phong nha có thể được đưa ra cho mẫu này?
Lý thuyết ước tính nói gì khi ước tính không được xác định cho tất cả các mẫu?

Về câu trả lời

Câu trả lời của @MarkRobinson và @Yves khiến tôi nhận ra rằng tham số là vấn đề chính. Mật độ xác suất của NB thường được viết là

P (X = = k) = = \frac{Γ (r + k)}{Γ (r) k!} (1 - p)^{r} p^{k}

$P(X = k) = \frac{\Gamma(r+k)}{\Gamma(r)k!}(1-p)^rp^k$ hoặc dưới dạng

P (X = = k) = = \frac{Γ (r + k)}{Γ (r) k!} {(\frac{r}{r + m})}^{r} {(\frac{m}{r + m})}^{k} .

$P(X = k) = \frac{\Gamma(r+k)}{\Gamma(r)k!} \left(\frac{r}{r+m}\right)^r \left(\frac{m}{r+m}\right)^k.$

Theo tham số đầu tiên, ước tính khả năng tối đa là bất cứ khi nào phương sai của mẫu nhỏ hơn giá trị trung bình, vì vậy không có gì có thể nói về . Theo cách thứ hai, đó là , vì vậy chúng tôi có thể đưa ra ước tính hợp lý của . Cuối cùng, @MarkRobinson cho thấy rằng chúng ta có thể giải quyết vấn đề về các giá trị vô hạn bằng cách sử dụng thay vì . $(\infty, 0)$ $p$ $(\infty, \bar{x})$ $m$ $\frac{r}{1+r}$ $r$

Tóm lại, không có gì sai về cơ bản với vấn đề ước tính này, ngoại trừ việc bạn không thể luôn đưa ra những diễn giải có ý nghĩa về và cho mỗi mẫu. Để công bằng, các ý tưởng có mặt trong cả hai câu trả lời. Tôi đã chọn @MarkRobinson là cái chính xác cho những bổ sung mà anh ấy đưa ra. $r$ $p$

estimation maximum-likelihood negative-binomial

— gui11aume
nguồn

Không đúng khi tuyên bố rằng khả năng tối đa thất bại trong trường hợp như vậy. Chỉ có phương pháp thời điểm có thể phải đối mặt với khó khăn.

— Tây An

@ Tây An Bạn có thể mở rộng? Khả năng của mẫu này không có tối đa trong miền (xem thêm này chẳng hạn). Tui bỏ lỡ điều gì vậy? Trong mọi trường hợp, nếu bạn có thể đưa ra ước tính ML của các tham số cho trường hợp này, tôi sẽ cập nhật câu hỏi.

(0, \infty) \times (0, 1)

$(0,\infty) \times (0,1)$

— gui11aume

Khả năng có thể có tối đa ở khoảng cách vô hạn cho và . Một vấn đề tương tự nhưng với chẩn đoán đơn giản hơn là phân phối Lomax : được biết rằng ước tính ML của hình dạng là vô hạn khi mẫu có hệ số biến đổi . Tuy nhiên, xác suất của sự kiện này là dương đối với bất kỳ kích thước mẫu nào và khá mạnh đối với giả sử và .

p \to 0

$p \to 0$

r \to \infty

$r \to \infty$

CV < 1

$\text{CV} < 1$

α = 20

$\alpha = 20$

n = 200

$n = 200$

— Yves

@Yves Cảm ơn ví dụ khác này (mà tôi không biết). Mọi người làm gì trong trường hợp này?

— gui11aume

Trong ví dụ Lomax, một số người sẽ chọn sử dụng phân phối mũ, đó là giới hạn cho

và

. Điều này có nghĩa là chấp nhận một ước tính ML vô hạn. Vì lợi ích của bất biến bằng cách tái tham số hóa, tôi tin rằng các tham số vô hạn có thể có ý nghĩa trong một số trường hợp. Ví dụ NB của bạn, tương tự xảy ra nếu chúng ta đã chọn để sử dụng phân phối Poisson do

α \to \infty

$\alpha \to \infty$

λ / α \to θ > 0

$\lambda / \alpha \to \theta >0$

r p / (1 - p) \to λ

$rp/(1-p) \to \lambda$

— Yves

Câu trả lời:

Về cơ bản, đối với mẫu của bạn, ước tính của tham số kích thước nằm trên ranh giới của không gian tham số. Người ta cũng có thể xem xét việc tái tham số hóa, chẳng hạn như d = size / (size + 1); khi kích thước = 0, d = 0, khi kích thước có xu hướng vô cùng, d tiến đến 1. Hóa ra, đối với các cài đặt tham số bạn đã đưa ra, ước tính kích thước của vô cực (d gần 1) xảy ra khoảng 13% thời gian Ước tính khả năng hồ sơ điều chỉnh (APL) của Cox-Reid, là một thay thế cho ước tính MLE cho NB (ví dụ được hiển thị ở đây) . Các ước tính của tham số trung bình (hoặc 'thăm dò') có vẻ ổn (xem hình, các đường màu xanh là giá trị thực, chấm đỏ là ước tính cho mẫu của bạn = 167 mẫu). Thông tin chi tiết về lý thuyết APL có ở đây .

Vì vậy, tôi sẽ nói với 1.: Ước tính tham số Decent có thể có .. size = infinite hoặc tán sắc = 0 là ước tính hợp lý cho mẫu. Xem xét một không gian tham số khác nhau và các ước tính sẽ là hữu hạn.

— Mark Robinson
nguồn

Cảm ơn bạn đã tham gia trang web để trả lời câu hỏi của tôi! Các chi tiết của khả năng hồ sơ điều chỉnh Cox-Reid trông rất hứa hẹn.

— gui11aume

$p \to 0$ $r \to \infty$ $\Theta := (0,\,1)\times(0,\,\infty)$ $\lambda >0$ $[p,\,r] \in \Theta$ $p \to 0$ $r \to \infty$ $rp/(1-p) \to \lambda$

$\text{CV} < 1$ $>0.3$ $\alpha = 20$ $n = 200$

Các thuộc tính ML dành cho cỡ mẫu lớn: trong các điều kiện đều đặn, ước tính ML được hiển thị là tồn tại, là duy nhất và có xu hướng tham số thực. Tuy nhiên, đối với một cỡ mẫu hữu hạn nhất định, ước tính ML có thể không tồn tại trong miền, ví dụ: vì mức tối đa đạt được trên ranh giới. Nó cũng có thể tồn tại trong một miền lớn hơn miền được sử dụng để tối đa hóa.

$\alpha \to \infty$ $\lambda / \alpha \to \theta >0$ $\text{GPD}(\sigma,\,\xi)$ $\xi >0$ $\widehat{\xi} < 0$ $\widehat{\xi} = 0$

Vì lợi ích của bất biến bằng cách tái tham số hóa, tôi tin rằng các tham số vô hạn có thể có ý nghĩa trong một số trường hợp.

— Yves
nguồn