Ví dụ cho điều kiện đủ cần thiết cho tính nhất quán

Chúng ta biết rằng nếu một công cụ ước tính là một công cụ ước tính không thiên vị của theta và nếu phương sai của nó có xu hướng 0 vì n có xu hướng vô cùng thì đó là một công cụ ước tính nhất quán cho theta. Nhưng đây là một điều kiện đủ và không cần thiết. Tôi đang tìm kiếm một ví dụ về một công cụ ước tính phù hợp nhưng phương sai của nó không có xu hướng về 0 vì n có xu hướng vô cùng. Bất kỳ đề xuất?

— người dùng22546
nguồn

Xem, ví dụ, bình luận này và các cuộc thảo luận liên quan.

— Đức hồng y

Vui mừng khi thấy rằng câu trả lời (không chính xác) của tôi đã tạo thêm hai câu hỏi nữa và biến một câu hỏi chết thành một câu hỏi và trả lời sinh động. Vì vậy, đã đến lúc thử cung cấp một cái gì đó đáng giá, tôi đoán vậy) .

Hãy xem xét một quá trình ngẫu nhiên, hiệp phương sai-tĩnh tương quan , với nghĩa là và chế độ tự động . Giả sử rằng (điều này giới hạn "sức mạnh" của tự tương quan khi hai hiện thực của quá trình ngày càng xa dần theo thời gian). Sau đó, chúng tôi có $\{y_t\},\;\; t=1,...,n$ $\mu$ $\{\gamma_j\},\;\; \gamma_j\equiv \operatorname{Cov}(y_t,y_{t-j})$ $\lim_{j\rightarrow \infty}\gamma_j= 0$

{\bar{y}}_{n} = \frac{1}{n} \sum_{t = 1}^{n} y_{t} \to_{m . s} μ, as n \to \infty

$\bar y_n = \frac 1n\sum_{t=1}^ny_t\rightarrow_{m.s} \mu,\;\; \text{as}\; n\rightarrow \infty$

tức là trung bình mẫu hội tụ theo bình phương trung bình với giá trị trung bình thực của quá trình và do đó, nó cũng hội tụ theo xác suất: vì vậy nó là một công cụ ước lượng nhất quán của . $\mu$

Phương sai của có thể được tìm thấy là $\bar y_n$

Var ({\bar{y}}_{n}) = \frac{1}{n} γ_{0} + \frac{2}{n} \sum_{j = 1}^{n - 1} (1 - \frac{j}{n}) γ_{j}

$\operatorname{Var}(\bar y_n) = \frac 1n \gamma_0+\frac 2n \sum_{j=1}^{n-1}\left(1-\frac {j}{n}\right)\gamma_j$

mà dễ dàng được hiển thị để về không khi đi đến vô cùng. $n$

Bây giờ, sử dụng nhận xét của Cardinal, hãy chọn ngẫu nhiên thêm công cụ ước tính của chúng tôi về giá trị trung bình, bằng cách xem xét công cụ ước tính

{\tilde{μ}}_{n} = {\bar{y}}_{n} + z_{n}

$\tilde \mu_n = \bar y_n + z_n$

trong đó là một quá trình ngẫu nhiên gồm các biến ngẫu nhiên độc lập cũng độc lập với , lấy giá trị (tham số được chỉ định bởi chúng tôi) với xác suất , giá trị với xác suất , và không khác. Vì vậy, có giá trị và phương sai dự kiến $\{z_t\}$ $y_i$ $at$ $a>0$ $1/t^2$ $-at$ $1/t^2$ $\{z_t\}$

E (z_{t}) = a t \frac{1}{t^{2}} - a t \frac{1}{t^{2}} + 0 \cdot (1 - \frac{2}{t^{2}}) = 0, Var (z_{t}) = 2 a^{2}

$E(z_t) = at\frac 1{t^2} -at\frac 1{t^2} + 0\cdot \left (1-\frac 2{t^2}\right)= 0,\;\;\operatorname{Var}(z_t) = 2a^2$

Do đó, giá trị kỳ vọng và phương sai của công cụ ước tính là

E (\tilde{μ}) = μ, Var (\tilde{μ}) = Var ({\bar{y}}_{n}) + 2 a^{2}

$E(\tilde \mu) = \mu,\;\;\operatorname{Var}(\tilde \mu) = \operatorname{Var}(\bar y_n) + 2a^2$

Hãy xem xét phân phối xác suất của, :lấy giá trị với xác suất và giá trị với xác suất . Vì thế $|z_n|$ $P\left(|z_n| \le \epsilon\right),\;\epsilon>0$ $|z_n|$ $0$ $(1-2/n^2)$ $an$ $2/n^2$

P (| z_{n} | < ϵ) \geq 1 - 2 / n^{2} = lim_{n \to \infty} P (| z_{n} | < ϵ) \geq 1 = 1

$P\left(|z_n| <\epsilon\right) \ge 1-2/n^2 = \lim_{n\rightarrow \infty}P\left(|z_n| < \epsilon\right) \ge 1 = 1$

có nghĩa là hội tụ xác suất thành (trong khi phương sai của nó vẫn là hữu hạn). vì thế $z_n$ $0$

plim {\tilde{μ}}_{n} = plim {\bar{y}}_{n} + plim z_{n} = μ

$\operatorname{plim}\tilde \mu_n = \operatorname{plim}\bar y_n+\operatorname{plim} z_n = \mu$

vì vậy công cụ ước tính ngẫu nhiên này của giá trị trung bình của quá trình -stochastic vẫn nhất quán. Nhưng phương sai của nó không về không khi đi đến vô cùng, nó cũng không đi đến vô tận. $y$ $n$

Đóng cửa, tại sao tất cả các công phu rõ ràng vô dụng với một quá trình ngẫu nhiên tự tương quan? Bởi vì Hồng y đủ điều kiện cho ví dụ của mình bằng cách gọi nó là "vô lý", như "chỉ để chỉ ra điều đó về mặt toán học, chúng ta có thể có một công cụ ước lượng nhất quán với phương sai khác không và hữu hạn".
Tôi muốn đưa ra một gợi ý rằng nó không nhất thiết phải là sự tò mò, ít nhất là về mặt tinh thần: Có những lúc trong cuộc sống thực, các quy trình mới bắt đầu, các quy trình do con người tạo ra, liên quan đến cách chúng ta tổ chức cuộc sống và hoạt động. Mặc dù chúng ta thường thiết kế chúng và có thể nói rất nhiều về chúng, tuy nhiên, chúng có thể phức tạp đến mức chúng được coi là hợp lý (ảo tưởng về sự kiểm soát hoàn toàn các quá trình như vậy, hoặc hoàn thành kiến thức tiên nghiệm về quá trình tiến hóa, quá trình của chúng điều đó có thể đại diện cho những cách thức mới để giao dịch hoặc sản xuất, hoặc sắp xếp cấu trúc quyền và nghĩa vụ giữa con người, chỉ là một ảo ảnh). Cũng mới, chúng tôi không có đủ nhận thức tích lũy về chúng để thực hiện suy luận thống kê đáng tin cậy về cách chúng sẽ phát triển. Sau đó, chỉnh sửa ad hoc và có lẽ là "tối ưu" vẫn là một hiện tượng thực tế, ví dụ như chúng ta có một quá trình mà chúng ta tin tưởng mạnh mẽ rằng hiện tại của nó phụ thuộc vào quá khứ (do đó là quá trình ngẫu nhiên tương quan tự động), nhưng chúng ta thực sự không biết làm thế nào (do đó ngẫu nhiên ad hoc, trong khi chúng tôi chờ dữ liệu tích lũy để ước tính hiệp phương sai). Và có lẽ một nhà thống kê sẽ tìm ra cách tốt hơn để đối phó với sự không chắc chắn nghiêm trọng như vậy - nhưng nhiều thực thể phải hoạt động trong một môi trường không chắc chắn mà không có lợi ích của các dịch vụ khoa học như vậy.

Câu trả lời ban đầu (sai) (xem đặc biệt là nhận xét của Hồng y)

Các công cụ ước tính hội tụ xác suất cho một biến ngẫu nhiên tồn tại: trường hợp "hồi quy giả" xuất hiện trong tâm trí, trong đó nếu chúng ta cố gắng hồi quy hai bước ngẫu nhiên độc lập (tức là các quá trình ngẫu nhiên không cố định) với nhau bằng cách sử dụng ước lượng bình phương nhỏ nhất bình thường) , công cụ ước tính OLS sẽ hội tụ đến một biến ngẫu nhiên.

Nhưng một công cụ ước lượng nhất quán với phương sai khác không không tồn tại, bởi vì tính nhất quán được định nghĩa là sự hội tụ xác suất của công cụ ước tính với một hằng số , theo quan niệm, có phương sai bằng không.

— Alecos Papadopoulos
nguồn

@cardinal Cảm ơn bạn đã can thiệp, và tôi sẽ rất vui khi sửa nó. Tôi có thể có một gợi ý về cách tôi có thể bắt đầu tìm kiếm một công cụ ước lượng nhất quán có phương sai hội tụ đến một số hữu hạn không? (Trường hợp phương sai vô hạn / không xác định là trường hợp đã biết và nên được đề cập - nhưng trường hợp khác không hữu hạn là trường hợp thực sự thú vị). Hay tôi đã mô tả tài sản của sự nhất quán sai?

— Alecos Papadopoulos

Ví dụ tôi đã đưa ra trong nhận xét được liên kết trong ghi chú của tôi với OP có phương sai giới hạn hữu hạn. Tính nhất quán liên quan đến sự hội tụ trong xác suất, điều mà bạn đã lưu ý chính xác. Nhưng để phương sai về 0, chúng ta phải điều khiển các đuôi (quá). Điều này có liên quan đến mối quan hệ giữa hội tụ và hội tụ xác suất.

L_{p}

$L_p$

— Đức hồng y

Tôi đưa ra một ví dụ về sự hội tụ trong xác suất với phương sai luôn luôn dương, hữu hạn trong câu trả lời của tôi ở đây.

— ekvall

@cardinal Nếu bạn không còn tin rằng câu trả lời hiện tại là không chính xác, có lẽ bạn có thể xóa bình luận của mình hoặc đăng một bình luận mới để xác nhận rằng câu trả lời hiện tại không còn đúng nữa? Từ quan điểm của người đọc, có một câu trả lời được nêu lên nói rằng một câu trả lời không chính xác là khó hiểu (và buộc người ta phải bắt đầu kiểm tra các niên đại chỉnh sửa).

— Cá bạc

@Silverfish Nhận xét của Hồng y thực sự đề cập đến câu trả lời ban đầu của tôi (phần dưới thanh màu xám gần cuối bài). Chính xác bởi vì câu trả lời ban đầu này tạo ra các bình luận vẫn còn, tôi đã để nó không bị xóa, bên dưới câu trả lời mới. Tôi đã thêm một cái gì đó trên thanh màu xám để giúp một chút với sự nhầm lẫn.

— Alecos Papadopoulos

Đi bất kỳ mẫu từ phân phối với kỳ vọng hữu hạn và phương sai vô hạn ( Pareto với ví dụ). Sau đó, mẫu trung bình sẽ hội tụ về sự mong đợi do pháp luật hoặc số lượng lớn (mà chỉ đòi hỏi sự tồn tại trung bình) và phương sai sẽ là vô hạn. $\alpha\in(1,2]$

— mpiktas
nguồn

Là phương sai vô hạn khi, giả sử, ? Hoặc là nó không được xác định trong trường hợp như vậy?

α = 1.5

$\alpha = 1.5$

— Alecos Papadopoulos

Vâng, nó là vô hạn, nếu chúng ta nhìn vào khu vực bên dưới đường cong để tìm hiểu về tích phân.

— mpiktas

Hãy để tôi đưa ra một ví dụ về một chuỗi các biến ngẫu nhiên hội tụ về 0 trong xác suất nhưng với phương sai vô hạn. Về bản chất, một công cụ ước tính chỉ là một biến ngẫu nhiên, vì vậy với một chút trừu tượng, bạn có thể thấy rằng sự hội tụ trong xác suất đến một hằng số không có nghĩa là phương sai tiến đến 0.

Hãy xem xét biến ngẫu nhiên trên trong đó thước đo xác suất được xem xét là thước đo Lebesgue. Rõ ràng, nhưng với tất cả nên phương sai của nó không về không. $\xi_n(x):=\chi_{[0,1/n]}(x)x^{-1/2}$ $[0,1]$ $P(\xi_n(x)>0)=1/n\to0$

\int ξ_{n}^{2} d P = \int_{0}^{1 / n} x^{- 1} d x = \log (x) ∣_{0}^{1 / n} = \infty,

$\int\xi_n^2dP=\int_{0}^{1/n}x^{-1}dx=\log(x)\mid _{0}^{1/n}=\infty,$

n

$n$

Bây giờ, chỉ cần tạo một công cụ ước tính trong đó khi mẫu của bạn phát triển, bạn ước tính giá trị thực bằng cách rút . Lưu ý rằng công cụ ước tính này không thiên vị cho 0, nhưng để làm cho nó không thiên vị, bạn chỉ cần đặt với xác suất bằng 1/2 và sử dụng nó làm công cụ ước tính của bạn. Lập luận tương tự cho sự hội tụ và phương sai rõ ràng nắm giữ. $\mu=0$ $\xi_n$ $\eta_n:=\pm\xi_n$

Chỉnh sửa: Nếu bạn muốn một ví dụ trong đó phương sai là hữu hạn, hãy lấy và xem xét lại wp 1/2.

ξ_{n} (x) := χ_{[0, 1 / n]} (x) \sqrt{n},

$\xi_n(x):=\chi_{[0,1/n]}(x)\sqrt{n},$

η_{n} := \pm ξ_{n}

$\eta_n:=\pm\xi_n$

— ekvall
nguồn