Hội tụ xác suất so với hội tụ gần như chắc chắn

Tôi chưa bao giờ thực sự hiểu được sự khác biệt giữa hai biện pháp hội tụ này. (Hoặc, trên thực tế, bất kỳ loại hội tụ nào khác nhau, nhưng tôi đặc biệt đề cập đến hai loại này vì các định luật yếu và mạnh về số lượng lớn.)

Chắc chắn, tôi có thể trích dẫn định nghĩa của từng loại và đưa ra một ví dụ về sự khác biệt của chúng, nhưng tôi vẫn không hiểu lắm.

Cách tốt để hiểu sự khác biệt là gì? Tại sao sự khác biệt quan trọng? Có một ví dụ đặc biệt đáng nhớ nơi họ khác nhau?

Theo quan điểm của tôi, sự khác biệt là quan trọng, nhưng phần lớn là vì lý do triết học. Giả sử bạn có một số thiết bị, điều đó cải thiện theo thời gian. Vì vậy, mỗi khi bạn sử dụng thiết bị, xác suất xảy ra lỗi là ít hơn trước.

Sự hội tụ trong xác suất nói rằng cơ hội thất bại sẽ về không khi số lần sử dụng là vô cùng. Vì vậy, sau khi sử dụng thiết bị nhiều lần, bạn có thể rất tự tin về việc nó hoạt động chính xác, nó vẫn có thể bị lỗi, điều đó rất khó xảy ra.

Sự hội tụ gần như chắc chắn là mạnh hơn một chút. Nó nói rằng tổng số thất bại là hữu hạn . Đó là, nếu bạn đếm số lần thất bại khi số lần sử dụng đến vô cùng, bạn sẽ nhận được một số hữu hạn. Tác động của việc này là như sau: Khi bạn sử dụng thiết bị ngày càng nhiều, bạn sẽ, sau một số lần sử dụng hữu hạn, sẽ xả hết mọi thất bại. Từ đó thiết bị sẽ hoạt động hoàn hảo .

Như Srikant chỉ ra, bạn thực sự không biết khi nào bạn đã hết tất cả các thất bại, vì vậy theo quan điểm hoàn toàn thực tế, không có nhiều khác biệt giữa hai chế độ hội tụ.

Tuy nhiên, cá nhân tôi rất vui vì, ví dụ, luật mạnh về số lượng lớn tồn tại, trái ngược với luật yếu. Bởi vì bây giờ, một thí nghiệm khoa học để có được, nói, tốc độ của ánh sáng, là hợp lý trong việc lấy trung bình. Ít nhất là về lý thuyết, sau khi có đủ dữ liệu, bạn có thể tùy ý đến gần tốc độ ánh sáng thực sự. Sẽ không có bất kỳ thất bại nào (tuy nhiên không thể xảy ra) trong quá trình tính trung bình.

Hãy để tôi làm rõ những gì tôi có nghĩa là '' thất bại (tuy nhiên không thể thực hiện được) trong quá trình tính trung bình ''. Chọn một số nhỏ tùy ý. Bạn nhận được ước tính về tốc độ ánh sáng (hoặc một số lượng khác) có giá trị 'đúng', giả sử . Bạn tính trung bình Khi chúng tôi thu được nhiều dữ liệu hơn ( tăng), chúng tôi có thể tính cho mỗi . Luật yếu nói (theo một số giả định về ) rằng xác suất khi đi đến$\delta > 0$$n$$X_1,X_2,\dots,X_n$$\mu$

$$S_n = \frac{1}{n}\sum_{k=1}^n X_k.$$ $n$$S_n$$n = 1,2,\dots$$X_n$ $$P(|S_n - \mu| > \delta) \rightarrow 0$$ $n$$\infty$. Luật mạnh nói rằng số lần màlớn hơn là hữu hạn (với xác suất 1). Nghĩa là, nếu chúng ta xác định hàm chỉ thị sẽ trả về một khi và zero nếu không, thì hội tụ. Điều này mang lại cho bạn sự tin tưởng đáng kể vào giá trị của , bởi vì nó đảm bảo (nghĩa là có xác suất 1) sự tồn tại của một số hữu hạn sao cho cho tất cả (tức là trung bình không bao giờ thất bại cho$|S_n - \mu|$$\delta$$I(|S_n - \mu| > \delta)$∞ ∑ n = 1 I ( | S n - μ | > δ ) S n n 0 | S n - L | < δ n > n 0 n > n $|S_n - \mu| > \delta$ $$\sum_{n=1}^{\infty}I(|S_n - \mu| > \delta)$$ $S_n$$n_0$$|S_n - \mu| < \delta$$n > n_0$$n > n_0$). Lưu ý rằng luật yếu không đảm bảo như vậy.

Tôi biết câu hỏi này đã được trả lời (và khá tốt, theo quan điểm của tôi), nhưng có một câu hỏi khác ở đây có một nhận xét @NRH đề cập đến giải thích đồ họa, và thay vì đặt các bức ảnh ở đó nó có vẻ phù hợp hơn đặt chúng ở đây

Vì vậy, ở đây đi. Nó không tuyệt như gói R. Nhưng nó độc lập và không yêu cầu đăng ký vào JSTOR.

$X_{i}= \pm 1$

$$\frac{S_{n}}{n} = \frac{1}{n}\sum_{i = 1}^{n}X_{i},\quad n=1,2,\ldots.$$

SLLN (hội tụ gần như chắc chắn) nói rằng chúng ta có thể chắc chắn 100% rằng đường cong này kéo dài sang bên phải cuối cùng, vào một thời điểm hữu hạn, sẽ nằm hoàn toàn trong các dải mãi mãi về sau (bên phải).

Mã R được sử dụng để tạo biểu đồ này ở bên dưới (nhãn biểu đồ được bỏ qua cho ngắn gọn).

n <- 1000;  m <- 50; e <- 0.05
s <- cumsum(2*(rbinom(n, size=1, prob=0.5) - 0.5))
plot(s/seq.int(n), type = "l", ylim = c(-0.4, 0.4))
abline(h = c(-e,e), lty = 2)

---

$n$

Mã R cho biểu đồ theo sau (một lần nữa, bỏ qua nhãn).

x <- matrix(2*(rbinom(n*m, size=1, prob=0.5) - 0.5), ncol = m)
y <- apply(x, 2, function(z) cumsum(z)/seq_along(z))
matplot(y, type = "l", ylim = c(-0.4,0.4))
abline(h = c(-e,e), lty = 2, lwd = 2)

Tôi hiểu nó như sau,

Hội tụ xác suất

Xác suất để chuỗi các biến ngẫu nhiên bằng giá trị đích là giảm bất thường và tiến đến 0 nhưng thực sự không bao giờ đạt được 0.

Sự hội tụ gần như chắc chắn

Chuỗi các biến ngẫu nhiên sẽ bằng với giá trị đích không có triệu chứng nhưng bạn không thể dự đoán tại thời điểm nó sẽ xảy ra.

$\equiv$

Các wiki có một số ví dụ về cả mà sẽ giúp làm rõ ở trên (đặc biệt là xem các ví dụ về các cung thủ trong bối cảnh hội tụ trong prob và ví dụ của các tổ chức từ thiện trong bối cảnh gần như chắc chắn hội tụ).

Từ quan điểm thực tế, sự hội tụ trong xác suất là đủ vì chúng tôi không đặc biệt quan tâm đến các sự kiện rất khó xảy ra. Ví dụ, tính nhất quán của một công cụ ước tính về cơ bản là sự hội tụ trong xác suất. Do đó, khi sử dụng một ước tính nhất quán, chúng tôi ngầm thừa nhận thực tế rằng trong các mẫu lớn có một xác suất rất nhỏ rằng ước tính của chúng tôi nằm xa giá trị thực. Chúng ta sống với 'khiếm khuyết' về khả năng hội tụ trong xác suất vì chúng ta biết rằng xác suất của người ước tính ở xa sự thật là rất nhỏ.

Nếu bạn thích giải thích bằng hình ảnh, đã có một bài viết 'Góc giáo viên' tuyệt vời về chủ đề này trong Thống kê Hoa Kỳ (trích dẫn bên dưới). Như một phần thưởng, các tác giả đã bao gồm một gói R để tạo điều kiện học tập.

@article{lafaye09,
  title={Understanding Convergence Concepts: A Visual-Minded and Graphical Simulation-Based Approach},
  author={Lafaye de Micheaux, P. and Liquet, B.},
  journal={The American Statistician},
  volume={63},
  number={2},
  pages={173--178},
  year={2009},
  publisher={ASA}
}

Người cuối cùng này giải thích nó rất tốt. Nếu bạn lấy một chuỗi các biến ngẫu nhiên Xn = 1 với xác suất 1 / n và khác 0. Dễ dàng nhận thấy các giới hạn mà điều này hội tụ về 0 trong xác suất, nhưng không hội tụ gần như chắc chắn. Như anh ấy nói, xác suất không quan tâm rằng chúng tôi có thể có được một người xuống đường. Hầu như chắc chắn là có.

Hầu như chắc chắn ngụ ý sự hội tụ trong xác suất, nhưng không phải là cách khác xung quanh bạn?

Một điều giúp tôi nắm bắt sự khác biệt là sự tương đương sau đây

∀ ε > $P({\lim_{n\to\infty}|X_n-X|=0})=1 \Leftarrow \Rightarrow \lim_{n\to\infty}({\sup_{m>=n}|X_m-X|>\epsilon })=0$ $\forall \epsilon > 0$

Trong so sánh hội tụ ngẫu nhiên:

$\lim_{n\to\infty}P(|X_n-X|>\epsilon) = 0$ $\forall \epsilon >0$

Khi so sánh phía bên phải của sự tương đương trên với sự hội tụ ngẫu nhiên, sự khác biệt trở nên rõ ràng hơn tôi nghĩ.