Hiểu bất bình đẳng đo lường

Theo tinh thần của câu hỏi này Hiểu bằng chứng về một bổ đề được sử dụng trong bất đẳng thức Hoeffding , tôi đang cố gắng hiểu các bước dẫn đến bất bình đẳng của Hoeffding.

Điều bí ẩn nhất đối với tôi trong bằng chứng là phần mà các khoảnh khắc theo cấp số nhân được tính cho tổng các biến iid, sau đó bất đẳng thức của Markov được áp dụng.

Mục tiêu của tôi là để hiểu: Tại sao kỹ thuật này mang lại sự bất bình đẳng chặt chẽ, và nó có chặt chẽ nhất mà chúng ta có thể đạt được không? Một lời giải thích điển hình đề cập đến các đặc tính tạo thời điểm của số mũ. Tuy nhiên, tôi thấy điều này quá mơ hồ.

Một bài đăng trên blog của Tao, http://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeff , có thể có một số câu trả lời.

Với mục tiêu này, câu hỏi của tôi là về ba điểm trong bài viết của Tao mà tôi đang bị mắc kẹt và tôi hy vọng có thể đưa ra cái nhìn sâu sắc một khi được giải thích.

Tao có nguồn gốc những bất bình đẳng sau đây bằng cách sử dụng thứ k thời điểm Nếu điều này đúng với mọi k, anh ta kết luận ràng buộc theo cấp số nhân. Đây là nơi tôi bị lạc.
$P (| S_{n} | \geq λ \sqrt{n}) \leq 2 (\frac{\sqrt{e k / 2}}{λ})^{k} . (7)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq 2 (\frac{\sqrt{ek/2}}{\lambda})^k. \ \ \ \ \ (7)$ $P (| S_{n} | \geq λ \sqrt{n}) \leq C \exp (- c λ^{2}) (8)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq C \exp( - c \lambda^2 ) \ \ \ \ \ (8)$
Bổ đề của Hoeffding được trình bày: Bổ đề 1 (Bổ đề của Hoeffding) Gọi là biến vô hướng lấy các giá trị trong một khoảng . Khi đó với mọi , ${X}$ ${[a,b]}$ ${t>0}$
$E e^{t X} \leq e^{t E X} (1 + Ôi (t^{2} V một r (X) điểm kinh nghiệm (Ôi (t (b - một)))) . (9)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} (1 + O( t^2 {\bf Var}(X) \exp( O( t (b-a) ) ) ). \ \ \ \ \ (9)$ Cụ thể là Bằng chứng bổ đề 1 bắt đầu bằng cách kỳ vọng vào việc mở rộng taylor $E e^{t X} \leq e^{t E X} điểm kinh nghiệm (Ôi (t^{2} (b - một)^{2})) . (10)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} \exp( O( t^2 (b-a)^2 ) ). \ \ \ \ \ (10)$ $\displaystyle e^{tX} = 1 + tX + O( t^2 X^2 \exp( O(t) ) )$ .Tại sao việc mở rộng có thể bị giới hạn bởi thuật ngữ bậc hai đó? và phương trình 10 tuân theo như thế nào?
Cuối cùng, một bài tập được đưa ra:
Bài tập 1 Hiện rằng yếu tố trong (10) có thể được thay thế bằng , và rằng đây là sắc nét. Điều này sẽ cung cấp một bằng chứng ngắn hơn nhiều so với bằng chứng trong Tìm hiểu bằng chứng về một bổ đề được sử dụng trong bất đẳng thức Hoeffding , nhưng tôi không biết làm thế nào để giải quyết điều này. ${O(t^2(b-a)^2)}$ ${t^2 (b-a)^2/8}$

Bất kỳ trực giác nào khác \ giải thích về bằng chứng về sự bất bình đẳng hoặc lý do chúng ta không thể rút ra một ràng buộc chặt chẽ hơn chắc chắn được hoan nghênh.

probability probability-inequalities

— Sư Tử
nguồn

Bạn đã đọc bài báo gốc của Hoeffding chưa?

— Alecos Papadopoulos

@AlecosPapadopoulos Tôi thực sự không có. Tôi có ấn tượng rằng phái sinh bao gồm các bước đại số thường được dạy trong các khóa học toán thiếu lời giải thích mà tôi đang tìm kiếm. Bạn có thể nói khác không?

— Leo

Tôi đề nghị bạn đọc nó. Url ổn định trong jstor là jstor.org/urdy/2282952 . Điều "giữ bí mật nhất đối với bạn" là các Định lý 1, 2 & 3 của bài báo, bằng chứng trong phần 4 của bài báo (không phải cuối cùng), và chúng có vẻ khá rõ ràng đối với tôi. Tôi không biết nếu bạn đang tìm kiếm một số trực giác "phi toán học" - nếu có, nó không luôn tồn tại.

— Alecos Papadopoulos

$\mathbb{E}e^X$ $\mathbb{E} X$ $X$ $\mathbb{E} e^X$ $\mathbb{E}X$ $\mathbb{E} e^X$ $\mathbb{E} e^X$ $e^{X}=1+X+\frac{X^2}{2}+\frac{X^3}{6}+\ldots$ $X$ $\mathbb{E}X$ $X$

— gmravi2003
nguồn

f

$f$

0

$0$

e^{X}

$e^X$

f (X)

$f(X)$

f

$f$

f (x) > 0

$f(x) >0$

X

$X$

e^{X}

$e^X$

Tôi đã không nhìn vào nó, nhưng tôi nghi ngờ số mũ thích một số tính chất cụ thể, bao gồm cả những gì bạn đặt tên, rất quan trọng: tất cả các hệ số phải hoàn toàn tích cực và thật tiện lợi khi nó hội tụ hoàn toàn ở mọi nơi. Nhưng tôi tin rằng có những lý do sâu xa hơn tại sao chức năng này là thiết yếu, liên quan đến các thuộc tính của biến đổi Fourier và Laplace. Nó có thể được chiếu sáng để khám phá các đạo hàm của bất đẳng thức đo lường để xem chỉ những tính chất nào của hàm mũ thực sự được sử dụng! (+1)

— whuber

P {x 1 + x 2 > 0} = E {1 [x 1 + x 2 > 0]} \leq E {e x p (t * x 1)} E {e x p (t * x 2)}

$P\{x1+x2>0\}=E\{1[x1+x2>0]\} \leq E\{exp(t*x1)\}E\{exp(t*x2)\}$

E {e x p (t * x 1)} < 1

$E\{exp(t*x1)\}<1$

Tôi muốn bạn quan tâm đến một câu hỏi về độ chặt của ràng buộc này: stats.stackexchange.com/questions/77019/ mẹo

— Leo