Sự tồn tại của hàm tạo phương sai và phương sai

Một phân phối với trung bình hữu hạn và phương sai vô hạn có thể có một hàm tạo thời điểm không? Điều gì về một phân phối với trung bình hữu hạn và phương sai hữu hạn nhưng khoảnh khắc cao hơn vô hạn?

variance moments mgf

— Mgf
nguồn

Gợi ý : Nếu mgf tồn tại trong một khoảng quanh 0, giả sử

(- t_{0}, t_{0})

$(-t_0,t_0)$ cho một số

t_{0} > 0

$t_0 > 0$ , sau đó xem xét sự mở rộng Taylor của

e^{x}

$e^x$ và tính đơn điệu của tích phân để khám phá giải pháp. :)

— Đức hồng y

Bỏ qua các vấn đề về sự hội tụ (chỉ nghĩ về mgf như một chuỗi sức mạnh chính thức), mgf có thể là gì nếu có bất kỳ khoảnh khắc nào không tồn tại?

— whuber

Đức Hồng Y có thể vui lòng cho chúng tôi một số tài liệu tham khảo về các đề xuất bạn cung cấp không?

Câu hỏi này cung cấp một cơ hội tốt để thu thập một số sự kiện về các hàm tạo thời điểm ( mgf ).

Trong câu trả lời dưới đây, chúng tôi làm như sau:

Chỉ ra rằng nếu mgf là hữu hạn đối với ít nhất một giá trị dương (đúng) và một giá trị âm, thì tất cả các khoảnh khắc dương của $X$ đều hữu hạn (bao gồm cả các khoảnh khắc không phân cực).
Chứng minh rằng điều kiện trong mục đầu tiên ở trên tương đương với phân phối của có đuôi bị ràng buộc theo cấp số nhân . Nói cách khác, các đuôi của rơi ra ít nhất nhanh bằng các biến ngẫu nhiên theo hàm mũ (lên đến một hằng số). $X$ $X$ $Z$
Cung cấp một ghi chú nhanh về đặc tính của phân phối bằng mgf của nó với điều kiện nó thỏa mãn điều kiện trong mục 1.
Khám phá một số ví dụ và phản mẫu để hỗ trợ trực giác của chúng tôi và đặc biệt, để cho thấy rằng chúng ta không nên đọc tầm quan trọng quá mức vào việc thiếu tính chính xác của mgf.

Câu trả lời này khá dài, mà tôi xin lỗi trước. Nếu điều này sẽ được đặt tốt hơn, ví dụ, như một bài đăng trên blog hoặc ở một nơi khác, xin vui lòng cung cấp phản hồi như vậy trong các ý kiến.

Các mgf nói gì về những khoảnh khắc?

Các MGF của một biến ngẫu nhiên được định nghĩa là . Lưu ý rằng luôn tồn tại vì nó là tích phân của hàm đo lường không âm. Tuy nhiên, nếu có thể không hữu hạn . Nếu nó là hữu hạn (ở đúng vị trí), thì với tất cả (không nhất thiết phải là số nguyên), các khoảnh khắc tuyệt đối (và, vì vậy, cũng $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$ là hữu hạn). Đây là chủ đề của các đề xuất tiếp theo.

Mệnh đề : Nếu tồn tại và sao cho và $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ , thì các khoảnh khắc củatất cả cáclệnh củatồn tại và là hữu hạn. $m(\tp) < \infty$ $X$

Trước khi đi sâu vào một bằng chứng, đây là hai bổ đề hữu ích.

Bổ đề 1 : Giả sử như vậy tồn tại và . Khi đó với mọi , . Bằng chứng . Điều này xuất phát từ độ lồi của và tính đơn điệu của tích phân. Đối với bất kỳ như , tồn tại mà $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ . Nhưng, sau đó $t_0 = \theta \tn + (1-\theta) \tp$ Do đó, bằng cách đơn điệu của tích phân, .

e^{t_{0} X} = e^{θ t_{n} X + (1 - θ) t_{p} X} \leq θ e^{t_{n} X} + (1 - θ) e^{t_{p} X} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Vì vậy, nếu mgf là hữu hạn tại bất kỳ hai điểm riêng biệt nào, thì nó là hữu hạn cho tất cả các giá trị trong khoảng giữa các điểm đó.

Bổ đề 2 ( Lồng các khoảng trắng $L_p$ ): Với , nếu , sau đó . Bằng chứng : Hai cách tiếp cận được đưa ra trong câu trả lời này và các bình luận liên quan . $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

Điều này cho chúng ta đủ để tiếp tục với bằng chứng của đề xuất.

Chứng minh mệnh đề . Nếu và tồn tại như đã nêu trong mệnh đề, thì lấy , chúng ta biết bằng bổ đề đầu tiên rằng và . Nhưng, $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$ Và phía bên phải bao gồm các điều khoản không âm, do đó, đặc biệt là đối với bất kỳ cố định

e^{- t_{0} X} + e^{t_{0} X} = 2 \sum_{n = 0}^{\infty} \frac{t_{0}^{2 n} X^{2 n}}{(2 n)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

Bây giờ, theo giả thiết

. Đơn điệu của sản lượng không thể thiếu

. Do đó, tất cả cáckhoảnh khắcchẵncủa

là hữu hạn. Bổ đề 2 ngay lập tức cho phép chúng ta "lấp đầy các khoảng trống" và kết luận rằngtất cả cáckhoảnh khắc phải là hữu hạn.

e^{- t_{0} X} + e^{t_{0} X} \geq 2 t_{0}^{2 k} X^{2 k} / (2 k)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$

X

$X$

Kết quả

Kết quả cuối cùng liên quan đến câu hỏi là nếu có khoảnh khắc nào của là vô hạn hoặc không tồn tại, chúng ta có thể kết luận ngay rằng mgf không hữu hạn trong một khoảng mở có chứa gốc. (Đây chỉ là tuyên bố mang tính mâu thuẫn của mệnh đề.) $X$

Do đó, mệnh đề trên cung cấp điều kiện "đúng" để nói điều gì đó về các khoảnh khắc của dựa trên mgf của nó. $X$

Đuôi theo cấp số nhân và mgf

Dự luật : Các MGF là hữu hạn trong một khoảng thời gian mở có chứa nguồn gốc khi và chỉ khi đuôi của đang theo hàm mũ giáp $m(t)$ $(\tn,\tp)$ $F$ , tức là với một số và . $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

Bằng chứng . Chúng tôi sẽ đối phó với đuôi phải riêng biệt. Đuôi trái được xử lý hoàn toàn tương tự.

Giả sử đối với một số $(\Rightarrow)$ $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$ Để thấy điều này, lưu ý rằng với mọi , bởi bất đẳng thức của Markov,

P (X > x) \leq C e^{- b x} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

Lấy

và

để hoàn thành hướng chứng minh này.

P (X > x) = P (e^{t X} > e^{t x}) \leq e^{- t x} E e^{t X} = m (t) e^{- t x} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

E e^{t X} = \int_{0}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} C y^{- t_{0} / t} d y,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

Điều này hoàn thành bằng chứng.

Một lưu ý về tính độc đáo của phân phối được cung cấp cho mgf của nó

$\mu_n = \mathbb E X^n$

Ví dụ và phản mẫu

$X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ . So, the mgf is finite on the nonnegative half-line $(-\infty,0]$ . (NB We've only used the nonnegativity of $X$ to establish this fact, so this is true from all nonnegative random variables.)

However, $m(t) = \infty$ for all $t > 0$ . We'll take the standard lognormal as the canonical case. If $x > 0$ , then $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$ . By change of variables, we have

E e^{t X} = (2 π)^{- 1 / 2} \int_{- \infty}^{\infty} e^{t e^{u} - u^{2} / 2} d u .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$ For

t > 0

$t > 0$ and large enough

u

$u$ , we have

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$ by the bounds given above. But,

\int_{K}^{\infty} e^{t + t u} d u = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$ for any

K

$K$ , and so the mgf is infinite for all

t > 0

$t > 0$ .

On the other hand, all moments of the lognormal distribution are finite. So, the existence of the mgf in an interval about zero is not necessary for the conclusion of the above proposition.

(b) Symmetrized lognormal: We can get an even more extreme case by "symmetrizing" the lognormal distribution. Consider the density $f(x)$ for $x \in \mathbb R$ such that

f (x) = \frac{1}{2 \sqrt{2 π} | x |} e^{- \frac{1}{2} (\log | x |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$ It is not hard to see in light of the previous example that the mgf is finite only for

t = 0

$t = 0$ . Yet, the even moments are exactly the same as those of the lognormal and the odd moments are all zero! So, the mgf exists nowhere (except at the origin where it always exists) and yet we can guarantee finite moments of all orders.

(c) Cauchy distribution: This distribution also has an mgf which is infinite for all $t \neq 0$ , but no absolute moments $\mathbb E|X|^p$ are finite for $p \geq 1$ . The result for the mgf follows for $t > 0$ since $e^x \geq x^3 / 6$ for $x > 0$ and so

E e^{t X} \geq \int_{1}^{\infty} \frac{t^{3} x^{3}}{6 π (1 + x^{2})} d x \geq \frac{t^{3}}{12 π} \int_{1}^{\infty} x d x = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$ The proof for

t < 0

$t < 0$ is analogous. (Perhaps somewhat less well known is that the moments for

0 < p < 1

$0 < p < 1$ do exist for the Cauchy. See this answer.)

(d) Half-Cauchy distribution: If $X$ is (standard) Cauchy, call $Y = |X|$ a half-Cauchy random variable. Then, it is easy to see from the previous example that $\mathbb E Y^p = \infty$ for all $p \geq 1$ ; yet, $\mathbb E e^{tY}$ is finite for $t \in (-\infty,0]$ .

— cardinal
nguồn

Thanks for posting this - this is surprisingly easy to understand, considering how technical it is - well done.

— Macro

Do you know any results about the mgf in Hilbert space?

— badatmath