Phương sai của hàm số của một biến ngẫu nhiên

Hãy nói rằng chúng ta có biến ngẫu nhiên với phương sai và giá trị trung bình đã biết. Câu hỏi là: phương sai của đối với một số hàm số đã cho f. Phương pháp chung duy nhất mà tôi biết là phương pháp delta, nhưng nó chỉ cung cấp cho phép gần đúng. Bây giờ tôi quan tâm đến , nhưng thật tuyệt khi biết một số phương pháp chung. $X$ $f(X)$ $f(x)=\sqrt{x}$

Chỉnh sửa 29.12.2010
Tôi đã thực hiện một số tính toán bằng chuỗi Taylor, nhưng tôi không chắc liệu chúng có đúng hay không, vì vậy tôi rất vui nếu ai đó có thể xác nhận chúng.

Trước tiên, chúng ta cần xấp xỉ $E[f(X)]$
$E[f(X)] \approx E[f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2]=f(\mu)+\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Bây giờ chúng ta có thể ước chừng $D^2 [f(X)]$
$E[(f(X)-E[f(X)])^2] \approx E[(f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2 -E[f(X)])^2]$

Sử dụng xấp xỉ $E[f(X)]$ chúng ta biết rằng $f(\mu)-Ef(x) \approx -\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Sử dụng cái này, chúng tôi nhận được:
$D^2[f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2\cdot Var[X]^2-\frac{1}{2}\cdot f''(\mu)^2\cdot Var[X]^2 + f'(\mu)^2\cdot Var[X]+\frac{1}{4}f''(\mu)^2\cdot E[(X-\mu)^4] +\frac{1}{2}f'(\mu)f''(\mu)E[(X-\mu)^3]$
$D^2 [f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2 \cdot [D^4 X-(D^2 X)^2]+f'(\mu)\cdot D^2 X +\frac{1}{2}f'(\mu)f''(\mu)D^3 X$

variance random-variable delta-method

— Tomek Tarczynski
nguồn

Phương pháp Delta được sử dụng để phân phối tiệm cận. Bạn không thể sử dụng khi bạn chỉ có một biến ngẫu nhiên.

— mpiktas

@mpiktas: Thật ra tôi không biết nhiều về phương pháp Delta, tôi vừa đọc một cái gì đó trên wikipedia. Đây là trích dẫn từ wiki: "Phương pháp delta sử dụng các mở rộng Taylor bậc hai để xấp xỉ phương sai của hàm của một hoặc nhiều biến ngẫu nhiên".

— Tomek Tarczynski

có vẻ như wikipedia có chính xác những gì bạn muốn: en.wikipedia.org/wiki/ . Tôi sẽ xem xét lại câu trả lời của mình, có vẻ như tôi đã đánh giá thấp việc mở rộng Taylor.

— mpiktas

Tomek, nếu bạn không đồng ý với các chỉnh sửa đã được thực hiện (không phải bởi tôi), bạn luôn có thể thay đổi chúng một lần nữa, hoặc cuộn chúng lại, hoặc chỉ ra sự khác biệt và yêu cầu làm rõ.

— Glen_b -Reinstate Monica

@Glen_b: Tôi đồng ý với họ E (X-mu) = 0 không ngụ ý rằng E [(X-mu) ^ 3] = 0.

— Tomek Tarczynski

Cập nhật

Tôi đã đánh giá thấp sự mở rộng của Taylor. Họ thực sự làm việc. Tôi giả định rằng tích phân của thuật ngữ còn lại có thể không bị ràng buộc, nhưng với một chút công việc có thể chỉ ra rằng đây không phải là trường hợp.

Bản mở rộng Taylor hoạt động cho các chức năng trong khoảng thời gian đóng giới hạn. Đối với các biến ngẫu nhiên có phương sai hữu hạn, bất đẳng thức Ch Quashev đưa ra

P (| X - E X | > c) \leq \frac{V một r (X)}{c}

$P(|X-EX|>c)\le \frac{Var(X)}{c}$

Vì vậy, với bất kỳ chúng ta có thể tìm thấy đủ lớn để $\varepsilon>0$ $c$

P (X \in [E X - c, E X + c]) = = P (| X - E X | \leq c) < 1 - ε

$P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon$

Đầu tiên chúng ta hãy ước tính . Chúng ta có nơi là hàm phân phối cho . $Ef(X)$

\begin{aligned} E f (X) = = \int_{| x - E X | \leq c} f (x) d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align}$

F (x)

$F(x)$

X

$X$

Vì miền của tích phân đầu tiên là khoảng được giới hạn khoảng đóng, chúng ta có thể áp dụng khai triển Taylor: trong đó và đẳng thức giữ cho tất cả . Tôi chỉ lấy 4 thuật ngữ trong bản mở rộng Taylor, nhưng nói chung chúng ta có thể lấy bao nhiêu tùy thích, miễn là hàm đủ mượt. $[EX-c,EX+c]$

\begin{aligned} f (x) = = f (E X) + f^{'} (E X) (x - E X) + \frac{f^{"} (E X)}{2} (x - E X)^{2} + \frac{f^{‴} (α)}{3} (x - E X)^{3} \end{aligned}

$\begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3}(x-EX)^3 \end{align}$

α \in [E X - c, E X + c]

$\alpha\in [EX-c,EX+c]$

x \in [E X - c, E X + c]

$x\in[EX-c,EX+c]$

f

$f$

Thay thế công thức này vào công thức trước mà chúng ta nhận được

\begin{aligned} E f (X) & = = \int_{| x - E X | \leq c} f (E X) + f^{'} (E X) (x - E X) + \frac{f^{"} (E X)}{2} (x - E X)^{2} d F (x) \\ + \int_{| x - E X | \leq c} \frac{f^{‴} (α)}{3} (x - E X)^{3} d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align}$ Bây giờ chúng ta có thể tăng miền tích hợp để có được công thức sau

\begin{aligned} E f (X) & = = f (E X) + \frac{f^{"} (E X)}{2} E (X - E X)^{2} + R_{3} \end{aligned}

$\begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\\\ \end{align}$ trong đó Bây giờ trong một số điều kiện nhất định, chúng ta có thể chỉ ra rằng số hạng thứ hai của số hạng còn lại này lớn bằng nhỏ. Thật không may, thuật ngữ đầu tiên vẫn còn và do đó chất lượng của xấp xỉ phụ thuộc vào và hành vi của đạo hàm thứ ba của trong các khoảng giới hạn. Xấp xỉ như vậy sẽ hoạt động tốt nhất cho các biến ngẫu nhiên với .

\begin{aligned} R_{3} & = = \frac{f^{‴} (α)}{3} E (X - E X)^{3} + \\ + \int_{| x - E X | > c} (f (E X) + f^{'} (E X) (x - E X) + \frac{f^{"} (E X)}{2} (x - E X)^{2} + f (X)) d F (x) \end{aligned}

$\begin{align} R_3&=\frac{f'''(\alpha)}{3}E(X-EX)^3+\\\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align}$

P (| X - E X | > c)

$P(|X-EX|>c)$

E (X - E X)^{3}

$E(X-EX)^3$

f

$f$

E (X - E X)^{3} = 0

$E(X-EX)^3=0$

Bây giờ đối với phương sai, chúng ta có thể sử dụng xấp xỉ Taylor cho , trừ công thức cho và bình phương sự khác biệt. Sau đó $f(x)$ $Ef(x)$

$E(f(x)-Ef(x))^2=(f'(EX))^2Var(X)+T_3$

Trong đó liên quan đến các khoảnh khắc với . Chúng ta cũng có thể đến công thức này bằng cách chỉ sử dụng khai triển Taylor bậc một, tức là chỉ sử dụng các đạo hàm thứ nhất và thứ hai. Thuật ngữ lỗi sẽ tương tự. $T_3$ $E(X-EX)^k$ $k=4,5,6$

Một cách khác là mở rộng : $f^2(x)$

\begin{aligned} f^{2} (x) & = = f^{2} (E X) + 2 f (E X) f^{'} (E X) (x - E X) \\ + [(f^{'} (E X))^{2} + f (E X) f^{"} (E X)] (X - E X)^{2} + \frac{(f^{2} (β))^{‴}}{3} (X - E X)^{3} \end{aligned}

$\begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\\\ &+[(f'(EX))^2+f(EX)f''(EX)](X-EX)^2+\frac{(f^2(\beta))'''}{3}(X-EX)^3 \end{align}$

Tương tự, chúng tôi nhận được sau đó trong đó tương tự .

\begin{aligned} E f^{2} (x) = = f^{2} (E X) + [(f^{'} (E X))^{2} + f (E X) f^{"} (E X)] V một r (X) + {\tilde{R}}_{3} \end{aligned}

$\begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]Var(X)+\tilde{R}_3 \end{align*}$

{\tilde{R}}_{3}

$\tilde{R}_3$

R_{3}

$R_3$

Công thức cho phương sai sau đó trở thành trong đó chỉ có khoảnh khắc thứ ba trở lên.

\begin{aligned} V một r (f (X)) = = [f^{'} (E X)]^{2} V một r (X) - \frac{[f^{"} (E X)]^{2}}{4} V một r^{2} (X) + {\tilde{T}}_{3} \end{aligned}

$\begin{align} Var(f(X))=[f'(EX)]^2Var(X)-\frac{[f''(EX)]^2}{4}Var^2(X)+\tilde{T}_3 \end{align}$

{\tilde{T}}_{3}

$\tilde{T}_3$

— mpiktas
nguồn

Tôi không cần biết giá trị chính xác của phương sai, phép tính gần đúng sẽ phù hợp với tôi.

— Tomek Tarczynski

Thật vậy, công thức gần đúng cho trong OP thường được sử dụng trong phân tích rủi ro trong kinh tế, tài chính và bảo hiểm.

E [f (X)]

$\mathbb{E}[f(X)]$

— Raskolnikov

@Raskolnikov, vâng, nhưng nó mâu thuẫn với kiến thức cũ của tôi về việc mở rộng Taylor. Rõ ràng thời hạn còn lại phải được tính đến. Nếu biến ngẫu nhiên bị chặn, thì không có vấn đề gì, vì đa thức xấp xỉ các hàm liên tục trên khoảng giới hạn đều. Nhưng chúng tôi đối phó với các biến ngẫu nhiên không giới hạn. Tất nhiên đối với bình thường ngẫu nhiên, chúng ta có thể nói rằng nó bị ràng buộc một cách hiệu quả, nhưng trong trường hợp chung, một số bất ngờ khó chịu có thể phát sinh, hoặc không. Tôi sẽ sửa câu trả lời của mình khi tôi có câu trả lời rõ ràng.

— mpiktas

@Tomek Tarczynski, đạo hàm thứ ba của chuyển sang số 0 khá nhanh đối với lớn , nhưng không bị chặn gần 0. Vì vậy, nếu bạn chọn phân phối đồng đều với mức hỗ trợ gần bằng 0, thời hạn còn lại có thể trở nên lớn.

\sqrt{x}

$\sqrt{x}$

x

$x$

— mpiktas

Lưu ý rằng trong liên kết của bạn, đẳng thức là gần đúng. Trong câu trả lời này tất cả các phương trình là chính xác. Hơn nữa, đối với lưu ý phương sai rằng đạo hàm đầu tiên được ước tính ở , không phải . Ngoài ra, tôi chưa bao giờ nói rằng điều này sẽ không hoạt động đối với , chỉ có điều với , công thức gần đúng có thể có lỗi rất lớn nếu miền gần bằng không.

E X

$EX$

x

$x$

\sqrt{x}

$\sqrt{x}$

\sqrt{x}

$\sqrt{x}$

X

$X$

— mpiktas

Để biết hai khoảnh khắc đầu tiên của X (trung bình và phương sai) là không đủ, nếu hàm f (x) là tùy ý (phi tuyến tính). Không chỉ để tính toán phương sai của biến Y, mà còn cả ý nghĩa của nó. Để thấy điều này - và có lẽ để tấn công vấn đề của bạn - bạn có thể giả sử rằng hàm biến đổi của bạn có phần mở rộng Taylor xung quanh giá trị trung bình của X và hoạt động từ đó.

— leonbloy
nguồn