Sự biện minh của việc sử dụng xấp xỉ taylor trong các toán tử kỳ vọng là gì?

Đôi khi tôi thấy mọi người sử dụng xấp xỉ taylor như sau:

$$E(e^x)\approx E(1+x)$$

Tôi biết rằng xấp xỉ taylor hoạt động cho

$$e^x \approx 1+x$$

Nhưng tôi không rõ ràng rằng chúng ta có thể thực hiện xấp xỉ bên trong toán tử kỳ vọng. Theo trực giác, tôi đoán nó hoạt động nếu "xác suất lớn hơn 0 là nhỏ", nhưng tôi không chắc điều này nghiêm ngặt đến mức nào.$x$

Chỉnh sửa : Tôi thậm chí còn bối rối hơn khi chúng ta có một kỳ vọng về một chức năng:

$$E(f(e^x))\overset ?\approx E(f(1+x))$$

Ví dụ cụ thể của bạn, xấp xỉ thứ tự Taylor xấp xỉ , vì vậy$x_0=0, e^x = e^0 +e^0x+R_1 = 1+x+R_1$

$$E(e^x) = E(1+x) + E(R_1)$$

Vì vậy, câu hỏi là "chúng ta có thể nói gì về ? Chà, chúng ta không biết nhiều như chúng ta muốn về phép tính gần đúng của Taylor - nói về hành vi của phần còn lại. $E(R_1)$

Xem ví dụ này về lý do tại sao phần còn lại là một điều nguy hiểm, nhưng tôi cũng đề nghị đọc qua chủ đề rất kích thích, Lấy kỳ vọng của loạt Taylor (đặc biệt là phần còn lại) về vấn đề này.

Một kết quả thú vị trong hồi quy tuyến tính là như sau: giả sử chúng ta có mô hình phi tuyến tính thực sự

$$y_i = m(\mathbf x_i) + e_i$$

Trong đó là hàm kỳ vọng có điều kiện, E ( y i ∣ x i ) = m ( x i ) , và do đó bằng cách xây dựng E ( e i ∣ x i ) = 0 .$m(\mathbf x_i)$$E(y_i\mid \mathbf x_i) = m(\mathbf x_i)$$E(e_i \mid \mathbf x_i) = 0$

Hãy xem xét xấp xỉ Taylor bậc một cụ thể xung quanh $E(\mathbf x_i)$

$$y_i = \beta_0+\mathbf x_i'\beta + u_i, \;\;\;u_i = R_{1i} + e_i$$

Trong đó là phần còn lại của Taylor gần đúng, betas là đạo hàm riêng của hàm phi tuyến tính đối với x i được đánh giá tại E ( x i ) , trong khi thuật ngữ không đổi thu thập tất cả những thứ cố định khác của gần đúng (nhân tiện, đây là lý do tại sao a) chúng ta được bảo "luôn bao gồm một hằng số trong đặc tả" nhưng b) hằng số vượt quá sự giải thích có ý nghĩa trong hầu hết các trường hợp).$R_{1i}$$\mathbf x_i$$E(\mathbf x_i)$

$E(R_{1i}\mathbf x_i) = E(R_{1i})E(\mathbf x_i)$$E(R_{1i}^2) = \min$. Kết quả đầu tiên ngụ ý rằng các thuộc tính của công cụ ước tính OLS cho betas không bị ảnh hưởng bởi thực tế là chúng ta đã xấp xỉ hàm phi tuyến tính bằng cách xấp xỉ bậc nhất Taylor. Kết quả thứ hai ngụ ý rằng phép tính gần đúng là tối ưu theo cùng một tiêu chí mà kỳ vọng có điều kiện là yếu tố dự đoán tối ưu (lỗi bình phương, ở đây có nghĩa là bình phương còn lại).

Cả hai tiền đề đều cần thiết cho những kết quả này, cụ thể là, chúng tôi thực hiện việc mở rộng Taylor xung quanh giá trị dự kiến ​​của các biến hồi quy và chúng tôi sử dụng OLS.

Một tình huống trong đó điều này được sử dụng là tiệm cận.

Ví dụ: giả sử và là một hàm trơn tru. Sau đó trong đó có nghĩa là hội tụ trong phân phối (còn được gọi là hội tụ trong luật). Trong thực tế, chúng tôi sẽ xóa các điều khoản bậc cao hơn trong bản mở rộng và coi nó là Một người viết gg(Xn)-g(μ$\dfrac{X_n-\mu}{\sigma/\sqrt n}\sim N(0,1)$$g$“L⟶''g(x)=g(μ)+g'(μ)(x-μ)+g"(μ

$$\frac{g(X_n)-g(\mu)}{\left|g'(\mu)\right|\sigma/\sqrt n} \overset{\mathcal L} \longrightarrow N(0,1) \text{ as } n\to\infty,$$ $\text{“} \overset{\mathcal L} \longrightarrow \text{''}$g(x)≈g(μ)+g'(μ)(x-μ). g(Xn)∼AN(g(μ), g ′ (μ ) 2 σ $$g(x) = g(\mu) + g'(\mu)(x-\mu) + \frac{g''(\mu)} 2 (x-\mu)^2 + \frac{g'''(\mu)} 6 (x-\mu)^3 + \cdots$$ $$g(x) \approx g(\mu) + g'(\mu)(x-\mu).$$ “MộtN $$g(X_n) \sim AN\left( g(\mu), \frac{g'(\mu)^2\sigma^2} n \right)$$ $\text{“}AN\text{''}$ có nghĩa là "bình thường không có triệu chứng."