Là kỳ vọng giống như có nghĩa?

Tôi đang làm ML tại trường đại học của mình, và giáo sư đã đề cập đến thuật ngữ Kỳ vọng (E), trong khi anh ấy đang cố gắng giải thích cho chúng tôi một số điều về các quy trình Gaussian. Nhưng từ cách anh ấy giải thích, tôi hiểu rằng E giống với nghĩa. Tôi đã hiểu đúng chưa?

Nếu nó giống nhau, thì bạn có biết tại sao cả hai biểu tượng được sử dụng không? Ngoài ra tôi thấy rằng E có thể được sử dụng như một hàm, như E ( ), nhưng tôi không thấy điều đó cho. $x^2$

Ai đó có thể giúp tôi hiểu rõ hơn sự khác biệt giữa hai?

machine-learning gaussian-process linear-algebra

— Jim Blum
nguồn

Đối với liên tục , trong đó là hàm mật độ xác suất. Vì vậy, nó chỉ đúng khi

là đối số. Tuy nhiên, nó cũng có thể đúng nếu chúng ta có

, trong đó

là một cái gì đó khác với chức năng nhận dạng.

X

$X$

E [X] = \int_{- \infty}^{\infty} f (x) x d x = μ (x)

$E[X] = \int_{-\infty}^{\infty} f(x)x dx = \mu(x)$

f (x)

$f(x)$

X

$X$

E [g (X)] = E [X] = μ (X)

$E[g(X)] = E[X] = \mu(X)$

g

$g$

— Jase

@Jase

μ (x)

$\mu(x)$ ? Tại sao phía bên phải là hàm của

x

$x$ , nên biến mất sau khi thay thế các giới hạn trong khi đánh giá tích phân?

— Dilip Sarwate

@DilipSarwate

μ (x)

$\mu(x)$ là một lỗi đánh máy. Có nghĩa là nói

μ = μ (X)

$\mu = \mu(X)$ .

— Jase

John: nếu tôi là bạn, tôi sẽ học xác suất cơ bản trước khi tham gia các lớp Machine Learning / Gaussian Processes. Hãy xem cuốn sách này: math.uiuc.edu/~r-ash/BPT.html

— Zen

Cảm ơn rất nhiều người đã giúp đỡ của bạn! Tôi không mong đợi nhiều thông tin phản hồi. @Zen Cảm ơn rất nhiều vì lời khuyên của bạn. Tôi hoàn toàn đồng ý với bạn. Tôi đã lấy một mô-đun là đại học về xác suất và thống kê, tuy nhiên, chúng tôi chỉ có một giới thiệu đơn giản về phân phối và xác suất, và thật không may, chúng tôi đã không làm sâu chúng. Ngoài ra, chúng tôi đã không đề cập đến thuật ngữ "Kỳ vọng". Bây giờ tôi đang cố gắng để tự mình che lấp khoảng trống về số liệu thống kê và xác suất.

— Jim Blum

Câu trả lời:

Kỳ vọng / Giá trị mong đợi là một toán tử có thể được áp dụng cho một biến ngẫu nhiên. Đối với các biến ngẫu nhiên rời rạc (như nhị thức) với giá trị có thể, nó được định nghĩa là . Đó là, đó là giá trị trung bình của các giá trị có thể có trọng số bởi xác suất của các giá trị đó. Các biến ngẫu nhiên liên tục có thể được coi là tổng quát hóa của điều này: . Giá trị trung bình của một biến ngẫu nhiên là một từ đồng nghĩa với kỳ vọng. $k$ $\sum_i^k x_i p(x_i)$ $\int x dP$

Phân phối Gaussian (bình thường) có hai tham số và . Nếu được phân phối bình thường, thì . Vì vậy, giá trị trung bình của biến phân phối Gaussian bằng tham số . Điều này không phải lúc nào cũng đúng. Lấy phân phối nhị thức, có tham số và . Nếu được phân phối nhị thức, thì . $\mu$ $\sigma^2$ $X$ $E(X)=\mu$ $\mu$ $n$ $p$ $X$ $E(X)=np$

Như bạn đã thấy, bạn cũng có thể áp dụng kỳ vọng cho các hàm của các biến ngẫu nhiên để với gaussian bạn có thể thấy rằng . $X$ $E(X^2)=\sigma^2+\mu^2$

Trang Wikipedia về các giá trị dự kiến khá nhiều thông tin: http://en.wikipedia.org/wiki/Expected_value

— Jeremy Coyle
nguồn

"... để cho Gaussian bạn có thể thấy rằng " Có nhất thiết phải bởi Gaussian để giữ mối quan hệ này không?

X

$X$

E (X^{2}) = σ^{2} + μ^{2}

$E(X^2)=\sigma^2+\mu^2$

X

$X$

— Dilip Sarwate

Mối quan hệ sẽ luôn được giữ, nhưng tôi mong đợi câu trả lời được viết theo các tham số của phân phối. Vì vậy, nếu tôi hỏi ai đó là gì cho phân phối Binomial , tôi sẽ mong đợi câu trả lời , không phải

E (X^{2}) = V (X) + E (X)^{2}

$E(X^2)=V(X)+E(X)^2$

E (X^{2})

$E(X^2)$

X

$X$

(n, p)

$(n,p)$

n p (1 - p) + (n p)^{2}

$np(1-p)+(np)^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

— Jeremy Coyle

Nhưng nếu bạn hỏi cho biến ngẫu nhiên nhị thức với trung bình và phương sai , câu trả lời sẽ là . Cho rằng các biến ngẫu nhiên nhị thức thường được tham số hóa bằng và , nhưng vậy thì sao? Từ giá trị trung bình và phương sai, chúng ta có thể dễ dàng tìm thấy và

E (X^{2})

$E(X^2)$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

n

$n$

p

$p$

p = 1 - \frac{variance}{mean}

$p = 1 - \frac{\text{variance}}{\text{mean}}$

n = \frac{mean}{p} = \frac{{mean}^{2}}{mean - variance} .

$n = \frac{\text{mean}}{p} = \frac{\text{mean}^2}{\text{mean}-\text{variance}}.$

— Dilip Sarwate

Toàn bộ điểm của ví dụ là phân biệt giữa các tham số của phân phối và các khoảnh khắc của phân phối. Có, có thể xác định lại các phân phối theo thời điểm của chúng, nhưng vì OP đã hỏi về mối quan hệ giữa và , nên việc tiếp tục tạo ra sự khác biệt đó là rất quan trọng. Có một lý do nào bạn chọn để trở thành nhà mô phạm về điểm này?

E (X)

$E(X)$

μ

$\mu$

— Jeremy Coyle

Cảm ơn rất nhiều Jeremy! Câu trả lời tuyệt vời. bạn đã rất hữu ích

— Jim Blum

Kỳ vọng với ký hiệu toán tử E () (các tùy chọn khác nhau về phông chữ tốt, chữ roman hoặc chữ nghiêng, đơn giản hoặc ưa thích, được tìm thấy) có nghĩa là lấy ý nghĩa của đối số của nó, nhưng trong bối cảnh toán học hoặc lý thuyết. Thuật ngữ này trở lại với Christiaan Huygens trong thế kỷ 17. Ý tưởng này rõ ràng trong phần lớn lý thuyết xác suất và thống kê toán học, và, ví dụ, cuốn sách Xác suất của Peter Whittle thông qua sự kỳ vọng cho thấy rõ làm thế nào nó có thể được thực hiện thậm chí còn trung tâm hơn.

Về cơ bản, đây chỉ là vấn đề quy ước có nghĩa là (trung bình) cũng thường được thể hiện khá khác nhau, đáng chú ý là các ký hiệu đơn lẻ và đặc biệt là khi các phương tiện đó được tính từ dữ liệu. Tuy nhiên, Whittle trong cuốn sách vừa trích dẫn sử dụng ký hiệu A () để lấy trung bình và dấu ngoặc góc xung quanh các biến hoặc biểu thức được tính trung bình là phổ biến trong khoa học vật lý.

— Nick Cox
nguồn