Định lý Bayes có đúng với kỳ vọng không?

18

Có đúng là với hai biến ngẫu nhiên và , $A$ $B$

E (A ∣ B) = E (B ∣ A) \frac{E (A)}{E (B)} ?

$E(A\mid B)=E(B\mid A)\frac{E(A)}{E(B)}?$

bayesian mathematical-statistics

— cà chua
nguồn

3

Hmm ... Tôi không nghĩ hai mặt đó là tương đương nhau

— Jon

6

Như đã chỉ ra trong các câu trả lời, câu hỏi là vô nghĩa về mặt xác suất vì sự tích hợp của các biến ngẫu nhiên ở một bên là các biến điều hòa ở phía bên kia.

— Tây An

25

\begin{matrix} (1) & E [A ∣ B] \overset{?}{=} E [B ∣ A] \frac{E [A]}{E [B]} \end{matrix}

$E[A\mid B] \stackrel{?}= E[B\mid A]\frac{E[A]}{E[B]} \tag 1$ Kết quả được phỏng đoán là đúng đối với các biến ngẫu nhiên độc lập và với phương tiện khác không.

(1)

$(1)$

A

$A$

B

$B$

Nếu , thì bên phải của liên quan đến phép chia cho và vì vậy là vô nghĩa. Lưu ý rằng việc và độc lập hay không không liên quan. $E[B]=0$ $(1)$ $0$ $(1)$ $A$ $B$

Nói chung , không giữ các biến ngẫu nhiên phụ thuộc nhưng có thể tìm thấy các ví dụ cụ thể về phụ thuộc và thỏa mãn . Lưu ý rằng chúng ta phải tiếp tục khẳng định rằng , nếu không thì phía bên phải của là vô nghĩa. Hãy nhớ rằng là một biến ngẫu nhiên là hàm của biến ngẫu nhiên , giả sử trong khi là một biến ngẫu nhiên là một hàm của biến ngẫu nhiên , nói $(1)$ $A$ $B$ $(1)$ $E[B]\neq 0$ $(1)$ $E[A\mid B]$ $B$ $g(B)$ $E[B\mid A]$ $A$ $h(A)$ . Vì vậy, tương tự như hỏi liệu $(1)$

\begin{matrix} (2) & g (B) \overset{?}{=} h (A) \frac{E [A]}{E [B]} \end{matrix}

$g(B)\stackrel{?}= h(A)\frac{E[A]}{E[B]} \tag 2$ có thể là một tuyên bố đúng và rõ ràng câu trả lời là không thể là một bội số của nói chung.

g (B)

$g(B)$

h (A)

$h(A)$

Theo hiểu biết của tôi, chỉ có hai trường hợp đặc biệt trong đó có thể giữ. $(1)$

Như đã lưu ý ở trên, đối với các biến ngẫu nhiên độc lập và , và là các biến ngẫu nhiên suy biến (được gọi là hằng số bởi những người mù chữ thống kê) tương ứng với và , và nếu , chúng ta có đẳng thức trong . $A$ $B$ $g(B)$ $h(A)$ $E[A]$ $E[B]$ $E[B]\neq 0$ $(1)$
Ở đầu kia của phổ từ độc lập, giả sử rằng trong đó là một hàm khả nghịch và do đó và là hoàn toàn biến ngẫu nhiên phụ thuộc. Trong trường hợp này, và vì vậy trở thành giữ chính xác khi trong đó có thể là bất kỳ số khác không. Do đó, giữ bất cứ khi nào là bội số vô hướng của và dĩ nhiên $A=g(B)$ $g(\cdot)$ $A=g(B)$ $B=g^{-1}(A)$
$E [A ∣ B] = g (B), E [B ∣ A] = g^{- 1} (A) = g^{- 1} (g (B)) = B$ $E[A\mid B] = g(B), \quad E[B\mid A] = g^{-1}(A) = g^{-1}(g(B)) = B$ $(1)$ $g (B) \overset{?}{=} B \frac{E [A]}{E [B]}$ $g(B)\stackrel{?}= B\frac{E[A]}{E[B]}$ $g(x) = \alpha x$ $\alpha$ $(1)$ $A$ $B$ $E[B]$ phải là khác không (xem câu trả lời của Michael Hardy ). Sự phát triển trên cho thấy phải là hàm tuyến tính và không thể giữ cho các hàm affine với . Tuy nhiên, lưu ý rằng Alecos Papadopolous trong câu trả lời của anh ấy và nhận xét của anh ấy sau đó tuyên bố rằng nếu là biến ngẫu nhiên bình thường với giá trị khác không, thì đối với các giá trị cụ thể của và mà anh ấy cung cấp, và thỏa mãn $g(x)$ $(1)$ $g(x) = \alpha x + \beta$ $\beta \neq 0$ $B$ $\alpha$ $\beta\neq 0$ $A=\alpha B+\beta$ $B$ $(1)$ . Theo tôi, ví dụ của anh ấy là không chính xác.

Trong một bình luận về câu trả lời này, Huber đã đề nghị xem xét đối xứng phỏng đoán bình đẳng mà của Tất nhiên luôn luôn giữ cho các biến ngẫu nhiên độc lập bất kể giá trị của và và đối với bội vô hướng cũng vậy. Tất nhiên, tầm thường hơn, giữ cho bất kỳ biến ngẫu nhiên trung bình và (không phụ thuộc hay phụ thuộc, vô hướng nhiều hay không; không quan trọng!): là đủ cho bình đẳng trong . Do đó, có thể không thú vị bằng

\begin{matrix} (3) & E [A ∣ B] E [B] \overset{?}{=} E [B ∣ A] E [A] \end{matrix}

$E[A\mid B]E[B] \stackrel{?}=E[B\mid A]E[A]\tag{3}$

E [A]

$E[A]$

E [B]

$E[B]$

A = α B

$A = \alpha B$

(3)

$(3)$

A

$A$

B

$B$

E [A] = E [B] = 0

$E[A]=E[B]=0$

(3)

$(3)$

(3)

$(3)$

(1)

$(1)$ như một chủ đề để thảo luận.

— Dilip Sarwate
nguồn

9

+1. Để hào phóng, câu hỏi có thể được hiểu là hỏi liệu , trong đó câu hỏi chia cho số 0 biến mất.

E (A | B) E (B) = E (B | A) E (A)

$E(A|B)E(B)=E(B|A)E(A)$

— whuber

1

@whuber Cảm ơn. Chỉnh sửa của tôi giải quyết câu hỏi chung chung hơn là liệu có thể có .

E [A ∣ B] E [B] = E [B ∣ A] E [A]

$E[A\mid B]E[B]=E[B\mid A]E[A]$

— Dilip Sarwate

11

Kết quả là không đúng sự thật nói chung, chúng ta hãy xem điều đó trong một ví dụ đơn giản. Đặt có phân phối nhị thức với các tham số và có phân phối beta với các tham số , nghĩa là một mô hình bayes có liên hợp trước. Bây giờ chỉ cần tính hai mặt của công thức của bạn, phía bên trái là , trong khi phía bên phải là và những cái đó chắc chắn không bằng nhau. $X \mid P=p$ $n,p$ $P$ $(\alpha, \beta)$ $\DeclareMathOperator{\E}{\mathbb{E}} \E X \mid P = nP$

E (P ∣ X) \frac{E X}{E P} = \frac{α + X}{n + α + β} \frac{α / (α + β)}{n α / (α + β)}

$\E( P\mid X) \frac{\E X}{\E P} = \frac{\alpha+X}{n+\alpha+\beta} \frac{\alpha/(\alpha+\beta)}{n\alpha/(\alpha+\beta)}$

— kjetil b halvorsen
nguồn

2

Giá trị mong đợi có điều kiện của một biến ngẫu nhiên cho sự kiện là một số phụ thuộc vào số là gì. Vì vậy, gọi nó làSau đó, giá trị kỳ vọng có điều kiện là một biến ngẫu nhiên có giá trị là hoàn toàn xác định bởi giá trị của biến ngẫu nhiên . Như vậy là một chức năng của và là một chức năng của . $A$ $B=b$ $b$ $h(b).$ $\operatorname{E}(A\mid B)$ $h(B),$ $B$ $\operatorname{E}(A\mid B)$ $B$ $\operatorname{E}(B\mid A)$ $A$

Thương số chỉ là một số. $\operatorname{E}(A)/\operatorname{E}(B)$

Vì vậy, một mặt của đẳng thức được đề xuất của bạn được xác định bởi và mặt kia của , do đó chúng thường không thể bằng nhau. $A$ $B$

(Có lẽ tôi nên thêm rằng chúng có thể bằng nhau trong trường hợp tầm thường khi các giá trị của và xác định lẫn nhau, ví dụ như khi và , khi Nhưng các hàm chỉ bằng nhau tại một vài điểm không bằng nhau.) $A$ $B$ $A = \alpha B, \alpha \neq 0$ $E[B]\neq 0$

E [A ∣ B] = α B = E [B ∣ A] \cdot α = E [B ∣ A] \frac{α E [B]}{E [B]} = E [B ∣ A] \frac{E [A]}{E [B]} .

$E[A\mid B] = \alpha B = E[B\mid A]\cdot\alpha = E[B\mid A]\frac{\alpha E[B]}{E[B]} = E[B\mid A]\frac{E[A]}{E[B]}.$

— Michael Hardy
nguồn

Bạn có nghĩa là họ không nhất thiết phải bằng nhau? Ý tôi là họ CÓ THỂ bình đẳng?

— BCLC

1

@BCLC: Chúng chỉ bằng nhau trong các trường hợp tầm thường. Và hai hàm bằng nhau tại một số điểm và không ở các điểm khác không bằng nhau.

— Michael Hardy

2

"Nhưng chỉ trong trường hợp tầm thường đó, họ mới có thể bằng nhau" (nhấn mạnh thêm) không hoàn toàn chính xác. Xét và độc lập với . Sau đó, trong khi và do đó

A

$A$

B

$B$

E [B] \neq 0

$E[B]\neq 0$

E [A ∣ B] = E [A]

$E[A\mid B] = E[A]$

E [B ∣ A] = E [B]

$E[B\mid A] = E[B]$

E [B ∣ A] \frac{E [A]}{E [B]} = E [B] \frac{E [A]}{E [B]} = E [A] = E [A ∣ B] .

$E[B\mid A] \frac{E[A]}{E[B]} = E[B]\frac{E[A]}{E[B]} = E[A] = E[A\mid B].$

— Dilip Sarwate

@DilipSarwate Tôi sắp nói điều đó haha!

— BCLC

Tôi đã chỉnh sửa câu trả lời của bạn để thêm một vài chi tiết cho trường hợp bạn đã chỉ ra. Vui lòng quay lại nếu bạn không thích những thay đổi.

— Dilip Sarwate

-1

Các biểu hiện chắc chắn không giữ nói chung. Để giải trí, tôi chỉ ra bên dưới rằng nếu và cùng tuân theo phân phối chuẩn bivariate và có phương tiện khác không, kết quả sẽ giữ nếu hai biến là các hàm tuyến tính của nhau và có cùng hệ số biến thiên ( tỷ lệ độ lệch chuẩn so với trung bình) về mặt tuyệt đối. $A$ $B$

Đối với các quy tắc chung chúng ta có

E (A ∣ B) = μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B})

$\operatorname{E}(A \mid B) = \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B)$

và chúng tôi muốn áp đặt

μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B}) = [μ_{B} + ρ \frac{σ_{B}}{σ_{A}} (A - μ_{A})] \frac{μ_{A}}{μ_{B}}

$\mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \left[\mu_B + \rho \frac{\sigma_B}{\sigma_A}(A - \mu_A)\right]\frac{\mu_A}{\mu_B}$

⟹ μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B}) = μ_{A} + ρ \frac{σ_{B}}{σ_{A}} \frac{μ_{A}}{μ_{B}} (A - μ_{A})

$\implies \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \mu_A + \rho \frac{\sigma_B}{\sigma_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$

Đơn giản hóa và sau đó và sắp xếp lại để nhận $\mu_A$ $\rho$

B = μ_{B} + \frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}} (A - μ_{A})

$B = \mu_B +\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$

Vì vậy, đây là mối quan hệ tuyến tính phải giữ giữa hai biến số (vì vậy chúng chắc chắn phụ thuộc, với hệ số tương quan bằng thống nhất về số tuyệt đối) để có được sự bằng nhau mong muốn. Nó ngụ ý gì?

Đầu tiên, nó cũng phải hài lòng rằng

E (B) \equiv μ_{B} = μ_{B} + \frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}} (E (A) - μ_{A}) ⟹ μ_{B} = μ_{B}

$E(B) \equiv \mu_B = \mu_B+\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(E(A) - \mu_A) \implies \mu_B = \mu_B$

do đó, không có giới hạn nào khác được áp đặt cho giá trị trung bình của (hoặc của ) ngoại trừ chúng là khác không. Ngoài ra một mối quan hệ cho phương sai phải được thỏa mãn, $B$ $A$

Var (B) \equiv σ_{B}^{2} = {(\frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}})}^{2} Var (A)

$\operatorname{Var}(B) \equiv \sigma^2_B = \left(\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}\right)^2\operatorname{Var}(A)$

⟹ {(σ_{A}^{2})}^{2} σ_{B}^{2} = {(σ_{B}^{2})}^{2} σ_{A}^{2} {(\frac{μ_{A}}{μ_{B}})}^{2}

$\implies \left(\sigma^2_A\right)^2\sigma^2_B = \left(\sigma^2_B\right)^2\sigma^2_A\left(\frac{\mu_A}{\mu_B}\right)^2$

⟹ {(\frac{σ_{A}}{μ_{A}})}^{2} = {(\frac{σ_{B}}{μ_{B}})}^{2} ⟹ ({cv}_{A})^{2} = ({cv}_{B})^{2}

$\implies \left(\frac{\sigma_A}{\mu_A}\right)^2 = \left(\frac{\sigma_B}{\mu_B}\right)^2 \implies (\text{cv}_A)^2 = (\text{cv}_B)^2$

⟹ | {cv}_{A} | = | {cv}_{B} |

$\implies |\text{cv}_A| = |\text{cv}_B|$

đã được hiển thị.

Lưu ý rằng sự bằng nhau của hệ số biến thiên theo thuật ngữ tuyệt đối, cho phép các biến có các phương sai khác nhau và một biến có giá trị trung bình dương và âm khác.

— Alecos Papadopoulos
nguồn

1

Đây không phải là một cách phức tạp để trong đó là một số vô hướng?

A = α B

$A = \alpha B$

α

$\alpha$

— Matthew Gunn

1

@MatthewGunn Nhận xét của bạn là đúng mục tiêu. Bình thường không có gì để làm với vấn đề. Đối với biến ngẫu nhiên và mà , và tương tự, . Do đó, giả sử rằng ,Không quy tắc, khôngv.v., và thực sự chỉ là một bài bình luận trong câu trả lời của Michael Hardy.

A

$A$

B

$B$

A = α B

$A = \alpha B$

E [A ∣ B] = α B = A

$E[A\mid B] = \alpha B = A$

E [B ∣ A] = B

$E[B\mid A] = B$

E [B] \neq 0

$E[B]\neq 0$

E [A ∣ B] = α B = E [B ∣ A] \cdot α = E [B ∣ A] \frac{α E [B]}{E [B]} = E [B ∣ A] \frac{E [A]}{E [B]} .

$E[A\mid B] = \alpha B = E[B\mid A]\cdot\alpha = E[B\mid A]\frac{\alpha E[B]}{E[B]} = E[B\mid A]\frac{E[A]}{E[B]}.$

| c v_{A} | = | c v_{B} |

$|cv_A|=|cv_B|$

— Dilip Sarwate

Nếu bạn viết \ text {Var} được đặt tên là \ operatorname {Var} thì bạn sẽ thấy và thay vì vàĐó là lý do tại sao sau này là sử dụng tiêu chuẩn.

a Var X

$a\text{Var}X$

a Var (X)

$a\text{Var}(X)$

a Var X

$a\operatorname{Var}X$

a Var (X) .

$a\operatorname{Var}(X).$

— Michael Hardy

@MatthewGun Dường như với tôi, việc cung cấp câu trả lời có chứa các ví dụ cụ thể được coi là nội dung có giá trị trong trang web này. Vì vậy, có, khi một biến ngẫu nhiên là một hàm affine của một biến khác và chúng cùng bình thường với các phương tiện khác không, thì người ta cần phải có các hệ số biến đổi bằng nhau, trong khi đó, cũng không có hạn chế nào đối với các phương tiện của các rv này. Mặt khác, khi một biến ngẫu nhiên chỉ là một hàm tuyến tính của một biến khác, mối quan hệ luôn giữ. Vì vậy, không có câu trả lời của tôi không phải là một cách phức tạp để nói . (cc: @DilipSarwate)

A = a B

$A=aB$

— Alecos Papadopoulos

2

Nếu là biến ngẫu nhiên không bình thường với và (và do đó ), thìBây giờ, nếu chúng ta muốn có bằng , phải là và vì vậy . Vì vậy, đối với không bình thường , kết quả phỏng đoán của OP giữ nếu nhưng không phải nếu

B

$B$

E [B] = μ_{B} \neq 0

$E[B]=\mu_B\neq 0$

A = c B + d

$A=c B+d$

B = \frac{A - d}{c}

$B=\frac{A-d}{c}$

E [A ∣ B] = c B + d = A, E [B ∣ A] = \frac{A - d}{c} = B .

$E[A\mid B]=cB+d=A, E[B\mid A]=\frac{A-d}{c}=B.$

E [A ∣ B] = c B + d

$E[A\mid B]=cB+d$

E [B ∣ A] \cdot \frac{μ_{A}}{μ_{B}} = B \cdot \frac{μ_{A}}{μ_{B}}

$E[B\mid A]\cdot\frac{\mu_A}{\mu_B} =B\cdot\frac{\mu_A}{\mu_B}$

c B + d = B \cdot \frac{μ_{A}}{μ_{B}} ⟹ d = 0, c = \frac{μ_{A}}{μ_{B}}

$cB+d=B\cdot\frac{\mu_A}{\mu_B}\implies d=0,c=\frac{\mu_A}{\mu_B}$

A = c B = \frac{μ_{A}}{μ_{B}} B

$A=cB=\frac{\mu_A}{\mu_B}B$

B

$B$

A = c B

$A=cB$

A = c B + d, d \neq 0

$A=cB+d, d\neq 0$ Tất nhiên, như bạn đã chứng minh, kết quả giữ cho các biến ngẫu nhiên bình thường nếu .

A = c B + d, d \neq 0

$A=cB+d, d\neq 0$

— Dilip Sarwate