Phương sai của hỗn hợp có trọng số của hai gaussian là gì?

Giả sử tôi có hai bản phân phối bình thường A và B với phương tiện và và phương sai và . Tôi muốn lấy hỗn hợp có trọng số của hai phân phối này bằng cách sử dụng trọng số và trong đó và . Tôi biết rằng giá trị trung bình của hỗn hợp này sẽ là . $\mu_A$ $\mu_B$ $\sigma_A$ $\sigma_B$ $p$ $q$ $0\le p \le 1$ $q = 1-p$ $\mu_{AB} = (p\times\mu_A) + (q\times\mu_B)$

Phương sai sẽ là gì?

Một ví dụ cụ thể sẽ là nếu tôi biết các thông số phân bố chiều cao nam và nữ. Nếu tôi có một phòng gồm 60% nam giới, tôi có thể tạo ra chiều cao trung bình dự kiến cho toàn bộ phòng, nhưng còn phương sai thì sao?

normal-distribution mixture

— JoFrhwld
nguồn

Thuật ngữ Re: Hỗn hợp đơn giản có một giá trị trung bình và phương sai; không có ý nghĩa trong việc coi những điều này là "mong đợi", trừ khi bạn có thể gợi ý rằng và nên được coi là các biến ngẫu nhiên.

p

$p$

q

$q$

— whuber

Tôi biết rằng hỗn hợp của hai phân phối gaussian là có thể xác định được. Nhưng nếu hai bản phân phối có cùng một emans? Tức là: là hỗn hợp của hai phân phối bình thường có cùng phương tiện và độ lệch chuẩn khác nhau có thể xác định được không? Có giấy tờ trong bối cảnh này? Cảm ơn trước

Có một câu hỏi tương tự với câu trả lời (cũng liên quan đến COVARIANCES

— hplieninger 17/03/2016

Phương sai là khoảnh khắc thứ hai trừ đi bình phương của khoảnh khắc đầu tiên, do đó, nó đủ để tính toán các khoảnh khắc của hỗn hợp.

Nói chung, các bản phân phối đã cho có PDF và trọng số không đổi (không ngẫu nhiên) , PDF của hỗn hợp là $f_i$ $p_i$

f (x) = = \underset{tôi}{Σ} p_{tôi} f_{tôi} (x),

$f(x) = \sum_i{p_i f_i(x)},$

từ đó nó sau ngay lập tức cho bất kỳ thời điểm mà $k$

μ^{(k)} = = E_{f} [x^{k}] = = \underset{tôi}{Σ} p_{tôi} E_{f_{tôi}} [x^{k}] = = \underset{tôi}{Σ} p_{tôi} μ_{tôi}^{(k)} .

$\mu^{(k)} = \mathbb{E}_{f}[x^k] = \sum_i{p_i \mathbb{E}_{f_i}[x^k]} = \sum_i{p_i \mu_i^{(k)}}.$

Tôi đã viết cho khoảnh khắc của và cho khoảnh khắc của . $\mu^{(k)}$ $k^{th}$ $f$ $\mu_i^{(k)}$ $k^{th}$ $f_i$

Sử dụng các công thức này, phương sai có thể được viết

Var (f) = = μ^{(2)} - {(μ^{(1)})}^{2} = = \underset{tôi}{Σ} p_{tôi} μ_{tôi}^{(2)} - {(\underset{tôi}{Σ} p_{tôi} μ_{tôi}^{(1)})}^{2} .

$\text{Var}(f) = \mu^{(2)} - \left(\mu^{(1)}\right)^2 = \sum_i{p_i \mu_i^{(2)}} - \left(\sum_i{p_i \mu_i^{(1)}}\right)^2.$

Tương đương, nếu phương sai của được cho là , thì , cho phép phương sai của hỗn hợp được viết theo phương sai và phương tiện của các thành phần của nó như $f_i$ $\sigma^2_i$ $\mu^{(2)}_i = \sigma^2_i + \left(\mu^{(1)}_i\right)^2$ $f$

\begin{aligned} Var (f) & = \sum_{i} p_{i} (σ_{i}^{2} + {(μ_{i}^{(1)})}^{2}) - {(\sum_{i} p_{i} μ_{i}^{(1)})}^{2} \\ = \sum_{i} p_{i} σ_{i}^{2} + \sum_{i} p_{i} {(μ_{i}^{(1)})}^{2} - {(\sum_{i} p_{i} μ_{i}^{(1)})}^{2} . \end{aligned}

$\eqalign{ \text{Var}(f) &= \sum_i{p_i \left(\sigma^2_i + \left(\mu^{(1)}_i\right)^2\right)} - \left(\sum_i{p_i \mu_i^{(1)}}\right)^2 \\ &= \sum_i{p_i \sigma^2_i} + \sum_i{p_i\left(\mu_i^{(1)}\right)^2} - \left(\sum_{i}{p_i \mu_i^{(1)}}\right)^2. }$

Nói cách khác, đây là phương sai trung bình (có trọng số) cộng với trung bình bình phương trừ đi bình phương trung bình. Vì bình phương là một hàm lồi, Bất đẳng thức của Jensen khẳng định rằng trung bình bình phương trung bình có thể không nhỏ hơn bình phương trung bình. Điều này cho phép chúng ta hiểu công thức khi nêu phương sai của hỗn hợp là hỗn hợp của phương sai cộng với một thuật ngữ không âm cho sự phân tán (có trọng số) của phương tiện.

Trong trường hợp của bạn, phương sai là

p_{A} σ_{A}^{2} + p_{B} σ_{B}^{2} + [p_{A} μ_{A}^{2} + p_{B} μ_{B}^{2} - (p_{A} μ_{A} + p_{B} μ_{B})^{2}] .

$p_A \sigma_A^2 + p_B \sigma_B^2 + \left[p_A\mu_A^2 + p_B\mu_B^2 - (p_A \mu_A + p_B \mu_B)^2\right].$

Chúng ta có thể hiểu đây là một hỗn hợp có trọng số của hai phương sai, , cộng với một thuật ngữ điều chỉnh (nhất thiết là tích cực) để tính đến sự dịch chuyển từ các phương tiện riêng lẻ so với trung bình tổng thể. $p_A\sigma_A^2 + p_B\sigma_B^2$

Tiện ích của phương sai này trong việc diễn giải dữ liệu, như được đưa ra trong câu hỏi, rất đáng nghi ngờ, bởi vì phân phối hỗn hợp sẽ không bình thường (và có thể rời khỏi nó, đến mức độ thể hiện tính lưỡng tính).

— whuber
nguồn

p_{A} + p_{B} = 1

$p_A+p_B=1$

σ^{2} = μ^{(2)} - μ^{2} = p_{A} σ_{A}^{2} + p_{B} σ_{B}^{2} + p_{A} p_{B} (μ_{A} - μ_{B})^{2}

$\sigma^2=\mu^{(2)}-\mu^2=p_A\sigma_A^2+p_B\sigma_B^2+p_Ap_B(\mu_A-\mu_B)^2$

A

$A$

p_{A}

$p_A$

X

$X$

A

$A$

N (μ_{A}, σ_{A}^{2})

$N(\mu_A,\sigma_A^2)$

X

$X$

A^{c} = B

$A^c = B$

N (μ_{B}, σ_{B}^{2})

$N(\mu_B,\sigma_B^2)$

(X)

$(X)$

Y

$Y$

μ_{A}, μ_{B}

$\mu_A, \mu_B$

p

$p$

q

$q$

E [Y^{2}] - (E [Y])^{2}

$E[Y^2]-(E[Y])^2$

@Neodyme Theo định nghĩa, phương sai là khoảnh khắc thứ hai trừ bình phương trung bình. Do đó, khoảnh khắc thứ hai là phương sai cộng với bình phương trung bình.

— whuber

@Neodyme sử dụng

E (X) = μ

$E(X)=\mu$

— whuber

@Kiran Mặc dù trong một số trường hợp, hỗn hợp có thể trông bình thường, nhưng nó sẽ không như vậy. Một cách để thấy điều đó là tính toán mức độ tổn thương dư thừa của nó bằng cách sử dụng các công thức được đưa ra ở đây. Nó sẽ là khác thường trừ khi tất cả các độ lệch chuẩn là bằng nhau - trong trường hợp đó, "hỗn hợp" không thực sự là một hỗn hợp ở vị trí đầu tiên.

— whuber