Tại sao hỗn hợp của hai biến phân phối thông thường chỉ là lưỡng kim nếu phương tiện của chúng khác nhau ít nhất hai lần độ lệch chuẩn chung?

28

Theo hỗn hợp của hai phân phối bình thường:

https://en.wikipedia.org/wiki/Multimodal_distribution#Mixture_of_two_n normal_distribution

"Một hỗn hợp của hai phân phối bình thường có năm tham số để ước tính: hai phương tiện, hai phương sai và tham số trộn. Một hỗn hợp của hai phân phối bình thường có độ lệch chuẩn bằng nhau chỉ là hai chiều nếu phương tiện của chúng khác nhau ít nhất hai lần độ lệch chuẩn chung . "

Tôi đang tìm kiếm một dẫn xuất hoặc giải thích trực quan về lý do tại sao điều này là đúng. Tôi tin rằng nó có thể được giải thích dưới dạng thử nghiệm hai mẫu t:

\frac{μ_{1} - μ_{2}}{σ_{p}}

$\frac{\mu_1-\mu_2}{\sigma_p}$

Trong đó $\sigma_p$ là độ lệch chuẩn gộp.

bimodal

— M Waz
nguồn

1

Trực giác là, nếu các phương tiện quá gần, thì sẽ có quá nhiều sự chồng chéo trong khối lượng của 2 mật độ nên sự khác biệt về phương tiện sẽ không được nhìn thấy bởi vì sự khác biệt sẽ chỉ được đưa ra với khối lượng của hai mật độ. Nếu hai phương tiện đủ khác nhau, thì khối lượng của hai mật độ sẽ không trùng nhau đến mức đó và sự khác biệt về phương tiện sẽ là rõ ràng. Nhưng tôi muốn thấy một bằng chứng toán học về điều này. Đó là một tuyên bố thú vị. Tôi chưa bao giờ nhìn thấy nó trước đây.

— mlofton

2

Chính thức hơn, đối với một hỗn hợp 50:50 của hai phân phối chuẩn với SD cùng

nếu bạn viết mật độ

ở dạng đầy đủ cho thấy các thông số, bạn sẽ thấy rằng đạo hàm thứ hai của nó thay đổi ký hiệu tại điểm giữa giữa hai phương tiện khi khoảng cách giữa các phương tiện tăng từ dưới

lên trên.

σ,

$\sigma,$

f (x) = 0.5 g_{1} (x) + 0.5 g_{2} (x)

$f(x) = 0.5g_1(x) + 0.5g_2(x)$

2 σ

$2\sigma$

— BruceET

1

Xem "Tiêu chí Rayleigh", en.wikipedia.org/wiki/Angular_resolution#Explanation

— Carl Witthoft

53

Con số này từ bài báo được liên kết trong bài viết wiki đó cung cấp một minh họa đẹp:

Bằng chứng họ cung cấp dựa trên thực tế là các phân phối bình thường lõm trong một SD của giá trị trung bình của chúng (SD là điểm uốn của pdf thông thường, khi nó đi từ lõm sang lồi). Do đó, nếu bạn thêm hai pdf bình thường với nhau (theo tỷ lệ bằng nhau), miễn là phương tiện của chúng khác nhau ít hơn hai SD, thì tổng pdf (nghĩa là hỗn hợp) sẽ được lõm vào vùng giữa hai phương tiện, và do đó tối đa toàn cầu phải ở điểm chính xác giữa hai phương tiện.

Tham khảo: Schilling, MF, Watkins, AE, & Watkins, W. (2002). Là chiều cao của con người Bimodal? Thống kê người Mỹ, 56 (3), 223 Từ229. doi: 10.1198 / 00031300265

— Ruben van Bergen
nguồn

11

+1 Đây là một cuộc tranh luận tốt đẹp, đáng nhớ.

— whuber

2

Chú thích hình cũng cung cấp một minh họa đẹp về chữ ghép 'fl' bị đầu hàng sai trong 'biến dạng' :-P

— nekomatic

2

@Axeman: Cảm ơn bạn đã thêm tài liệu tham khảo đó - vì điều này đã gây ra một chút tôi đã lên kế hoạch để tự thêm nó, vì tôi thực sự chỉ lặp lại lập luận của họ và tôi không muốn mất quá nhiều tín dụng cho việc đó.

— Ruben van Bergen

14

Đây là một trường hợp mà hình ảnh có thể bị đánh lừa, bởi vì kết quả này là một đặc tính đặc biệt của hỗn hợp thông thường : một chất tương tự không nhất thiết phải giữ cho các hỗn hợp khác, ngay cả khi các thành phần là phân phối không đối xứng! Chẳng hạn, một hỗn hợp bằng nhau của hai phân phối Student t cách nhau ít hơn hai lần độ lệch chuẩn chung của chúng sẽ là lưỡng kim. Để có cái nhìn sâu sắc thực sự sau đó, chúng ta phải thực hiện một số phép toán hoặc kháng cáo các thuộc tính đặc biệt của các bản phân phối Bình thường.

Chọn đơn vị đo lường (bởi recentering và rescaling khi cần thiết) để đặt các phương tiện của các bản phân phối phần tại $\pm\mu,$ $\mu\ge 0,$ và để làm cho sự hiệp nhất sai chung của họ. Đặt $p,$ $0 \lt p \lt 1,$ là lượng thành phần trung bình lớn hơn trong hỗn hợp. Điều này cho phép chúng tôi thể hiện mật độ hỗn hợp một cách tổng quát như

\sqrt{2 π} f (x; μ, p) = p \exp (- \frac{(x - μ)^{2}}{2}) + (1 - p) \exp (- \frac{(x + μ)^{2}}{2}) .

$\sqrt{2\pi}f(x;\mu,p) = p \exp\left(-\frac{(x-\mu)^2}{2}\right) + (1-p) \exp\left(-\frac{(x+\mu)^2}{2}\right).$

Bởi vì cả hai mật độ thành phần tăng nơi $x\lt -\mu$ và giảm nơi $x\gt \mu,$ các phương thức chỉ có thể xảy ra ở đâu $-\mu\le x \le \mu.$ Tìm chúng bằng cách phân biệt $f$ với $x$ và đặt nó thành 0. Xóa bất kỳ hệ số tích cực nào chúng tôi có được

0 = - e^{2 x μ} p (x - μ) + (1 - p) (x + μ) .

$0 = -e^{2x\mu} p(x-\mu) + (1-p)(x+\mu).$

Thực hiện các hoạt động tương tự với đạo hàm bậc hai của $f$ và thay thế $e^{2x\mu}$ bởi giá trị xác định bởi phương trình trước cho chúng ta biết dấu hiệu của đạo hàm bậc hai tại bất kỳ điểm then chốt là dấu hiệu của

f^{''} (x; μ, p) \propto \frac{(1 + x^{2} - μ^{2})}{x - μ} .

$f^{\prime\prime}(x;\mu,p) \propto \frac{(1+x^2-\mu^2)}{x-\mu}.$

Kể từ khi mẫu số là tiêu cực khi $-\mu\lt x \lt \mu,$ các dấu hiệu của $f^{\prime\prime}$ là của $-(1-\mu^2 + x^2).$ Rõ ràng là khi $\mu\le 1,$ dấu hiệu phải được tiêu cực. Tuy nhiên, trong một phân phối đa phương thức (vì mật độ là liên tục), phải có một antimode giữa hai chế độ bất kỳ, trong đó dấu hiệu là không âm. Vì vậy, khi $\mu$ là ít hơn $1$ (SD), phân phối phải unimodal.

Kể từ khi tách các phương tiện là $2\mu,$ kết luận của phân tích này là

Một hỗn hợp các phân phối Bình thường là không đồng nhất bất cứ khi nào các phương tiện được phân tách bằng không quá hai lần độ lệch chuẩn chung.

Điều đó tương đương với câu nói trong câu hỏi.

— whuber
nguồn

12

Nhận xét từ trên dán ở đây cho liên tục:

"[F] bằng miệng, đối với hỗn hợp 50:50 gồm hai phân phối bình thường có cùng SD, nếu bạn viết mật độ

f (x) = 0.5 g_{1} (x) + 0.5 g_{2} (x)

$f(x)=0.5g_1(x)+0.5g_2(x)$ ở dạng đầy đủ hiển thị tham số, bạn sẽ thấy rằng đạo hàm thứ hai của nó thay đổi ký hiệu tại điểm giữa giữa hai phương tiện khi khoảng cách giữa các phương tiện tăng từ dưới 2σ lên trên. "

Bình luận tiếp:

Trong mỗi trường hợp hai đường cong bình thường mà là 'hỗn hợp' có $\sigma=1.$ Từ trái sang phải khoảng cách giữa các phương tiện là $3\sigma, 2\sigma,$ và $\sigma,$ tương ứng. Độ lõm của mật độ hỗn hợp tại điểm giữa (1,5) giữa các phương tiện thay đổi từ âm, sang 0, thành dương.

Mã R cho hình:

par(mfrow=c(1,3))
  curve(dnorm(x, 0, 1)+dnorm(x,3,1), -3, 7, col="green3", 
    lwd=2,n=1001, ylab="PDF", main="3 SD: Dip")
  curve(dnorm(x, .5, 1)+dnorm(x,2.5,1), -4, 7, col="orange", 
    lwd=2, n=1001,ylab="PDF", main="2 SD: Flat")
  curve(dnorm(x, 1, 1)+dnorm(x,2,1), -4, 7, col="violet", 
    lwd=2, n=1001, ylab="PDF", main="1 SD: Peak")
par(mfrow=c(1,3))

— BruceET
nguồn

1

tất cả các câu trả lời là tuyệt vời cảm ơn.

— mlofton

3

2 / 3

$2/3$

0.001.

$0.001.$

1

0.1 %

$0.1\%$

f

$f$

x_{0})

$x_0)$

f (x_{0}) - f (x) \leq 0.001 f (x_{0}) ⟺ | x - x_{0} | \leq 0.333433,

$f(x_0)-f(x)\le 0.001 f(x_0)\ \iff\ |x-x_0|\le 0.333433,$

0.001

$0.001$

0.95832

$0.95832$

f (x_{0}) - f (x) \leq 0.001 ⟺ | x - x_{0} | \leq 0.47916.

$f(x_0)-f(x)\le 0.001\ \iff\ |x-x_0|\le 0.47916.$

Điểm tốt. Trên thực tế, những gì tôi muốn nói bằng ngôn ngữ viết tắt 'phẳng' là đạo hàm số 2 chính xác ở điểm giữa.

— BruceET