Hội tụ từ Thuật toán EM với phân phối hỗn hợp bivariate

Tôi có một mô hình hỗn hợp mà tôi muốn tìm ước tính khả năng tối đa của một tập hợp dữ liệu và một tập hợp dữ liệu được quan sát một phần . Tôi đã triển khai cả bước E (tính toán kỳ vọng của cho và tham số hiện tại ) và bước M, để giảm thiểu khả năng đăng nhập âm cho dự kiến .$x$z x θ k$z$$z$$x$$\theta^k$$z$

Như tôi đã hiểu, khả năng tối đa đang tăng lên cho mỗi lần lặp, điều này có nghĩa là khả năng đăng nhập âm phải giảm cho mỗi lần lặp? Tuy nhiên, khi tôi lặp lại, thuật toán thực sự không tạo ra các giá trị giảm của khả năng log âm. Thay vào đó, nó có thể vừa giảm vừa tăng. Chẳng hạn, đây là các giá trị của khả năng log âm cho đến khi hội tụ:

Có phải ở đây mà tôi đã hiểu lầm?

Ngoài ra, đối với dữ liệu mô phỏng khi tôi thực hiện tối đa khả năng cho các biến tiềm ẩn (không quan sát) thực sự, tôi có một mức độ phù hợp hoàn hảo, cho thấy không có lỗi lập trình. Đối với thuật toán EM, nó thường hội tụ các giải pháp tối ưu rõ ràng, đặc biệt đối với một tập hợp con cụ thể của các tham số (nghĩa là tỷ lệ của các biến phân loại). Người ta biết rằng thuật toán có thể hội tụ đến các điểm cực tiểu hoặc điểm dừng cục bộ, có một phương pháp tìm kiếm thông thường hoặc tương tự để tăng khả năng tìm mức tối thiểu toàn cầu (hoặc tối đa) . Đối với vấn đề cụ thể này, tôi tin rằng có nhiều phân loại bỏ lỡ vì, trong hỗn hợp bivariate, một trong hai phân phối lấy các giá trị với xác suất một (đó là hỗn hợp của các kiếp sống trong đó thời gian sống thực sự được tìm thấy bởiz $T=z T_0 + (1-z)\infty$ trong đó chỉ phân phối của một trong hai phân phối. Tất nhiên, chỉ số được kiểm duyệt trong tập dữ liệu. $z$$z$

Tôi đã thêm một con số thứ hai khi tôi bắt đầu với giải pháp lý thuyết (cần gần với mức tối ưu). Tuy nhiên, như có thể thấy, khả năng và các tham số chuyển hướng từ giải pháp này thành một giải pháp rõ ràng là kém hơn.

chỉnh sửa: Dữ liệu đầy đủ có dạng trong đó là thời gian quan sát được cho chủ đề , cho biết thời gian có liên quan đến sự kiện thực tế không hoặc nếu nó được kiểm duyệt đúng (1 biểu thị sự kiện và 0 biểu thị kiểm duyệt đúng), là thời gian cắt ngắn của quan sát (có thể là 0) với chỉ số cắt bớt và cuối cùng là chỉ số mà dân số quan sát thuộc về (kể từ đó bivariate của nó, chúng ta chỉ cần xem xét 0 và 1). t i i δ i L i τ i z $\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$$t_i$$i$$\delta_i$$L_i$$\tau_i$$z_i$

Với chúng ta có hàm mật độ , tương tự, nó được liên kết với hàm phân phối đuôi . Với , sự kiện quan tâm sẽ không xảy ra. Mặc dù không có liên quan đến phân phối này, chúng tôi xác định nó là , do đó và . Điều này cũng mang lại phân phối hỗn hợp đầy đủ sau đây:$z=1$$f_z(t)=f(t|z=1)$$S_z(t)=S(t|z=1)$$z=0$$t$$\inf$$f(t|z=0)=0$$S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ và $S(t) = 1 - p + pS_z(t)$

Chúng tôi tiến hành xác định hình thức chung của khả năng:

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

Bây giờ, chỉ được quan sát một phần khi , nếu không thì không rõ. Khả năng đầy đủ trở thành$z$$\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

Trong đó là trọng số của phân phối tương ứng (có thể được liên kết với một số hiệp phương sai và hệ số tương ứng của chúng bằng một số hàm liên kết). Trong hầu hết các tài liệu, điều này được đơn giản hóa để loglikabilities sau đây$p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

Đối với bước M , chức năng này được tối đa hóa, mặc dù không hoàn toàn trong 1 phương thức tối đa hóa. Thay vào đó, chúng tôi không cho rằng điều này có thể được tách thành các phần .$l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

Đối với bước E : k: th + 1 , chúng ta phải tìm giá trị mong đợi của các biến tiềm ẩn (một phần) không quan sát được . Chúng tôi sử dụng thực tế là cho , sau đó .$z_i$$\delta=1$$z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

Ở đây chúng ta có, bởi$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

cung cấp cho chúng tôi$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(Lưu ý ở đây rằng , do đó không có sự kiện quan sát được, do đó xác suất của dữ liệu được đưa ra bởi hàm phân phối đuôi.$\delta_i=0$$\mathbf{x_i}$

Mục tiêu của EM là tối đa hóa khả năng ghi nhật ký dữ liệu được quan sát,

Thật không may, điều này có xu hướng khó tối ưu hóa đối với . Thay vào đó, EM liên tục hình thành và tối đa hóa chức năng phụ trợ$\theta$

Nếu tối đa hóa , EM đảm bảo rằng$\theta^{t+1}$$Q(\theta, \theta^t)$

Nếu bạn muốn biết chính xác lý do tại sao lại như vậy, Phần 11.4.7 của Học máy của Murphy : Một quan điểm xác suất đưa ra một lời giải thích tốt. Nếu việc triển khai của bạn không thỏa mãn những bất bình đẳng này, bạn đã mắc sai lầm ở đâu đó. Nói những điều như

Tôi có một sự phù hợp gần như hoàn hảo, cho thấy không có lỗi lập trình

là nguy hiểm. Với rất nhiều thuật toán tối ưu hóa và học tập, rất dễ mắc lỗi nhưng vẫn có được câu trả lời chính xác trong hầu hết thời gian. Một trực giác tôi thích là các thuật toán này nhằm xử lý dữ liệu lộn xộn, vì vậy không có gì đáng ngạc nhiên khi chúng cũng xử lý tốt các lỗi!

Về nửa kia của câu hỏi của bạn,

Có một tìm kiếm thông thường heuristic hoặc tương tự như vậy để tăng khả năng tìm thấy mức tối thiểu toàn cầu (hoặc tối đa)

Khởi động lại ngẫu nhiên là cách tiếp cận dễ dàng nhất; tiếp theo dễ nhất có lẽ là mô phỏng ủ trên các tham số ban đầu. Tôi cũng đã nghe nói về một biến thể của EM được gọi là ủ xác định , nhưng tôi đã không sử dụng nó một cách cá nhân nên không thể nói cho bạn biết nhiều về nó.