Câu hỏi được gắn thẻ «expectation-maximization»

Tôi đang cố gắng nắm bắt tốt thuật toán EM, để có thể thực hiện và sử dụng nó. Tôi đã dành cả ngày để đọc lý thuyết và một bài báo trong đó EM được sử dụng để theo dõi một chiếc máy bay sử dụng thông tin vị …

117 regression  probability  mathematical-statistics  intuition  expectation-maximization 

Tôi đã nghiên cứu các thuật toán để phân cụm dữ liệu (học tập không giám sát): EM và k-mean. Tôi tiếp tục đọc như sau: k-mean là một biến thể của EM, với giả định rằng các cụm là hình cầu. Ai đó có thể giải thích câu trên? …

50 machine-learning  clustering  data-mining  k-means  expectation-maximization 

Sự khác biệt giữa các thuật toán EM (Tối đa hóa kỳ vọng) và Gradient Ascent (hoặc gốc) là gì? Có bất kỳ điều kiện theo đó họ là tương đương?

28 gradient-descent  expectation-maximization 

Tôi đã đọc ở đâu đó rằng phương pháp Variational Bayes là một khái quát của thuật toán EM. Thật vậy, các phần lặp của các thuật toán rất giống nhau. Để kiểm tra xem thuật toán EM có phải là phiên bản đặc biệt của Biến thể Bay không, …

26 bayesian  expectation-maximization  variational-bayes 

Tôi đã đọc một vài lời giải thích về thuật toán EM (ví dụ từ Nhận dạng mẫu và Học máy của Giám mục và từ Khóa học đầu tiên của Roger và Gerolami về Học máy). Đạo hàm của EM là ok, tôi hiểu nó. Tôi cũng hiểu lý …

24 missing-data  convergence  expectation-maximization 

Lưu ý: Tôi đang đăng một câu hỏi từ một cựu sinh viên của tôi không thể tự mình đăng bài vì lý do kỹ thuật. Cho một mẫu iid từ phân phối Weibull với pdf có đại diện biến thiếu hữu ích và do đó thuật toán EM (tối …

24 optimization  missing-data  expectation-maximization  weibull  gumbel 

Từ những gì tôi biết, thuật toán EM có thể được sử dụng để tìm khả năng tối đa khi đặt thành 0 các đạo hàm riêng đối với các tham số của khả năng đưa ra một bộ phương trình không thể giải quyết bằng phương pháp phân tích. …

22 expectation-maximization 

Sau khi thực hiện phân tích thành phần chính (PCA), tôi muốn chiếu một vectơ mới lên không gian PCA (tức là tìm tọa độ của nó trong hệ tọa độ PCA). Tôi đã tính PCA bằng ngôn ngữ R bằng cách sử dụng prcomp. Bây giờ tôi có thể …

21 r  pca  r  variance  heteroscedasticity  misspecification  distributions  time-series  data-visualization  modeling  histogram  kolmogorov-smirnov  negative-binomial  likelihood-ratio  econometrics  panel-data  categorical-data  scales  survey  distributions  pdf  histogram  correlation  algorithms  r  gpu  parallel-computing  approximation  mean  median  references  sample-size  normality-assumption  central-limit-theorem  rule-of-thumb  confidence-interval  estimation  mixed-model  psychometrics  random-effects-model  hypothesis-testing  sample-size  dataset  large-data  regression  standard-deviation  variance  approximation  hypothesis-testing  variance  central-limit-theorem  kernel-trick  kernel-smoothing  error  sampling  hypothesis-testing  normality-assumption  philosophical  confidence-interval  modeling  model-selection  experiment-design  hypothesis-testing  statistical-significance  power  asymptotics  information-retrieval  anova  multiple-comparisons  ancova  classification  clustering  factor-analysis  psychometrics  r  sampling  expectation-maximization  markov-process  r  data-visualization  correlation  regression  statistical-significance  degrees-of-freedom  experiment-design  r  regression  curve-fitting  change-point  loess  machine-learning  classification  self-study  monte-carlo  markov-process  references  mathematical-statistics  data-visualization  python  cart  boosting  regression  classification  robust  cart  survey  binomial  psychometrics  likert  psychology  asymptotics  multinomial 

Câu hỏi này đã được di chuyển từ Trao đổi ngăn xếp toán học vì nó có thể được trả lời trên Xác thực chéo. Di cư 6 năm trước . Trong cách tiếp cận thuật toán EM chúng tôi sử dụng Bất đẳng thức Jensen để đi đến logp(x|θ)≥∫logp(z,x|θ)p(z|x,θ(k))dz−∫logp(z|x,θ)p(z|x,θ(k))dzlog⁡p(x|θ)≥∫log⁡p(z,x|θ)p(z|x,θ(k))dz−∫log⁡p(z|x,θ)p(z|x,θ(k))dz\log …

20 mixture  expectation-maximization 

Tôi muốn thực hiện thuật toán EM bằng tay và sau đó so sánh nó với kết quả normalmixEMcủa mixtoolsgói. Tất nhiên, tôi sẽ rất vui nếu cả hai đều dẫn đến cùng một kết quả. Tài liệu tham khảo chính là Geoffrey McLachlan (2000), Mô hình hỗn hợp hữu …

20 r  expectation-maximization  gaussian-mixture 

Xem xét khả năng đăng nhập của hỗn hợp Gaussian: l(Sn;θ)=∑t=1nlogf(x(t)|θ)=∑t=1nlog{∑i=1kpif(x(t)|μ(i),σ2i)}l(Sn;θ)=∑t=1nlog⁡f(x(t)|θ)=∑t=1nlog⁡{∑i=1kpif(x(t)|μ(i),σi2)}l(S_n; \theta) = \sum^n_{t=1}\log f(x^{(t)}|\theta) = \sum^n_{t=1}\log\left\{\sum^k_{i=1}p_i f(x^{(t)}|\mu^{(i)}, \sigma^2_i)\right\} Tôi đã tự hỏi tại sao nó khó tính toán để tối đa hóa phương trình đó trực tiếp? Tôi đang tìm kiếm một trực giác vững chắc rõ ràng về …

18 machine-learning  gaussian-mixture  expectation-maximization 

Tôi đang cố gắng học cách sử dụng Trường ngẫu nhiên Markov để phân đoạn các vùng trong một hình ảnh. Tôi không hiểu một số tham số trong MRF hoặc tại sao tối đa hóa kỳ vọng tôi thực hiện không hội tụ đến một giải pháp đôi khi. …

16 expectation-maximization  image-processing  classification 

Thủ tục EM xuất hiện, với người không quen biết, như ma thuật đen nhiều hay ít. Ước tính các tham số của HMM (ví dụ) bằng cách sử dụng dữ liệu được giám sát. Sau đó giải mã dữ liệu chưa được mã hóa, sử dụng chuyển tiếp ngược …

16 expectation-maximization  intuition 

Có nhiều tài liệu nhấn mạnh phương pháp Tối đa hóa kỳ vọng trên các mô hình hỗn hợp (Hỗn hợp của Gaussian, Mô hình Markov ẩn, v.v.). Tại sao EM lại quan trọng? EM chỉ là một cách để tối ưu hóa và không được sử dụng rộng rãi …

15 machine-learning  optimization  expectation-maximization  gaussian-mixture 

Tôi biết phương tiện k thường được tối ưu hóa bằng cách sử dụng Tối đa hóa kỳ vọng . Tuy nhiên, chúng tôi có thể tối ưu hóa chức năng mất của nó giống như cách chúng tôi tối ưu hóa bất kỳ chức năng nào khác! Tôi đã …

14 optimization  k-means  expectation-maximization  loss-functions