Tính toán khả năng đăng nhập cho MLE đã cho (Chuỗi Markov)

Tôi hiện đang làm việc với các chuỗi Markov và tính toán Ước tính khả năng tối đa bằng cách sử dụng xác suất chuyển tiếp theo đề xuất của một số nguồn (nghĩa là số lần chuyển đổi từ a sang b chia cho số lần chuyển đổi tổng thể từ a sang các nút khác).

Bây giờ tôi muốn tính khả năng đăng nhập của MLE.

maximum-likelihood markov-process likelihood

— fsociety
nguồn

Bạn đã tính toán ước tính khả năng tối đa của các xác suất chuyển tiếp và bây giờ bạn muốn tính toán khả năng đăng nhập của chính xác những gì?

— Nick

Hãy là một đường dẫn của chuỗi Markov và để cho có khả năng quan sát các con đường khi là giá trị tham số thực (còn gọi là hàm khả năng cho ). Sử dụng định nghĩa xác suất có điều kiện, chúng tôi biết $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Vì đây là chuỗi markov, chúng tôi biết rằng , vì vậy, điều này đơn giản hóa điều này để $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Bây giờ nếu bạn lặp lại logic này lần, bạn sẽ nhận được $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

trong đó sẽ được hiểu là trạng thái ban đầu của quy trình. Các thuật ngữ ở phía bên tay phải chỉ là các yếu tố của ma trận chuyển tiếp. Vì đó là khả năng đăng nhập mà bạn yêu cầu, câu trả lời cuối cùng là: $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Đây là khả năng của một chuỗi markov duy nhất - nếu tập dữ liệu của bạn bao gồm một số chuỗi markov (độc lập) thì khả năng đầy đủ sẽ là tổng của các điều khoản của biểu mẫu này.

— Vĩ mô
nguồn

Wow, cảm ơn rất nhiều vì câu trả lời. Trong trường hợp này là xác suất "chuyển đổi" được lấy từ MLE, phải không?

P_{θ}

$P_{\theta}$

— fsociety

@ph_singer, bạn rất hoan nghênh. là xác suất chuyển từ trạng thái sang , với giá trị tham số, . Nếu bạn áp đặt không có cấu trúc nào trên ma trận chuyển tiếp (giống như âm thanh của nó) thì chỉ biểu thị vectơ xác suất chuyển tiếp (và MLE chỉ là tỷ lệ mẫu, như bạn đã chỉ ra chính xác trong câu hỏi của mình), vì vậy, vâng : sẽ chỉ là tỷ lệ mẫu di chuyển từ trạng thái kết thúc ở trạng thái .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Macro

Cảm ơn một lần nữa! Chỉ một câu hỏi nữa: Nếu tôi sử dụng một đơn hàng khác (ví dụ: k = 2), quá trình này sẽ hoạt động như thế nào?

— fsociety

Bạn có thể vui lòng làm rõ những gì bạn có nghĩa là "đặt hàng"?

— Macro

(+1) OP có thể có nghĩa là để biểu thị MC bậc hai , nghĩa là, tùy thuộc vào hai trạng thái trước thay vì chỉ một trạng thái gần đây nhất .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— Đức hồng y