kiểm tra xem một chuỗi markov có bằng chuỗi lý thuyết không

Tôi đã có một ma trận đếm chuyển tiếp theo kinh nghiệm Q. Tôi có một chuỗi Markov theo thứ tự lý thuyết đầu tiên P. Nói N là số lần chuyển đổi. Tôi muốn kiểm tra xem Q có tương thích với P. Có đúng không khi tìm ma trận chuyển tiếp đếm lý thuyết (N * P) tính toán thống kê chi bình phương, $\sum_{i,j}^{K} \frac{(Q_{ij}-(N*P_{ij}))^2}{N*P_{ij}}$ , và sau đó tính giá trị p của một $\chi^2$ phân phối với $K*(K-1)$ bậc tự do?

hypothesis-testing chi-squared markov-process

— Giorgio Speesato
nguồn

Tôi không quen thuộc lắm với các bài kiểm tra chi bình phương, nhưng lướt qua, nó dường như được sử dụng phổ biến cho dữ liệu đa phương thức (ví dụ ở đây ). Tôi sẽ nghĩ rằng mỗi hàng

P

$P$ nên tương ứng với một phân phối đa quốc gia? Vì vậy, sau đó bạn có thể sử dụng

n_{i}

$n_i$ cho hàng

i

$i$ , nghĩa là số lần chuyển đổi "từ

i

$i$ ". Đó là, "

N

$N$ " có thể thay đổi tùy thuộc vào trạng thái bắt đầu?

— GeoMatt22

P_{i j} = Pr [j ∣ i], Q_{i j} = \sum_{t = 1}^{N} [x_{t} = i & x_{t + 1} = j]

$P_{ij}=\Pr[j\mid\!i] \,,\, Q_{ij}=\sum_{t=1}^N\big[x_t=i\,\&\,x_{t+1}=j\,\big]$

i

$i$

p_{i} = P_{i, :}, n_{i} = \sum_{j = 1}^{K} Q_{i j}

$p_i=P_{i,:} \,,\, n_i=\sum_{j=1}^{K}Q_{ij}$

Tôi không chắc chắn rằng bạn có thể gộp tất cả các hàng lại với nhau, bởi vì "số lượng thử nghiệm" sẽ khác nhau giữa các hàng.

Ví dụ: nói và dữ liệu của bạn là . Vì vậy, có chuyển tiếp, với đến từ , nhưng từ và chỉ và từ . Vì vậy, tôi nghĩ rằng sự tin tưởng của bạn vào thường cao hơn niềm tin của bạn vào . $K=3$ $x=[1,1,2,1,2,3,1,2]$ $N=7$ $n_1=4$ $x=1$ $n_2=2$ $x=2$ $n_3=1$ $x=3$ $\hat{p}_1$ $\hat{p}_3$

(Trong trường hợp cực đoan, có thể trong ví dụ này thực sự là , nhưng bạn không có dữ liệu nào về các chuyển đổi đó, vì Xử lý "không có bằng chứng là bằng chứng vắng mặt" có vẻ là vấn đề đối với tôi ở đây.) $K$ $4$ $n_4=0$

Tôi không quen thuộc lắm với các bài kiểm tra chi bình phương, nhưng điều này cho thấy bạn có thể muốn xử lý các hàng một cách độc lập (nghĩa là chỉ tổng trên và sử dụng thay vì ). Lý do này dường như không cụ thể đối với thử nghiệm chi bình phương, do đó, cũng nên áp dụng cho bất kỳ thử nghiệm quan trọng nào khác mà bạn có thể sử dụng (ví dụ: đa thức chính xác ). $j$ $n_i$ $N$

Vấn đề chính là xác suất chuyển tiếp là có điều kiện , do đó, đối với mỗi lần nhập ma trận, chỉ có các chuyển đổi thỏa mãn điều kiện trước của nó là phù hợp. Thật vậy, có lẽ ma trận chuyển tiếp sẽ thỏa mãn , do đó "ma trận chuyển tiếp theo kinh nghiệm" phải là . $\sum_jP_{ij}=1$ $\hat{P}_{ij}=Q_{ij}/n_i$

Cập nhật: Đáp lại truy vấn của OP, làm rõ về "tham số kiểm tra".

Nếu có các trạng thái trong chuỗi Markov, tức là , thì đối với hàng , phân phối đa thức tương ứng sẽ có vectơ xác suất và số lượng thử nghiệm , được đưa ra ở trên. $K$ $P\in\mathbb{R}^{K\times{K}}$ $i$ $p_i\in\mathbb{R}^K$ $n_i\in\mathbb{N}$

Vì vậy, sẽ có loại và vectơ xác suất sẽ có bậc tự do, như . Vì vậy, cho hàng tương ứng Thống kê sẽ là mà sẽ tiệm cận theo một bình phương phân phối với độ tự do (như đã nêu ở đây và ở đây ). Xem thêm tại đây để thảo luận về thời điểm thử nghiệm là phù hợp và các thử nghiệm thay thế có thể phù hợp hơn. $K$ $p_i$ $K-1$ $\sum_{j=1}^K(p_i)_j=1$ $i$ $\chi^2$

χ_{i}^{2} = \sum_{j} \frac{{(Q_{i j} - n_{i} P_{i j})}^{2}}{n_{i} P_{i j}}

$\chi^2_i=\sum_j\frac{\left(Q_{ij}-n_iP_{ij}\right)^2}{n_iP_{ij}}$

K - 1

$K-1$

χ^{2}

$\chi^2$

Có thể thực hiện "kiểm tra gộp", giả sử tuân theo phân phối chi bình phương với các (nghĩa là tổng hợp các dofs trên các hàng). Tuy nhiên tôi không chắc chắn liệu có thể được coi là độc lập hay không. Trong mọi trường hợp, các bài kiểm tra theo hàng có vẻ nhiều thông tin hơn, do đó có thể thích hợp hơn so với kiểm tra gộp. $\chi^2_P=\sum_i\chi^2_i$ $K(K-1)$ $\chi^2_i$

— GeoMatt22
nguồn

Thông minh ý tưởng để coi nó như là một phân phối đa quốc gia. Tổng của hai biến Chi bình phương là bình phương chi nên thống kê kiểm tra cho mỗi hàng có thể được tách riêng thành máy tính và tổng hợp lại với nhau để đưa ra thống kê kiểm tra chi bình phương mới. Điều này sẽ có mức độ tự do

N - K

$N-K$

— Hugh

@Hugh Tôi không đủ quen để đánh giá, nhưng điều này rất có thể là hợp lý. Quan điểm chính của tôi là nhiều hơn rằng cách tiếp cận "theo từng hàng" có vẻ hợp lý và nhiều thông tin hơn so với cách tiếp cận "gộp". (Tôi đoán một điểm phụ là tất cả các công việc trên bình phương cho đa thức, ví dụ như hội tụ tiệm cận, có thể là một điểm khởi đầu tốt. Mặc dù vậy, tất cả những gì tôi biết về những chủ đề này tôi đã học được từ việc lướt qua các bài viết CV, vì vậy đó là về tất cả tôi có thể cung cấp!) Bạn có thể xem xét đăng một câu trả lời ngắn đề cập đến khía cạnh chi bình phương trực tiếp hơn.

— GeoMatt22

@ GeoMatt22 ... Vậy có ổn không, số bậc tự do cho phép thử Chi-Square bằng với là N có kích thước của dtmc?

N^{2} - N

$N^2-N$

— Giorgio Speesato

Giorgio, xem cập nhật của tôi.

— GeoMatt22

@Hugh vui lòng xem câu trả lời cập nhật của tôi. Lưu ý rằng Wikipedia nói "Cần lưu ý rằng mức độ tự do không dựa trên số lượng quan sát". Tôi không chắc liệu của tôi cho "bài kiểm tra gộp" có đúng không, nhưng cũng không chắc chắn nơi mà dof của bạn sẽ đến từ đâu! Bất kỳ làm rõ?

K (K - 1)

$K(K-1)$

N - K

$N-K$

— GeoMatt22