Các biện pháp lặp đi lặp lại ANOVA so với ANOVA yếu tố với yếu tố chủ đề: hiểu về lỗi Lỗi strata và lỗi () trong aov

Xem xét các biện pháp lặp lại ANOVA (RM-ANOVA) với một yếu tố bên trong đối tượng Avà một số phép đo cho mỗi đối tượng cho mỗi cấp độ A.

Nó liên quan chặt chẽ với ANOVA hai chiều với hai yếu tố: Avà subject. Họ sử dụng phân hủy giống hệt nhau của tổng bình phương thành bốn phần: A, subject, A⋅subject, và residual. Tuy nhiên, ANOVA hai chiều kiểm tra tác động của A bằng cách so sánh SS của A với SS dư, trong khi RM-ANOVA kiểm tra tác động của A bằng cách so sánh SS của A với SS tương tác của chủ thể A .$\cdot$

Tại sao lại có sự khác biệt?

1. Sự khác biệt này có tự động tuân theo cấu trúc đo lường lặp lại của dữ liệu hay là một số quy ước?
2. Sự khác biệt này giữa ANOVA hai chiều và RM-ANOVA có tương ứng với việc thử nghiệm hai null khác nhau không? Nếu vậy, chính xác chúng là gì và tại sao chúng ta sẽ sử dụng các null khác nhau trong hai trường hợp này?
3. Thử nghiệm ANOVA hai chiều có thể được hiểu là thử nghiệm F giữa hai mô hình lồng nhau: mô hình đầy đủ và mô hình không có A. Có thể hiểu RM-ANOVA theo cách tương tự không?

(Nếu chỉ có một phép đo cho mỗi chủ đề cho mỗi cấp độ của A, sau đó sự phân biệt loại biến mất vì A chủ đề và biến thể còn lại không thể được gỡ: Có một chiều biện pháp lặp đi lặp lại ANOVA tương đương với một hai chiều ANOVA? )$\cdot$

---

Trình diễn

Tôi sẽ sử dụng dữ liệu đồ chơi d2được tạo trong http://dwoll.de/rexrepos/posts/anovaMixed.html . Trang web tương tự hiển thị cú pháp chính xác cho RM-ANOVA.

# Discarding between-subject factors and leaving only one within-subject factor
d = d2[d2$Xb1=='CG' & d2$Xb2 == 'f', c(1,4,6)]

(Xem phiên bản có thể tái tạo tại đây trên pastebin .) Dữ liệu trông như thế:

     id Xw1     Y
1    s1   A  28.6
2    s1   A  96.6
3    s1   A  64.8
4    s1   B 107.5
5    s1   B  77.3
6    s1   B 120.9
7    s1   C 141.2
8    s1   C 124.1
9    s1   C  88.0
10   s2   A  86.7
...

Đây là ANOVA hai chiều: summary(aov(Y ~ Xw1*id, d))

             Df Sum Sq Mean Sq F value   Pr(>F)    
Xw1           2  95274   47637  16.789 3.73e-07 ***
id           19  31359    1650   0.582    0.913    
Xw1:id       38  71151    1872   0.660    0.929    
Residuals   120 340490    2837                 

Đây là RM-ANOVA: summary(aov(Y ~ Xw1 + Error(id/Xw1), d))

Error: id
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 19  31359    1650               

Error: id:Xw1
          Df Sum Sq Mean Sq F value   Pr(>F)    
Xw1        2  95274   47637   25.44 9.73e-08 ***
Residuals 38  71151    1872                     

Error: Within
           Df Sum Sq Mean Sq F value Pr(>F)
Residuals 120 340490    2837            

Lưu ý phân tách SS giống hệt nhau, nhưng kiểm tra ANOVA hai chiều Xw1so với phần dư, trong khi kiểm tra RM-ANOVA Xw1chống lại sự Xw1:idtương tác.

Tại sao?

Câu hỏi này liên quan đến Cách viết thuật ngữ lỗi trong các biện pháp lặp lại ANOVA trong R: Error (chủ đề) so với Error (chủ đề / thời gian) . Nếu chúng ta thử sử dụng Error(id)thay vì Error(id/Xw1)trong ví dụ trên, thì Xw1sẽ được kiểm tra chống lại Xw1:idsự tương tác gộp lại với biến thể dư.

. / cốt truyện / biến chủ đề id.)

... ANOVA hai chiều kiểm tra tác động của A bằng cách so sánh SS của A với SS dư, trong khi RM-ANOVA kiểm tra tác động của A bằng cách so sánh SS của A với SS tương tác Asubject.

1) Sự khác biệt này có tự động tuân theo cấu trúc đo lường lặp lại của dữ liệu hay đó là một số quy ước?

Nó theo cấu trúc đo lặp lại của dữ liệu. Nguyên tắc cơ bản của phân tích phương sai là chúng ta so sánh sự khác biệt giữa các mức độ điều trị với sự khác biệt giữa các đơn vị được điều trị. Điều làm cho trường hợp đo lặp đi lặp lại có phần khó khăn là ước tính biến thể thứ hai này.

Trong trường hợp đơn giản nhất này, điều chúng tôi quan tâm là sự khác biệt giữa các cấp độ A. Vậy chúng tôi đã đo được bao nhiêu đơn vị đó? Đó là số lượng đối tượng, không phải số lượng quan sát. Đó là, mỗi đối tượng cung cấp cho chúng ta một thông tin độc lập bổ sung về sự khác biệt, không phải mỗi quan sát. Thêm nhiều biện pháp lặp đi lặp lại làm tăng tính chính xác của thông tin của chúng tôi về từng đối tượng, nhưng không cung cấp cho chúng tôi nhiều đối tượng hơn.

Điều mà RM-Anova làm khi sử dụng tương tác chủ thể A làm thuật ngữ lỗi là sử dụng chính xác biến thể chênh lệch giữa các cấp độ A giữa các đối tượng làm biến thể để kiểm tra hiệu ứng cấp độ A. Thay vào đó, sử dụng lỗi quan sát sử dụng biến thể trong các biện pháp lặp lại trên từng cá nhân, điều này không đúng.

Hãy xem xét một trường hợp bạn lấy ngày càng nhiều dữ liệu chỉ trên một vài cá nhân. Nếu sử dụng lỗi mức độ quan sát, cuối cùng bạn sẽ đạt được ý nghĩa thống kê, mặc dù bạn chỉ có một vài cá nhân. Bạn cần nhiều cá nhân hơn, không có nhiều dữ liệu về họ, để thực sự tăng sức mạnh.

2) Sự khác biệt này giữa ANOVA hai chiều và RM-ANOVA có tương ứng với việc thử nghiệm hai null khác nhau không? Nếu vậy, chính xác chúng là gì và tại sao chúng ta sẽ sử dụng các null khác nhau trong hai trường hợp này?

Không, cùng một giả thuyết null. Điều khác biệt là cách chúng tôi ước tính thống kê kiểm tra và phân phối null của nó.

3) Thử nghiệm ANOVA hai chiều có thể được hiểu là thử nghiệm F giữa hai mô hình lồng nhau: mô hình đầy đủ và mô hình không có A. Có thể hiểu RM-ANOVA theo cách tương tự không?

Có, nhưng có lẽ không phải theo cách bạn đang hy vọng. Như bạn thấy trong đầu ra từ aov, một cách nghĩ về các loại mô hình này là chúng thực sự là một vài mô hình trong một, với một mô hình cho mỗi cấp độ.

Người ta có thể phù hợp với các mô hình cho các cấp cao hơn bằng cách lấy trung bình dữ liệu trên các cấp thấp hơn. Đó là, một bài kiểm tra RM-Anova cho A tương đương với một Anova tiêu chuẩn trên dữ liệu trung bình. Sau đó, người ta có thể so sánh các mô hình theo cách thông thường.

> library(plyr)
> d2 <- ddply(d, ~Xw1 + id, summarize, Y=mean(Y))
> a1 <- aov(Y ~ id, d2)
> a2 <- aov(Y ~ Xw1+id, d2)
> anova(a1, a2)
Analysis of Variance Table

Model 1: Y ~ id
Model 2: Y ~ Xw1 + id
  Res.Df   RSS Df Sum of Sq      F    Pr(>F)    
1     40 55475                                  
2     38 23717  2     31758 25.442 9.734e-08 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Ngoài ra, người ta có thể phù hợp aovvới toàn bộ dữ liệu nhưng không có điều khoản quan tâm, sau đó so sánh mức độ phù hợp với đầy đủ aovvới điều khoản quan tâm, nhưng sau đó để so sánh các mô hình bạn cần chọn mức độ của mô hình bạn đã chọn đã thay đổi (ở đây là id:Xw1mức) và sau đó bạn có thể so sánh hai mô hình đó.

> summary(aov(Y ~ 1 + Error(id/Xw1), d))

Error: id
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 19  31359    1650               

Error: id:Xw1
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 40 166426    4161               

Error: Within
           Df Sum Sq Mean Sq F value Pr(>F)
Residuals 120 340490    2837               
> (F <- ((166426 - 71151)/2) / (71151/38))
[1] 25.44202
> pf(F, 2, 38, lower=FALSE)
[1] 9.732778e-08

Ghi chú này phụ thuộc vào kết quả có trong Mô hình tuyến tính của Moser: Cách tiếp cận mô hình trung bình . Tôi sẽ trích dẫn một số kết quả từ cuốn sách này trong phần tiếp theo. Khi tôi thấy câu hỏi của bạn, tôi bắt đầu xem qua cuốn sách: ghi chú này chỉ là cách suy nghĩ của tôi được sắp xếp sau đó.

Hãy để là phản ứng, với μ chứa những tác động cố định và Σ chứa các hiệu ứng ngẫu nhiên.$y \sim \mathcal{N}_n(\mu, \Sigma)$$\mu$$\Sigma$

Lấy là tổng các bình phương tương ứng với mỗi số hạng (hiệp phương sai và tương tác) trong mô hình. Lưu ý rằng các tổng bình phương này là bất biến cho dù các điều khoản là cố định hay ngẫu nhiên. Giả sử rằng mỗi A i là đối xứng và không có giá trị, điều này sẽ đúng trong hầu hết các mô hình quan tâm.$y^T A_i y$$A_i$

Khi cho rằng trong đó số tiền số tiền của hình vuông tương ứng với một phân hủy thành subspaces trực giao kể từ khi chúng tôi đã đảm nhận một i là máy chiếu, và Σ = Σ i c i A i , bởi lý Cochran của ( Bổ đề 3.4.1), y T Một i y ~ c i χ 2 d i ( μ T Một i μ / c i ) , cho

$$I = \sum_i A_i,$$ $A_i$ $$\Sigma = \sum_i c_i A_i,$$ $$\begin{equation} y^T A_i y \sim c_i \chi^2_{d_i} (\mu^T A_i \mu/c_i), \end{equation}$$ và y T A j y độc lập với y T A k y với j ≠ k .$d_i = tr(A_i)$$y^T A_j y$$y^T A_k y$$j \ne k$

Thuật ngữ

$$\tilde{F} = \frac{y^T A_j y / d_j}{y^T A_k y / d_k} \sim \frac{c_j \chi_{d_j}^2(\mu^T A_j \mu / c_j)/d_j}{c_k \chi_{d_k}^2(\mu^T A_k \mu / c_k)/d_k}$$ $F$ $$\begin{align*} \frac{c_j}{c_k} & = 1 , \tag{1} \\ \mu^T A_j \mu & = 0 , \tag{2} \\ \mu^T A_k \mu & = 0 , \textrm{ and }\tag{3} \end{align*}$$ $p$$\tilde{F}$$c_i$$\mu$$\tilde{F}$$F$$\tilde{F}$$F$

$\mathrm{EMS}$$i^\mathrm{th}$$y^T A_i y$

$$\mathrm{EMS}_i := \frac{1}{tr(A_i)} \mathbb{E} [y^T A_i y] = \frac{tr(A_i \Sigma) + \mu^T A_i \mu}{tr(A_i)} = c_i + \frac{\mu^T A_i \mu}{tr(A_i)},$$ $tr(A_i\Sigma) = c_i \, tr(A_i)$ $$\frac{\mathrm{EMS}_j}{\mathrm{EMS}_k} = \frac{c_j + \frac{\mu^T A_j \mu}{tr(A_j)}}{c_k + \frac{\mu^T A_k \mu}{tr(A_k)}} = 1$$ $(1)$$(2)$$(3)$$\mathrm{EMS}$$F$

$(1), (2)$$(3)$$j$$c_j/c_k = 1$$y^T A_j y = 0$$k$$(1), (2)$$(3)$$k$

$\mu$$\Sigma$

$\mu$$\Sigma$$k$

---

$$\begin{equation} y_{ijk} = \mu_0 + \mathrm{id}_i + \mathrm{Xw1}_{j} + \mathrm{id * Xw1}_{ij} + \mathrm{R(id * Xw1)}_{k(ij)}, \end{equation}$$ $i$$\mathrm{id}$$k$

$y = (y_{111}, y_{112}, y_{113}, y_{121}, \dots y_{20,3,3})$$\bar{J} \in \mathbb{R}^{m \times m}$$\frac{1}{m}$$C=I-\bar{J}$$\|C x \|_2^2 = \sum_i (x_i - \bar{x})^2$$x$

$A_i$$\mu_0$

$$\begin{equation} SS(\mu_0) = n (\bar{y}_{\cdot\cdot\cdot})^2 = \|(\bar{J} \otimes \bar{J} \otimes \bar{J}) y\|_2^2 = y^T (\bar{J} \otimes \bar{J} \otimes \bar{J}) y, \end{equation}$$ $\bar{J} \in \mathbb{R}^{20 \times 20}$$\mathbb{R}^{3 \times 3}$$\mathbb{R}^{3 \times 3}$$\mathrm{id}$ $$\begin{equation} SS(\mathrm{id}) = \sum_{ijk} (\bar{y}_{i\cdot\cdot} - \bar{y}_{\cdot \cdot \cdot})^2 = \|(C \otimes \bar{J} \otimes \bar{J}) y\|_2^2 = y^T (C \otimes \bar{J} \otimes \bar{J}) y. \end{equation}$$ $SS(\mathrm{id})$$\mathrm{id}$$A_{Xw1} = \bar{J} \otimes C \otimes \bar{J}$$A_{id * Xw1} = C \otimes C \otimes \bar{J}$$A_{R()} = I \otimes I \otimes C$

aov$SS(\mathrm{R(id * Xw1)}) = y^T A_{R()} y$

mY <- c()
for(j in 1:(nrow(d)/3)) {
  mY <- c(mY, rep(mean(d$Y[3*(j-1)+(1:3)]), 3))
}
sum((d$Y - mY)^2) #this is the residual sum of squares

$\mathrm{id}$

$$\begin{equation} \mathbb{E} [y_{ijk}] = \mu_{ij} = \mu_0 + \mathrm{id}_i + \mathrm{Xw1}_{jk} + \mathrm{id * Xw1}_{ij} \end{equation}$$ $R(\mathrm{id * Xw1})_{k(ij)} \sim_{iid} \mathcal{N}(0, \sigma^2)$ $$y \sim \mathcal{N} (\mu, \Sigma)$$ $\mu = \mathbb{E} [y] = (\mu_{11}, \mu_{12}, \dots, \mu_{20,3}) \otimes \mathbf{1}_{3}$$\Sigma = \sigma^2 (I \otimes I \otimes I)$

$5$$A$

$$SS(\mathrm{Xw1}) = y^T A_{Xw1} y \sim \sigma^2 \chi^2_{(19)(1)(1)} (\mu^T A_{Xw1} \mu / \sigma^2)$$ $$SS(\mathrm{R(id * Xw1)}) = y^T A_{R()} y \sim \sigma^2 \chi^2_{(20)(3)(2)} (\mu^T A_{R()} \mu / \sigma^2)$$

$(1), (2),$$(3)$$(1)$$\mu^T A_{R()} \mu = 0$$\mu$$A_{R()}$$(3)$$(2)$$0 = \mu^T A_{Xw1} \mu = \sum_{ijk} (\mu_{ij} - \bar{\mu}_{i \cdot})^2$$\mu_{ij} = \bar{\mu}_{i \cdot}$$i,j$$\mathrm{Xw1}_j = 0$$\mathrm{id * Xw1}_{ij} = 0$$i,j$

$\mathrm{id}$$(1)$

RError()id/Xw1 = id + id:Xw1idError$A_{R()} + A_{id * Xw1}$$A_{R()}$

---

$\mathrm{id}$$\mathrm{id}$$\mathrm{id * Xw1}$

$$\begin{align*} \Sigma & \stackrel{(a)}{=} \sigma^2_{id} (I \otimes J \otimes J) + \sigma^2_{id * Xw1} (I \otimes C \otimes J) + \sigma^2_{R()} (I \otimes I \otimes I) \\ & = \sigma^2_{id} (3)(3) (A_{\mu_0} + A_{id}) + \sigma^2_{id * Xw1} (3) (A_{Xw1} + A_{id * Xw1}) + \sigma^2_{R()} (A_{\mu_0} + A_{id} + A_{Xw1} + A_{id * Xw1} + A_{R()}) \\ & = ((3)(3)\sigma^2_{id} + \sigma^2_{R()})A_{\mu_0} + ((3)(3)\sigma^2_{id} + \sigma^2_{R()}) A_{id} + ((3)\sigma^2_{id * Xw1} + \sigma^2_{R()}) A_{Xw1} + ((3)\sigma^2_{id * Xw1} + \sigma^2_{R()}) A_{id * Xw1} + \sigma^2_{R()} A_{R()}, \end{align*}$$ $J$$\mathrm{id}$$\mathrm{Xw1}$$\mathrm{Xw1}$$I \otimes C \otimes J$

$\mathrm{id}$$\mathrm{Xw1}$$\mathbb{E} [y_{ijk}] = \mu_{j} = \mu_0 + \mathrm{Xw1}_j$$\mu = \mathbf{1} \otimes (\mu_1, \mu_2, \mu_3) \otimes \mathbf{1}$

$(1)$

$$\frac{c_{Xw1} }{c_{id * Xw1}} = \frac{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}}{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}} = 1,$$ $$\frac{c_{Xw1}}{c_{R()}} = \frac{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}}{\sigma^2_{R()}} \neq 1.$$ $(3)$$\mu^T A_{Xw1*id} \mu = 0$$\mu^T A_{R()} \mu = 0$$(2)$ $$\begin{align*} \mu^T A_{Xw1} \mu & = \|A_{Xw1} \mu\|_2^2 \\ & = \|(\bar{J} \otimes C \otimes \bar{J}) (\mathbf{1} \otimes (\mu_1, \mu_2 \mu_3)' \otimes \mathbf{1}) \|_2^2 \\ & = (20)(3) \|C (\mu_1, \mu_2 \mu_3)'\|_2^2 \\ & = (20)(3) \sum_j (Xw1_j)^2. \end{align*}$$

$\mathrm{R(id * Xw1)}$$(1)$$(2)$$(1)$$(2)$

$Xw1_j = 0$$j$ $\sigma^2_{id * Xw1} = 0$$Xw1_j = 0$$j$