Tại sao tất cả các bài kiểm tra về tính quy phạm đều bác bỏ giả thuyết khống?

Thử nghiệm Koleimorov-Smirnov, thử nghiệm Shapiro, v.v .... tất cả đều bác bỏ giả thuyết rằng một phân phối là bình thường. Tuy nhiên, khi tôi vẽ các lượng tử và biểu đồ bình thường, dữ liệu rõ ràng là bình thường. Có lẽ vì sức mạnh của các bài kiểm tra cao?

Cỡ mẫu vào khoảng 650. Vì vậy, ít nhất một trong những thử nghiệm này không thể bác bỏ giả thuyết khống?

Các kết quả:

           Kolmogorov-Smirnov    D          0.05031          Pr > D       <0.010
           Cramer-von Mises      W-Sq       0.30003          Pr > W-Sq    <0.005
           Anderson-Darling      A-Sq       1.66965          Pr > A-Sq    <0.005
           Chi-Square            Chi-Sq  3250.43596     18   Pr > Chi-Sq  <0.001

Kiểm tra định mức là một sự lãng phí thời gian và ví dụ của bạn minh họa tại sao. Với các mẫu nhỏ, kiểm tra tính quy tắc có sức mạnh thấp, do đó, quyết định về việc sử dụng mô hình thống kê nào cần phải dựa trên kiến thức tiên nghiệm . Trong những trường hợp này, việc từ chối null không chứng minh rằng null thậm chí gần đúng ở cấp độ dân số.

Khi bạn có các mẫu lớn, các bài kiểm tra tính quy tắc trở nên mạnh mẽ một cách lố bịch, nhưng chúng không cho bạn biết bất cứ điều gì bạn chưa biết. Không có số lượng thực được phân phối chính xác bình thường. Phân phối bình thường chỉ là một sự trừu tượng hóa toán học, đó là một xấp xỉ đủ tốt trong nhiều trường hợp. Bằng chứng đơn giản nhất về điều này là không có số lượng thực (ít nhất là không có gì tôi có thể nghĩ ra) có thể lấy bất kỳ số thực nào làm giá trị của nó. Chẳng hạn, chỉ có rất nhiều phân tử trong vũ trụ. Chỉ có rất nhiều đô la trong cung tiền. Tốc độ của ánh sáng là hữu hạn. Máy tính chỉ có thể lưu trữ các số có kích thước hữu hạn, vì vậy ngay cả khi có thứ gì đó có sự hỗ trợ của tất cả các số thực, bạn sẽ không thể đo được.

Vấn đề là bạn đã biết dữ liệu của mình không được phân phối chính xác nhưng các kiểm tra tính quy tắc không cho bạn biết gì về việc dữ liệu không bình thường như thế nào. Họ cung cấp cho bạn hoàn toàn không có gợi ý về việc liệu dữ liệu của bạn được xấp xỉ thường được phân phối như vậy mà phương pháp suy luận thống kê giả bình thường sẽ cung cấp câu trả lời chính xác. Trớ trêu thay, các thử nghiệm phổ biến (ví dụ: thử nghiệm T và ANOVA) cho rằng tính quy tắc mạnh hơn so với tính không quy tắc ở các cỡ mẫu lớn.

Điều này không làm tôi ngạc nhiên --- với cỡ mẫu đủ lớn, mọi thử nghiệm tốt sẽ từ chối giả thuyết khống, trừ khi phân phối tạo dữ liệu thực sự (và chính xác) bình thường.

Với thử nghiệm giả thuyết, người ta thường quan tâm đến việc tìm kiếm một thử nghiệm "mạnh mẽ", đây là một thử nghiệm có thể tìm thấy những sai lệch rất nhỏ so với giả thuyết null, với càng ít dữ liệu càng tốt.

Hãy thử chạy thử nghiệm với một mẫu con có kích thước 20, 50, 100, 200 và xem kích thước mà các thử nghiệm bắt đầu từ chối. Thật dễ dàng để xem liệu biểu đồ có đối xứng và thường có hình chuông hay không, nhưng đuôi của phân phối khó đánh giá bằng mắt hơn. Có lẽ có những ngoại lệ trong dữ liệu đang khiến các bài kiểm tra từ chối? Nếu có, hãy xem điều gì xảy ra khi bạn tỉa chúng ra.

Nguyên nhân có thể là do dữ liệu của bạn hơi không bình thường và kích thước mẫu của bạn đủ lớn để tiết lộ điều này.

Nếu phân phối thực sự là bình thường thì nó thường sẽ vượt qua các thử nghiệm này, như trong ví dụ R sau đây, nơi tất cả trừ một trong các thử nghiệm được thông qua.

> require(nortest)
> 
> set.seed(1)
> dat <- rnorm(650,mean=100, sd=5)
> 
> ad.test(dat)

        Anderson-Darling normality test

data:  dat 
A = 0.439, p-value = 0.2924

> cvm.test(dat)

        Cramer-von Mises normality test

data:  dat 
W = 0.0882, p-value = 0.1619

> lillie.test(dat)

        Lilliefors (Kolmogorov-Smirnov) normality test

data:  dat 
D = 0.0334, p-value = 0.08196

> pearson.test(dat)

        Pearson chi-square normality test

data:  dat 
P = 37.96, p-value = 0.035

> sf.test(dat)

        Shapiro-Francia normality test

data:  dat 
W = 0.9978, p-value = 0.5186

> shapiro.test(dat)

        Shapiro-Wilk normality test

data:  dat 
W = 0.9981, p-value = 0.675

Bạn có thể muốn thực hiện một qqplot và nếu điều này đủ gần với một đường thẳng thì bạn có thể quyết định coi nó là đủ gần với sự bình thường cho mục đích của bạn. Nó phụ thuộc vào những mục đích đó là gì.

Hãy để tôi không đồng ý với câu trả lời từ dsimcha: "Kiểm tra định mức là lãng phí thời gian và ví dụ của bạn minh họa tại sao.". Kiểm tra định mức không bao giờ là lãng phí thời gian, bạn luôn có thể học hỏi từ dữ liệu của mình. Hơn nữa, có một số điều kiện bạn phải kiểm tra trước khi thực hiện một số phân tích (ví dụ ANOVA, hồi quy, v.v.). Kích thước mẫu tương đối lớn sẽ tốt hơn để được thử nghiệm với cốt truyện (QQplot, biểu đồ). Trong những trường hợp như vậy, trực quan hóa cung cấp nhiều thông tin hơn về hành vi đa phương thức và vân vân.

ANOVA và hồi quy mạnh mẽ đến phi quy tắc khi xử lý các cỡ mẫu lớn nhưng loại dữ liệu chính gây ra vấn đề là các mẫu dữ liệu đa phương thức.

Với kích thước mẫu nhỏ, xét nghiệm Koleimorov-Smirnov là lựa chọn tốt nhất chủ yếu do độ nhạy của nó.

Tôi sẽ không đồng ý một chút với các câu trả lời khác được đăng cho đến nay: các bài kiểm tra về tính bình thường này có sức mạnh rất nhỏ, ngay cả với cỡ mẫu tương đối lớn, ít nhất là đối với một số loại sai lệch.

Đây là một ví dụ nhanh. Tôi đã tạo ra một hỗn hợp gồm hai quy tắc có phương tiện được phân tách bằng toàn bộ sd.

set.seed(1)
reps = replicate(
  10000, 
  shapiro.test(c(rnorm(325, mean = 0), rnorm(325, mean = 1)))$p.value
)
mean(reps < .05)
[1] 0.0525

Xem xét rằng nó sẽ "phát hiện" độ lệch so với tính chuẩn 5% ngay cả khi nó thực sự bình thường, điều đó không ấn tượng lắm.

Đây là một ví dụ khác: Tôi thêm nhiễu đồng nhất trên một phạm vi kích thước của hai độ lệch chuẩn. Điều này là khá rõ ràng không bình thường.

set.seed(1)
reps = replicate(
  10000, 
  shapiro.test(rnorm(650) + 2 * runif(650))$p.value
)
mean(reps < .05)
[1] 0.0523

Một lần nữa, sức mạnh cực kỳ thấp cho một sự khởi đầu khá lớn từ sự bình thường.

Bạn có chắc là bạn đang đọc qqplot chính xác? Bạn có thể tải nó lên để chúng tôi có thể nhìn thấy nó?

Mặt khác, chỉnh sửa hồi quy khá mạnh mẽ đối với tính phi quy tắc, vì vậy tôi đồng ý rằng kiểm tra trực quan có thể là đủ cho hầu hết các mục đích.