Làm thế nào để kiểm tra xem các độ dốc trong mô hình tuyến tính có bằng một giá trị cố định không?

9

Giả sử chúng ta có mô hình hồi quy tuyến tính đơn giản và muốn kiểm tra giả thuyết null so với phương án chung. $Z = aX + bY$ $H_0: a=b=\frac{1}{2}$

Tôi nghĩ rằng người ta có thể sử dụng ước tính của và và tiếp tục áp dụng -test để có được khoảng tin cậy xung quanh . Được không $\hat{a}$ $SE(\hat{a})$ $Z$ $\frac{1}{2}$

Câu hỏi khác liên quan mạnh mẽ đến câu hỏi này. Giả sử rằng chúng tôi có một mẫu và chúng tôi tính toán thống kê $\{(x_1,y_1,z_1),\ldots ,(x_n,y_n,z_n) \}$ $\chi^2$

Σ_{Tôi = = 1}^{n} \frac{(z_{Tôi} - \frac{x_{Tôi} + y_{Tôi}}{2})^{2}}{\frac{x_{Tôi} + y_{Tôi}}{2}} .

$\begin{equation} \sum_{i=1}^n \frac{(z_i-\frac{x_i+y_i}{2})^2}{\frac{x_i+y_i}{2}}. \end{equation}$ thống kê này có thể được sử dụng để kiểm tra giả thuyết null không?

hypothesis-testing regression

— Lan
nguồn

8

Trong hồi quy tuyến tính, giả định là và không phải là biến ngẫu nhiên. Do đó, mô hình $X$ $Y$

Z = = một X + b Y + ε

$Z = a X + b Y + \epsilon$

đại số giống như

Z - \frac{1}{2} X - \frac{1}{2} Y = = (một - \frac{1}{2}) X + (b - \frac{1}{2}) Y + ε = = α X + β Y + ε .

$Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2})X + (b - \frac{1}{2})Y + \epsilon = \alpha X + \beta Y + \epsilon.$

Tại đây, và . Thuật ngữ lỗi không bị ảnh hưởng. Điều chỉnh mô hình này, ước tính các hệ số lần lượt là và và kiểm tra giả thuyết theo cách thông thường. $\alpha = a - \frac{1}{2}$ $\beta =b - \frac{1}{2}$ $\epsilon$ $\hat{\alpha}$ $\hat{\beta}$ $\alpha = \beta = 0$

Thống kê được viết ở cuối câu hỏi không phải là thống kê chi bình phương, mặc dù có sự tương đồng chính thức với một. Một thống kê chi bình phương liên quan đến số lượng , không phải giá trị dữ liệu và phải có giá trị mong đợi trong mẫu số của nó, không phải là đồng biến. Có thể một hoặc nhiều mẫu số bằng 0 (hoặc gần với nó), cho thấy có gì đó không đúng với công thức này. Nếu thậm chí điều đó không thuyết phục, hãy xem xét rằng các đơn vị đo , và có thể là bất cứ thứ gì (chẳng hạn như phim truyền hình, phân tích cú pháp và mổ), sao cho kết hợp tuyến tính như là (nói chung) vô nghĩa. Nó không kiểm tra bất cứ điều gì. $\frac{x_i+y_i}{2}$ $Z$ $X$ $Y$ $z_i - (x_i+y_i)/2$

— whuber
nguồn

1

Cảm ơn câu trả lời của bạn. Nó rất hữu ích. Trên thực tế, tôi đã không rất chính xác trong việc xây dựng phần thứ hai của câu hỏi. Hãy tưởng tượng, xs và ys là các số dương, được đo bằng cùng một đơn vị. Các zs (kết quả quan sát được) bằng cách nào đó đo lường "tương tác" theo nghĩa đó là nếu không có tương tác thì zs phải là (x + y) / 2 (kết quả mong đợi). Vì vậy, theo quan điểm của tôi, việc sử dụng hồi quy với giả thuyết null a = b = 1/2 hoặc so sánh mức độ phù hợp bằng cách sử dụng thống kê chi ^ 2 của Pearson là tương tự. Liệu điều này có ý nghĩa gì? Cảm ơn!

— Lan

1

@Lan Tôi nghĩ câu trả lời của Wolfgang minh họa độc đáo cách thực hiện bài kiểm tra mà bạn đang đề xuất. Đó là một ví dụ về ý nghĩa của việc kiểm tra một giả thuyết "theo cách thông thường".

— whuber

9

Bạn có thể kiểm tra giả thuyết này bằng một bài kiểm tra mô hình đầy đủ so với giảm. Đây là cách bạn làm điều này. Đầu tiên, lắp mô hình và lấy phần dư từ mô hình đó. Bình phương phần dư và tổng hợp chúng. Đây là tổng lỗi vuông cho mô hình đầy đủ. Hãy gọi nó là . Tiếp theo, tính toán nơi $Z = aX + bY$ $SSE_f$ $Z - \hat{Z}$ $\hat{Z} = 1/2*X + 1/2*Y$ . Đây là phần dư của bạn theo giả thuyết null. Bình phương chúng và tổng hợp chúng. Đây là tổng lỗi vuông cho mô hình giảm. Hãy gọi nó là . $SSE_r$

Bây giờ tính toán:

F = , $((SSE_r - SSE_f)/2) / (SSE_f / (n-2))$

$n$ $H_0$ $2$ $n-2$

Dưới đây là một ví dụ sử dụng R:

x <- rnorm(n)
y <- rnorm(n)
z <- 1/2*x + 1/2*y + rnorm(n) ### note I am simulating under H0 here

res <- lm(z ~ x + y - 1)
summary(res)
SSE.f <- sum(resid(res)^2)

zhat  <- 1/2*x + 1/2*y
SSE.r <- sum((z-zhat)^2)

F <- ((SSE.r - SSE.f) / 2) / (SSE.f / (n-2))
pf(F, 2, n-2, lower.tail=FALSE) ### this is the p-value

$\alpha$

$Z = aX + bY$ $Z = c + aX + bY$

— Wolfgang
nguồn