Làm cách nào để kiểm tra xem hai ước tính tham số trong cùng một mô hình có khác nhau đáng kể không?


12

Tôi có mô hình

y=xa×zb+e

Trong đó y là biến phụ thuộc, và là biến giải thích, và là tham số và là một thuật ngữ lỗi. Tôi có các ước tính tham số của và và ma trận hiệp phương sai của các ước tính này. Làm thế nào để kiểm tra nếu ab khác nhau đáng kể?xzabeabab

Câu trả lời:


16

Đánh giá giả thuyết rằng ab là khác nhau tương đương với thử nghiệm vô giá trị giả thuyết ab=0 (đối với phương án mà ab0 ).

Các giả thiết phân tích sau đây nó là hợp lý để bạn có thể ước tính ab

U=a^b^.
Nó cũng chấp nhận công thức mô hình của bạn (thường là hợp lý), bởi vì các lỗi là phụ gia (và thậm chí có thể tạo ra các giá trị quan sát âm của y ) - không cho phép chúng tôi tuyến tính hóa nó bằng cách lấy logarit của cả hai bên.

Phương sai của U có thể được biểu diễn dưới dạng ma trận hiệp phương sai (cij) của (a^,b^)

Var(U)=Var(a^b^)=Var(a^)+Var(b^)2Cov(a^,b^)=c11+c222c122.

Khi (a^,b^) được ước tính với ít nhất hình vuông, người ta thường sử dụng một "thử nghiệm t;" có nghĩa là, sự phân bố của

t=U/Var(U)
được xấp xỉ bởiphân bố Student tvớin2bậc tự do (trong đónlà số liệu dữ liệu và2đếm số hệ số). Bất kể,tthường là cơ sở của bất kỳ thử nghiệm. Bạn có thể thực hiện kiểm tra Z (khinlớn hoặc khi phù hợp với Khả năng tối đa) hoặc khởi động lại, chẳng hạn.

Cụ thể, giá trị p của thử nghiệm t được đưa ra bởi

p=2tn2(|t|)

Trong đó tn2 là hàm phân phối Student t (tích lũy). Đây là một biểu thức cho "vùng đuôi:" khả năng biến Sinh viên t (của n2 độ tự do) bằng hoặc vượt quá kích thước của thống kê kiểm tra, |t|.


Tổng quát hơn, cho số c1, c2,μ bạn có thể sử dụng chính xác phương pháp tương tự để kiểm tra bất kỳ giả thuyết

H0:c1a+c2b=μ

chống lại sự thay thế hai mặt. (Điều này bao gồm trường hợp đặc biệt nhưng phổ biến của "độ tương phản" .) Sử dụng ma trận hiệp phương sai ước tính (cij) để ước tính phương sai của U=c1a+c2b và tạo thành thống kê

t=(c1a^+c2b^μ)/Var(U).

Trên đây là trường hợp (c1,c2)=(1,1)μ=0.


Rett500n=5ta=b=1/2.

Probability plot

a, b, σn

Đây là mã.

#
# Specify the true parameters.
#
set.seed(17)
a <- -1/2
b <- -1/2
sigma <- 0.25 # Variance of the errors
n <- 5        # Sample size
n.sim <- 500  # Simulation size
#
# Specify the hypothesis.
#
H.0 <- c(1, -1) # Coefficients of `a` and `b`.
mu <- 0 
#
# Provide x and z values in terms of their logarithms.
#
log.x <- log(rexp(n))
log.z <- log(rexp(n))
#
# Compute y without error.
#
y.0 <- exp(a * log.x + b * log.z)
#
# Conduct a simulation to estimate the sampling distribution of the t statistic.
#
sim <- replicate(n.sim, {
  #
  # Add the errors.
  #
  e <- rnorm(n, 0, sigma)
  df <- data.frame(log.x=log.x, log.z=log.z, y.0, y=y.0 + e)
  #
  # Guess the solution.
  #
  fit.ols <- lm(log(y) ~ log.x + log.z - 1, subset(df, y > 0))
  start <- coefficients(fit.ols) # Initial values of (a.hat, b.hat)
  #
  # Polish it using nonlinear least squares.
  #
  fit <- nls(y ~ exp(a * log.x + b * log.z), df, list(a=start[1], b=start[2]))
  #
  # Test a hypothesis.
  #
  cc <- vcov(fit)
  s <- sqrt((H.0 %*% cc %*% H.0))
  (crossprod(H.0, coef(fit)) - mu) / s
})
#
# Display the simulation results.
#
summary(lm(sort(sim) ~ 0 + ppoints(length(sim))))
qqplot(qt(ppoints(length(sim)), df=n-2), sim, 
       pch=21, bg="#00000010", col="#00000040",
       xlab="Student t reference value", 
       ylab="Test statistic")
abline(0:1, col="Red", lwd=2)

2
Thật tuyệt vời. Câu trả lời với lý thuyết, với các bước để làm theo để lặp lại cho các thử nghiệm khác, với cách tiếp cận số cho rõ ràng và với mã. Đây là tiêu chuẩn vàng.
SecretAgentMan

1
Tôi thấy " Các giả thuyết rằng a và b là khác nhau" nhập nhằng trong câu mở đầu của bạn, bởi vì nó không phải là rõ ràng cho dù đó là một giả thuyết null hoặc thay thế. Câu hỏi của OP cho thấy rõ họ đang tìm kiếm bằng chứng về sự khác biệt và mệnh đề thứ hai trong câu của bạn nói lên điều đó. Về mặt sư phạm tôi nghĩ nó giúp mọi người mới hơn trong việc kiểm tra giả thuyết trở nên siêu rõ ràng. (Nhưng +1 cho tổng thể câu trả lời của bạn :)
Alexis

1
@Alexis cảm ơn bạn - Tôi thấy những gì bạn đang nói. Bởi vì tôi có những người như vậy trong tâm trí, tôi sẽ làm rõ.
whuber
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.