Tính toán khả năng đăng nhập bằng tay bằng cách sử dụng hồi quy tổng quát bình phương nhỏ nhất phi tuyến tính (nlme)

Tôi đang cố gắng tính toán khả năng ghi nhật ký cho hồi quy bình phương nhỏ nhất phi tuyến tổng quát cho hàm tối ưu hóa bởi hàm trong gói R , sử dụng ma trận hiệp phương sai được tạo bởi khoảng cách trên cây aa phát sinh giả định chuyển động Brown ( từ gói). Mã R có thể tái tạo sau đây phù hợp với mô hình gnls sử dụng dữ liệu x, y và cây ngẫu nhiên có 9 đơn vị phân loại:$f(x)=\frac{\beta_1}{(1+\frac x\beta_2)^{\beta_3}}$gnlsnlmecorBrownian(phy=tree)ape

require(ape)
require(nlme)
require(expm)
tree <- rtree(9)
x <- c(0,14.51,32.9,44.41,86.18,136.28,178.21,262.3,521.94)
y <- c(100,93.69,82.09,62.24,32.71,48.4,35.98,15.73,9.71)
data <- data.frame(x,y,row.names=tree$tip.label)
model <- y~beta1/((1+(x/beta2))^beta3)
f=function(beta,x) beta[1]/((1+(x/beta[2]))^beta[3])
start <- c(beta1=103.651004,beta2=119.55067,beta3=1.370105)
correlation <- corBrownian(phy=tree)
fit <- gnls(model=model,data=data,start=start,correlation=correlation)
logLik(fit) 

Tôi muốn tính toán khả năng đăng nhập "bằng tay" (bằng R, nhưng không sử dụng logLikhàm) dựa trên các tham số ước tính thu được từ gnlsđó để khớp với đầu ra từ đó logLik(fit). LƯU Ý: Tôi không cố gắng ước tính các tham số; Tôi chỉ muốn tính toán khả năng đăng nhập của các tham số được ước tính bởi gnlshàm (mặc dù nếu ai đó có một ví dụ có thể lặp lại về cách ước tính các tham số mà không có gnls, tôi sẽ rất thích nhìn thấy nó!).

Tôi không thực sự chắc chắn về cách thực hiện điều này trong R. Ký hiệu đại số tuyến tính được mô tả trong Mô hình hiệu ứng hỗn hợp trong S và S-Plus (Pinheiro và Bates) rất nhiều trong đầu tôi và không có nỗ lực nào của tôi phù hợp logLik(fit). Dưới đây là các chi tiết được mô tả bởi Pinheiro và Bates:

Khả năng đăng nhập của mô hình bình phương nhỏ nhất phi tuyến tổng quát trong đó được tính như sau:φ i = A i$y_i=f_i(\phi_i,v_i)+\epsilon_i$$\phi_i=A_i\beta$

$l(\beta,\sigma^2,\delta|y)=-\frac 12 \Bigl\{ N\log(2\pi\sigma^2)+\sum\limits_{i=1}^M{\Bigl[\frac{||y_i^*-f_i^*(\beta)||^2}{\sigma^2}+\log|\Lambda_i|\Bigl]\Bigl\}}$

Trong đó là số lượng quan sát và .f ∗ i ( β ) = f ∗ i ( ϕ i , v i$N$$f_i^*(\beta)=f_i^*(\phi_i,v_i)$

y ∗ i = Λ - T / 2 i y i f ∗ i ( ϕ i , v i ) = Λ - T / 2 i f $\Lambda_i$ là xác định dương, và$y_i^*=\Lambda_i^{-T/2}y_i$$f_i^*(\phi_i,v_i)=\Lambda_i^{-T/2}f_i(\phi_i,v_i)$

Đối với cố định và , công cụ ước tính ML của là$\beta$σ $\lambda$$\sigma^2$

$\hat\sigma(\beta,\lambda)=\sum\limits_{i=1}^M||y_i^*-f_i^*(\beta)||^2 / N$

và khả năng đăng nhập được định hình là

$l(\beta,\lambda|y)=-\frac12\Bigl\{N[\log(2\pi/N)+1]+\log\Bigl(\sum\limits_{i=1}^M||y_i^*-f_i^*(\beta)||^2\Bigl)+\sum\limits_{i=1}^M\log|\Lambda_i|\Bigl\}$

được sử dụng với thuật toán Gauss-Seidel để tìm các ước tính ML của và . Ước tính ít sai lệch của được sử dụng:bước sóng σ $\beta$$\lambda$$\sigma^2$

$\sigma^2=\sum\limits_{i=1}^M\Bigl|\Bigl|\hat\Lambda_i^{-T/2}[y_i-f_i(\hat\beta)]\Bigl|\Bigl|^2/(N-p)$

Trong đó đại diện cho độ dài của .$p$$\beta$

Tôi đã soạn một danh sách các câu hỏi cụ thể mà tôi đang phải đối mặt:

1. Là gì ? Đó có phải là ma trận khoảng cách tạo ra bởi trong , hoặc dùng nó cần phải được bằng cách nào đó chuyển hoặc tham số của , hoặc một cái gì đó khác hoàn toàn?$\Lambda_i$big_lambda <- vcv.phylo(tree)ape$\lambda$
2. Would be , hoặc các phương trình cho các ước tính ít thiên vị (phương trình cuối cùng trong bài này)?$\sigma^2$fit$sigma^2
3. Có cần thiết phải sử dụng để tính toán khả năng đăng nhập hay đó chỉ là một bước trung gian để ước tính tham số? Ngoài ra, được sử dụng như thế nào? Đây có phải là một giá trị đơn lẻ hay một vectơ và được nhân với tất cả hoặc chỉ các phần tử nằm ngoài đường chéo, v.v.?$\lambda$$\lambda$$\Lambda_i$
4. Là gì? Điều đó sẽ được trong gói ? Nếu vậy, tôi bối rối về cách tính tổng , vì trả về một giá trị duy nhất, không phải là một vectơ.$||y-f(\beta)||$norm(y-f(fit$coefficients,x),"F")Matrix$\sum\limits_{i=1}^M||y_i^*-f_i^*(\beta)||^2$norm()
5. Làm thế nào để một người tính toán? Có nơi là , hoặc là nó từ gói ? Nếu có , làm thế nào để lấy tổng của một ma trận (hoặc nó ngụ ý rằng nó chỉ là các phần tử đường chéo)?$\log|\Lambda_i|$log(diag(abs(big_lambda)))big_lambda$\Lambda_i$logm(abs(big_lambda))expmlogm()
6. Chỉ cần xác nhận, tính như thế này : ?$\Lambda_i^{-T/2}$t(solve(sqrtm(big_lambda)))
7. Làm thế nào là và tính? Đây có phải là một trong những điều sau đây:$y_i^*$$f_i^*(\beta)$

y_star <- t(solve(sqrtm(big_lambda))) %*% y

và

f_star <- t(solve(sqrtm(big_lambda))) %*% f(fit$coefficients,x)

hoặc nó sẽ là

y_star <- t(solve(sqrtm(big_lambda))) * y

và

f_star <- t(solve(sqrtm(big_lambda))) * f(fit$coefficients,x) ?

Nếu tất cả các câu hỏi này được trả lời, theo lý thuyết, tôi nghĩ khả năng đăng nhập nên có thể tính toán được để phù hợp với đầu ra từ đó logLik(fit). Bất kỳ trợ giúp về bất kỳ câu hỏi này sẽ được đánh giá rất cao. Nếu bất cứ điều gì cần làm rõ, xin vui lòng cho tôi biết. Cảm ơn!

CẬP NHẬT : Tôi đã thử nghiệm nhiều khả năng khác nhau để tính toán khả năng đăng nhập, và đây là điều tốt nhất tôi nghĩ ra cho đến nay. logLik_calcluôn luôn giảm khoảng 1 đến 3 so với giá trị được trả về logLik(fit). Hoặc tôi gần với giải pháp thực tế, hoặc điều này hoàn toàn là do sự trùng hợp. Có suy nghĩ gì không?

  C <- vcv.phylo(tree) # variance-covariance matrix
  tC <- t(solve(sqrtm(C))) # C^(-T/2)
  log_C <- log(diag(abs(C))) # log|C|
  N <- length(y)
  y_star <- tC%*%y 
  f_star <- tC%*%f(fit$coefficients,x)
  dif <- y_star-f_star  
  sigma_squared <-  sum(abs(y_star-f_star)^2)/N
  # using fit$sigma^2 also produces a slightly different answer than logLik(fit)
  logLik_calc <- -((N*log(2*pi*(sigma_squared)))+
       sum(((abs(dif)^2)/(sigma_squared))+log_C))/2

Hãy bắt đầu với trường hợp đơn giản hơn khi không có cấu trúc tương quan cho phần dư:

fit <- gnls(model=model,data=data,start=start)
logLik(fit)

Khả năng đăng nhập có thể dễ dàng được tính toán bằng tay với:

N <- fit$dims$N
p <- fit$dims$p
sigma <- fit$sigma * sqrt((N-p)/N)
sum(dnorm(y, mean=fitted(fit), sd=sigma, log=TRUE))

Vì phần dư là độc lập, chúng tôi chỉ có thể sử dụng dnorm(..., log=TRUE)để có được các điều khoản khả năng đăng nhập riêng lẻ (và sau đó tổng hợp chúng). Ngoài ra, chúng tôi có thể sử dụng:

sum(dnorm(resid(fit), mean=0, sd=sigma, log=TRUE))

Lưu ý rằng đó fit$sigmakhông phải là "ước tính ít sai lệch của " - vì vậy trước tiên chúng ta cần thực hiện chỉnh sửa.$\sigma^2$

Bây giờ đối với trường hợp phức tạp hơn, phần dư có tương quan:

fit <- gnls(model=model,data=data,start=start,correlation=correlation)
logLik(fit)

Ở đây, chúng ta cần sử dụng phân phối chuẩn nhiều biến. Tôi chắc chắn có một chức năng cho việc này ở đâu đó, nhưng chúng ta hãy làm điều này bằng tay:

N <- fit$dims$N
p <- fit$dims$p
yhat <- cbind(fitted(fit))
R <- vcv(tree, cor=TRUE)
sigma <- fit$sigma * sqrt((N-p)/N)
S <- diag(sigma, nrow=nrow(R)) %*% R %*% diag(sigma, nrow=nrow(R))
-1/2 * log(det(S)) - 1/2 * t(y - yhat) %*% solve(S) %*% (y - yhat) - N/2 * log(2*pi)