Tôi đang cố gắng tìm hiểu triết lý đằng sau bằng cách sử dụng Mô hình tuyến tính tổng quát (GLM) so với Mô hình tuyến tính (LM). Tôi đã tạo một tập dữ liệu mẫu dưới đây:
Ví dụ không có lỗi là một hàm của độ lớn của y , vì vậy tôi sẽ giả định rằng một mô hình tuyến tính của log-chuyển y sẽ là tốt nhất. Trong ví dụ dưới đây, đây thực sự là trường hợp (tôi nghĩ) - vì AIC của LM trên dữ liệu chuyển đổi nhật ký là thấp nhất. AIC của GLM phân phối Gamma với chức năng liên kết nhật ký có tổng bình phương (SS) thấp hơn, nhưng mức độ tự do bổ sung dẫn đến AIC cao hơn một chút. Tôi đã ngạc nhiên rằng AIC phân phối Gaussian cao hơn rất nhiều (mặc dù SS là thấp nhất trong các mô hình).
Tôi hy vọng sẽ nhận được một số lời khuyên về việc khi nào nên tiếp cận các mô hình GLM - tức là có điều gì tôi nên tìm kiếm trong mô hình LM phù hợp với phần dư của tôi để nói với tôi rằng phân phối khác phù hợp hơn không? Ngoài ra, làm thế nào nên tiến hành trong việc lựa chọn một gia đình phân phối thích hợp.
Rất cám ơn trước sự giúp đỡ của bạn.
[EDIT]: Bây giờ tôi đã điều chỉnh số liệu thống kê tóm tắt để SS của mô hình tuyến tính được chuyển đổi nhật ký có thể so sánh với các mô hình GLM có chức năng liên kết nhật ký. Một biểu đồ thống kê hiện được hiển thị.
Thí dụ
set.seed(1111)
n <- 1000
y <- rnorm(n, mean=0, sd=1)
y <- exp(y)
hist(y, n=20)
hist(log(y), n=20)
x <- log(y) - rnorm(n, mean=0, sd=1)
hist(x, n=20)
df <- data.frame(y=y, x=x)
df2 <- data.frame(x=seq(from=min(df$x), to=max(df$x),,100))
#models
mod.name <- "LM"
assign(mod.name, lm(y ~ x, df))
summary(get(mod.name))
plot(y ~ x, df)
lines(predict(get(mod.name), newdata=df2) ~ df2$x, col=2)
mod.name <- "LOG.LM"
assign(mod.name, lm(log(y) ~ x, df))
summary(get(mod.name))
plot(y ~ x, df)
lines(exp(predict(get(mod.name), newdata=df2)) ~ df2$x, col=2)
mod.name <- "LOG.GAUSS.GLM"
assign(mod.name, glm(y ~ x, df, family=gaussian(link="log")))
summary(get(mod.name))
plot(y ~ x, df)
lines(predict(get(mod.name), newdata=df2, type="response") ~ df2$x, col=2)
mod.name <- "LOG.GAMMA.GLM"
assign(mod.name, glm(y ~ x, df, family=Gamma(link="log")))
summary(get(mod.name))
plot(y ~ x, df)
lines(predict(get(mod.name), newdata=df2, type="response") ~ df2$x, col=2)
#Results
model.names <- list("LM", "LOG.LM", "LOG.GAUSS.GLM", "LOG.GAMMA.GLM")
plot(y ~ x, df, log="y", pch=".", cex=3, col=8)
lines(predict(LM, newdata=df2) ~ df2$x, col=1, lwd=2)
lines(exp(predict(LOG.LM, newdata=df2)) ~ df2$x, col=2, lwd=2)
lines(predict(LOG.GAUSS.GLM, newdata=df2, type="response") ~ df2$x, col=3, lwd=2)
lines(predict(LOG.GAMMA.GLM, newdata=df2, type="response") ~ df2$x, col=4, lwd=2)
legend("topleft", legend=model.names, col=1:4, lwd=2, bty="n")
res.AIC <- as.matrix(
data.frame(
LM=AIC(LM),
LOG.LM=AIC(LOG.LM),
LOG.GAUSS.GLM=AIC(LOG.GAUSS.GLM),
LOG.GAMMA.GLM=AIC(LOG.GAMMA.GLM)
)
)
res.SS <- as.matrix(
data.frame(
LM=sum((predict(LM)-y)^2),
LOG.LM=sum((exp(predict(LOG.LM))-y)^2),
LOG.GAUSS.GLM=sum((predict(LOG.GAUSS.GLM, type="response")-y)^2),
LOG.GAMMA.GLM=sum((predict(LOG.GAMMA.GLM, type="response")-y)^2)
)
)
res.RMS <- as.matrix(
data.frame(
LM=sqrt(mean((predict(LM)-y)^2)),
LOG.LM=sqrt(mean((exp(predict(LOG.LM))-y)^2)),
LOG.GAUSS.GLM=sqrt(mean((predict(LOG.GAUSS.GLM, type="response")-y)^2)),
LOG.GAMMA.GLM=sqrt(mean((predict(LOG.GAMMA.GLM, type="response")-y)^2))
)
)
png("stats.png", height=7, width=10, units="in", res=300)
#x11(height=7, width=10)
par(mar=c(10,5,2,1), mfcol=c(1,3), cex=1, ps=12)
barplot(res.AIC, main="AIC", las=2)
barplot(res.SS, main="SS", las=2)
barplot(res.RMS, main="RMS", las=2)
dev.off()
