Các tính chất hữu ích nào của chức năng liên kết chính tắc có?

8

Vì vậy, ở đây tôi đang nghiên cứu các mô hình tuyến tính tổng quát. Tôi biết câu hỏi này khá ngây thơ và đơn giản, nhưng tôi không biết chính xác tại sao chức năng chính tắc liên kết lại rất hữu ích. Ai đó có thể cung cấp cho tôi một trực giác về vấn đề này?

— người dùng1337
nguồn

8

Tôi biết câu hỏi này khá ngây thơ và đơn giản, nhưng tôi không biết chính xác tại sao chức năng kinh điển liên kết lại rất hữu ích

Nó thực sự rất hữu ích? Một hàm liên kết là chính tắc chủ yếu là một thuộc tính toán học. Nó đơn giản hóa toán học phần nào, nhưng trong mô hình hóa, dù sao bạn cũng nên sử dụng hàm liên kết có ý nghĩa khoa học.

Vì vậy, những gì thuộc tính bổ sung mà một chức năng liên kết chính tắc có?

Nó dẫn đến sự tồn tại của số liệu thống kê đầy đủ. Điều đó có thể ngụ ý ước tính hiệu quả hơn một chút, có thể, nhưng phần mềm hiện đại (như glmtrong R) dường như không đối xử với các liên kết chính tắc khác với các liên kết khác.
Nó đơn giản hóa một số công thức, vì vậy sự phát triển lý thuyết được nới lỏng. Nhiều thuộc tính toán học hay, xem Sự khác biệt giữa "hàm liên kết" và "hàm liên kết chính tắc" đối với GLM là gì .

Vì vậy, lợi thế dường như chủ yếu là toán học và thuật toán, không thực sự thống kê.

Một số chi tiết: Hãy $Y_1, \dotsc, Y_n$ được quan sát độc lập từ mô hình gia đình phân tán mũ

f_{Y} (y; θ, φ) = = điểm kinh nghiệm {(y θ - b (θ)) / một (φ) + c (y, φ)}

$f_Y(y;\theta,\phi)=\exp\left\{(y\theta-b(\theta))/a(\phi) + c(y,\phi)\right\}$ với kỳ vọng

E Y_{i} = μ_{i}

$\DeclareMathOperator{\E}{\mathbb{E}} \E Y_i=\mu_i$ và dự đoán tuyến tính

η_{i} = x_{i}^{T} β

$\eta_i = x_i^T \beta$ với covariate vector

x_{i}

$x_i$ . Hàm liên kết là chuẩn nếu

η_{i} = θ_{i}

$\eta_i=\theta_i$ . Trong trường hợp này hàm likelihood có thể được viết như

L (β; φ) = = điểm kinh nghiệm {\underset{Tôi}{Σ} \frac{y_{Tôi} x_{Tôi}^{T} β - b (x_{Tôi}^{T} β)}{một (φ)} + \underset{Tôi}{Σ} c (y_{Tôi}, φ)}

$\mathcal{L}(\beta; \phi)=\exp\left\{ \sum_i \frac{y_i x_i^T \beta -b(x_i^T \beta)}{a(\phi)}+\sum_i c(y_i,\phi)\right\}$ và bởi cácthừa số định lýchúng ta có thể kết luận rằng

\sum_{i} x_{i} y_{i}

$\sum_i x_i y_i$ là đủ cho

β

$\beta$ .

Không đi sâu vào chi tiết, các phương trình cần thiết cho IRLS sẽ được đơn giản hóa. Tương tự như vậy, tìm kiếm google này dường như chủ yếu tìm thấy các liên kết kinh điển được đề cập trong bối cảnh đơn giản hóa, và không có bất kỳ lý do thống kê nào nữa.

— kjetil b halvorsen
nguồn

Nó có ích về mặt toán học , có lẽ.

— AdamO

Vâng, đó là những gì tôi đã cố gắng nói!

— kjetil b halvorsen

7

Hàm liên kết chính tắc mô tả mối quan hệ phương sai trung bình trong GLM. Ví dụ, một biến ngẫu nhiên nhị thức có chức năng liên kết $\mu = \exp( \nu) /(1-\exp(\nu))$ nơi $\nu$ là một yếu tố dự báo tuyến tính $\mathbf{X}^T\beta$ . Lưu ý rằng $\frac{\partial }{\partial \nu} \mu = \mu(1-\mu)$ mà là mối quan hệ bình-sai thích hợp cho một biến ngẫu nhiên Bernoulli. Điều này cũng đúng của các biến ngẫu nhiên Poisson, nơi mà các chức năng liên kết ngược là $\mu = \exp(\nu)$ và $\frac{\partial }{\partial \nu} \mu = \mu$ nơi trong một biến ngẫu nhiên Poisson, phương sai là giá trị trung bình.

Mô hình tuyến tính tổng quát giải phương trình ước lượng có dạng:

S (β) = = D V^{- 1} (Y - g (X^{T} β))

$S(\beta) = D V^{-1} (Y - g(\mathbf{X}^T\beta))$

nơi $D = \frac{\partial}{\partial \beta} g(\mathbf{X}^T\beta)$ và $V=\text{var}(Y)$ . Do đó, khi liên kết là chuẩn, $D = V$ và hàm ước tính là:

S (β) = = X^{T} (Y - g (X^{T} β))

$S(\beta) = \mathbf{X}^{T}(Y - g(\mathbf{X}^T\beta))$

Như đã được ghi nhận trong bài báo năm 1976 của Wedderburn về khả năng vận động, liên kết chính tắc có lợi thế là thông tin được mong đợi và quan sát là giống nhau và các bình phương tối thiểu lặp lại tương đương với Newton-Raphson, vì vậy điều này đơn giản hóa các thủ tục ước tính và ước lượng phương sai.

— Adam
nguồn