Trực giác ước tính Sandwich

Wikipedia và họa tiết gói bánh sandwich R cung cấp thông tin tốt về các giả định hỗ trợ các lỗi tiêu chuẩn hệ số OLS và nền tảng toán học của các công cụ ước tính sandwich. Mặc dù vậy, tôi vẫn không rõ vấn đề về tính không đồng nhất còn lại được giải quyết như thế nào, có lẽ vì tôi không hiểu đầy đủ về ước lượng phương sai hệ số OLS tiêu chuẩn ở nơi đầu tiên.

Trực giác đằng sau công cụ ước tính sandwich là gì?

— Robert Kubrick
nguồn

Bạn cần tìm hiểu thêm về

-estimation (hoặc ước lượng cực trị, vì đôi khi nó được gọi là trong kinh tế lượng). Công cụ ước tính sandwich cho hồi quy chỉ là trường hợp đặc biệt của công thức phương pháp delta rất chung và nếu bạn hiểu cái sau, bạn sẽ không gặp vấn đề gì với cái trước. Không có trực giác trong đó công cụ ước tính sandwich không cố gắng mô hình hóa tính không đồng nhất hoặc làm bất cứ điều gì cụ thể về nó; nó chỉ là một công cụ ước tính phương sai khác nhau hoạt động theo một nhóm các giả định chung hơn so với công cụ ước tính OLS tiêu chuẩn.

M

$M$

— StasK

@StasK Cảm ơn! Bạn có tình cờ biết bất kỳ tài nguyên tốt cụ thể nào về các công thức ước lượng M và phương thức delta không?

— Robert Kubrick

Chuyên khảo "Robust Statistics" của @Robert Huber đáng xem.

— Momo

$Y_i$

var (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} diag (var (Y | X)) X) {(X^{T} X)}^{- 1}

$\begin{equation} \mbox{var}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(\mbox{var}\left(Y|X\right)\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

Trong ước tính sai số chuẩn bình phương nhỏ nhất cho ước tính hệ số hồi quy, phương sai điều kiện của kết quả được coi là không đổi và độc lập, do đó có thể ước lượng một cách nhất quán.

{\hat{var}}_{O L S} (\hat{β}) = {(X^{T} X)}^{- 1} (r^{2} X^{T} X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{OLS}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(r^2X^TX\right)\left(X^TX\right)^{-1} \end{equation}$

Đối với bánh sandwich, chúng tôi tránh ước tính nhất quán của phương sai có điều kiện và thay vào đó sử dụng ước tính bổ trợ của phương sai của từng thành phần bằng cách sử dụng phần dư bình phương

{\hat{var}}_{R S E} (\hat{β}) = {(X^{T} X)}^{- 1} (X^{T} diag (r_{i}^{2}) X) {(X^{T} X)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{RSE}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(r_i^2\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

$\hat{\beta}$

Theo trực giác, những phần dư bình phương được quan sát này sẽ dọn sạch mọi lỗi không giải thích được do tính không đồng nhất có thể gây bất ngờ theo giả định của phương sai không đổi.

— Adam
nguồn

Đó là đoạn cuối cùng của bạn mà tôi có một thời gian khó nắm bắt. Bạn có thể minh họa?

— Robert Kubrick

Đó không phải là SE trong công thức của bạn, AdamO, đó là SE ^ 2 ... theo bất kỳ cách nào bạn muốn nói điều đó.

— StasK

@StasK Điểm tốt. Có lẽ một chiếc mũ phương sai là tốt hơn. Tôi đã nhầm lẫn thuật ngữ đa biến và đơn biến.

— AdamO

var (Y | X)

$\mbox{var}(Y|X)$

i

$i$

Chỉnh sửa: Tôi đã nói rằng ước tính var OLS liên quan đến "ước tính số dư nhất quán", khi tôi muốn nói "ước tính phù hợp về phương sai của phần dư".

— AdamO