Tầm quan trọng của ma trận mũ, , trong hồi quy tuyến tính là gì?

Tầm quan trọng của ma trận mũ, , trong phân tích hồi quy là gì?$H=X(X^{\prime}X )^{-1}X^{\prime}$

Có phải chỉ để tính toán dễ dàng hơn?

Trong nghiên cứu về hồi quy tuyến tính, điểm bắt đầu cơ bản là quá trình tạo dữ liệu trong đó và xác định. Sau khi tối thiểu hóa tiêu chí bình phương tối thiểu, người ta tìm thấy một công cụ ước tính cho , tức là . Sau khi cắm công cụ ước tính vào công thức ban đầu, người ta sẽ nhận được như một mô hình tuyến tính của quá trình tạo dữ liệu. Bây giờ, người ta có thể thay thế công cụ ước tính cho$\textbf{y= XB + u} \quad$$\textbf{u} \sim N(0,\sigma^2 \boldsymbol I)$$\textbf{X}$$\widehat {\textbf{B} }$$\textbf{B}$$\widehat {\textbf{B}}= ( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}$$\widehat {\textbf{y}}=\textbf{X}\widehat {\textbf{B}}$$\widehat {\textbf{B}}$và được$\widehat {\textbf{y}}=\textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '\textbf{y}.$

Vì vậy, thực sự là một ma trận chiếu. Hãy tưởng tượng bạn lấy tất cả các biến trong . Các biến là vectơ và trải rộng một không gian. Do đó, nếu bạn nhân với , bạn chiếu các giá trị quan sát của mình trong lên khoảng trắng được kéo dài bởi các biến trong . Nó đưa ra một ước tính cho và đó là lý do tại sao nó được gọi là ma trận mũ và tại sao nó có tầm quan trọng như vậy. Xét cho cùng, hồi quy tuyến tính không gì khác hơn là một phép chiếu và với ma trận chiếu, chúng ta chỉ có thể tính toán các ước tính cho$\textbf{H} = \textbf{X}( \textbf{X} ' \textbf{X})^{-1}\textbf{X} '$$\textbf{X}$$\textbf{H}$$\textbf{y}$$\textbf{y}$$\textbf{X}$$\textbf{y}$$\textbf{y}$nhưng cũng cho và ví dụ có thể kiểm tra xem nó có thực sự được phân phối bình thường không.$\textbf{u}$

Tôi tìm thấy hình ảnh đẹp này trên internet và nó hình dung ra hình chiếu này. Xin lưu ý, được sử dụng thay vì . Hơn nữa, hình ảnh nhấn mạnh vectơ của các thuật ngữ lỗi là trực giao với phép chiếu và do đó không tương quan với các ước tính cho$\beta$$\textbf{B}$$\textbf{y}$

Ma trận mũ rất hữu ích vì một vài lý do:

1. Thay vì có , chúng ta nhận được trong đó là ma trận mũ. Điều này cho chúng ta rằng là ánh xạ tuyến tính của các giá trị được quan sát.$\widehat{y}=Z\widehat{\beta}$$\widehat{y}=Py$$P$$\widehat{y}$
2. Từ ma trận mũ , thật dễ dàng để tính toán phần dư . Chúng tôi thấy rằng .$P$$\widehat{\epsilon}$$\widehat{\epsilon}=y-\widehat{y}=y-Py=\left(I_n-P\right)y$

Không có gì khác hơn là tìm giải pháp "gần nhất" cho Ax = b trong đó b không nằm trong không gian cột của A. Chúng tôi chiếu b lên không gian cột và giải cho Ax (mũ) = p trong đó p là hình chiếu của b lên không gian cột.