Bình phương tối thiểu tổng quát: từ hệ số hồi quy đến hệ số tương quan?

Đối với hình vuông nhỏ nhất với một yếu tố dự đoán:

$y = \beta x + \epsilon$

Nếu và y được chuẩn hóa trước khi khớp (tức là ∼ N ( 0 , 1 ) ), thì:$x$$y$$\sim N(0,1)$

• là giống như hệ số tương quan Pearson, r .$\beta$$r$
• là như nhau trong hồi quy phản ánh: x = β y + $\beta$$x = \beta y + \epsilon$

Đối với bình phương tối thiểu tổng quát (GLS), có áp dụng tương tự không? Tức là nếu tôi chuẩn hóa dữ liệu của mình, tôi có thể nhận được các hệ số tương quan trực tiếp từ các hệ số hồi quy không?

Từ thử nghiệm với dữ liệu, phản ánh GLS dẫn đến khác nhau hệ số và tôi cũng không chắc chắn rằng tôi tin rằng các hệ số hồi quy phù hợp với các giá trị dự kiến của tôi cho tương quan. Tôi biết mọi người trích dẫn các hệ số tương quan GLS, vì vậy tôi tự hỏi làm thế nào họ đến với họ và do đó họ thực sự có ý nghĩa gì?$\beta$

Câu trả lời là có, các hệ số hồi quy tuyến tính là mối tương quan của các yếu tố dự đoán với đáp ứng, nhưng chỉ khi bạn sử dụng hệ tọa độ chính xác .

$x_1, x_2, \ldots, x_n$$y$$x_i$$y$$x_i^t y$

$$\beta = (X^t X)^{-1} X^t y$$

$X^{t} X = I$

$$\beta = X^t y$$

$\tilde{x}_i$$\tilde{X}^t \tilde{X} = I$

Vì vậy, về tổng thể, câu trả lời cho câu hỏi của bạn là có, nhưng chỉ khi những người dự đoán không tự tin . Mặt khác, biểu thức

$$X^t X \beta = X^t y$$

cho thấy các betas phải được trộn lẫn với các hành vi giữa chính các yếu tố dự đoán để phục hồi các mối tương quan của phản ứng dự đoán.

$x$

$$x_0^t x = \sum_i x_{i} = 0$$

$x_0$$X$$X^t X = I$