Mối quan hệ giữa hàm

Xem xét chức năng

$r (x) = E (Y ∣ X = x)$ $r(x) = \mathbb{E}(Y \mid X = x)$

Điều này đã được gọi là hàm hồi quy trong sách giáo khoa tôi đang sử dụng. Tôi đang cố gắng tìm ra mối quan hệ giữa chức năng này và mô hình hồi quy tuyến tính cổ điển.

Vì vậy, tôi biết rằng đó là một định lý * mà chúng ta có thể viết

Y = = r (X) + ε

$Y = r(X) + \epsilon$

đối với một số biến ngẫu nhiên st . $\epsilon$ $\mathbb{E}(\epsilon) = 0$

Bây giờ giả sử rằng chúng ta có

$Y = = β_{0} + β_{1} X + ε$ $Y = \beta_0 + \beta_1 X + \epsilon$

Đây là hàm hồi quy 1 chiều cổ điển (giả sử và giảm thiểu tổng bình phương còn lại). $\beta_0$ $\beta_1$

Câu hỏi: Có phải đó là một định lý toán học mà nếu được định nghĩa như trên, thì đó là $Y$

r (X) = = E (Y | X) = = (β_{0} + β_{1} X) ?

$r(X) = \mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X)?$

Và đây có phải là lý do tại sao hàm được gọi là "hàm hồi quy" không? $\mathbb{E}(Y \mid X)$

EDIT: Định lý mà tôi đang sử dụng như sau (từ All of Statistics pg. 89):

Mô hình hồi quy đôi khi được viết là

$Y = = r (X) + ε$ $Y = r(X) + \epsilon$
trong đó . Chúng ta luôn có thể viết lại mô hình hồi quy theo cách này. Để thấy điều này, xác định và do đó . Hơn nữa, $\mathbb{E}(\epsilon) = 0$ $\epsilon = Y - r(X)$ $Y = Y + r(X) - r(X) = r(X) + \epsilon$ . $\mathbb{E}(\epsilon) = \mathbb{E}\mathbb{E}(\epsilon \mid X) = \mathbb{E}(\mathbb{E}(Y - r(X)) \mid X) = \mathbb{E}(\mathbb{E} ( Y \mid X) - r(X)) = \mathbb{E}(r(X) - r(X)) = 0$

regression linear-model

— George
nguồn

Kết nối là mô hình hồi quy tuyến tính chính xác cho rằng

là hàm tuyến tính của một số X được quan sát. Đương nhiên, yêu cầu này không cần phải đúng, mặc dù như là một xấp xỉ với

nó có thể tốt hơn hoặc xấu hơn. Chương của 'Kinh tế lượng vô hại' được gọi là 'Làm cho hồi quy có ý nghĩa' là một cuộc thảo luận tốt.

r

$r$

r

$r$

— liên hợp chiến

Hoặc tôi đã bỏ lỡ những gì bạn đang hỏi?

— liên hợp chiến

Kiểm tra câu trả lời liên quan: stats.stackexchange.com/questions/173660/ Kẻ

— Tim

Tóm tắt câu hỏi:

Với , nó là sau đó một định lý toán học mà ? $Y = \beta_0 + \beta_1 X + \varepsilon$ $r(X) = \mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X)$

Có, theo tính chất cơ bản của kỳ vọng:

\begin{aligned} E (Y | X) & = = E (β_{0} + β_{1} X + ε) \\ = = E (β_{0}) + E (β_{1} X) + E (ε) & (tuyến tính của kỳ vọng) \\ = = β_{0} + β_{1} X + 0 & (Ghi chú điều đó X không đổi ở đây \\ bởi vì chúng tôi dựa trên nó.) \\ = = β_{0} + β_{1} X \end{aligned}

$\begin{align} \operatorname{E}(Y\mid X) & = \operatorname{E}(\beta_0 + \beta_1 X + \varepsilon) \\[6pt] & = \operatorname{E}(\beta_0) + \operatorname{E}(\beta_1 X) + \operatorname{E}(\varepsilon) & & \text{(linearity of expectation)} \\[6pt] & = \beta_0 + \beta_1 X + 0 & & \text{(Noting that $X$ is constant here} \\[-2pt] & & & \quad \text{because we conditioned on it.)} \\[6pt] & = \beta_0 + \beta_1 X \end{align}$

Những lý do lịch sử của hồi quy được gọi là hồi quy liên quan đến Galton nhận thấy hiệu ứng " hồi quy trung bình " - ban đầu trong một thí nghiệm trên thực vật liên quan đến kích cỡ hạt của con so với kích thước hạt của bố mẹ. Một mối quan hệ thông qua kích thước hạt trung bình trên cả hai biến sẽ có độ dốc nhỏ hơn (độ dốc có thể được ước tính bằng cái mà chúng ta gọi là hồi quy tuyến tính). Độ dốc càng nhỏ thì hiệu ứng "hồi quy" càng mạnh. Vấn đề được Galton minh họa trong pdf liên kết theo chiều cao của trẻ em (khi trưởng thành) so với chiều cao trung bình của cha mẹ (nữ được tăng tỷ lệ để có thể so sánh với nam). Các sơ đồ trên trang thứ ba đến thứ năm chỉ ra điều gì đó đã được quan sát. $1$ $8\%$

Vì vậy, một nỗ lực để ước tính kích thước của "hồi quy trung bình" này có được nhờ cái được gọi là hồi quy tuyến tính. Tất nhiên không có gì đặc biệt xảy ra - hồi quy trung bình không phải là một "ổ đĩa tầm thường" sinh học đặc biệt như ban đầu đã được đoán, nhưng một hậu quả khá đơn giản của toán học về tình huống về cơ bản giống như các mối tương quan luôn nằm trong khoảng từ đến . $-1$ $1$

— Glen_b -Reinstate Monica
nguồn

Tôi đã thay thế việc sử dụng \ qquad thô sơ của bạn bằng cách sử dụng "căn chỉnh" đúng cách trong MathJax, cộng với một vài chi tiết khác của MathJax và tôi đang chờ đánh giá ngang hàng về chỉnh sửa.

$\qquad$

— Michael Hardy

@Michael Tôi biết về việc căn chỉnh và đã sử dụng nó nhiều lần - nhưng lợi ích thực sự trong việc chỉnh sửa trong trường hợp này là gì? Tôi muốn nó được căn chỉnh thay vì ở trung tâm để chừa chỗ cho các bình luận nằm trên một dòng và tôi muốn các bình luận không nằm trong văn bản nặng nề mà MahJax để lại cho bạn, thích văn bản nhẹ của đánh dấu thông thường. Kết quả hiện tại là một cái gì đó không còn phù hợp với ngoại hình tôi thực sự đang tìm kiếm. Thay vì "thô thiển", nó được chọn lựa một cách có chủ ý. Nếu bạn có một cách đạt được những gì tôi muốn với ít nỗ lực hơn tôi yêu cầu, thì tôi là tất cả.

— Glen_b -Reinstate Monica

ok, tôi đoán không phải tất cả các thị hiếu đều phù hợp với nhau

\dots

$\,\ldots\qquad$

— Michael Hardy

Ngoại hình được thiết kế là lý tưởng, tôi nghĩ, đối với các bài báo và sách nhưng không phải lúc nào cũng phản ánh những gì tôi nghĩ là tốt nhất trong một diễn đàn như thế này, ít nhất là không phải lúc nào cũng vậy. Tôi nhận ra thị hiếu của mình về vấn đề này (và nhiều khía cạnh khác về diện mạo trang web mà tôi thường cố gắng giải quyết) có thể khác với quy tắc, vì vậy tôi sẽ để nó như hiện tại, nhưng tôi không hứa sẽ tiếp tục cố gắng để có được sự phù hợp để làm những gì tôi muốn khi có vẻ dễ dàng hơn để làm điều đó theo cách khác.

— Glen_b -Reinstate Monica

Định lý có đi theo hướng khác không? Nghĩa là, với

và

, chúng ta có thể luôn kết luận rằng

X

$X$

Y

$Y$

E (Y ∣ X) = (β_{0} + β_{1} X) + ϵ

$\mathbb{E}(Y \mid X) = (\beta_0 + \beta_1 X) + \epsilon$

β_{0}, β_{1}

$\beta_0, \beta_1$