Những gì tất cả những người khác bằng nhau có nghĩa là trong hồi quy nhiều?

Khi chúng ta thực hiện nhiều hồi quy và nói rằng chúng ta đang xem xét sự thay đổi trung bình của biến để thay đổi một biến , giữ tất cả các biến khác không đổi, chúng ta đang giữ các biến khác ở giá trị nào? Ý nghĩa của chúng? Số không? Giá trị nào? $y$ $x$

Tôi có khuynh hướng nghĩ rằng nó ở bất kỳ giá trị nào; chỉ cần tìm kiếm để làm rõ. Nếu bất cứ ai có một bằng chứng, điều đó cũng sẽ rất tuyệt.

— Kinh tế
nguồn

Tôi thấy ví dụ 10 trong bài viết của Peter Kennedy rất hữu ích trong việc hiểu điều này.

— Dimitriy V. Masterov

Vâng, một chút về việc tăng số lượng phòng trong khi giữ cho diện tích không đổi là một điểm thực sự quan sát. Bài báo đó thực sự là một mỏ vàng của những ý tưởng hữu ích, nó sẽ xuất hiện trong các ghi chú của Tiến sĩ.

— Kinh tế

Đây thực sự là một câu hỏi rất thú vị, tôi tự hỏi nếu các nhà kinh tế tự hỏi chính xác "ceteris paribus" nghĩa là gì.

— Mugen

Bạn đúng rồi. Về mặt kỹ thuật, nó là bất kỳ giá trị . Tuy nhiên, khi tôi dạy điều này, tôi thường nói với mọi người rằng bạn sẽ nhận được hiệu ứng của một thay đổi đơn vị trong khi tất cả các biến khác được giữ ở phương tiện tương ứng. Tôi tin rằng đây là một cách phổ biến để giải thích nó không dành riêng cho tôi. $X_j$

Tôi thường tiếp tục đề cập rằng nếu bạn không có bất kỳ tương tác nào, sẽ là hiệu ứng của một thay đổi đơn vị trong , bất kể giá trị của các biến khác của bạn là gì. Nhưng tôi thích bắt đầu với công thức có nghĩa. Lý do là có hai hiệu ứng bao gồm nhiều biến trong mô hình hồi quy. Đầu tiên, bạn nhận được hiệu ứng kiểm soát cho các biến khác (xem câu trả lời của tôi ở đây ). Thứ hai là sự hiện diện của các biến khác (thông thường) làm giảm phương sai còn lại của mô hình, làm cho các biến của bạn (bao gồm $\beta_j$ $X_j$ $X_j$ $X_j$ ) 'ý nghĩa hơn'. Mọi người khó có thể hiểu làm thế nào điều này hoạt động nếu các biến khác có giá trị ở khắp mọi nơi. Điều đó có vẻ như nó sẽ làm tăng sự thay đổi bằng cách nào đó. Nếu bạn nghĩ đến việc điều chỉnh từng điểm dữ liệu lên hoặc xuống cho giá trị của từng biến khác cho đến khi tất cả các biến còn lại được chuyển sang phương tiện tương ứng, sẽ dễ dàng thấy rằng độ biến thiên dư đã giảm. $X$

Tôi không nhận được tương tác cho đến khi một hoặc hai lớp sau khi tôi đã giới thiệu những điều cơ bản của hồi quy bội. Tuy nhiên, khi tôi nhận được chúng, tôi trở lại với tài liệu này. Ở trên được áp dụng khi có không tương tác. Khi có tương tác thì phức tạp hơn. Trong trường hợp đó, biến tương tác [s] đang được giữ không đổi (rất cụ thể) ở mức và không có giá trị nào khác. $0$

Nếu bạn muốn xem làm thế nào điều này diễn ra theo đại số, nó khá đơn giản. Chúng ta có thể bắt đầu với trường hợp không tương tác. Hãy xác định thay đổi trong khi tất cả các biến khác được giữ cố định tại các phương tiện tương ứng của chúng. Không mất tính tổng quát, giả sử có ba biến và chúng tôi quan tâm tìm hiểu sự thay đổi của được liên kết với thay đổi một đơn vị trong , giữ và không đổi theo phương tiện tương ứng: $\hat Y$ $X$ $\hat Y$ $X_3$ $X_1$ $X_2$

\begin{aligned} {\hat{Y}}_{i} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 i} \\ {\hat{Y}}_{i^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) \\ subtracting the first equation from the second: \\ {\hat{Y}}_{i^{'}} - {\hat{Y}}_{i} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} - {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3 \end{align}$

Bây giờ rõ ràng là chúng ta có thể đặt bất kỳ giá trị nào cho và trong hai phương trình đầu tiên, miễn là chúng ta đặt cùng một giá trị cho ( ) cho cả hai. Đó là, miễn là chúng tôi giữ hằng số và . $X_1$ $X_2$ $X_1$ $X_2$ $X_1$ $X_2$

Mặt khác, nó không hoạt động theo cách này nếu bạn có tương tác. Ở đây tôi chỉ ra trường hợp có thuật ngữ tương tác : $X_1X_3$

\begin{aligned} {\hat{Y}}_{i} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ {\hat{Y}}_{i^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) + {\hat{β}}_{4} {\bar{X}}_{1} (X_{3 i} + 1) \\ subtracting the first equation from the second: \\ {\hat{Y}}_{i^{'}} - {\hat{Y}}_{i} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} - {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) - {\hat{β}}_{3} X_{3 i} + \\ {\hat{β}}_{4} {\bar{X}}_{1} (X_{3 i} + 1) - {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} - {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} + {\hat{β}}_{4} {\bar{X}}_{1} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \quad\quad\ \! + \hat\beta_4\bar X_1X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) + \hat\beta_4\bar X_1(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} + \\ &\quad\ \hat\beta_4\bar X_1(X_{3i}\!+\!1) - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} + \hat\beta_4\bar X_1 X_{3i} + \hat\beta_4\bar X_1 - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3 + \hat\beta_4\bar X_1 \end{align}$

Trong trường hợp này, không thể giữ tất cả các hằng số khác. Vì thuật ngữ tương tác là một chức năng của và , nên không thể thay đổi mà không thay đổi thuật ngữ tương tác. Do đó, bằng với thay đổi trong liên kết với một thay đổi đơn vị trong chỉ khi biến tương tác ( ) được giữ ở thay vì (hoặc bất kỳ giá trị nào khác ngoài ), trong trường hợp đó thuật ngữ cuối cùng trong phương trình dưới cùng rơi ra. $X_1$ $X_3$ $X_3$ $\hat\beta_3$ $\hat Y$ $X_3$ $X_1$ $0$ $\bar X_1$ $0$

Trong cuộc thảo luận này, tôi đã tập trung vào các tương tác, nhưng nói chung, vấn đề là khi có bất kỳ biến nào là hàm của một biến khác mà không thể thay đổi giá trị của biến đầu tiên mà không thay đổi giá trị tương ứng của biến khác . Trong những trường hợp như vậy, ý nghĩa của trở nên phức tạp hơn. Ví dụ: nếu bạn có một mô hình với và , thì là đạo hàm giữ tất cả các số khác bằng nhau và giữ (xem câu trả lời của tôi ở đây ). Khác, vẫn còn công thức phức tạp hơn là có thể. $\hat\beta_j$ $X_j$ $X_j^2$ $\hat\beta_j$ $\frac{dY}{dX_j}$ $X_j=0$

— gung - Phục hồi Monica
nguồn

Cảm ơn gung, câu trả lời này là tuyệt vời trên một vài cấp độ. Đầu tiên, nó trả lời điểm chính mà tôi quan tâm. Thứ hai, bạn dự đoán câu hỏi tiếp theo của tôi sẽ là gì, bởi vì tôi sẽ hỏi điều này thay đổi như thế nào với việc giới thiệu các thuật ngữ tương tác. Cảm ơn toán học là tốt. Tôi biết câu hỏi này là loại cơ bản nhưng tôi cảm thấy rằng bạn không bao giờ có thể quá rõ ràng với các khái niệm này.

— Kinh tế

Bạn được chào đón, @EconStats. Không có vấn đề gì với việc bao gồm cả toán học, đôi khi nó giúp dễ hiểu hơn những gì đang diễn ra.

— gung - Tái lập Monica

Vâng, tôi phải nói rằng khi bạn trừ đi phương trình thứ nhất khỏi phương trình thứ hai, cuối cùng nó đã xác nhận những suy nghĩ ban đầu của tôi rằng nó không quan trọng giá trị của và là gì, miễn là giống nhau trong cả hai phương trình. Nó dường như quá rõ ràng đối với tôi biết nhưng tôi chưa bao giờ nghĩ đến việc tính toán theo cách đó trước đây. Khoảnh khắc bóng đèn nhất định cho tôi.

X_{2}

$X_2$

X_{3}

$X_3$

β

$\beta$

— Kinh tế

Bạn cũng có thể lấy đạo hàm của wrt và nó sẽ đưa bạn đến cùng một vị trí, nhưng đây là môn toán dễ hơn (về cơ bản là đại số trung học), vì vậy nó sẽ có thể tiếp cận được với đối tượng rộng hơn.

Y

$Y$

X_{j}

$X_j$

— gung - Tái lập Monica

@beetroot, nếu tôi hiểu bạn một cách chính xác, bạn chỉ cần giữ nó ở một mức độ nhất định. (Nếu không, bạn có thể hỏi đây là một câu hỏi mới.)

— gung - Tái lập Monica

Toán học rất đơn giản, chỉ cần lấy sự khác biệt giữa 2 mô hình với một trong các biến x được thay đổi bằng 1 và bạn sẽ thấy rằng các biến khác không quan trọng (không có tương tác, đa thức hoặc các thuật ngữ phức tạp khác).

Một ví dụ:

$y_{[1]} = b_0 + b_1 \times x_1 + b_2 \times x_2$

$y_{[2]} = b_0 + b_1 \times (x_1 + 1) + b_2 \times x_2$

$y_{[2]} - y_{[1]} = b_0 - b_0 + b_1\times x_1 - b_1\times x_1 + b_1 \times 1 + b_2 \times x_2 - b_2 \times x_2 = b_1$

— Greg tuyết
nguồn

Tôi tin rằng bạn đang đề cập đến sự phụ thuộc vào hiệp phương sai ( ). Vì vậy, nếu mô hình là hiệu ứng của đối với tất cả những thứ khác đều bằng nhau sẽ là cho mọi với tất cả các khác được giữ ở bất kỳ giá trị nào. $X_i$

Y = β_{0} + β_{1} X_{1} + β_{2} X_{2}

$Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2$

X_{i}

$X_i$

Y

$Y$

\frac{Δ Y}{Δ X_{i}}

$\frac{\Delta{Y}}{\Delta{X_i}}$

Δ X_{i}

$\Delta{X_i}$

X_{j}

$X_j$

Hãy nhớ rằng có thể và phụ thuộc (ví dụ: các chức năng của nhau) mà không nhất thiết phải hiển thị tương tác quan trọng trong mô hình tuyến tính ( trong ). $X_1$ $X_2$ $\beta_{12}=0$ $Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2+\beta_{12}X_1X_2$

Giống như một tiếp tuyến thú vị ở đây là một ví dụ: Hãy để và sau đó rõ ràng mọi thay đổi trong sẽ ảnh hưởng đến . Tuy nhiên, hiệp phương sai giữa hai là bằng không. $X_1\sim N(0,\sigma_1^2)$ $X_2=X_1^{2}+N(0,\sigma_2^2)$ $X_1$ $X_2$

c o v (X_{1}, X_{2}) = E (X_{1} X_{2}) - E (X_{1}) E (X_{2})

$cov(X_1,X_2)=E(X_1X_2)-E(X_1)E(X_2)$

= E [X_{1} (X_{1}^{2} + a)] - E (X_{1}) . E (X_{1}^{2} - a) w i t h a \sim N (0, σ_{2}^{2})

$=E[X_1(X_1^2+a)]-E(X_1).E(X_1^2-a)\,with\,a\sim N(0,\sigma_2^2)$

= E (X_{1}^{3}) - E (X_{1} . a) - 0. E (X_{1}^{2} - a) = 0 - 0 - 0 = 0

$=E(X_1^3)-E(X_1.a)-0.E(X_1^2-a)=0-0-0=0$

Vì vậy, trong thực tế, một thay đổi trong sẽ được liên kết với thay đổi trong và sẽ không bao gồm những gì thực sự sẽ xảy ra nếu bạn thay đổi . Nhưng vẫn sẽ được mô tả là ảnh hưởng của đối với tất cả mọi thứ đều bằng nhau. $X_1$ $X_2$ $\frac{\Delta{Y}}{\Delta{X_i}}$ $X_1$ $\frac{\Delta{Y}}{\Delta{X_i}}$ $X_i$ $Y$

Điều này có thể so sánh với sự khác biệt giữa đạo hàm đầy đủ và đạo hàm riêng (tương tự của ) trong phương trình vi phân. $\frac{\Delta{Y}}{\Delta{X_i}}$

— Hans Roggeman
nguồn

Cảm ơn Hans, tôi thực sự đã cố gắng đạt được điểm mà gung đã thực hiện nhưng đây là một ví dụ tốt khi hai biến phụ thuộc.

— Kinh tế