Hồi quy và quan hệ nhân quả trong kinh tế lượng

Trong hồi quy nói chung và hồi quy tuyến tính nói riêng giải thích nguyên nhân về các tham số đôi khi được cho phép. Ít nhất là trong văn học kinh tế lượng, nhưng không chỉ, khi cho phép giải thích nguyên nhân không quá rõ ràng; cho một cuộc thảo luận bạn có thể thấy: Hồi quy và nguyên nhân: Một bài kiểm tra quan trọng của sáu sách giáo khoa Kinh tế lượng - Chen và Pearl (2013).

Để xử lý đúng nguyên nhân trong mô hình thống kê, cách tốt nhất có lẽ là sử dụng Mô hình nguyên nhân cấu trúc như đã giải thích, ví dụ (trong thời gian ngắn), trong: Trygve Haavelmo và Sự xuất hiện của tính toán nhân quả - Pearl 2012 feb.

Tuy nhiên, hiện tại, đây không phải là phương pháp tiêu chuẩn trong mô hình kinh tế lượng cơ bản (hồi quy tuyến tính đa tuyến tính cổ điển). Thật vậy, người ta thường sử dụng khái niệm về quá trình tạo dữ liệu thực sự của mô hình hay hoặc trên cơ sở dữ liệu mà đôi khi có ý nghĩa nhân quả rõ ràng. Trong mọi trường hợp tôi muốn chỉ xem xét ý nghĩa nhân quả. Do đó, nếu chúng tôi ước tính bản sao mẫu của mô hình thực sự, thì chúng tôi đạt được giải thích nguyên nhân về các tham số.

Hãy ghi nhớ sự cân nhắc ở trên, nỗ lực của tôi là nắm bắt

• mối liên hệ giữa khái niệm mô hình thực tế của người Hồi giáo (của sách giáo khoa kinh tế lượng hiện tại) và mô hình nguyên nhân cấu trúc (của Pearl) nếu có.

• Liên kết giữa điểm trước và khái niệm thí nghiệm ngẫu nhiên có kiểm soát , như được sử dụng trong phòng thí nghiệm, đôi khi là điểm tham chiếu trong nghiên cứu quan sát kinh tế lượng ( tốt như nó). Ví dụ, Stock và Watson (2013) dành rất nhiều cuộc thảo luận về điều đó (đặc biệt là cap 13). Ngoài ra, trong Pearl 2012feb pag 14, có một cuộc tranh luận giữa những người theo chủ nghĩa cấu trúc của Hồi giáo và những người thử nghiệm trên cơ sở có liên quan chặt chẽ với điểm này.

Bạn có thể giải thích cho tôi một vài điều về hai điểm này trong kịch bản đơn giản nhất có thể không?

Trong ngữ cảnh của bài báo Pearl mà bạn đã đưa ra, điều mà hầu hết các nhà kinh tế lượng sẽ gọi là một mô hình thực sự là đầu vào I-1 cho Mô hình nguyên nhân cấu trúc: một tập hợp các giả định$A$ và một mô hình $M_A$mã hóa các giả định này, được viết dưới dạng một hệ phương trình cấu trúc (như trong Mô hình 1 và 2) và một danh sách các giả định thống kê liên quan đến các biến. Nói chung, mô hình thực sự không cần phải được đệ quy, do đó biểu đồ tương ứng có thể có chu kỳ.

Một ví dụ về một mô hình thực sự là gì? Xem xét mối quan hệ giữa đi học và thu nhập, được mô tả trong Angrist và Pischke (2009), phần 3.2. Dành cho cá nhân$i$, những gì các nhà kinh tế lượng học sẽ gọi mô hình thực sự là một hàm giả định ánh xạ bất kỳ cấp học nào$s$ kết quả $y_{si}$:

$$y_{si} = f_i(s).$$ Đây chính xác là kết quả tiềm năng. Người ta có thể đi xa hơn và giả sử một dạng chức năng tham số cho$f_i(s)$. Ví dụ, mô hình nhân quả liên tục hiệu ứng tuyến tính: $$f_i(s) = \alpha + \rho s + \eta_i.$$ Đây, $\alpha$ và $\rho$là các tham số không quan sát được. Bằng cách viết nó theo cách này, chúng tôi giả định rằng$\eta_i$ không phụ thuộc vào $s$. Theo ngôn ngữ của Pearl, điều này cho chúng ta biết điều gì xảy ra với thu nhập dự kiến ​​nếu chúng ta sửa chữa việc học của một cá nhân tại$s_i = s_0$, nhưng chúng tôi không quan sát $\eta_i$: $$E[y_{si} \mid do(s_i = s_0)] = E[f_i(s_0)] = \alpha + \rho s_0 + E[\eta_i].$$ Chúng tôi chưa nói những truy vấn nào chúng tôi quan tâm hoặc dữ liệu nào chúng tôi có. Vì vậy, "mô hình thực sự" không phải là một SCM đầy đủ. (Điều này nói chung là đúng, không chỉ trong ví dụ này.)

Mối liên hệ giữa một mô hình thực sự và một thử nghiệm ngẫu nhiên là gì? Giả sử một nhà kinh tế lượng muốn ước tính$\rho$. Chỉ quan sát$(s_i, y_i)$cho một loạt các cá nhân là không đủ. Điều này giống hệt với quan điểm của Pearl về điều hòa thống kê. Đây

$$E[y_{si} \mid s_i = s_0] = E[f_i(s_0) \mid s_i = s_0] = \alpha + \rho s_0 + E[\eta_i \mid s_i = s_0].$$ Như Angrist và Pischke chỉ ra, $\eta_i$ có thể tương quan với $s_i$ trong dữ liệu quan sát, do sai lệch lựa chọn: quyết định đi học của một cá nhân có thể phụ thuộc vào giá trị của cô ấy $\eta_i$.

Các thí nghiệm ngẫu nhiên là một cách để điều chỉnh cho mối tương quan này. Sử dụng ký hiệu của Pearl một cách lỏng lẻo ở đây, nếu chúng ta gán ngẫu nhiên các đối tượng của mình cho$do(s_i = s_0)$ và $do(s_i = s_1)$ sau đó chúng ta có thể ước tính $E[y_{si} \mid do(s_i = s_1)]$ và $E[y_{si} \mid do(s_i = s_0)]$. Sau đó$\rho$ được đưa ra bởi:

$$E[y_{si} \mid do(s_i = s_1)] - E[y_{si} \mid do(s_i = s_0)] = \rho(s_1 - s_0).$$

Với các giả định và dữ liệu bổ sung, có nhiều cách khác để điều chỉnh cho mối tương quan. Một thử nghiệm ngẫu nhiên chỉ được coi là "tốt nhất" bởi vì chúng tôi có thể không tin các giả định khác. Ví dụ: với Giả định độc lập có điều kiện và dữ liệu bổ sung, chúng tôi có thể ước tính$\rho$bằng OLS; hoặc chúng ta có thể mang lại các biến công cụ.

Chỉnh sửa 2 (CIA) : Đây chủ yếu là một điểm triết học và Angrist và Pischke có thể không đồng ý với bài trình bày của tôi ở đây. Giả định độc lập có điều kiện (lựa chọn trên các vật thể quan sát) cho phép chúng ta sửa lỗi cho sai lệch lựa chọn. Nó thêm một giả định về phân phối chung: đó

$$f_i(s) \perp\!\!\!\perp s_i \mid X_i$$ cho tất cả $s$. Chỉ sử dụng đại số kỳ vọng có điều kiện (xem đạo hàm trong Angrist và Pischke) theo sau chúng ta có thể viết $$y_i = f_i(s_i) = \alpha + \rho s_i + X_i' \gamma + v_i$$ với $E[v_i \mid X_i, s_i] = 0$. Phương trình này cho phép chúng ta ước tính$\rho$ trong dữ liệu bằng OLS.

Cả ngẫu nhiên lẫn CIA đều không đi vào hệ thống các phương trình xác định mô hình thực sự. Chúng là các giả định thống kê cung cấp cho chúng tôi các cách để ước tính các tham số của mô hình mà chúng tôi đã xác định, sử dụng dữ liệu chúng tôi có. Các nhà kinh tế lượng thường không xem xét phần CIA của mô hình thực sự, nhưng Pearl sẽ đưa nó vào$A$.

Tôi sẽ bắt đầu với phần thứ hai của câu hỏi của bạn, liên quan đến sự khác biệt giữa nghiên cứu đối chứng ngẫu nhiên và nghiên cứu quan sát, và sẽ kết thúc nó với phần câu hỏi của bạn liên quan đến "mô hình thực" so với "mô hình nguyên nhân cấu trúc".

Tôi sẽ sử dụng một trong những ví dụ của Pearl, đây là một ví dụ dễ nắm bắt. Bạn nhận thấy rằng khi doanh số bán kem cao nhất (vào mùa hè), tỷ lệ tội phạm cao nhất (vào mùa hè) và khi doanh số bán kem thấp nhất (vào mùa đông), tỷ lệ tội phạm là thấp nhất. Điều này khiến bạn tự hỏi liệu mức độ bán kem có gây ra mức độ tội phạm hay không.

Nếu bạn có thể thực hiện một thử nghiệm kiểm soát ngẫu nhiên, bạn sẽ mất nhiều ngày, giả sử 100 ngày và vào mỗi ngày này sẽ chỉ định ngẫu nhiên mức độ bán kem. Chìa khóa cho sự ngẫu nhiên này, dựa trên cấu trúc nhân quả được mô tả trong biểu đồ bên dưới, là việc gán mức bán kem không phụ thuộc vào mức nhiệt độ. Nếu một thí nghiệm giả định như vậy có thể được thực hiện, bạn sẽ thấy rằng vào những ngày mà doanh số được phân bổ ngẫu nhiên ở mức cao, tỷ lệ tội phạm trung bình không khác biệt về mặt thống kê so với những ngày mà doanh số được chỉ định ở mức thấp. Nếu bạn đã có trong tay những dữ liệu đó, bạn sẽ hoàn toàn ổn định. Tuy nhiên, hầu hết chúng ta phải làm việc với dữ liệu quan sát, trong đó ngẫu nhiên hóa không làm được điều kỳ diệu như trong ví dụ trên. Điều quan trọng, trong dữ liệu quan sát, chúng tôi không biết liệu mức độ Bán hàng Kem được xác định độc lập với Nhiệt độ hay liệu nó phụ thuộc vào nhiệt độ. Kết quả là, bằng cách nào đó chúng ta phải gỡ rối hiệu ứng nhân quả từ mối tương quan đơn thuần.

Yêu cầu của Pearl là các số liệu thống kê không có cách biểu thị E [Y | Chúng tôi đặt X bằng một giá trị cụ thể], trái ngược với E [Y | Điều hòa trên các giá trị của X như được đưa ra bởi phân phối chung của X và Y ]. Đây là lý do tại sao anh ta sử dụng ký hiệu E [Y | do (X = x)] để chỉ kỳ vọng của Y, khi chúng tôi can thiệp vào X và đặt giá trị của nó bằng x, trái ngược với E [Y | X = x] , trong đó đề cập đến điều kiện về giá trị của X và lấy nó làm cho.

Chính xác thì nó có nghĩa gì khi can thiệp vào biến X hoặc đặt X bằng với một giá trị cụ thể? Và nó khác với điều kiện về giá trị của X như thế nào?

Sự can thiệp được giải thích rõ nhất với biểu đồ bên dưới, trong đó Nhiệt độ có tác động đến cả Bán hàng và Tỷ lệ tội phạm của Kem và Bán hàng Kem có tác động đến Tỷ lệ Tội phạm và các biến U là các yếu tố không được đo lường ảnh hưởng đến các biến số nhưng chúng tôi không quan tâm để mô hình hóa các yếu tố này. Mối quan tâm của chúng tôi là tác động nhân quả của việc bán kem đối với tỷ lệ tội phạm và giả sử rằng mô tả nhân quả của chúng tôi là chính xác và đầy đủ. Xem biểu đồ dưới đây.

Bây giờ giả sử rằng chúng ta có thể đặt mức bán kem rất cao và quan sát xem liệu điều đó có được chuyển thành tỷ lệ tội phạm cao hơn hay không. Để làm như vậy, chúng tôi sẽ can thiệp vào Bán hàng Kem, nghĩa là chúng tôi không cho phép Bán hàng Kem đáp ứng một cách tự nhiên với Nhiệt độ, trên thực tế, điều này giúp chúng tôi thực hiện điều mà Pearl gọi là "phẫu thuật" trên biểu đồ bằng cách loại bỏ tất cả các cạnh hướng vào đó Biến đổi. Trong trường hợp của chúng tôi, vì chúng tôi can thiệp vào Bán hàng Kem, chúng tôi sẽ loại bỏ lợi thế từ doanh số Nhiệt độ sang Kem, như được mô tả dưới đây. Chúng tôi đặt mức Bán hàng Kem thành bất cứ thứ gì chúng tôi muốn, thay vì cho phép xác định theo Nhiệt độ. Sau đó tưởng tượng rằng chúng tôi đã thực hiện hai thí nghiệm như vậy, một trong đó chúng tôi đã can thiệp và đặt mức độ bán kem rất cao và một trong đó chúng tôi đã can thiệp và đặt mức bán kem rất thấp, sau đó quan sát cách Crime Rate phản ứng trong từng trường hợp. Sau đó, chúng ta sẽ bắt đầu hiểu được liệu có ảnh hưởng nhân quả giữa Doanh số bán kem và Tỷ lệ tội phạm hay không.

Pearl phân biệt giữa can thiệp và điều hòa. Điều hòa ở đây chỉ đề cập đến việc lọc một bộ dữ liệu. Hãy nghĩ về điều hòa nhiệt độ như tìm kiếm trong bộ dữ liệu quan sát của chúng tôi chỉ trong các trường hợp khi Nhiệt độ là như nhau. Điều hòa không phải lúc nào cũng cho chúng ta hiệu ứng nhân quả mà chúng ta đang tìm kiếm (nó không mang lại cho chúng ta hiệu ứng nhân quả hầu hết thời gian). Điều đó xảy ra rằng điều hòa sẽ cho chúng ta hiệu ứng nhân quả trong bức tranh đơn giản được vẽ ở trên, nhưng chúng ta có thể dễ dàng sửa đổi biểu đồ để minh họa một ví dụ khi điều hòa về Nhiệt độ sẽ không cho chúng ta hiệu ứng nhân quả, trong khi can thiệp vào Bán hàng Kem. Hãy tưởng tượng rằng có một biến khác gây ra Bán hàng Kem, hãy gọi nó là Biến X. Trong biểu đồ sẽ được biểu thị bằng một mũi tên vào Bán hàng Kem. Trong trường hợp đó, điều hòa về nhiệt độ sẽ không mang lại cho chúng ta tác động nhân quả của việc bán kem đối với tỷ lệ tội phạm vì nó sẽ không bị ảnh hưởng trên con đường: Biến X -> Bán kem -> Tỷ lệ tội phạm. Ngược lại, theo định nghĩa, việc can thiệp vào Bán hàng Kem sẽ có nghĩa là chúng ta loại bỏ tất cả các mũi tên vào Kem, và điều đó sẽ cho chúng ta hiệu quả nhân quả của Bán hàng Kem đối với Tỷ lệ Tội phạm.

Tôi sẽ chỉ đề cập rằng những đóng góp lớn nhất của Pearl, theo ý kiến ​​của tôi, là khái niệm về máy va chạm và cách điều hòa trên máy va chạm sẽ khiến các biến độc lập có khả năng bị phụ thuộc.

Pearl sẽ gọi một mô hình với các hệ số nhân quả (hiệu ứng trực tiếp) như được đưa ra bởi E [Y | do (X = x)] mô hình nhân quả cấu trúc. Và các hồi quy trong đó các hệ số được đưa ra bởi E [Y | X] là những gì ông nói rằng các tác giả gọi nhầm là "mô hình thực", nhầm lẫn là, khi họ đang tìm cách ước tính tác động nhân quả của X đối với Y và không chỉ đơn thuần là dự báo Y .

Vì vậy, những gì liên kết giữa các mô hình cấu trúc và những gì chúng ta có thể làm theo kinh nghiệm? Giả sử bạn muốn hiểu tác động nhân quả của biến A đối với biến B. Pearl gợi ý 2 cách để làm như vậy: Tiêu chí cửa sau và tiêu chí Cửa trước. Tôi sẽ mở rộng về trước đây.

Tiêu chí Backdoor: Trước tiên, bạn cần vạch ra chính xác tất cả các nguyên nhân của từng biến và sử dụng tiêu chí Backdoor xác định tập hợp các biến bạn cần điều kiện (và quan trọng là tập hợp các biến bạn cần đảm bảo không điều kiện trên - tức là máy va chạm) để cô lập hiệu ứng nhân quả của A trên B. Như Pearl chỉ ra, điều này có thể kiểm chứng được. Bạn có thể kiểm tra xem bạn đã vạch ra chính xác mô hình nguyên nhân hay chưa. Trong thực tế, điều này nói dễ hơn làm và theo tôi, thách thức lớn nhất với tiêu chí Backdoor của Pearl. Thứ hai, chạy hồi quy, như thường lệ. Bây giờ bạn biết những gì để điều kiện trên. Các hệ số bạn sẽ nhận được sẽ là các hiệu ứng trực tiếp, như được vạch ra trong bản đồ nhân quả của bạn.

Theo tôi, việc sử dụng "nhân quả" trong các phương pháp dựa trên hồi quy / tương quan như vậy là sai lệch. Phân tích đường dẫn, mô hình phương trình cấu trúc, quan hệ nhân quả Granger, v.v ... cố gắng cấp phép cho các suy luận nguyên nhân bằng cách áp đặt một số giả định khá khó khăn. Ví dụ, trong trường hợp mô hình hóa phương trình cấu trúc, các đường dẫn có hướng và A xuất hiện 'nguyên nhân' B, nhưng điều này đơn giản có nghĩa là mô hình có cấu trúc là 'hợp lý' trong đó nó tái tạo ma trận hiệp phương sai quan sát được (thực tế là hướng của các đường dẫn thậm chí không quan trọng lắm - chỉ là các ràng buộc).