Sự khác biệt giữa hiệu ứng ngẫu nhiên-, hiệu ứng cố định- và mô hình cận biên là gì?

Tôi đang cố gắng mở rộng kiến ​​thức về thống kê. Tôi đến từ một nền tảng khoa học vật lý với cách tiếp cận "dựa trên công thức" để kiểm tra thống kê, nơi chúng tôi nói là liên tục, nó có được phân phối bình thường - hồi quy OLS .

Trong bài đọc của tôi, tôi đã bắt gặp các thuật ngữ: mô hình hiệu ứng ngẫu nhiên, mô hình hiệu ứng cố định, mô hình cận biên. Câu hỏi của tôi là:

• Nói một cách rất đơn giản, chúng là gì?
• Sự khác biệt giữa chúng là gì?
• Có ai trong số họ đồng nghĩa?
• Trường hợp các bài kiểm tra truyền thống như hồi quy OLS, ANOVA và ANCOVA nằm trong phân loại này?

Chỉ cần cố gắng để quyết định nơi tiếp theo với việc tự học.

Câu hỏi này đã được thảo luận một phần tại trang web này như dưới đây và các ý kiến ​​có vẻ lẫn lộn.

• Sự khác biệt giữa hiệu ứng cố định, hiệu ứng ngẫu nhiên và mô hình hiệu ứng hỗn hợp là gì?
• Sự khác biệt toán học giữa hiệu ứng ngẫu nhiên và cố định là gì?
• Các khái niệm đằng sau các mô hình hiệu ứng cố định / ngẫu nhiên

Tất cả các thuật ngữ thường liên quan đến dữ liệu theo chiều dọc / bảng điều khiển / cụm / phân cấp và các biện pháp lặp lại (theo định dạng hồi quy nâng cao và ANOVA), nhưng có nhiều ý nghĩa trong bối cảnh khác nhau. Tôi muốn trả lời câu hỏi trong các công thức dựa trên kiến ​​thức của tôi.

Mô hình hiệu ứng cố định

• Trong thống kê sinh học, các hiệu ứng cố định, được ký hiệu là trong phương trình (*) bên dưới, thường đi kèm với các hiệu ứng ngẫu nhiên. Nhưng mô hình hiệu ứng cố định cũng được xác định để giả định rằng các quan sát là độc lập, giống như cài đặt cắt ngang, như trong Phân tích dữ liệu theo chiều dọc của Hedeker và Gibbons (2006).$\color{red}{\boldsymbol\beta}$
• Trong kinh tế lượng, mô hình hiệu ứng cố định có thể được viết là trong đó là đánh chặn cố định (không ngẫu nhiên) cho từng đối tượng ( ) hoặc chúng ta cũng có thể có hiệu ứng cố định là cho mỗi phép đo lặp lại ( ); biểu thị hiệp phương sai. $$y_{ij}=\boldsymbol x_{ij}^{'}\boldsymbol\beta+\color{red}{u_i}+\epsilon_{ij}$$ $\color{red}{u_i}$$i$$u_j$$j$$\boldsymbol x_{ij}$
• Trong phân tích tổng hợp, mô hình hiệu ứng cố định giả định hiệu ứng cơ bản là giống nhau trên tất cả các nghiên cứu (ví dụ: Mantel và Haenszel, 1959).

Mô hình hiệu ứng ngẫu nhiên

• Trong thống kê sinh học, mô hình hiệu ứng ngẫu nhiên (Laird và Ware, 1982) có thể được viết dưới dạng trong đó được giả sử tuân theo phân phối. biểu thị hiệp phương sai cho các hiệu ứng cố định và biểu thị hiệp phương sai cho các hiệu ứng ngẫu nhiên. $$\tag{*} y_{ij}=\boldsymbol x_{ij}^{'}\color{red}{\boldsymbol\beta}+\boldsymbol z_{ij}^{'}\color{blue}{\boldsymbol u_i}+e_{ij}$$ $\color{blue}{\boldsymbol u_i}$$\boldsymbol x_{ij}$$\boldsymbol z_{ij}$
• Trong kinh tế lượng, mô hình hiệu ứng ngẫu nhiên chỉ có thể đề cập đến mô hình chặn ngẫu nhiên như trong thống kê sinh học, tức là và là một vô hướng.$\boldsymbol z_{ij}^{'}=1$$\boldsymbol u_i$
• Trong phân tích tổng hợp, mô hình hiệu ứng ngẫu nhiên giả định các hiệu ứng không đồng nhất trong các nghiên cứu (DerSimonia và Laird, 1986).

Mô hình cận biên

Mô hình cận biên thường được so sánh với mô hình có điều kiện (mô hình hiệu ứng ngẫu nhiên) và trước đây tập trung vào trung bình dân số (lấy mô hình tuyến tính làm ví dụ) trong khi cái sau liên quan đến trung bình có điều kiệnViệc giải thích và quy mô của các hệ số hồi quy giữa mô hình biên và mô hình hiệu ứng ngẫu nhiên sẽ khác nhau đối với các mô hình phi tuyến (ví dụ hồi quy logistic). Đặt , sau đó

$$E(y_{ij})=\boldsymbol x_{ij}^{'}\boldsymbol\beta,$$ $$E(y_{ij}|\boldsymbol u_i)=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i.$$ $h(E(y_{ij}|\boldsymbol u_i))=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i$ $$E(y_{ij})=E(E(y_{ij}|\boldsymbol u_i))=E(h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i))\neq h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta),$$ trừ khi chức năng liên kết là liên kết nhận dạng (mô hình tuyến tính ) hoặc (không có hiệu ứng ngẫu nhiên). Các ví dụ điển hình bao gồm các phương trình ước lượng tổng quát (GEE; Zeger, Liang và Albert, 1988) và các mô hình đa cấp ngoài lề (Heagerty và Zeger, 2000).$h$$u_i=0$

Sửa lỗi cho tôi nếu tôi sai ở đây:

Về mặt khái niệm, có bốn hiệu ứng có thể xảy ra: Đánh chặn cố định, hệ số cố định, đánh chặn ngẫu nhiên, hệ số ngẫu nhiên. Hầu hết các mô hình hồi quy là "hiệu ứng ngẫu nhiên", do đó chúng có các hệ số ngẫu nhiên và hệ số ngẫu nhiên. Thuật ngữ 'hiệu ứng ngẫu nhiên' được sử dụng trái ngược với 'hiệu ứng cố định'.

'Hiệu ứng cố định' là khi một biến ảnh hưởng đến một số mẫu, nhưng không phải tất cả. Phiên bản đơn giản nhất của mô hình hiệu ứng cố định (về mặt khái niệm) sẽ là một biến giả, cho hiệu ứng cố định với giá trị nhị phân. Những mô hình này có một đánh chặn ngẫu nhiên duy nhất, hệ số hiệu ứng cố định và hệ số biến ngẫu nhiên.

Cấp độ phức tạp tiếp theo (về mặt khái niệm) là khi hiệu ứng cố định không phải là nhị phân, mà là danh nghĩa, với nhiều giá trị. Trong trường hợp này, những gì được tạo ra là một mô hình có nhiều phần chặn (một cho mỗi giá trị danh nghĩa). Đây là nơi bạn có được 'nhiều dòng' cổ điển của mô hình dữ liệu bảng , trong đó mỗi 'tùy chọn' của biến hiệu ứng cố định sẽ có hiệu lực riêng. Ưu điểm của việc ném tất cả các chuỗi dữ liệu cụ thể theo yếu tố khác nhau vào một hồi quy đơn (thay vì thực hiện từng yếu tố của hiệu ứng cố định như hồi quy riêng của nó) là bạn có được phương sai của tất cả các hiệu ứng khác nhau trong một phương trình, và vì vậy nhận các giá trị tốt hơn (chắc chắn hơn) cho tất cả các hệ số của bạn.

'Cấp ba' phức tạp sẽ là khi 'hiệu ứng cố định' tự nó là một biến ngẫu nhiên, ngoại trừ các hiệu ứng của nó là 'cố định' chỉ ảnh hưởng đến một tập hợp con của mẫu. Tại thời điểm đó, mô hình sẽ có một đánh chặn ngẫu nhiên, nhiều lần chặn cố định và nhiều biến ngẫu nhiên. Tôi nghĩ đây là mô hình 'hiệu ứng hỗn hợp'?

Các mô hình 'Hiệu ứng hỗn hợp' được sử dụng cho mô hình đa cấp (MLM), vì 'hiệu ứng cố định' có thể được sử dụng để lồng một tập hợp con dữ liệu trong một tập hợp dữ liệu khác. Nhóm này có thể có nhiều tầng, với các học sinh được lồng trong các lớp học, được lồng trong các trường học. Trường học là một hiệu ứng cố định trên các lớp học, và các lớp học đối với học sinh. (Trường học có thể có hoặc không có hiệu lực cố định đối với học sinh, tùy thuộc vào thiết kế thí nghiệm - không chắc chắn)

Các mô hình dữ liệu bảng là các mô hình 'hiệu ứng hỗn hợp', nhưng sử dụng hai chiều để phân nhóm, thường là thời gian và một số loại.