Tôi có cần sử dụng hồi quy đa biến hoặc một số phân tích hồi quy không?

Tôi có một bộ dữ liệu gồm 45 người tham gia với 96 biến số (mặc dù một số phép đo bị thiếu). Một số biến đơn giản như tuổi và khuyết tật trong khi các phép đo khác là điểm trên một số bài kiểm tra nhất định (ví dụ: một bài kiểm tra có 5 giá trị là kết quả). Tôi có dữ liệu của 5 bài kiểm tra, được đưa ra trên 3 điểm khác nhau và như đã nêu trước đó đôi khi nhiều điểm cho mỗi bài kiểm tra.

Vì tập dữ liệu quá lớn (với số lượng tính năng ghi được số lượng người tham gia), tôi quyết định dự đoán điểm số trong bài kiểm tra cho tất cả các kết quả trước đó (như tuổi, khuyết tật và tất cả điểm số trong cùng bài kiểm tra trước đó). Vì vậy, về cơ bản, tôi muốn dự đoán 5 tính năng được cung cấp khoảng 10 tính năng trong 45 người tham gia bằng cách sử dụng hồi quy (tôi muốn xem các hệ số chính xác, giá trị p và số đo bình phương R).

Tôi có nên thực hiện hồi quy thường xuyên cho từng tính năng tôi muốn dự đoán hay tôi nên sử dụng hồi quy đa biến trên tất cả các tính năng tôi muốn dự đoán cùng một lúc? Sự khác biệt là gì?

Đặt là vectơ của phản ứng thứ , wehre . Trong ví dụ của bạn là 5 vì bạn có 5 điểm kiểm tra. Cho$Y_i$$i$$i = 1, \dots, r$$r$$X$ là một$n \times p$ma trận của các yếu tố dự đoán. Nếu bạn thực hiện$r$ hồi quy riêng (một cho mỗi $Y_i$),

Ở đâu $\epsilon_i \sim N_n(0, \sigma^2_iI_n)$. Sử dụng OLS, bạn có được ước tính cho$\beta$. Bạn cũng có thể thực hiện hồi quy đa biến,

Ở đâu $\mathbf{Y}$ là $n \times r$ ma trận trả lời, $\mathbf{B}$ là $p \times r$ ma trận các hệ số hồi quy và $\mathbf{E}$ là ma trận lỗi sao cho $i$cột thứ, $\epsilon_i \overset{iid}{\sim} N_n(0, \sigma^2_iI_n)$. Trong trường hợp này, ước tính OLS cho$\mathbf{B}$ tương đương với $r$ Ước tính OLS cho $\beta_i$.

Tuy nhiên, nếu bạn có lý do để cho rằng có điều kiện $X$, 5 yếu tố dự đoán tương quan với nhau (có vẻ như đó sẽ là một giả định hợp lý trong trường hợp của bạn), sau đó là các hàng của$\mathbf{E}$ được coi là như vậy mà cho $j = 1, 2, \dots, n, \epsilon_j \overset{iid}{\sim} N_r(0, \Sigma)$. Đây$\Sigma$ bây giờ đại diện cho cấu trúc tương quan cho các yếu tố dự đoán là tốt.

Điều quan trọng cần lưu ý là ngay cả trong trường hợp này, ước tính cho $\mathbf{B}$giống như ước tính OLS, nhưng cấu trúc lỗi của các ước tính thay đổi và do đó suy luận về các ước tính thay đổi. Hậu quả là$p$-giá trị thay đổi.

Gói MRCE R cho phép phù hợp với mô hình như vậy. Gói này cũng sử dụng các phương thức chính quy khi$n$ không đủ lớn so với $p$, vì vậy bạn có thể không bị buộc phải giảm xuống số lượng dự đoán nhỏ hơn. Bạn cũng có thể tìm thấy lý thuyết chi tiết hơn ở đây cùng với các ví dụ động lực. Các tác giả nêu động lực sau đây

Các ứng dụng của mô hình tổng quát này phát sinh trong hóa học, kinh tế lượng, tâm lý học và các ngành định lượng khác trong đó người ta dự đoán nhiều phản ứng với một bộ biến dự đoán. Ví dụ, dự đoán một số thước đo chất lượng giấy với một tập hợp các biến liên quan đến sản xuất của nó.

Tương tự như vậy trong thiết lập của bạn, bạn dường như có 5 bộ phản hồi phát sinh từ cùng một dự đoán, với cấu trúc tương quan vốn có giữa các phản hồi.