Phương pháp lấy trung bình mô hình - ước tính hệ số trung bình so với dự đoán mô hình?

Tôi có một câu hỏi cơ bản liên quan đến các cách tiếp cận để mô hình hóa trung bình bằng cách sử dụng các tiêu chí CNTT cho các mô hình trọng lượng trong một bộ ứng cử viên.

Hầu hết các nguồn mà tôi đã đọc trên mô hình trung bình ủng hộ trung bình các ước tính hệ số tham số dựa trên trọng số mô hình (sử dụng phương pháp 'trung bình tự nhiên' hoặc phương pháp 'trung bình không'). Tuy nhiên, tôi có ấn tượng rằng tính trung bình và trọng số của từng dự đoán của mô hình , thay vì ước tính hệ số tham số, dựa trên trọng số mô hình là cách tiếp cận đơn giản và hợp lý hơn, đặc biệt nếu so sánh các mô hình với các biến dự báo không lồng nhau.

Có hướng dẫn rõ ràng về cách tiếp cận nào để tính trung bình mô hình là hợp lý nhất (trung bình ước tính tham số trọng số so với dự đoán có trọng số) không? Ngoài ra, có những phức tạp hơn nữa với mô hình trung bình của các ước tính hệ số trong trường hợp mô hình hỗn hợp?

Trong các mô hình tuyến tính tính trung bình trên các hệ số sẽ cung cấp cho bạn các giá trị dự đoán giống như các giá trị dự đoán từ tính trung bình trên các dự đoán, nhưng truyền tải nhiều thông tin hơn. Nhiều giải trình xử lý các mô hình tuyến tính và do đó trung bình trên các hệ số.

Bạn có thể kiểm tra sự tương đương với một chút đại số tuyến tính. Nói rằng bạn có quan sát và dự đoánBạn thu thập cái sau trong ma trận . Bạn cũng có các mô hình , mỗi mô hình chỉ định ước tính hệ số cho các yếu tố dự đoánXếp chồng các ước tính hệ số này trong ma trận . Tính trung bình có nghĩa là bạn gán trọng số cho mỗi mô hình (trọng số thường không âm và tổng bằng một). Đặt những trọng trong vector chiều dài .N T × N X M β m N N × M β w m m w$T$$N$$T\times N$$\mathbf{X}$$M$$\beta_m$$N$$N \times M$$\mathbf{\beta}$$w_m$$m$$\mathbf{w}$$M$

Các giá trị được dự đoán cho mỗi mô hình được đưa ra bởi hoặc, trong ký hiệu xếp chồng giá trị dự đoán từ tính trung bình trên các dự đoán được đưa ra bởi Khi bạn tính trung bình Thay vào đó, ước tính hệ số, bạn tính toán Và các giá trị dự đoán từ các hệ số trung bình được đưa ra bởi y =Xβ y w=(Xβ)wβw=βwXβw=X(βw$\mathbf{\hat{y}}_m = \mathbf{X}\beta_m$

$$\mathbf{\hat{y}} = \mathbf{X}\mathbf{\beta}$$ $$\mathbf{\hat{y}} \mathbf{w} = (\mathbf{X}\mathbf{\beta})\mathbf{w}$$ $$\mathbf{\beta}_w = \mathbf{\beta}\mathbf{w}$$ $$\mathbf{X\beta}_w = \mathbf{X}(\mathbf{\beta}\mathbf{w})$$ Sự tương đương giữa các giá trị dự đoán cho một trong hai cách tiếp cận xuất phát từ tính kết hợp của sản phẩm ma trận. Vì các giá trị dự đoán là như nhau, nên bạn cũng có thể tính trung bình của các hệ số: điều này cung cấp cho bạn nhiều thông tin hơn, trong trường hợp bạn muốn xem xét các hệ số cho các yếu tố dự đoán riêng lẻ.

Trong các mô hình phi tuyến tính, sự tương đương thường không còn tồn tại nữa và ở đó, nó thực sự có ý nghĩa trung bình trên các dự đoán thay thế. Các tài liệu rộng lớn về tính trung bình trên các dự đoán (kết hợp dự báo) chẳng hạn được tóm tắt ở đây .