Trong các mô hình tuyến tính tổng quát , phân phối có điều kiện của biến trả lời phải thuộc về họ hàm mũ. Tại sao hạn chế này quan trọng? Mô hình hồi quy nào sẽ mất đi nếu chúng ta chọn phân phối ngoài gia đình hàm mũ?
Trong các mô hình tuyến tính tổng quát , phân phối có điều kiện của biến trả lời phải thuộc về họ hàm mũ. Tại sao hạn chế này quan trọng? Mô hình hồi quy nào sẽ mất đi nếu chúng ta chọn phân phối ngoài gia đình hàm mũ?
Câu trả lời:
Jaynes đưa ra lập luận rằng khi bạn rời khỏi gia đình theo cấp số nhân, những người ước tính của bạn sẽ không còn đủ số liệu thống kê. Nếu một thống kê là đủ cho một tham số thì . Ngụ ý rằng thông tin trong cũng giống như trong mẫu . Phương pháp Bayesian luôn luôn sử dụng tất cả các thông tin trong . Phương pháp phi Bayes sử dụng một thống kê. Nếu thống kê đó chứa thông tin tương tự thì công cụ ước tính sẽ không tệ hơn.
Nếu số liệu thống kê là không đủ, thì nó sẽ ồn hơn so với ước tính của Bayes. Ước tính Bayes luôn được thống kê đáng ngưỡng mộ. Nếu phân phối không thuộc họ hàm mũ, thì công cụ ước tính Bayes sẽ thống trị một cách ngẫu nhiên, do đó công cụ ước tính sẽ không được chấp nhận.
Vì vậy, nếu bạn không đưa ra một giả định như vậy, thì tốt hơn hết bạn nên sử dụng mô hình Bayes trong mọi trường hợp. Nếu đó là trường hợp, tại sao bạn sẽ sử dụng một thay thế?