Quá mức trong hồi quy logistic

Tôi đang cố gắng nắm bắt khái niệm về sự quá mức trong hồi quy logistic. Tôi đã đọc rằng sự quá mức là khi quan sát được phương sai của biến phản ứng lớn hơn mong đợi từ phân phối nhị thức.

Nhưng nếu một biến nhị thức chỉ có thể có hai giá trị (1/0), làm thế nào nó có thể có giá trị trung bình và phương sai?

Tôi ổn với việc tính toán trung bình và phương sai của những thành công từ x số lần thử nghiệm Bernoulli. Nhưng tôi không thể quấn đầu xung quanh khái niệm trung bình và phương sai của một biến chỉ có thể có hai giá trị.

Bất cứ ai cũng có thể cung cấp một cái nhìn tổng quan trực quan về:

1. Khái niệm về giá trị trung bình và phương sai trong một biến chỉ có thể có hai giá trị
2. Khái niệm về sự quá mức trong một biến chỉ có thể có hai giá trị

Một biến ngẫu nhiên nhị thức với thử nghiệm và xác suất thành công p có thể mất nhiều hơn hai giá trị. Biến ngẫu nhiên nhị thức đại diện cho số lần thành công trong những tồn thử nghiệm, và trong thực tế có tham N + 1 giá trị khác nhau ( 0 , 1 , 2 , 3 , . . . , N ). Vì vậy, nếu phương sai của phân phối đó lớn hơn mức quá mong đợi theo các giả định nhị thức (có lẽ có các số 0 dư chẳng hạn), đó là trường hợp quá mức. $N$$p$$N$$N+1$$0,1,2,3,...,N$

Sự quá mức không có ý nghĩa đối với biến ngẫu nhiên Bernoulli ( )$N = 1$

Trong ngữ cảnh của đường cong hồi quy logistic, bạn có thể xem xét một "lát cắt nhỏ" hoặc nhóm, thông qua một phạm vi giá trị dự đoán hẹp để thực hiện một thí nghiệm nhị thức (có thể chúng ta có 10 điểm trong lát cắt với một số lượng nhất định thành công và thất bại). Mặc dù chúng tôi không thực sự có nhiều thử nghiệm ở mỗi giá trị dự đoán và chúng tôi đang xem xét tỷ lệ thay vì số liệu thô, chúng tôi vẫn hy vọng tỷ lệ của mỗi "lát" này sẽ gần với đường cong. Nếu các "lát" này có xu hướng cách xa đường cong, thì có quá nhiều biến động trong phân phối. Vì vậy, bằng cách nhóm các quan sát, bạn tạo ra các biến ngẫu nhiên nhị thức thay vì nhìn vào dữ liệu 0/1 riêng lẻ.

Ví dụ dưới đây là từ một câu hỏi khác trên trang web này. Hãy nói rằng các đường màu xanh biểu thị tỷ lệ dự kiến ​​trên phạm vi của các biến dự đoán. Các ô màu xanh biểu thị các trường hợp quan sát (trong trường hợp này là trường học). Điều này cung cấp một biểu diễn đồ họa về cách quá mức có thể trông. Lưu ý rằng có những sai sót với việc diễn giải các ô của biểu đồ bên dưới, nhưng nó cung cấp một ý tưởng về cách quá mức có thể tự biểu hiện.

Như đã được lưu ý bởi những người khác, quá mức không áp dụng trong trường hợp biến Bernoulli (0/1), vì trong trường hợp đó, giá trị trung bình nhất thiết phải xác định phương sai. Trong bối cảnh hồi quy logistic, điều này có nghĩa là nếu kết quả của bạn là nhị phân, bạn không thể ước tính một tham số phân tán. (NB Điều này không có nghĩa là bạn có thể bỏ qua mối tương quan tiềm năng giữa các quan sát chỉ vì kết quả của bạn là nhị phân!)

Mặt khác, nếu kết quả của bạn là một tập hợp tỷ lệ, thì bạn có thể ước tính một tham số phân tán (mặc dù thường lớn hơn một, cũng có thể nhỏ hơn một) bằng cách chia thống kê chi bình phương Pearson (hoặc độ lệch ) bởi các mức độ tự do còn lại.

Hãy nhớ rằng, hồi quy logistic với kết quả nhị phân thuần túy chỉ là trường hợp đặc biệt của mô hình hồi quy logistic tổng quát hơn trong đó chỉ số nhị thức có thể vượt quá một (và có thể thay đổi theo các quan sát). Do đó, câu hỏi liệu bạn có phù hợp với mô hình hồi quy logistic hay không không liên quan đến câu hỏi liệu dữ liệu của bạn có bị quá tải hay không.