Điều gì phá vỡ sự so sánh của các mô hình liên quan đến AIC?

Giả sử tôi đã phù hợp với một số mô hình bằng cách sử dụng các yếu tố dự đoán (và biến phản hồi) từ cùng một bộ dữ liệu.

Những thay đổi nào đối với mô hình sẽ khiến tôi không hợp lý khi so sánh các mô hình trên cơ sở AIC?

1) Giả sử, nếu tôi đăng nhập biến đổi biến phụ thuộc, có công bằng không khi so sánh nó với một mô hình không có biến đổi?

2) Nếu tôi loại bỏ các yếu tố dự đoán khỏi mô hình, tôi có thể so sánh nó với các mô hình với tất cả các yếu tố dự đoán được thêm vào nó không?

3) Nếu tôi phù hợp với hai glms với các gia đình khác nhau cho hai người, tôi vẫn có thể so sánh chúng trên cơ sở AIC chứ? Còn với các chức năng liên kết khác nhau thì sao?

Cảm ơn về thông tin bạn vừa nhập.

aic

— Ali Turab Lotia
nguồn

Có vẻ như bạn đã bỏ qua một từ trong "Nếu tôi phù hợp với hai glms với [cái gì đó] khác nhau"

— Juho Kokkala

Nếu bạn có hai mô hình $M_1$ và $M_2$ cho một mẫu $(y_1,\dots,y_n)$ , sau đó, miễn là các mô hình hợp lý, bạn có thể sử dụng AIC để so sánh chúng. Tất nhiên, điều này không có nghĩa là AIC sẽ chọn mô hình gần với sự thật nhất, trong số các đối thủ cạnh tranh, vì AIC dựa trên kết quả tiệm cận. Trong một kịch bản cực đoan, giả sử rằng bạn muốn so sánh hai mô hình, một mô hình với 1 tham số duy nhất và mô hình khác với 100 tham số và kích thước mẫu là $101$ . Sau đó, dự kiến sẽ quan sát độ chính xác rất thấp trong ước tính của mô hình với 100 tham số, trong khi trong mô hình có 1 tham số có khả năng tham số được ước tính chính xác. Đây là một trong những lý lẽ chống lại việc sử dụng AIC để so sánh các mô hình mà các công cụ ước tính khả năng có tỷ lệ hội tụ rất khác nhau. Điều này có thể xảy ra ngay cả trong các mô hình có cùng số lượng tham số.

Có, bạn có thể sử dụng AIC để so sánh hai mô hình trong đó bạn đã chuyển đổi biến trả lời trong một trong số chúng miễn là mô hình vẫn có ý nghĩa . Tuy nhiên, đây không phải là luôn luôn như vậy. Nếu bạn có một mô hình tuyến tính

y_{i} = x_{i}^{T} β + e_{i},

$y_i = x_i^T\beta + e_i,$ Ở đâu

e_{i} \sim N (0, σ)

$e_i\sim N(0,\sigma)$ , điều này ngụ ý rằng biến

y_{i}

$y_i$ có thể lấy bất kỳ giá trị thực. Do đó, một chuyển đổi log không có ý nghĩa từ góc độ lý thuyết, ngay cả khi mẫu chỉ chứa các giá trị dương.

Điều này được gọi là lựa chọn biến AIC từng bước. Đã thực hiện trong lệnh R stepAIC().
Một lần nữa, miễn là nó hợp lý để mô hình hóa dữ liệu với loại mô hình đó.

Một số thảo luận thú vị về việc sử dụng AIC có thể được tìm thấy ở đây:

AIC MYTHS VÀ MISUNDERSTANDING

— Pokemon
nguồn