Các định nghĩa AIC khác nhau

Từ Wikipedia có định nghĩa về Tiêu chí Thông tin (AIC) của Akaike là $AIC = 2k -2 \log L$ , trong đó $k$ là số lượng tham số và là khả năng đăng nhập của mô hình.$\log L$

Tuy nhiên, Kinh tế lượng của chúng tôi lưu ý tại một trường đại học được kính trọng rằng$AIC = \log (\hat{\sigma}^2) + \frac{2 \cdot k}{T}$ . Dưới đây σ 2là phương sai ước tính cho các lỗi trong một mô hình ARMA vàTlà số quan sát trong chuỗi thời gian tập dữ liệu.$\hat{\sigma}^2$$T$

Là định nghĩa sau tương đương với định nghĩa đầu tiên, nhưng chỉ được điều chỉnh cho các mô hình ARMA? Hoặc có một số loại xung đột giữa hai định nghĩa?

Công thức bạn trích dẫn từ ghi chú của bạn không chính xác là AIC.

AIC là .$-2\log\mathcal{L}+2k$

Ở đây tôi sẽ đưa ra một phác thảo về một dẫn xuất gần đúng để làm rõ đủ những gì đang diễn ra.

Nếu bạn có một mô hình với các lỗi bình thường độc lập với phương sai không đổi,

có thể được ước tính theo khả năng tối đa như

(giả sử ước tính là ước tính ML)$\sigma^2$

Vì vậy, (lên đến thay đổi bởi một hằng số)$-2\log\mathcal{L} +2k = n\log{\hat{\sigma}^2} + 2k$

Bây giờ trong mô hình ARMA, nếu thực sự lớn so với p và q , thì khả năng có thể được xấp xỉ bằng khung Gaussian như vậy (ví dụ: bạn có thể viết ARMA xấp xỉ AR dài hơn và đủ điều kiện để viết AR đó như một mô hình hồi quy), vì vậy với T thay cho n :$T$$p$$q$$T$$n$

$AIC \approx T\log{\hat{\sigma}^2} + 2k$

vì thế

$AIC/T \approx \log{\hat{\sigma}^2} + 2k/T$

Bây giờ nếu bạn chỉ đơn giản là so sánh AIC, thì sự phân chia đó qua hoàn toàn không thành vấn đề, vì nó không thay đổi thứ tự của các giá trị AIC.$T$

Tuy nhiên, nếu bạn đang sử dụng AIC cho một số mục đích khác dựa trên giá trị thực của sự khác biệt trong AIC (chẳng hạn như suy luận đa mô hình như mô tả của Burnham và Anderson), thì đó là vấn đề.

Nhiều văn bản kinh tế lượng dường như sử dụng mẫu AIC / T này. Điều kỳ lạ là một số cuốn sách dường như đề cập đến Hurvich và Tsai 1989 hoặc Findley 1985 cho hình thức đó, nhưng Hurvich & Tsai và Findley dường như đang thảo luận về hình thức ban đầu (mặc dù tôi chỉ có một dấu hiệu gián tiếp về những gì Findley làm ngay bây giờ, vì vậy có lẽ có một cái gì đó trong Findley trên đó).

Mở rộng quy mô như vậy có thể được thực hiện cho một loạt các lý do - ví dụ, chuỗi thời gian, đặc biệt là chuỗi thời gian tần số cao, có thể rất dài và AICS bình thường có thể có xu hướng trở nên cồng kềnh, đặc biệt là nếu là rất nhỏ. (Có một số lý do có thể khác, nhưng vì tôi thực sự không biết lý do này đã được thực hiện nên tôi sẽ không bắt đầu đi xuống một danh sách tất cả các lý do có thể.)$\sigma^2$

Bạn có thể muốn xem danh sách Sự kiện và ngụy biện của AIC của Rob Hyndman , - đặc biệt là các mục từ 3 đến 7. Một số điểm có thể khiến bạn ít nhất phải thận trọng khi phụ thuộc quá nhiều vào khả năng xấp xỉ của Gaussian, nhưng có lẽ có một lời biện minh tốt hơn tôi cung cấp ở đây.

Tôi không chắc có lý do chính đáng để sử dụng xấp xỉ này cho khả năng ghi nhật ký thay vì AIC thực tế vì rất nhiều gói chuỗi thời gian ngày nay có xu hướng tính toán (/ tối đa hóa) khả năng đăng nhập thực tế cho các mô hình ARMA. Có vẻ như ít lý do để không sử dụng nó.

Tôi tin rằng điều này dựa trên giả định về các lỗi thông thường. Trong toán kinh tế lượng, bạn vận hành sử dụng tiệm cận, đặc biệt là trong các ứng dụng chuỗi thời gian sử dụng AIC. Kết quả là, giả định bình thường nên giữ một cách không có triệu chứng để biện minh cho sơ đồ lựa chọn mô hình (tiệm cận) này.

$ln(L) = -(T/2)ln(2\pi) -(T/2)ln(\sigma^2) - (1/2\sigma^2)\sum(x_i - \mu)$$\mathbb{E}(X) = \mu$$Var(X) = \sigma^2$$x_1, ..., x_T$

$L$$Tln(\sigma^2)$$(1/\sigma^2)(T\hat{\sigma}^2)$$\hat{\sigma}^2 = T^{-1} \sum(x_i - \bar{x})$$\sigma^2$$(1/\sigma^2)(T\hat{\sigma}^2) = (1/\hat{\sigma}^2)(T\hat{\sigma}^2)$

$AIC = 2k + Tln(\sigma^2) + 1$$1$$T$$T$$AIC$$AIC/T$