Chính quy hóa cho các mô hình ARIMA


15

Tôi nhận thức được LASSO, sườn và loại mạng lưới đàn hồi trong các mô hình hồi quy tuyến tính.

Câu hỏi:

  1. Có thể áp dụng loại ước tính bị phạt này (hoặc tương tự) cho mô hình ARIMA (với phần MA không trống) không?

pmaxqmaxppmaxqqmax

Câu hỏi tiếp theo của tôi là:

  1. Chúng tôi có thể bao gồm tất cả các điều khoản lên đến ( , ) nhưng phạt kích thước của các hệ số (có khả năng hoàn toàn bằng không)? Điều đó sẽ có ý nghĩa? q m a xpmaxqmax
  2. Nếu có, điều đó đã được thực hiện trong R hay phần mềm khác chưa? Nếu không, rắc rối là gì?

Một bài viết có liên quan có thể được tìm thấy ở đây .


1
+1 cho một câu hỏi rất hay. Vì P, Q là các giá trị rời rạc nên có thể hiệu quả hơn khi thực hiện tìm kiếm dạng lưới để tìm thứ tự tối ưu của P, Q?
dự báo

2
Tôi vui bạn thích nó! Có, tìm kiếm dạng lưới là một trong các tùy chọn trong khung mà tôi gọi là "thông thường". Ở đó người ta có thể tìm kiếm trên một lưới các kết hợp có thể có của từ ( 0 , 0 ) đến ( p m a x , q m a x ) . Tuy nhiên, đây vẫn là một phần của "khung thông thường". Thay vào đó, tôi quan tâm đến việc giữ tất cả các độ trễ nhưng phạt kích thước của các hệ số. (p,q)(0,0)(pmax,qmax)
Richard Hardy

1
columbia.edu/~sn2294/ con / forecast.pdf Giả sử LASSO hoạt động tốt hơn khi bạn có thể bỏ qua một số độ trễ thay vì đặt tối đa. Điều tương tự có thể được thực hiện bởi AIC nhưng sau đó nó trở nên đắt đỏ về mặt tính toán.
Cagdas Ozgenc

1
@CagdasOzgenc, tôi đã đọc lướt qua bài báo nhưng dường như nó không xử lý việc chính quy hóa được áp dụng trên các mô hình ARIMA (mặc dù nó đề cập đến các mô hình ARMA trong bối cảnh tiêu chí thông tin). Bạn có thể vui lòng chỉ ra phần nào của bài viết có liên quan đến câu hỏi của tôi không?
Richard Hardy

1
5.3 bảng chứa các mô hình ARMAX. Các kết quả áp dụng cho các mô hình ARMA.
Cagdas Ozgenc

Câu trả lời:


9

Trả lời câu hỏi 1.

Chen & Chan "Lựa chọn ARMA tập hợp thông qua Lasso thích nghi" (2011) * sử dụng một cách giải quyết để tránh ước tính khả năng tối đa đòi hỏi tính toán. Trích dẫn bài báo, họ

đề xuất tìm một mô hình ARMA tập hợp con tối ưu bằng cách điều chỉnh hồi quy Lasso thích nghi của chuỗi thời gian trên độ trễ của chính nó và các phần dư thu được từ việc khớp tự động dài với y t s. <...> [U] với các điều kiện đều đặn nhẹ, phương pháp được đề xuất đạt được các đặc tính tiên tri, cụ thể là, nó xác định mô hình ARMA tập hợp con chính xác với xu hướng xác suất tăng lên đến vô cùng và <...> các công cụ ước tính của các hệ số khác không bình thường với sự phân bố giới hạn giống như khi các hệ số 0 được biết là một tiên nghiệm.ytyt

Tùy chọn, họ đề xuất ước tính khả năng tối đa và chẩn đoán mô hình cho mô hình ARMA tập hợp con được chọn.


Wilms và cộng sự. "Nhận dạng và ước tính thưa thớt về mức trung bình di chuyển tự động của vectơ chiều cao" (2017) thậm chí còn nhiều hơn tôi yêu cầu. Thay vì mô hình ARIMA đơn biến, họ lấy một vectơ ARMA (VARMA) ở kích thước cao và họ sử dụng hình phạt để ước tính và lựa chọn thứ tự độ trễ. Họ trình bày thuật toán ước tính và phát triển một số kết quả tiệm cận.L1

Đặc biệt, họ sử dụng một thủ tục hai giai đoạn. Hãy xem xét một VARMA mô hình mà cần phải được ước tính, nhưng lệnh lag pq là không xác định.

yt=l=1pΦlytl+m=1qΘmεtm+εt
pq
  • Trong Giai đoạn 1, họ ước tính mô hình VARMA theo mô hình VAR bậc cao và ước tính nó bằng cách sử dụng công cụ ước tính VAR phân cấp, đặt hình phạt lasso nhóm phân cấp dựa trên độ trễ vào các tham số tự động.
    (Trình tự lag được thiết lập để được . Các phương trình mô hình được ước tính chung và định mức Frobenius của các lỗi| | y - y | | F 2 được giảm thiểu với một hình phạt nhóm Lasso thứ bậc trên các hệ số hồi quy). Họ có được dư ε :=y - y được sử dụng như các proxy cho các lỗi đúng trong giai đoạn 2.1.5T||yy^||2F
    ε^:=yy^

  • yt=l=1p^Φlytl+m=1q^Θmε^tm+ut,

    p^q^được thiết lập để được .)1.5T

Cách tiếp cận của Wilms et al. được thực hiện trong gói R "bigtime" .


Người giới thiệu


* Cảm ơn @hejseb cho liên kết.


2
Bài viết này rất mới, được đăng trên arXiv ngày hôm qua.
Richard Hardy

Có bất kỳ thực hiện trong python hoặc R?
David Masip

@DavidMasip, xem bài đăng cập nhật để thực hiện R.
Richard Hardy
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.