Hồi quy tuyến tính với lỗi Laplace

Hãy xem xét mô hình hồi quy tuyến tính: trong đó , đó là , Phân phối Laplace với tham số 0 trung bình và tỷ lệ b , tất cả đều độc lập lẫn nhau. Xem xét ước tính khả năng tối đa của tham số chưa biết \ boldsymbol \ beta : - \ log p (\ mathbf y \ mid \ mathbf X, \ boldsymbol \ beta, b) = n \ log (2b) + \ frac 1b \ sum _ {i = 1} ^ n | \ mathbf x_i \ cdot \ boldsymbol \ beta - y_i | từ đó \ hat {\ boldsymbol \ beta} _ {\ mathrm {ML}} = {\ arg \ min} _ {\ boldsymbol \ beta \ in \ mathbb R ^ m} \ sum _ {i = 1} ^ n | \ mathbf x_i \ cdot \ boldsymbol \ beta - y_i | ε i ~ L ( 0 , b ) 0 b β - log p ( y | X , β , b ) = n log ( 2 b ) +

$$y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n,$$ $\varepsilon _i \sim \mathcal L(0, b)$$0$$b$$\boldsymbol \beta$Β ML=argminβ∈ R m n Σ i=1| xi⋅β-yi $$-\log p(\mathbf y \mid \mathbf X, \boldsymbol \beta, b) = n\log (2b) + \frac 1b\sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$ $$\hat{\boldsymbol \beta}_{\mathrm {ML}} = {\arg\min }_{\boldsymbol \beta \in \mathbb R^m} \sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$

Làm cách nào để tìm phân phối phần dư $\mathbf y - \mathbf X\hat{\boldsymbol \beta}_{\mathrm {ML}}$ trong mô hình này?

Phần dư (thực sự được gọi là lỗi) được giả sử được phân phối ngẫu nhiên với phân phối theo cấp số nhân (phân phối Laplace). Nếu bạn đang khớp điểm dữ liệu x và y này, hãy thực hiện bằng số. Trước tiên, bạn tính tổng beta-hat_ML cho các điểm này bằng cách sử dụng công thức bạn đã đăng ở trên. Điều này sẽ xác định một dòng thông qua các điểm. Sau đó trừ giá trị y của mỗi điểm khỏi giá trị y của dòng tại giá trị x đó. Đây là phần dư cho điểm đó. Phần dư của tất cả các điểm có thể được sử dụng để xây dựng biểu đồ sẽ cung cấp cho bạn phân phối phần dư.

Có một bài viết toán học hay về nó bởi Yang (2014) .

- Đi