Thư giãn Lagrangian trong bối cảnh hồi quy sườn núi

Trong "Các yếu tố của học thống kê" (tái bản lần 2), p63, các tác giả đưa ra hai công thức sau của bài toán hồi quy sườn núi:

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\}$$

và

$$\hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 \text{, subject to } \sum_{j=1}^p \beta_j^2 \leq t.$$

Người ta khẳng định rằng hai cái này tương đương nhau và có sự tương ứng một-một giữa các tham số và t .$\lambda$$t$

Nó sẽ xuất hiện rằng công thức đầu tiên là một thư giãn Lagrangian thứ hai. Tuy nhiên, tôi chưa bao giờ có một sự hiểu biết trực quan về cách thức hoặc lý do tại sao thư giãn Lagrangian hoạt động.

Có một cách đơn giản để chứng minh rằng hai công thức thực sự tương đương nhau? Nếu tôi phải chọn, tôi thích trực giác hơn sự nghiêm khắc.

Cảm ơn.

Sự tương ứng có thể dễ dàng được hiển thị nhất bằng Định lý Phong bì .

$\lambda \cdot t$$\lambda$

$t$$t$$\beta$$\lambda \cdot t$

$t$

Tôi cho rằng đây là sự tương ứng Hastie et al. đang đề cập đến.