Kích thước bước xuống dốc thích ứng khi bạn không thể thực hiện tìm kiếm dòng

Tôi có hàm mục tiêu phụ thuộc vào một giá trị , trong đó là giải pháp cho PDE. Tôi đang tối ưu hóa bằng cách giảm độ dốc theo điều kiện ban đầu của PDE: . Tức là tôi cập nhật và sau đó phải tích hợp PDE để tính toán số dư của tôi. Điều đó có nghĩa là, nếu tôi thực hiện tìm kiếm dòng cho kích thước bước giảm dần (gọi nó là ), với mỗi giá trị tiềm năng của tôi sẽ phải tích hợp lại PDE. $E$ $\phi(x, t = 1.0)$ $\phi(x, t)$ $E$ $\phi(x, t = 0.0)$ $\phi(x, t = 0.0)$ $\alpha$ $\alpha$

Trong trường hợp của tôi đó sẽ là đắt đỏ. Có một tùy chọn khác cho kích thước bước xuống dốc thích ứng?

Tôi không chỉ tìm kiếm các sơ đồ nguyên lý toán học ở đây (mặc dù tất nhiên điều đó tốt hơn nếu có gì đó tồn tại), nhưng sẽ hài lòng với bất cứ điều gì thường tốt hơn kích thước bước tĩnh.

Cảm ơn!

optimization pde conjugate-gradient

— NLi10Me
nguồn

Tôi không nghĩ rằng tôi muốn sửa đổi cách tôi tích hợp PDE vào lúc này, vì đối với tôi đó sẽ là một mã viết lại chính. Ngoài ra, PDE không phải là một vấn đề khó khăn, vì tôi phải giải quyết nó trên một mạng lưới rất dày đặc trong không thời gian vì tôi yêu cầu độ chính xác về số rất cao.

— NLi10Me

Mặt khác, phương pháp BB (mà tôi không quen thuộc) có vẻ khá tốt; tất cả những gì tôi phải làm là theo dõi trạng thái và độ dốc của lần lặp trước đó và tôi có được xấp xỉ bậc hai ... điều đó có vẻ rất hay. Tuy nhiên, đạo hàm giả định một bậc hai lồi và vấn đề của tôi gần như chắc chắn là không. Mặc dù vậy, tôi cũng chắc chắn tìm thấy (và hài lòng với) địa phương hơn là cực tiểu toàn cầu. Bạn có biết BB đã thực hiện tốt như thế nào đối với các vấn đề rất cao không?

— NLi10Me

Tôi đoán những gì tôi muốn nói về cực tiểu địa phương là, trong vùng lân cận tối thiểu cục bộ, không có bất kỳ chức năng nào xấp xỉ bậc hai? Tôi nghĩ trạng thái ban đầu của tôi đủ gần với mức tối thiểu, vì trong nhiều trường hợp tôi có được sự hội tụ mượt mà ngay cả với kích thước bước tĩnh. Vì vậy, mặc dù chiều rất cao và nói chung nếu bạn xem xét toàn bộ không gian tìm kiếm thì vấn đề không phải là lồi / không bậc hai, BB vẫn có thể là một lựa chọn tốt khi tìm kiếm theo dòng?

ϕ^{(0)} (x, t = 0.0)

$\phi^{(0)}(x, t = 0.0)$

— NLi10Me

Các "thành phần" khác của là dữ liệu hình ảnh thử nghiệm. cố gắng làm cong một hình ảnh để "khớp" hình ảnh kia (được đo bằng một số chức năng phù hợp như tiêu chuẩn L2 được tích hợp trên voxels). Đối với một số cặp hình ảnh, tôi có được sự hội tụ mượt mà với (lựa chọn hiện tại của tôi) kích thước bước tĩnh. Đối với các cặp hình ảnh khác, tôi nhận được rất nhiều dao động. Hệ thống phải hoàn toàn tự động, vì vậy tôi không thể quay lại và chỉnh sửa kích thước bước cho các cặp hình ảnh rắc rối.

E

$E$

ϕ (x, t = 1.0)

$\phi(x, t = 1.0)$

— NLi10Me

Đúng vậy, tôi phải giải quyết hệ thống liên kết để có được độ dốc (là một hệ thống khó khăn hơn và mất nhiều thời gian hơn). Ok, tôi nghĩ rằng tôi sẽ thử BB với tìm kiếm đường lui. Cảm ơn bạn rất nhiều vì lời khuyên; các cố vấn của tôi thường rất khó hiểu và nhiều người trong số họ không quan tâm đến việc triển khai nhiều như chỉ là mô hình. Tôi đang tìm các phương thức số là thành phần quan trọng để chứng minh liệu một mô hình có tốt hay không ngay từ đầu, vì vậy cảm ơn một lần nữa tôi thực sự đánh giá cao nó.

— NLi10Me

Tôi sẽ bắt đầu với một nhận xét chung: thông tin thứ tự đầu tiên (nghĩa là chỉ sử dụng độ dốc, mã hóa độ dốc) chỉ có thể cung cấp cho bạn thông tin định hướng: Nó có thể cho bạn biết rằng giá trị hàm giảm theo hướng tìm kiếm, nhưng không trong bao lâu . Để quyết định đi bao xa theo hướng tìm kiếm, bạn cần thêm thông tin (độ dốc giảm dần với độ dài bước không đổi có thể thất bại ngay cả đối với các vấn đề bậc hai lồi). Đối với điều này, về cơ bản, bạn có hai lựa chọn:

Sử dụng thông tin bậc hai (mã hóa độ cong), ví dụ bằng cách sử dụng phương pháp của Newton thay vì giảm độ dốc (mà bạn luôn có thể sử dụng bước dài đủ gần với bộ giảm thiểu). $1$
Thử và sai (tất nhiên ý tôi là sử dụng tìm kiếm dòng thích hợp như Armijo).

Nếu, khi bạn viết, bạn không có quyền truy cập vào các công cụ phái sinh thứ hai và việc đánh giá hàm obejctive rất tốn kém, hy vọng duy nhất của bạn là thỏa hiệp: sử dụng đủ thông tin thứ hai gần đúng để có độ dài bước ứng cử viên tốt sao cho một dòng tìm kiếm chỉ cần các đánh giá (nghĩa là, nhiều nhất là một bội số (nhỏ) không đổi của nỗ lực bạn cần để đánh giá độ dốc của bạn). $\mathcal{O}(1)$

Một khả năng là sử dụng độ dài bước Barzilai - Borwein (xem, ví dụ: Fletcher: Trên phương pháp Barzilai-Borwein . Tối ưu hóa và kiểm soát với các ứng dụng, 235 Từ256, Appl. Optim., 96, Springer, New York, 2005 ). Ý tưởng là sử dụng một xấp xỉ sai phân hữu hạn của độ cong dọc theo hướng tìm kiếm để có được ước tính kích thước bước. Cụ thể, chọn tùy ý, đặt và sau đó cho : $\alpha_0>0$ $g^0:=\nabla f(x^0)$ $k=0,...$

Đặt và $s^k = -\alpha_k^{-1} g^k$ $x^{k+1}=x^k+s^k$
Đánh giá và đặt $g^{k+1}=\nabla f(x^{k+1})$ $y^k = g^{k+1}-g^{k}$
Đặt $\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

Lựa chọn này có thể được hiển thị để hội tụ (trong thực tế rất nhanh) cho các hàm bậc hai, nhưng độ hội tụ không đơn điệu (nghĩa là giá trị hàm có thể lớn hơn , nhưng chỉ thỉnh thoảng thôi, xem cốt truyện trên trang 10 trong bài viết của Fletcher). Đối với các hàm không bậc hai, bạn cần kết hợp điều này với tìm kiếm dòng, cần phải sửa đổi để đối phó với tính không đơn điệu. Một khả năng là chọn (ví dụ: bằng cách quay lui) sao cho trong đó là tham số Armijo điển hình và $f(x^{k+1})$ $f(x^k)$ $\sigma_k \in (0,\alpha_k^{-1})$

f (x^{k} - σ_{k} g^{k}) \leq max_{max (k - M, 1) \leq j \leq k} f (x^{j}) - γ σ_{k} (g^{k})^{T} g^{k},

$f(x^k - \sigma_k g^k) \leq \max_{\max(k-M,1)\leq j\leq k} f(x^j) - \gamma \sigma_k (g^k)^Tg^k,$

γ \in (0, 1)

$\gamma\in(0,1)$

M

$M$ kiểm soát mức độ đơn điệu (ví dụ: ). Ngoài ra còn có một biến thể sử dụng giá trị độ dốc thay vì giá trị hàm, nhưng trong trường hợp của bạn, độ dốc thậm chí còn đắt hơn để đánh giá so với hàm, do đó không có ý nghĩa ở đây. (Lưu ý: Tất nhiên bạn có thể cố gắng mù quáng chấp nhận độ dài bước BB và tin vào vận may của mình, nhưng nếu bạn cần bất kỳ loại mạnh mẽ nào - như bạn đã viết trong nhận xét của mình - đó sẽ là một ý tưởng thực sự tồi tệ.)

M = 10

$M=10$

Một cách tiếp cận khác (và, theo tôi, tốt hơn nhiều) sẽ là sử dụng xấp xỉ sai phân hữu hạn này đã có trong tính toán của hướng tìm kiếm; đây được gọi là phương pháp quasi-Newton . Ý tưởng là tăng dần mức độ gần đúng của Hessian bằng cách sử dụng sự khác biệt của độ dốc. Ví dụ: bạn có thể lấy (ma trận danh tính) và với giải và đặt với như trên và . (Đây được gọi là cập nhật Broyden $\nabla^2 f(x^k)$ $H_0=\mathrm{Id}$ $k=0,\dots$

\begin{matrix} (1) & H_{k} s^{k} = - g^{k}, \end{matrix}

$H_{k}s^{k} = -g^{k},\label{cc1}\tag{1}$

H_{k + 1} = H_{k} + \frac{(y^{k} - H_{k} s^{k})^{T} (s^{k})^{T}}{(s^{k})^{T} s^{k}}

$H_{k+1} = H_k + \frac{(y^k-H_ks^k)^T(s^k)^T}{(s^k)^Ts^k}$

y^{k}

$y^k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1} = x^k +s^k$ và hiếm khi được sử dụng trong thực tế; một bản cập nhật tốt hơn nhưng phức tạp hơn một chút là bản cập nhật BFGS , trong đó - và nhiều thông tin hơn - tôi đề cập đến cuốn sách Tối ưu hóa số của Nocedal và Wright .) Nhược điểm là a) điều này đòi hỏi phải giải quyết một hệ thống tuyến tính trong mỗi bước (nhưng chỉ có kích thước không xác định trong trường hợp của bạn là điều kiện ban đầu, do đó nỗ lực nên được chi phối bằng cách giải PDE để lấy gradient, ngoài ra, còn tồn tại các quy tắc cập nhật cho xấp xỉ Hessian nghịch đảo , chỉ yêu cầu tính toán một ma trận đơn sản phẩm -vector) và b) bạn vẫn cần tìm kiếm dòng để đảm bảo hội tụ ...

May mắn thay, trong bối cảnh này tồn tại một cách tiếp cận khác sử dụng mọi đánh giá chức năng. Ý tưởng là đối với đối xứng và xác định dương (được đảm bảo cho bản cập nhật BFGS), giải quyết tương đương với việc giảm thiểu mô hình bậc hai Trong phương thức vùng tin cậy , bạn sẽ làm như vậy với ràng buộc bổ sung rằng , trong đó là bán kính vùng tin cậy được chọn phù hợp (đóng vai trò của độ dài bước ). Ý tưởng chính bây giờ là chọn bán kính này một cách thích ứng, dựa trên bước tính toán. Cụ thể, bạn nhìn vào tỷ lệ $H_k$ $\eqref{cc1}$

q_{k} (s) = \frac{1}{2} s^{T} H_{k} s + s^{T} g^{k} .

$q_k(s) = \frac12 s^T H_k s + s^T g^k.$

‖ s ‖ \leq Δ_{k}

$\|s\| \leq \Delta_k$

Δ_{k}

$\Delta_k$

σ_{k}

$\sigma_k$

ρ_{k} := \frac{f (x^{k}) - f (x^{k} + s^{k})}{f (x^{k}) - q_{k} (s^{k})}

$\rho_k := \frac{f(x^k)-f(x^k+s^k)}{f(x^k)-q_k(s^k)}$ về việc giảm giá trị hàm thực tế và dự đoán. Nếu rất nhỏ, mô hình của bạn rất tệ và bạn loại bỏ và thử lại với . Nếu gần bằng , mô hình của bạn tốt và bạn đặt và tăng . Nếu không, bạn chỉ cần đặt và để một mình. Để tính toán bộ giảm thiểu thực tế của

ρ_{k}

$\rho_k$

s^{k}

$s^k$

Δ_{k + 1} < Δ_{k}

$\Delta_{k+1}<\Delta_k$

ρ_{k}

$\rho_k$

1

$1$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k + 1} > Δ_{k}

$\Delta_{k+1}>\Delta_k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k}

$\Delta_k$

s^{k}

$s^k$

min_{‖ s ‖ \leq Δ_{k}} q_{k} (s)

$\min_{\|s\|\leq \Delta_k} q_k(s)$ , tồn tại một số chiến lược để tránh phải giải quyết vấn đề tối ưu hóa bị ràng buộc đầy đủ; yêu thích của tôi là phương pháp cắt ngắn CG của Steihaug . Để biết thêm chi tiết, tôi lại nhắc đến Nocedal và Wright.

— Christian Clason
nguồn

Bây giờ tôi chỉ nhìn vào điều này một lần nữa và nhận ra tôi có một câu hỏi. Trong bước ba cho phương thức BB, bạn có ; trong đó và . Tử số và mẫu số trong biểu thức cho trông giống như các sản phẩm bên trong. Trong trường hợp của tôi, , trong đó là một không gian vectơ với số liệu Riemannian không tầm thường: K. Đó là, . Điều đó có ảnh hưởng đến định nghĩa của không?

α_{k + 1} = \frac{(y^{k})^{T} y^{k}}{(y^{k})^{T} s^{k}}

$\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

y^{k} = g^{k + 1} - g^{k}

$y^{k} = g^{k+1} - g^k$

s^{k} = - α_{k}^{- 1} g^{k}

$s^k = -\alpha_k^{-1}g^k$

α_{k + 1}

$\alpha_{k+1}$

g^{k} \in V^{*}

$g^k \in V^*$

V^{*}

$V^*$

⟨ g^{k}, g^{k} ⟩_{V^{*}} = ⟨ g^{k}, K g^{k} ⟩_{L_{2}}

$\langle g^k, g^k \rangle _{V^*} = \langle g^k, Kg^k \rangle_{L_2}$

α_{k + 1}

$\alpha_{k+1}$

— NLi10Me

Có, nếu bạn có một cấu trúc không gian vectơ không tầm thường, bạn nên tôn trọng điều đó trong các thuật toán. Cụ thể, bạn nên phân biệt giữa các sản phẩm bên trong của hai chức năng trong cùng một không gian (ví dụ: và ) và các sản phẩm đối ngẫu giữa một chức năng trong không gian và một trong không gian kép (ví dụ: và ) - đối với cái sau, bạn cần bao gồm ánh xạ Riesz để biến nó thành sản phẩm bên trong trước. (Điều này có thể được hiểu là điều kiện tiên quyết.)

y^{k}

$y^k$

y^{k}

$y^k$

s^{k}

$s^k$

y^{k}

$y^k$

— Christian Clason

Tiến sĩ Clason, tôi sẽ gửi một bài báo cho ISBI 2017 chi tiết một số thí nghiệm tôi đã thực hiện bằng phương pháp tìm kiếm dòng BB + cho một nhiệm vụ đăng ký hình ảnh khác biệt. Bạn có muốn được đưa vào như một tác giả trên bản thảo? Tôi chưa viết nó, nhưng tôi có hầu hết các thí nghiệm hoặc hoàn thành hoặc đang tiến hành. Làm ơn cho tôi biết.

— NLi10Me

@ NLi10Me Cảm ơn bạn đã cung cấp loại này, nhưng tôi chưa làm bất cứ điều gì có thể hợp tác - tất cả mọi thứ tôi viết là tài liệu sách giáo khoa tiêu chuẩn. Nếu bạn cảm thấy mạnh mẽ về điều đó, bạn có thể cảm ơn tôi vì "những nhận xét hữu ích về (bất cứ điều gì có ích)", nhưng thậm chí không cần thiết. Biết rằng những gì tôi viết là hữu ích là đủ!

— Christian Clason

Xin lỗi, bạn nói đúng, đó là một lỗi đánh máy - đã sửa! (Điều kiện Armijo thường được viết là , trong đó là hướng tìm kiếm - không nhất thiết là âm độ dốc - và kích thước bước, sẽ làm rõ hơn những gì đang diễn ra.)

f (x + σ s) - f (x) \leq γ \nabla f (x)^{T} (σ s)

$f(x+\sigma s) - f(x) \leq \gamma\nabla f(x)^T(\sigma s)$

s

$s$

σ

$\sigma$

— Christian Clason