Là cung cấp độ dốc gần đúng cho một trình tối ưu hóa dựa trên độ dốc vô dụng?

Có phải là vô nghĩa khi sử dụng thuật toán tối ưu hóa dựa trên độ dốc nếu bạn chỉ có thể cung cấp một gradient số? Nếu không, tại sao lại cung cấp một gradient số ở vị trí đầu tiên nếu nó không quan trọng để thực hiện phân biệt hữu hạn cho chính thư viện tối ưu hóa?

[BIÊN TẬP]

• Chỉ cần làm rõ, câu hỏi của tôi thực sự là trong một ý nghĩa chung hơn là một ứng dụng cụ thể. Mặc dù lĩnh vực ứng dụng của tôi xảy ra là khả năng tối ưu hóa theo các khung thống kê khác nhau.

• Vấn đề của tôi với sự khác biệt tự động là dường như luôn luôn có một nhược điểm. Thư viện AD không thể truyền tới các cuộc gọi thư viện bên ngoài (như BLAS) hoặc bạn phải làm lại quy trình công việc của mình mạnh mẽ đến mức gây khó khăn cho việc xử lý ... đặc biệt là nếu bạn đang làm việc với các ngôn ngữ nhạy cảm. Sự kìm kẹp của tôi với AD là một vấn đề riêng biệt hoàn toàn. Nhưng tôi muốn tin!

• Tôi đoán tôi cần phải hình thành tốt hơn câu hỏi của mình nhưng tôi đang làm một công việc tồi tệ. Nếu có một tùy chọn để sử dụng thuật toán tối ưu hóa không có đạo hàm hoặc thuật toán tối ưu hóa dựa trên đạo hàm với sự cảnh báo mà tôi chỉ có thể cung cấp cho nó một độ dốc số, thì trung bình sẽ vượt trội hơn?

Để bổ sung cho câu trả lời xuất sắc của Brian, hãy để tôi cung cấp một chút về nền tảng (biên tập). Các phương thức tối ưu hóa không có đạo hàm được định nghĩa là các phương pháp chỉ sử dụng các đánh giá chức năng và về cơ bản là tất cả các biến thể của "mẫu tập hợp được chấp nhận ít nhiều có hệ thống và lưu giá trị hàm tốt nhất" - đó là tất cả những gì bạn có thể làm với thông tin. Các phương thức này có thể được chia nhỏ trong

1. $1$ về chức năng của bạn, đây là tất cả những gì bạn có thể làm và bạn có thể gặp may mắn.

2. Các phương pháp xác định , trong đó việc lựa chọn các mẫu không phải là ngẫu nhiên, nghĩa là hoàn toàn dựa trên các đánh giá chức năng trước đó. Ví dụ nổi tiếng nhất có lẽ là phương pháp Nelder - Mead Simplex; những người khác đang tạo phương thức tìm kiếm thiết lập . Điều quan trọng là phải nhận ra rằng điều này chỉ có thể hoạt động nếu có bất kỳ mối quan hệ (có thể khai thác) nào giữa giá trị của hàm tại các điểm khác nhau - tức là, một số độ mịn của hàm. Trên thực tế, lý thuyết hội tụ cho, ví dụ, phương pháp Nelder - Mead dựa trên việc xây dựng một sự không đồng nhấtxấp xỉ sai phân hữu hạn của độ dốc dựa trên các giá trị hàm tại các đỉnh của đơn giản và cho thấy rằng nó hội tụ cả độ dốc chính xác và độ 0 khi đơn giản hợp đồng với một điểm. (Biến thể dựa trên xấp xỉ sai phân hữu hạn tiêu chuẩn được gọi là tìm kiếm la bàn .)

3. Các phương thức dựa trên mô hình , trong đó các giá trị hàm được sử dụng để xây dựng mô hình cục bộ của hàm (ví dụ: bằng phép nội suy), sau đó được tối thiểu hóa bằng các phương thức chuẩn (dựa trên độ dốc / Hessian). Do một xấp xỉ sai phân hữu hạn tương đương với đạo hàm chính xác của phép nội suy đa thức, nên cách tiếp cận "gradient số" cổ điển cũng rơi vào lớp này.

Như bạn có thể thấy, ranh giới giữa các lớp này là trôi chảy và thường chỉ là vấn đề giải thích. Nhưng đạo đức cần phải rõ ràng: Đảm bảo bạn sử dụng tất cả thông tin có sẵn về chức năng bạn đang giảm thiểu. Để trích dẫn Cornelius Lanczos:

Việc thiếu thông tin không thể được khắc phục bằng bất kỳ thủ thuật toán học nào.

Rốt cuộc, nếu bạn không biết gì về chức năng của mình, thì nó cũng có thể hoàn toàn ngẫu nhiên và giảm thiểu một giá trị ngẫu nhiên là một việc vặt ...

Nếu mục tiêu của bạn trơn tru, thì việc sử dụng các xấp xỉ sai phân hữu hạn cho đạo hàm thường hiệu quả hơn so với sử dụng thuật toán tối ưu hóa miễn phí phái sinh. Nếu bạn có mã tính toán chính xác các đạo hàm thì thông thường tốt nhất là sử dụng mã đó thay vì sử dụng các xấp xỉ sai phân hữu hạn.

Mặc dù một số thư viện tối ưu hóa sẽ tự động tính toán các xấp xỉ sai phân hữu hạn để bạn tự động sử dụng phương pháp phỏng đoán để xác định các tham số kích thước bước, tốt hơn là sử dụng các thói quen của riêng bạn để tính các xấp xỉ sai phân hữu hạn vì bạn có kiến ​​thức tốt hơn về các kích thước bước thích hợp hoặc vì cấu trúc đặc biệt trong chức năng mà mã của bạn có thể khai thác.

Một tùy chọn khác thường có giá trị trong khi sử dụng các kỹ thuật phân biệt tự động để tạo ra một chương trình con tính toán các dẫn xuất phân tích từ mã nguồn để tự tính toán hàm mục tiêu.

Câu hỏi của bạn hỏi về tối ưu hóa dựa trên độ dốc, vì vậy tôi nghĩ Brian đã đúng. Tôi chỉ chia sẻ, vì hiện tại tôi đang phải vật lộn với điều đó, một số vấn đề.

Các vấn đề với sự khác biệt hữu hạn là 1) hiệu suất, bởi vì bạn phải đánh giá lại chức năng một lần nữa cho mỗi thứ nguyên và 2) có thể khó để chọn kích thước bước tốt. Nếu bước quá lớn, giả định về độ tuyến tính của hàm có thể không giữ được. Nếu bước quá nhỏ, nó có thể chạy vào nhiễu trong chính hàm, vì các đạo hàm khuếch đại nhiễu. Cái sau có thể là một vấn đề thực sự nếu hàm liên quan đến việc giải các phương trình vi phân. Nếu có thể tính toán độ dốc một cách phân tích, hoặc sử dụng các phương trình độ nhạy, nó chắc chắn sẽ chính xác hơn và có thể nhanh hơn.

Có một cách tiếp cận khác mà bạn có thể thử nếu bạn chưa đầu tư quá nhiều thời gian vào phần mềm và đó là chạy nó với số học phức tạp. Nó được gọi là phân biệt bước phức tạp . Ý tưởng cơ bản là khi bạn đánh giá hàm, nếu bạn muốn độ dốc của nó liên quan đến tham số X, bạn đặt phần ảo của X thành một số rất nhỏ eps . Sau khi bạn thực hiện phép tính, phần ảo của giá trị của hàm, chia cho eps , là độ dốc tương ứng với X. Khi bạn muốn độ dốc đối với Y, tất nhiên bạn phải thực hiện lại. Điều thú vị về nó là epscó thể được thực hiện rất nhỏ. Lý do nó hoạt động là các quy tắc thông thường của phép tính vi phân được nhân đôi chính xác trong các quy tắc số học phức tạp.

Điều đó nói rằng, tôi coi nó không phải là thuốc chữa bách bệnh, bởi vì không phải lúc nào cũng dễ dàng thực hiện một hàm phức tạp trong số học phức tạp, sẽ không đáng nếu độ dốc có thể được tính toán một cách phân tích, và trong trường hợp phương trình vi phân, nó chính xác tương đương với phương trình độ nhạy , mà tôi đang làm khi cần thiết.