Tên của một phương pháp tối ưu hóa để giảm kích thước của không gian biến


8

Tôi đang xử lý một vấn đề tối ưu hóa có số lượng biến lớn để tối ưu hóa - ví dụ: hãy gọi các biến này là , yz và tôi muốn giảm thiểu hàm f ( x , y , z ) . Phương pháp tối ưu hóa mà tôi đang sử dụng không thể xử lý tối ưu hóa tất cả các biến cùng một lúc. Thay vào đó, tôi đơn giản hóa vấn đề bằng cách tối ưu hóa một biến duy nhất tại một thời điểm trong khi vẫn giữ các biến khác cố định.xyzf(x,y,z)

Tức là tôi sửa z = z 0 và sau đó tối ưu hóa chức năng chỉ hơn x . Tối ưu hóa 1D Điều này mang lại một số giá trị tối ưu x * . Sau đó tôi sửa chữa x = x * , z = z 0 , sau đó tối ưu hóa trên y . Tôi nhận ra rằng điều này không nhất thiết phải cung cấp cho tôi một giải pháp tối ưu toàn cầu nhưng nó sẽ mang lại mức tối thiểu cục bộ.y=y0z=z0xxx=xz=z0y

Tôi tự hỏi tên của phương pháp này là gì và nơi tôi có thể tìm thấy bất kỳ thông tin nào về nó. Ngoài ra nếu có một cộng đồng thích hợp hơn để hỏi, xin vui lòng cho tôi biết. Cảm ơn

Chỉnh sửa: tối ưu hóa được tiến hành trên , sau đó y , sau đó z , rồi x , và cho đến khi giải pháp hội tụ.xyzx


Câu trả lời:


9

Đây là phối hợp gốc . Tôi tin rằng nó được sử dụng cho các vấn đề quy mô rất lớn khi các phương pháp khác như giảm độ dốc có thể quá chậm (ví dụ: http://epub.siam.org/doi/abs/10.1137/100802001 ). Nó sẽ hội tụ đến mức tối thiểu cục bộ, nhưng nó cũng sẽ đòi hỏi nhiều bước hơn so với các phương thức như phương pháp giảm độ dốc hoặc kiểu Newton.


4

Cách tiếp cận bạn mô tả ban đầu (chỉ một lần lặp tối ưu hóa trong mỗi ba biến x, y, z) không được đảm bảo để hội tụ đến giải pháp tối ưu trừ khi F (x, yz) có thể phân tách thành các hàm đơn biến. Do đó, những gì bạn mô tả không phải là "phương pháp" tối ưu hóa về mặt kỹ thuật, mà là "phương pháp heuristic" tối ưu hóa, tương tự như phương pháp tách toán tử hoặc phương pháp ẩn hướng xen kẽ (ADI).


Bạn nói đúng là phương pháp này không được đảm bảo để đạt được giải pháp tối ưu. Hàm mà tôi đang cố gắng giảm thiểu là không lồi với nhiều cực tiểu cục bộ. Do đó, tôi hài lòng với việc tìm kiếm một mức tối thiểu cục bộ và không nhất thiết là giải pháp tối ưu. Tôi vẫn tò mò liệu heuristic này đã được sử dụng trước đây trong văn học chưa
user69813

Nó thậm chí không được đảm bảo để tìm một mức tối thiểu cục bộ, hoặc thậm chí bất cứ thứ gì ở gần nó.
Paul

@Paul, tôi nghĩ rằng các phương thức hội tụ cho các hàm trơn tru: "Có thể thấy rằng chuỗi này có các đặc tính hội tụ tương tự như gốc dốc nhất. Không cải thiện sau một chu kỳ tìm kiếm đường dọc theo hướng tọa độ có nghĩa là đạt được điểm dừng." Tài liệu tham khảo này thảo luận về nó.
nicoguaro

3
@nicoguaro Tôi nghĩ trước khi chỉnh sửa của OP, có vẻ như phương thức này chỉ thực hiện một lần lặp lại, sau đó dừng lại. Tôi cũng hơi bối rối.
Kirill

@Kirill, tôi hiểu. Tôi sẽ xóa bình luận của tôi sau đó. Mặt khác, nếu câu hỏi thay đổi thì nên làm câu trả lời, không?
nicoguaro
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.