Các thuật toán chính xác cho lập trình bậc hai không lồi

Câu hỏi này là về các vấn đề lập trình bậc hai với các ràng buộc hộp (hộp-QP), nghĩa là các vấn đề tối ưu hóa của biểu mẫu

thu nhỏ chủ đề cho . $f(\mathbf{x}) = \mathbf{x}^T A \mathbf{x} + \mathbf{c}^T \mathbf{x}$ $\mathbf{x} \in [0,1]^n$

Nếu là bán xác định dương, thì mọi thứ sẽ tốt đẹp và lồi và dễ dàng, và chúng ta có thể giải quyết vấn đề trong thời gian đa thức. $A$

Mặt khác, nếu chúng ta có ràng buộc tích phân , chúng ta có thể dễ dàng giải quyết vấn đề trong thời gian bằng vũ lực. Đối với mục đích của câu hỏi này, điều này là nhanh chóng hợp lý. $\mathbf{x} \in \{0,1\}^n$ $O(2^n \cdot \mathrm{poly}(n))$

Nhưng những gì về trường hợp liên tục không lồi? Thuật toán được biết đến nhanh nhất cho hộp-QP chung là gì?

Ví dụ, chúng ta có thể giải quyết những điều này trong thời gian theo cấp số nhân vừa phải, ví dụ: , hoặc độ phức tạp trong trường hợp xấu nhất của các thuật toán được biết đến nhiều nhất có gì tệ hơn không? $O(3^n \cdot \mathrm{poly}(n))$

Bối cảnh: Tôi có một số QP hộp khá nhỏ mà tôi thực sự muốn giải quyết, và tôi hơi ngạc nhiên khi thấy một số gói phần mềm thương mại hoạt động kém như thế nào, ngay cả đối với các giá trị rất nhỏ của . Tôi bắt đầu tự hỏi nếu có một lời giải thích TCS cho quan sát này. $n$

ds.algorithms optimization exp-time-algorithms

— Jukka Suomela
nguồn

Bạn có thể giải quyết chính xác ngay cả cho PSD

? Các giải pháp có thể là không hợp lý, không? Nếu bạn sẵn sàng để mất phụ

có lẽ người ta có thể nhận được một thuật toán thời gian theo cấp số nhân bằng cách thực hiện tìm kiếm brute-force trên một mạng lưới đủ tốt. Chỉ là một gợi ý mơ hồ.

A

$A$

ϵ

$\epsilon$

— Chandra Chekuri

Nhược điểm là các "cơ sở" của mũ sẽ là một cái gì đó giống như

, nhưng có lẽ kỹ thuật lưới điện thông minh có thể giúp cho "nhỏ"

1 / ϵ

$1/\epsilon$

n

$n$

— Suresh Venkat

@ChandraChekuri: xấp xỉ là hoàn toàn tốt đẹp nếu bạn có thể đạt được, ví dụ như,

. Tuy nhiên, vũ phu buộc trên một lưới tốt như vậy là không khả thi.

ϵ = 10^{- 9}

$\epsilon = 10^{-9}$

— Jukka Suomela

Bằng cách loại bỏ định lượng trên các trường kín thực sự, luôn có thể giải quyết chính xác các hệ thống này.

Nếu

được cho phép, bạn có thể tối ưu hóa chức năng trên mỗi mặt của khối lập phương chỉ bằng cách viết ra các tiêu chí tối ưu bậc nhất.

O (3^{n})

$O(3^n)$

— Yoshio Okamoto

Một giải pháp tối ưu nằm trên một số khuôn mặt. Vì vậy, chúng ta có thể đi qua tất cả các mặt của khối lập phương và tìm thấy tất cả các điểm dừng trên mỗi mặt.

Đây là một thủ tục cụ thể hơn. Một mặt của khối lập phương có thể được đặc trưng bởi hai bộ chỉ số rời rạc và . Đối với , chúng tôi sửa chữa , và cho chúng tôi sửa chữa . Đặt bao gồm các mục không trộn còn lại của . Việc sửa lỗi này biến hàm mục tiêu thành dạng sau: $I_0$ $I_1$ $i \in I_0$ $x_i = 0$ $i \in I_1$ $x_i = 1$ $\tilde{x}$ $x$

{\tilde{x}}^{⊤} \tilde{Một} \tilde{x} + {\tilde{c}}^{⊤} \tilde{x} + d,

$\tilde{x}^{\top} \tilde{A} \tilde{x} + \tilde{c}^{\top} \tilde{x} + d,$

với thích hợp và , và một số không đổi , và chúng tôi muốn tìm ra điểm dừng của chức năng này với điều kiện . $\tilde{A}$ $\tilde{c}$ $d$ $0 < \tilde{x} < 1$

Để kết thúc này, chúng ta lấy sự khác biệt của hàm mục tiêu để có được

\frac{1}{2} \tilde{Một} \tilde{x} + \tilde{c} = = 0.

$\frac{1}{2} \tilde{A} \tilde{x} + \tilde{c} = 0.$

Việc giải hệ phương trình tuyến tính này cung cấp cho bạn các điểm dừng, các ứng cử viên cho các giải pháp tối ưu. Chúng tôi đi qua tất cả chúng, kiểm tra điều kiện và chọn một cái có giá trị mục tiêu tối thiểu.

Độ phức tạp thời gian tổng thể là một cái gì đó giống như vì số mặt của -cube là và một hệ phương trình tuyến tính có thể được giải trong thời gian đa thức. Độ phức tạp không gian là đa thức trong . $O(3^n \text{poly}(n))$ $n$ $3^n$ $n$

— Yoshio Okamoto
nguồn

Tại sao một giải pháp tối ưu nằm trên một số mặt với một

không lồi ?

f

$f$

— cody

@cody: Đó là bởi vì mọi đa giác là sự kết hợp rời rạc của khuôn mặt.

— Yoshio Okamoto

f

$f$

@cody: Tài sản vẫn giữ, nhưng chúng ta cần giải phương trình đại số bậc hơn một. Tôi sợ điều này không tầm thường đối với các trường hợp đa biến.

— Yoshio Okamoto