Giải bài toán bình phương tối thiểu với các ràng buộc tuyến tính trong Python

Tôi cần giải quyết

\begin{aligned} min_{x} ‖ A x - b ‖_{2}^{2}, \\ s . t . & \sum_{i} x_{i} = 1, \\ x_{i} \geq 0, \forall i . \end{aligned}

$\begin{alignat}{1} & \min_{x}\|Ax - b\|^2_{2}, \\ \mathrm{s.t.} & \quad\sum_{i}x_{i} = 1, \\ & \quad x_{i} \geq 0, \quad \forall{i}. \end{alignat}$

Tôi nghĩ rằng đây là một vấn đề bậc hai có thể giải quyết được với CVXOPT , nhưng tôi không thể tìm ra cách nào.

— cho đến
nguồn

Tôi hy vọng câu hỏi này không quá cụ thể cho compsci.

— tillsten

Geoff Oxberry: Chỉ là một sự tò mò, nhưng tại sao bạn lại chỉnh sửa phần tuyến tính? Tôi nghĩ rằng nó là một phần bất lực của mô tả vấn đề, giải pháp sẽ khá khác nhau cho việc tối ưu hóa bình phương tối thiểu phi tuyến tính.

— tillsten

Btw, các chỉnh sửa khác là tuyệt vời!

— tillsten

Bạn có thể dễ dàng giải quyết điều này bằng mã của riêng bạn theo cách rất hiệu quả. Không cần CVXOPT.

— Royi

Câu trả lời:

Tôi đã viết một câu trả lời đầy đủ (bên dưới dòng) trước khi khám phá CVXPY , trong đó (như CVX cho MATLAB) thực hiện tất cả những điều khó khăn cho bạn và có một ví dụ rất ngắn gần giống với bạn ở đây . Bạn chỉ cần thay thế dòng có liên quan với

 p = program(minimize(norm2(A*x-b)),[equals(sum(x),1),geq(x,0)])

Câu trả lời cũ của tôi, làm điều đó theo cách khó hơn với CVXOPT:

Theo đề xuất của Geoff để bình phương hàm mục tiêu của bạn đưa ra

‖ Một x - b ‖_{2}^{2} = = ⟨ x^{T} {Một}^{T} - b^{T}, Một x - b ⟩ = = x^{T} {Một}^{T} Một x - b^{T} Một x - x^{T} Một b - b^{T} b

$\|Ax-b\|^2_2 = \langle x^TA^T - b^T,Ax-b\rangle = x^TA^TAx - b^TAx - x^TAb - b^Tb$

Tất nhiên, tất cả các điều khoản này là vô hướng, vì vậy bạn có thể transpose một thứ ba và thả người cuối cùng (vì nó không phụ thuộc vào và do đó sẽ không thay đổi mà mang đến cho bạn một mức tối thiểu, mặc dù bạn sẽ cần phải thêm nó trở lại sau khi giải để có được giá trị chính xác của mục tiêu của bạn) để có được Điều này (bao gồm các ràng buộc của bạn) có dạng chương trình bậc hai, như được đưa ra trong tài liệu CVXOPT ở đây , nơi cũng có mã ví dụ để giải quyết vấn đề như vậy. $x$ $x$

x^{T} {Một}^{T} Một x - b^{T} (Một + {Một}^{T}) x

$x^TA^TAx - b^T(A + A^T)x$

— David Ketcheson
nguồn

Thay vì vấn đề bạn đã giải quyết, hãy giải quyết

\begin{aligned} \underset{x}{tối thiểu} ‖ Một x - b ‖_{2}^{2}, \\ S . t . & \underset{Tôi}{Σ} x_{Tôi} = = 1, \\ x_{Tôi} \geq 0, \forall Tôi . \end{aligned}

$\begin{alignat}{1} & \min_{x}\|Ax - b\|^{2}_{2}, \\ \mathrm{s.t.} & \quad\sum_{i}x_{i} = 1, \\ & \quad x_{i} \geq 0, \quad \forall{i}. \end{alignat}$

Vấn đề này là một vấn đề tối ưu hóa lồi, phi tuyến khác biệt, có thể được giải quyết trong CVXOPT, IPOPT hoặc bất kỳ bộ giải tối ưu hóa lồi nào khác.

— Geoff Oxberry
nguồn