Một bằng chứng trực quan / không chính thức cho LP Duality?

Điều gì sẽ là một bằng chứng không chính thức / trực quan để 'đánh vào điểm chính' về tính đối ngẫu LP? Làm thế nào tốt nhất để chỉ ra rằng hàm mục tiêu tối thiểu hóa thực sự là tối thiểu với cách hiểu trực quan về ràng buộc?

Cách tôi được dạy Nhị nguyên chỉ dẫn đến một sự hiểu biết mà tôi chắc chắn được chia sẻ bởi rất nhiều người mà tôi biết: Đối với mọi vấn đề tối thiểu hóa tương ứng, có một vấn đề tối đa hóa tương đương có thể xuất phát bằng cách đảo ngược các ràng buộc bất bình đẳng. Giai đoạn = Stage. "Kết luận" về tính đối ngẫu này là những gì dường như gắn bó nhưng không phải "tại sao lại như vậy" (tức là làm thế nào / tại sao lại có ràng buộc về giải pháp tối ưu).

Có cách nào để chơi với sự bất bình đẳng chỉ để 'hiển thị' giới hạn dưới / trên về mức tối ưu có thể là động lực cho bằng chứng không?

Tôi đã xem qua cuốn sách của Chvirth cũng như một vài cuốn khác nhưng không tìm thấy điều gì có thể hiểu được bằng cách noobs tuyệt đối với LP. Điểm gần nhất mà tôi có được là từ cuốn sách về thuật toán của Vazirani, nơi ông nói về 'nhân các bất đẳng thức với một số số ma thuật cho thấy ràng buộc' - Tôi không chắc cách tái tạo hiệu ứng cho LP tùy ý.

Theo mong muốn của OP, đây là toán học. Câu trả lời tôi liên kết đến trong nhận xét của tôi ở trên.

---

Có lẽ thật đáng để nói về vấn đề kép xuất phát từ một vấn đề mẫu. Điều này sẽ mất một lúc, nhưng hy vọng rằng kép sẽ không có vẻ bí ẩn khi chúng ta hoàn thành.

Giả sử có một vấn đề nguyên thủy như sau.

$$Primal =\begin{Bmatrix} \max \ \ \ \ 5x_1 - 6x_2 \\ \ \ \ s.t. \ \ \ \ 2x_1 -x_2 = 1\\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ x_1 +3x_2 \leq9\\ \ \ \ \ x_1 \geq 0\\ \end{Bmatrix}$$

---

Bây giờ, giả sử chúng ta muốn sử dụng các ràng buộc của số nguyên tố như một cách để tìm giới hạn trên của giá trị tối ưu của số nguyên tố. Nếu chúng ta nhân ràng buộc thứ nhất với , ràng buộc thứ hai với 1 và cộng chúng lại với nhau, chúng ta sẽ nhận được 9 ( 2 x 1 - x 2 ) + 1 ( x 1 + 3 x 2 ) cho phía bên trái và 9 ( 1 ) + 1 ( 9 ) cho phía bên tay phải. Vì ràng buộc thứ nhất là một đẳng thức và thứ hai là bất đẳng thức, nên điều này hàm ý$9$$1$$9(2x_1 - x_2) + 1(x_1 +3 x_2)$$9(1) + 1(9)$ Nhưng kể từ x 1 ≥ 0 , nó cũng đúng là 5 x 1 ≤ 19 x 1 , và do đó 5 x 1 - 6 x 2 ≤ 19 x 1 - 6 x 2 ≤ 18. Do đó , 18 là giới hạn trên của giá trị tối ưu của bài toán nguyên hàm. $$19x_1 - 6x_2 \leq 18.$$ $x_1 \geq 0$$5x_1 \leq 19x_1$ $$5x_1 - 6x_2 \leq 19x_1 - 6x_2 \leq 18.$$ $18$

Chắc chắn chúng ta có thể làm tốt hơn thế. Thay vì chỉ đoán và 1 là bội số, hãy để chúng là biến. Vì vậy chúng tôi đang tìm kiếm nhân y 1 và y 2 để buộc 5 x 1 - 6 x 2 ≤ y 1 ( 2 x 1 - x 2 ) + y 2 ( x 1 + 3 x 2 ) ≤ y 1 ( 1 ) + y $9$$1$$y_1$$y_2$

$$5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9).$$

Bây giờ, để cặp bất đẳng thức này được giữ vững, điều gì phải đúng về và y 2 ? Chúng ta hãy thực hiện hai bất đẳng thức một lần.$y_1$$y_2$

---

Bất đẳng thức thứ nhất : $5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2)$

Chúng ta phải theo dõi các hệ số của các biến và x 2 riêng biệt. Đầu tiên, chúng ta cần tổng hệ số x 1 ở phía bên tay phải ít nhất là 5 . Bắt chính xác 5 sẽ là tuyệt vời, nhưng kể từ khi x 1 ≥ 0 , bất cứ điều gì lớn hơn 5 cũng sẽ đáp ứng sự bất bình đẳng cho x 1 . Nói về mặt toán học, phương tiện này mà chúng ta cần 2 y 1 + y 2 ≥ 5 .$x_1$$x_2$$x_1$$5$$5$$x_1 \geq 0$$5$$x_1$$2y_1 + y_2 \geq 5$

Mặt khác, để đảm bảo sự bất bình đẳng cho biến chúng ta cần tổng hệ số x 2 ở phía bên tay phải chính xác - 6 . Vì x 2 có thể dương, nên chúng tôi không thể xuống thấp hơn - 6 và vì x 2 có thể âm, nên chúng tôi không thể tăng cao hơn - 6 (vì giá trị âm cho x 2 sẽ lật theo hướng bất bình đẳng) . Vì vậy, để bất đẳng thức đầu tiên hoạt động cho biến x 2 , chúng ta phải có - y 1 + 3 $x_2$$x_2$$-6$$x_2$$-6$$x_2$$-6$$x_2$$x_2$ .$-y_1 + 3y_2 = -6$

---

Bất đẳng thức thứ hai : $y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9)$

Ở đây chúng ta phải theo dõi các biến và y 2 riêng biệt. Các biến y 1 đến từ ràng buộc đầu tiên, đó là một ràng buộc đẳng thức. Không có vấn đề gì nếu y 1 là dương hay âm, ràng buộc bình đẳng vẫn giữ. Do đó y 1 không bị hạn chế trong dấu hiệu. Tuy nhiên, y $y_1$$y_2$$y_1$$y_1$$y_1$$y_2$biến xuất phát từ ràng buộc thứ hai, là một ràng buộc nhỏ hơn hoặc bằng với ràng buộc. Nếu chúng ta nhân các ràng buộc thứ hai với một số âm sẽ lật hướng của nó và thay đổi nó thành một ràng buộc lớn hơn hoặc bằng. Để tiếp tục với mục tiêu giới hạn trên của chúng tôi, chúng tôi không thể để điều đó xảy ra. Vì vậy, biến không thể âm. Do đó chúng ta phải có y 2 ≥ 0 .$y_2$$y_2 \geq 0$

Cuối cùng, chúng tôi muốn làm cho phía bên phải của bất đẳng thức thứ hai càng nhỏ càng tốt, vì chúng tôi muốn giới hạn trên chặt nhất có thể trên mục tiêu nguyên thủy. Vì vậy, chúng tôi muốn giảm thiểu .$y_1 + 9y_2$

---

$y_1$$y_2$

$$\begin{align*} \text{Minimize }\:\:\:\:\: y_1 + 9y_2& \\ \text{subject to }\:\:\:\:\: 2y_1 + y_2& \geq 5 \\ -y_1 + 3y_2& = -6\\ y_2 & \geq 0. \end{align*}$$

Và đó là kép.

---

Có lẽ đáng để tóm tắt ý nghĩa của lập luận này cho tất cả các dạng có thể có của nguyên hàm và kép. Bảng dưới đây được lấy từ p. 214 của Giới thiệu về Nghiên cứu hoạt động , phiên bản thứ 8, của Hillier và Lieberman. Họ gọi phương pháp này là phương pháp SOB, trong đó SOB là viết tắt của Sensible, Odd hoặc Bizarre, tùy thuộc vào khả năng người ta sẽ tìm thấy hạn chế cụ thể hoặc hạn chế biến trong vấn đề tối đa hóa hoặc tối thiểu hóa.

             Primal Problem                           Dual Problem
             (or Dual Problem)                        (or Primal Problem)

             Maximization                             Minimization

Sensible     <= constraint            paired with     nonnegative variable
Odd          =  constraint            paired with     unconstrained variable
Bizarre      >= constraint            paired with     nonpositive variable

Sensible     nonnegative variable     paired with     >= constraint
Odd          unconstrained variable   paired with     = constraint
Bizarre      nonpositive variable     paired with     <= constraint

$x$$x = B$$x$$x \leq C$$C$$B \leq \min C$$B$$B = \min C$$B$$B$

$f$$f$$S,O$$f(S) \geq (1-1/e) f(O)$$f$$f$$f(O) = 1$$f(S)$$\min f(S) = 1-1/e$$1-1/e$$f(S) \geq 1-1/e$

Điều này mở ra câu hỏi tại sao đối ngẫu mạnh mẽ thực sự nắm giữ. Có hai bằng chứng về thực tế này cho lập trình tuyến tính, một bằng chứng liên quan đến thuật toán đơn giản, bổ đề của Farkas khác. Bổ đề của Farkas có lẽ là cách "chính xác" để hiểu tình huống, giảm mọi thứ thành một số thực tế hình học trực quan. Tuy nhiên, tôi thú nhận rằng trực giác này đi qua đầu tôi.

Trong các tình huống chung hơn (giả sử lập trình semidefinite), bạn cần sử dụng các điều kiện Karush-Kuhn-Tucker tổng quát hơn (một dạng số nhân Lagrange) để có được tính kép và điều kiện cho tính hai mặt mạnh mẽ. Điều này được xử lý trong các văn bản về tối ưu hóa phi tuyến tính hoặc lồi.