Lập trình động là gì?

Xin lỗi trước nếu câu hỏi này nghe có vẻ ngu ngốc ...

Theo tôi biết, việc xây dựng một thuật toán sử dụng lập trình động hoạt động theo cách này:

1. diễn đạt vấn đề như một mối quan hệ tái phát;
2. thực hiện mối quan hệ lặp lại hoặc thông qua ghi nhớ hoặc thông qua cách tiếp cận từ dưới lên.

Theo như tôi biết, tôi đã nói mọi thứ về lập trình động. Ý tôi là: lập trình động không đưa ra các công cụ / quy tắc / phương pháp / định lý để thể hiện quan hệ lặp lại, cũng như không biến chúng thành mã.

Vậy, điều gì đặc biệt về lập trình động? Nó mang lại cho bạn điều gì, ngoài một phương pháp mơ hồ để tiếp cận một loại vấn đề nào đó?

Lập trình động cung cấp cho bạn một cách để suy nghĩ về thiết kế thuật toán. Điều này thường rất hữu ích.

Phương pháp ghi nhớ và từ dưới lên cung cấp cho bạn một quy tắc / phương pháp để biến quan hệ lặp lại thành mã. Ghi nhớ là một ý tưởng tương đối đơn giản, nhưng những ý tưởng tốt nhất thường là!

Lập trình động cung cấp cho bạn một cách có cấu trúc để suy nghĩ về thời gian chạy thuật toán của bạn. Thời gian chạy về cơ bản được xác định bởi hai số: số lượng các bài toán con bạn phải giải và thời gian cần thiết để giải từng bài toán con. Điều này cung cấp một cách dễ dàng thuận tiện để suy nghĩ về vấn đề thiết kế thuật toán. Khi bạn có mối quan hệ lặp lại của ứng viên, bạn có thể xem xét nó và nhanh chóng hiểu được thời gian chạy có thể là gì (ví dụ, bạn thường có thể nhanh chóng cho biết sẽ có bao nhiêu bài toán con, giới hạn thấp hơn về thời gian hoạt động, nếu có nhiều bài toán con bạn phải giải theo cấp số nhân, thì việc tái phát có lẽ sẽ không phải là một cách tiếp cận tốt). Điều này cũng giúp bạn loại trừ phân rã ứng viên phụ. Chẳng hạn, nếu chúng ta có một chuỗi , xác định một bài toán con bằng tiền tố S [ 1 .. i ] hoặc hậu tố S [ j . . n ] hoặc chuỗi con S [ i . . j ] có thể hợp lý (số lượng các bài toán con là đa thức trong n ), nhưng việc xác định một bài toán con bằng một phần tiếp theo của S không có khả năng là một cách tiếp cận tốt (số lượng các bài toán con là theo cấp số nhân trong n ). Điều này cho phép bạn cắt tỉa "không gian tìm kiếm" của các đợt tái phát có thể xảy ra.$S[1..n]$$S[1..i]$$S[j..n]$$S[i..j]$$n$$S$$n$

Lập trình động cung cấp cho bạn một cách tiếp cận có cấu trúc để tìm kiếm các mối quan hệ tái phát của ứng viên. Theo kinh nghiệm, phương pháp này thường hiệu quả. Cụ thể, có một số phương pháp phỏng đoán / mẫu chung mà bạn có thể nhận ra đối với các cách phổ biến để xác định các bài toán con, tùy thuộc vào loại đầu vào. Ví dụ:

• Nếu đầu vào là một số nguyên dương , một ứng cử viên cách để xác định một bài toán con là bằng cách thay thế n với một số nguyên nhỏ hơn n ' (st 0 ≤ n ' ≤ n ).$n$$n$$n'$$0 \le n' \le n$

• Nếu đầu vào là một chuỗi , một số cách ứng cử viên để xác định một bài toán con bao gồm: thay S [ 1 .. n ] bằng tiền tố S [ 1 .. i ] ; thay S [ 1 .. n ] bằng hậu tố S [ j . . n ] ; thay S [ 1 .. n ] bằng chuỗi con S [ i . . j $S[1..n]$$S[1..n]$$S[1..i]$$S[1..n]$$S[j..n]$$S[1..n]$$S[i..j]$. (Ở đây, bài toán con được xác định bởi sự lựa chọn của .)$i,j$

• Nếu đầu vào là một danh sách , hãy làm tương tự như bạn làm cho một chuỗi.

• Nếu đầu vào là cây , một cách ứng cử viên để xác định một bài toán con là thay thế T bằng bất kỳ cây con nào của T (nghĩa là chọn một nút x và thay thế T bằng cây con gốc ở x ; biểu đồ con được xác định bởi sự lựa chọn của x ).$T$$T$$T$$x$$T$$x$$x$

• Nếu đầu vào là một cặp , thì hãy xem xét đệ quy loại x và loại y để xác định cách chọn một bài toán con cho mỗi bài. Nói cách khác, một ứng cử viên cách để xác định một bài toán con là để thay thế ( x , y ) bởi ( x ' , y ' ) nơi x ' là một bài toán con cho x và y ' là một bài toán con cho y . (Bạn cũng có thể xem xét các biểu tượng con của biểu mẫu ( x , $(x,y)$$x$$y$$(x,y)$$(x',y')$$x'$$x$$y'$$y$ Hoặc ( x ' , y ) .)$(x,y')$$(x',y)$

Và như vậy. Điều này cung cấp cho bạn một heuristic rất hữu ích: chỉ cần nhìn vào chữ ký loại của phương thức, bạn có thể đưa ra một danh sách các cách ứng cử viên để xác định các bài toán con. Nói cách khác, chỉ bằng cách xem báo cáo vấn đề - chỉ nhìn vào các loại đầu vào - bạn có thể đưa ra một số cách ứng cử viên để xác định một bài toán con.

Điều này thường rất hữu ích. Nó không cho bạn biết mối quan hệ lặp lại là gì, nhưng khi bạn có một lựa chọn cụ thể về cách xác định bài toán con, thường thì không quá khó để tìm ra mối quan hệ lặp lại tương ứng. Vì vậy, nó thường biến thiết kế của một thuật toán lập trình động thành một trải nghiệm có cấu trúc. Bạn viết ra giấy phế liệu một danh sách các cách ứng cử viên để xác định các bài toán con (sử dụng phương pháp phỏng đoán ở trên). Sau đó, đối với mỗi ứng cử viên, bạn cố gắng viết ra một mối quan hệ lặp lại và đánh giá thời gian chạy của nó bằng cách đếm số lượng các bài toán con và thời gian dành cho mỗi bài toán con. Sau khi thử từng ứng cử viên, bạn giữ một ứng cử viên tốt nhất mà bạn có thể tìm thấy. Cung cấp một số cấu trúc cho quy trình thiết kế thuật toán là một trợ giúp lớn, vì nếu không thì thiết kế thuật toán có thể đáng sợ (có '

Sự hiểu biết của bạn về lập trình động là chính xác ( afaik ), và câu hỏi của bạn là hợp lý.

Tôi nghĩ rằng không gian thiết kế bổ sung mà chúng ta có được từ loại tái phát mà chúng ta gọi là "lập trình động" có thể được nhìn thấy rõ nhất so với các sơ đồ khác của phương pháp đệ quy.

Hãy giả vờ đầu vào của chúng tôi là mảng để làm nổi bật các khái niệm.$A[1..n]$

1. Cách tiếp cận quy nạp

   Ở đây, ý tưởng là làm cho vấn đề của bạn nhỏ hơn, giải quyết phiên bản nhỏ hơn và tìm ra giải pháp cho bản gốc. Sơ đồ,

   $\qquad f(A) = g\bigl( f(A[1..n-c]), A \bigr)$

   với hàm / thuật toán dịch giải pháp.$g$

   Ví dụ: Tìm siêu sao trong thời gian tuyến tính

2. Phân chia & chinh phục

   Phân vùng đầu vào thành nhiều phần nhỏ hơn, giải quyết vấn đề cho từng phần và kết hợp. Sơ đồ (cho hai phần),

   .$\qquad f(A) = g\bigl(f(A[1..c]), f(A[c+1..n]), A\bigr)$

   Ví dụ: Hợp nhất- / Quicksort, Khoảng cách cặp ngắn nhất trong mặt phẳng

3. Lập trình năng động

   Xem xét tất cả các cách phân vùng vấn đề thành các vấn đề nhỏ hơn và chọn cách tốt nhất. Sơ đồ (cho hai phần),

   .$\qquad f(A) = \operatorname{best} \Bigl\{ g\bigl(f(A[1..c]), f(A[c+1..n])\bigr) \Bigm| 1 \leq c \leq n-1 \Bigr\}$

   Ví dụ: Chỉnh sửa khoảng cách, Vấn đề thay đổi

   Lưu ý bên quan trọng: lập trình động không phải là vũ phu ! Việc áp dụng trong từng bước làm giảm đáng kể không gian tìm kiếm.$\operatorname{best}$

Theo một nghĩa nào đó, bạn biết ngày càng ít đi tĩnh từ trên xuống dưới và phải đưa ra quyết định ngày càng nhiều hơn một cách linh hoạt.

Bài học từ việc học về lập trình động là bạn có thể thử tất cả các phân vùng có thể (tốt, nó cần cho tính chính xác) bởi vì nó vẫn có thể hiệu quả bằng cách sử dụng ghi nhớ.

Lập trình động cho phép bạn trao đổi bộ nhớ trong thời gian tính toán. Hãy xem xét ví dụ cổ điển, Fibonacci.

$Fib(n)=Fib(n-1)+Fib(n-2)$$O(2^n)$$Fib(\cdot)$$n$

$Fib(2)$$Fib(3)$$Fib(4)$$O(n)$

$m$$m$

Đây là một cách khác để diễn đạt những gì lập trình động mang lại cho bạn. Lập trình động thu gọn một số lượng lớn các giải pháp ứng viên thành một số đa thức các lớp tương đương, sao cho các giải pháp ứng viên trong mỗi lớp không thể phân biệt theo một nghĩa nào đó.

$k$$A$$n$$2^n$$O(n^2)$$f(i, \ell)$$i$$\ell$

$O(n^2k)$.