Trong khoa học máy tính, chúng ta thường phải giải quyết các mối quan hệ lặp lại , đó là tìm một dạng đóng cho một dãy số được xác định đệ quy. Khi xem xét thời gian chạy, chúng tôi thường quan tâm chủ yếu đến sự tăng trưởng tiệm cận của chuỗi .

Ví dụ là

1. Thời gian chạy của hàm đệ quy đuôi bước xuống $0$ từ $n$ mà cơ thể mất thời gian :$f(n)$

   $\qquad \begin{align} T(0) &= 0 \\ T(n+1) &= T(n) + f(n) \end{align}$

2. Các Fibonacci sequence :

   $\qquad \begin{align} F_0 &= 0 \\ F_1 &= 1 \\ F_{n+2} &= F_n + F_{n+1} \end{align}$

3. Số lượng từ Dyck với cặp ngoặc đơn:$n$

   $\qquad\begin{align} C_0 &= 1 \\ C_{n+1}&=\sum_{i=0}^{n}C_i\,C_{n-i} \end{align}$

4. Thời gian chạy hợp nhất lặp lại trên danh sách độ dài :$n$

   $\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= T(\lfloor n/2\rfloor) + T(\lceil n/2\rceil) + n-1 \end{align}$

Phương pháp để giải quyết quan hệ tái phát là gì? Chúng tôi đang tìm kiếm

• phương pháp chung và
• phương thức cho một lớp con quan trọng

cũng như

• phương pháp mang lại giải pháp chính xác và
• phương pháp cung cấp (giới hạn trên) tăng trưởng tiệm cận.

^{Điều này được cho là để trở thành một câu hỏi tham khảo. Vui lòng gửi một câu trả lời cho mỗi phương pháp và cung cấp một mô tả chung cũng như một ví dụ minh họa.}

Chuyển đổi toàn bộ lịch sử sang lịch sử hạn chế

Đây là bước đầu tiên trong việc giải quyết các lần lặp lại trong đó giá trị tại bất kỳ số nguyên nào phụ thuộc vào các giá trị ở tất cả các số nguyên nhỏ hơn. Ví dụ, xem xét sự tái phát

$$T(n) = n + \frac{1}{n}\sum_{k=1}^n \big(T(k-1) + T(n-k)\big)$$ phát sinh trong phân tíchquicksort ngẫu nhiên. (Ở đây,$k$là thứ hạng của trục được chọn ngẫu nhiên.) Với mọi số nguyên$n$, giá trị của$T(n)$phụ thuộc vào tất cả$T(k)$với$k<n$. Tái phát của hình thức này được gọi làtái phátlịch sử đầy đủ.

Để giải quyết sự tái phát này, chúng ta có thể chuyển đổi nó thành một đợt tái phát lịch sử hạn chế , trong đó $T(n)$ phụ thuộc vào một số lượng không đổi các giá trị trước đó. Nhưng trước tiên, nó giúp đơn giản hóa việc tái phát một chút, để thu thập các thuật ngữ phổ biến và loại bỏ các phân số phiền phức.

$$\begin{align*} n T(n) &= n^2 + 2\sum_{k=1}^{n-1} T(k) \end{align*}$$ Bây giờ chuyển sang một tái phát hạn chế lịch sử, chúng tôi ghi lại tái diễn cho$T(n-1)$, trừ, và regather ngữ: $$\begin{align*} (n-1) T(n-1) &= (n-1)^2 + 2\sum_{k=1}^{n-2} T(k) \\ \implies nT(n) - (n-1)T(n-1) &= (2n-1) + 2T(n-1) \\[1ex] \implies n T(n) &= (2n-1) + (n+1) T(n-1) \\[1ex] \implies \frac{T(n)}{n+1} &= \frac{2n-1}{n(n+1)} + \frac{T(n-1)}{n} \end{align*}$$

Bây giờ nếu chúng ta xác định $t(n) = T(n)/(n+1)$ và thay thế phân số$\frac{2n-1}{n(n+1)}$ với dạng tiệm cận đơn giản hơn$\Theta(1/n)$, chúng ta thu được tái phát đơn giản hơn nhiều

$$t(n) = \Theta(1/n) + t(n-1).$$ Mở rộng sự tái phát này thành một tổng kết ngay lập tức cho chúng ta$t(n) = \Theta(H_n) = \Theta(\log n)$, trong đó$H_n$ làsố hàithứ . Chúng tôi kết luận rằng T ( n ) = Θ ( n log n ) .$n$$\boldsymbol{T(n) = \Theta(n\log n)}$

Tạo hàm$\newcommand{\nats}{\mathbb{N}}$

Mỗi dãy số tương ứng với một hàm tạo . Nó thường có thể được lấy một cách thoải mái từ sự tái phát để có các hệ số của nó - các phần tử của chuỗi - được gảy.

Câu trả lời này bao gồm ansatz chung với một ví dụ hoàn chỉnh, lối tắt cho trường hợp đặc biệt và một số lưu ý về việc sử dụng phương pháp này để thu được tiệm cận (ngay cả khi không thể có được kết quả chính xác).

Phương pháp

Đặt một dãy số. Sau đó, loạt quyền lực chính thức$(a_n)_{n\in\nats}$

$\qquad \displaystyle A(z) = \sum_{n=0}^\infty a_nz^n$

là hàm tạo thông thường ¹ của . Các hệ số trong khai triển chuỗi của bằng chuỗi, tức là . Ví dụ, chức năng tạo thông thường của nổi tiếng A ( z ) [ z n ] A ( z ) = a n C $(a_n)_{n\in\nats}$$A(z)$$[z^n]A(z) = a_n$ số Catalan là$C_n$

$\qquad \displaystyle C(z) = \frac{1 - \sqrt{1 - 4z}}{2z}$ .

Định nghĩa của $A$ cũng là ansatz của chúng tôi để giải quyết sự tái phát. Điều này hoạt động tốt nhất cho các đợt tái phát tuyến tính, vì vậy, giả sử vì đơn giản là sự tái phát của biểu mẫu

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= f(n) + \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

đối với một số và một hàm độc lập với tất cả . Bây giờ chúng ta chỉ cần chèn cả neo và phần đệ quy vào ansatz, nghĩa là f ( n ) : N → N một $b_1, \dots, b_k \in \mathbb{R}$$f(n) : \nats \to \nats$$a_i$

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_nz^n \\ &= c_0z^0 + c_1z^1 + \dots + c_{k-1}z^{k-1} + \sum_{n=k}^\infty \left[ f(n) + \left(\sum_{i=1}^k b_i a_{n-i}\right)\right] z^n \end{align}$

Sử dụng các cơ chế của thao tác tổng, các thuộc tính của chuỗi lũy thừa chính thức và các danh tính đã biết ², phía bên phải cuối cùng phải được đưa vào các dạng đóng, điển hình là theo . Phương trình kết quả có thể (thường) được giải choA ( z $A(z)$$A(z)$ . Việc mở rộng chuỗi kết quả (có thể dễ dàng thu được, được biết hoặc có thể tiếp cận được) về cơ bản là giải pháp.

Giới thiệu tốt có thể được tìm thấy trong cuốn sách của Wilf [3] và trong GKP [4]. Vật liệu tiên tiến đã được thu thập bởi Flajolet và Sedgewick [5].

Thí dụ

Xem xét

$\qquad \begin{align} a_0 &= 1 \\ a_1 &= 2 \\ a_n &= 5n + 3a_{n-1} - 2a_{n_2} \qquad , n > 1 \end{align}$

Chúng tôi tính toán:

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_n z^n \\ &= 1 + 2z + \sum_{n=2}^\infty \left[ 3a_{n-1} - 2a_{n-2} + 5n\right]z^n \\ &= 1 + 2z + 3\sum_{n=2}^\infty a_{n-1}z^n - 2\sum_{n=2}^\infty a_{n-2}z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z\sum_{n=1}^\infty a_nz^n - 2z^2\sum_{n=0}^\infty a_n z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z(A(z) - a_0) - 2z^2A(z) + 5 \left( \frac{z}{(1-z)^2} - z\right) \\ &= 1 - 6z + (3z - 2z^2)A(z) + \frac{5z}{(1-z)^2} \end{align}$

Điều này giải quyết

$\qquad \begin{align} A(z) &= \frac{1 - 3z + 13z^2 - 6z^3}{(1-2z)(1-z)^3} \\ &= \frac{16}{1-2z} - \frac{5}{1-z} - \frac{5}{(1-z)^2} - \frac{5}{(1-z)^3} \\ &= 16\sum_{n=0}^\infty 2^n z^n - 5\sum_{n=0}^\infty z^n - 5 \sum_{n=0}^\infty (n+1) z^n - 5\sum_{n=0}^\infty \frac{(n+1)(n+2)}{2} z^n \end{align}$

Bây giờ chúng ta cuối cùng cũng có thể đọc được

$\qquad \begin{align} a_n &= 16 \cdot 2^n - 5 - 5(n+1) - \frac{5}{2}(n+1)(n+2) \\ &= 2^{n+4} - \frac{5}{2}n^2 - \frac{25}{2}n - 15 \end{align}$

Khi bạn đã quen với nó , bạn nhận thấy rằng đây là tất cả các máy móc. Trong thực tế, đại số máy tính có thể làm tất cả những thứ này cho bạn trong nhiều trường hợp. Điều tốt là nó vẫn còn (ít nhiều) cơ học đó ngay cả khi sự tái phát phức tạp hơn. Xem ở đây để có một ví dụ liên quan nhiều hơn, ít máy móc hơn.

Cũng lưu ý rằng các kỹ thuật chung cũng hoạt động nếu các đối tượng tìm kiếm là số phức, hoặc thậm chí là đa thức.

Một lối tắt

Đối với các đợt tái phát tuyến tính và đồng nhất, nghĩa là như vậy

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

ở trên đi qua chính xác theo cùng một cách, mọi lúc. Bằng cách thực hiện tính toán trên một cách tượng trưng, ​​chúng tôi tìm thấy bổ đề sau . Để cho

$\qquad \displaystyle z^k - b_1 z^{k-1} - b_2 z^{k-2} - \dots - b_k$

là đa thức đặc trưng (của sự tái phát). Ngoài ra, hãy thêm các số không (khác biệt theo cặp) của đa thức đã nói với bội số , tương ứng. Sau đó, hệ số mong muốn được đưa ra bởir $\lambda_1, \dots, \lambda_l$$r_i$

$\qquad \displaystyle a_n = \sum_{i=1}^l \sum_{j=1}^{r_i} b_{i,j} \cdot n^{j-1} \cdot \lambda_i^n$

không rõ . Vì đa thức đặc trưng có độ , nên có các số 0 (phức) chính xác , tức là tổng thành . Do đó, các hệ số bị thiếu có thể được xác định bằng cách giải hệ phương trình tuyến tính với phương trình thu được bằng cách đánh công thức trên với bất kỳ nào của (ví dụ: các neo). k k r i k k k a $b_{i,j}$$k$$k$$r_i$$k$$k$$k$$a_n$

Tiệm cận

Đến dạng đóng cho thường là phần dễ dàng. Thể hiện nó trong việc tạo các hàm, chúng ta biết các hệ số của (như chúng ta đã làm trong ví dụ) nhanh chóng trở nên khó khăn. Ví dụ là từ phía trên và một từ cho số lượng từ Dyck được đề cập trong câu hỏi.C ( z $A(z)$$C(z)$

Người ta có thể sử dụng máy móc phân tích phức tạp, đặc biệt là phân tích đơn lẻ, để có được các tiệm cận cho các hệ số; buzzwords bao gồm phương pháp của Darboux và phương pháp điểm yên ngựa. Chúng dựa trên định lý dư lượng và công thức tích phân của Cauchy . Xem [6] để biết chi tiết.

---

1. Bạn có thể làm những điều tương tự với hàm mũ , Dirichlet và một số hàm tạo khác . Cái nào hoạt động tốt nhất phụ thuộc vào trình tự trong tay và đặc biệt là bạn có tìm thấy các hình thức đóng cần thiết hay không.
2. Ví dụ từ Bảng Cheat TCS hoặc [3].
3. tạo chức năng của H. Wilf (1994, tái bản lần thứ 2) - có sẵn để tải về miễn phí
4. Toán học cụ thể của RL Graham, DE Knuth và O. Patashnik (1994, tái bản lần thứ 2).
5. Giới thiệu Phân tích thuật toán của R. Sedgewick và P. Flajolet (ấn bản 2, 2013) - có sẵn để tải về miễn phí
6. Công cụ phân tích kết hợp của P. Flajolet và R. Sedgewick (2009) - có sẵn để tải về miễn phí

Định lý chủ

Các định lý tổng thể cho asymptotics cho các giải pháp của cái gọi là chia & chinh phục tái phát, đó là như vậy mà chia tham số của họ thành những phần tương ứng (thay vì cắt đi hằng). Chúng thường xảy ra khi phân tích (đệ quy) thuật toán phân chia & chinh phục, do đó có tên. Định lý này là phổ biến vì nó thường rất dễ áp ​​dụng. Mặt khác, nó chỉ có thể được áp dụng cho các đợt tái phát dưới dạng sau:

$\qquad \displaystyle T(n) = a \cdot T\left(\frac{n}{b}\right) + f(n)$

với . Có ba trường hợp$a \geq 1, b > 1$

1. $\quad \displaystyle f \in O\left( n^{\log_b (a) - \varepsilon} \right)$

   đối với một số ;$\varepsilon > 0$

2. $\quad \displaystyle f \in \Theta\left( n^{\log_b a} \log^{k} n \right)$ ,

   đối với một số ;$k \geq 0$

3. $\quad \displaystyle f \in \Omega\left( n^{\log_b (a) + \varepsilon} \right)$

   đối với một số và$\varepsilon > 0$

   $\quad \displaystyle a f\left( \frac{n}{b} \right) \le c f(n)$

   đối với một số và .n → $c < 1$$n \to \infty$

trong đó ngụ ý sự tiệm cận

1. $T \in \Theta\left( n^{\log_b a} \right)$ ,
2. $T \in \Theta\left( n^{\log_b a} \log^{k+1} n \right)$ và
3. $T \in \Theta \left(f \right)$ ,

tương ứng. Lưu ý rằng các trường hợp cơ sở không được nêu hoặc sử dụng ở đây; điều đó có ý nghĩa, xem xét chúng tôi chỉ đang điều tra hành vi tiệm cận . Chúng tôi âm thầm cho rằng chúng là một số hằng số (chúng có thể là gì khác. Những hằng số chúng tôi không thấy là không liên quan, tất cả đều biến mất trong .$\Theta$

Ví dụ

1. Xem xét sự tái phát

   $\qquad \displaystyle T(n) = 4T\left(\frac{n}{3}\right) + n$ .

   Với và - lưu ý rằng chúng ta thấy trường hợp đó áp dụng với . Do đó, .b = 3 log b một ≈ 1,26 ε = 0.25 T ∈ Θ ( n log 3 4 ) = Θ ( n 1,261 ...$f(n) = n, a=4$$b=3$$\log_b a \approx 1.26$$\varepsilon = 0.25$$T \in \Theta(n^{\log_3 4}) = \Theta(n^{1.261\dots})$

2. Xem xét sự tái phát

   $\qquad \displaystyle T(n) = 2T(n/2) + n$ .

   Với và - lưu ý rằng chúng ta thấy trường hợp hai áp dụng với . Do đó, .b = 2 log b một = 1 k = 0 T ∈ q ( n log n $f(n) = n, a=2$$b=2$$\log_b a = 1$$k=0$$T \in \Theta(n \log n)$

3. Xem xét sự tái phát

   $\qquad \displaystyle T(n) = 3T\left(\frac{n}{4}\right) + n$ .

   Với và - lưu ý rằng chúng ta thấy trường hợp ba áp dụng với và . Do đó, .b = 4 log b một ≈ 0,79 ε = 0,2 c = 1 T ∈ q ( n $f(n) = n, a=3$$b=4$$\log_b a \approx 0.79$$\varepsilon = 0.2$$c=1$$T \in \Theta(n)$

4. Xem xét sự tái phát

   $\qquad \displaystyle T(n) = 16T\left(\frac{n}{4}\right) + n!$

   Ở đây ta có , và- nhiều ví dụ tiêu chuẩn sẽ có đa thức , nhưng đây không phải là quy tắc. Chúng tôi có và trường hợp ba áp dụng lại. Trong trường hợp này, chúng ta có thể chọn bất kỳ và là cho tất cả . Do đó .$a = 16$$b=4$$f(n) = n!$$f$$\log_b a = 2$$\varepsilon$$c > 0$$n! \in \Omega(n^{k})$$k$$T \in \Theta(n!)$

đọc thêm

• Rất có thể không có trường hợp nào của định lý Master được áp dụng. Ví dụ, các bài toán con có thể không có kích thước bằng nhau hoặc có dạng phức tạp hơn. Có một số phần mở rộng cho định lý Master, ví dụ Akra-Bazzi [1] hoặc Roura [2]. Thậm chí còn có một phiên bản hoạt động cho các đợt tái phát riêng biệt (ví dụ: sàn và trần được sử dụng trên các tham số đệ quy) và cung cấp kết quả sắc nét hơn [3].

• Thông thường, bạn phải xoa bóp mối quan hệ tái phát thực tế mà bạn có thành hình trước khi bạn có thể áp dụng định lý Master. Các biến đổi phổ biến bảo tồn tiệm cận bao gồm thả sàn và trần cũng như giả sử . Cẩn thận đừng phá vỡ mọi thứ ở đây; tham khảo [4] phần 4.6 và câu hỏi này để biết chi tiết.$n=b^k$

---

1. Về giải pháp phương trình tái phát tuyến tính của M. Akra và L. Bazzi (1998)
2. Một định lý tổng thể được cải tiến cho các lần tái phân chia và chinh phục của S. Roura (1997)
   ^{Đề cập đến các định lý tổng thể cải tiến khác.}
3. Một định lý tổng thể cho sự phân chia và chinh phục rời rạc của M. Drmota và W. Szpankowski (2011)
4. Giới thiệu về thuật toán của Cormen et al. (2009, tái bản lần thứ 3)

Đoán và chứng minh

Hoặc làm thế nào tôi muốn gọi nó, " kỹ thuật". Nó có thể được áp dụng cho tất cả các loại danh tính. Ý tưởng rất đơn giản:$\dots$

Đoán giải pháp và chứng minh tính đúng đắn của nó.

Đây là một phương pháp phổ biến, được cho là bởi vì nó thường đòi hỏi một số sáng tạo và / hoặc kinh nghiệm (tốt để thể hiện) nhưng ít cơ học (trông thanh lịch). Nghệ thuật ở đây là để đưa ra những phỏng đoán tốt, có giáo dục; bằng chứng là (trong trường hợp của chúng tôi) thường là một cảm ứng đơn giản ít nhiều.

Khi áp dụng cho các lần tái phát, "đoán" thường được thực hiện bởi

• mở rộng sự tái phát một vài lần,
• tìm ra mỏ neo và
• đoán mô hình cho các trung gian (các ).$\dots$

Ví dụ đơn giản

$\qquad \begin{align} s_0 &= s_1 = s_2 = 1 \\ s_n &= 5s_{n-3} + 6 \qquad\qquad n \geq 2 \end{align}$

Hãy để chúng tôi mở rộng định nghĩa của một vài lần:$s_n$

$\qquad \begin{align} s_n &= 5s_{n-3} + 6 \\ &= 5(5s_{n-6} + 6) + 6 \\ &= 5(5(5s_{n-9} + 6) + 6) + 6 \\ &\ \vdots \\ &= \underbrace{5(5(5( \dots 5\cdot 1}_{n \div 3 \text{ times}} + \underbrace{6 \dots ) + 6) + 6) + 6}_{n \div 3 \text{ times}} \end{align}$

Ở đây, mô hình rất dễ phát hiện và nó dẫn chúng ta đến yêu cầu:

$\qquad \begin{align} s_n &= 5^{\left\lfloor\frac{n}{3}\right\rfloor} + 6\cdot \sum_{i=0}^{\left\lfloor\frac{n}{3}\right\rfloor - 1} 5^i \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \end{align}$

Bây giờ chúng tôi chứng minh danh tính bằng cảm ứng. Với , chúng ta có thể thiết lập tính chính xác bằng cách cắm vào giá trị tương ứng. Giả sử giữ danh tính cho tất cả n ′ ≤ n cho một tùy ý nhưng cố định n ≥ 3 , chúng tôi tính toán$n \in \{0,1,2\}$$n' \leq n$$n \geq 3$

$\qquad \displaystyle \begin{align} s_{n+3} &= 5s_n + 6 \\ &= 5\cdot \left( \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \right) + 6 \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor + 1} - \frac{6}{4} \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n+3}{3}\right\rfloor} - \frac{6}{4} \end{align}$

trong đó chứng minh bản sắc bằng sức mạnh của cảm ứng.

Nếu bạn cố gắng sử dụng điều này cho các đợt tái phát liên quan nhiều hơn, bạn sẽ nhanh chóng gặp phải nhược điểm chính của phương pháp này: có thể khó nhìn thấy mô hình hoặc ngưng tụ nó thành một dạng đóng đẹp.

Tiệm cận

Cũng có thể sử dụng phương pháp này cho tiệm cận. Tuy nhiên, hãy lưu ý rằng bạn phải đoán các hằng số cho các biểu tượng Landau vì phải có một hằng số thiết lập giới hạn cho tất cả $n$ , tức là hệ số không đổi không thể thay đổi trong quá trình cảm ứng.

Ví dụ, xem xét sự tái phát thời gian chạy Mergesort, được đơn giản hóa cho trường hợp :$n=2^k$

$\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= 2T(n/2) + n-1 \qquad n \geq 1 \end{align}$

Chúng tôi đoán rằng với hằng số c = 1 , nghĩa là T ( n ) ≤ n log n . Chúng tôi chứng minh điều này bằng cách cảm ứng trên k ; Bước quy nạp trông như thế này:$T(n) \in O(n\log n)$$c=1$$T(n) \leq n\log n$$k$

$\qquad \begin{align} T(n) &= 2T(n/2) + n-1 \\ &\leq 2\frac{n}{2}\log \frac{n}{2} + n - 1 \\ &= n\log n - n\log 2 + n - 1 \\ &\lt n \log n \end{align}$

---

1. Đối với các chuỗi không giảm của naturals, mọi chuỗi con vô hạn đều có cùng mức tăng trưởng tiệm cận như chuỗi ban đầu.

Phương pháp Akra-Bazzi

Các phương pháp Akra-Bazzi cho asymptotics cho tái phát có dạng: Điều này bao gồm các lần tái phân chia và chinh phục thông thường, nhưng cũng có trường hợp sự phân chia không bằng nhau. Chẳng hạn, "thuật ngữ fudge" h i ( x ) có thể phục vụ cho các bộ phận không chính xác, chẳng hạn. Các điều kiện để áp dụng là:

$$T(x) = \sum_{1 \le i \le k} a_i T(b_i x + h_i(x)) + g(x) \quad \text{for $x \ge x_0$}$$ $h_i(x)$

• Có đủ các trường hợp cơ bản để tái phát
• Các và b i là tất cả các hằng số$a_i$$b_i$
• Với tất cả , a i > $i$$a_i > 0$
• Với tất cả , 0 < b i < $i$$0 < b_i < 1$
• đối với một số liên tục c như x → $\lvert g(x) \rvert = O(x^c)$$c$$x \rightarrow \infty$
• Đối với tất cả , | h i ( x ) | = O ( x / ( log x ) 2$i$$\lvert h_i(x) \rvert = O(x / (\log x)^2)$
• là hằng số$x_0$

Lưu ý rằng , và như chức năng răng cưa { u } = u - ⌊ u ⌋ luôn là giữa 0 và 1, thay thế ⌊ b i x ⌋ (hoặc ⌈ b i x ⌉ như chiếm đoạt) thỏa mãn các điều kiện trên h i .$\lfloor b_i x \rfloor = b_i x - \{b_i x\}$$\{ u \} = u - \lfloor u \rfloor$$\lfloor b_i x \rfloor$$\lceil b_i x \rceil$$h_i$

Tìm sao cho: Σ 1 ≤ i ≤ k một i b p i = 1 Sau đó, các hành vi tiệm cận của T ( x ) là x → ∞ được cho bởi: T ( x ) = Θ ( x p ( 1 + ∫ x x 1 g ( u $p$

$$\sum_{1 \le i \le k} a_i b_i^p = 1$$ $T(x)$$x \rightarrow \infty$ vớix1"đủ lớn", tức là cók1>0sao cho g(x/2)≥k1g(x) với mọix>x1. $$T(x) = \Theta \left( x^p \left( 1 + \int_{x_1}^x \frac{g(u)}{u^{p + 1}} du \right) \right)$$ $x_1$$k_1>0$ $$g(x/2) \geq k_1g(x) \tag{2}$$ $x>x_1$

Ví dụ A

Như một ví dụ, lấy đệ quy cho , nơi mà T ( 0 ) = T ( 1 ) = T ( 2 ) = T ( 3 ) = T ( 4 ) = 17 : T ( n ) = 9 T ( ⌊ n / 5 ⌋ ) + T ( ⌈ 4 n / 5 ⌉ ) + $n \ge 5$$T(0) = T(1) = T(2) = T(3) = T(4) = 17$ Các điều kiện được thỏa mãn, chúng ta cần p : 9 (

$$T(n) = 9 T(\lfloor n / 5 \rfloor) + T(\lceil 4 n / 5 \rceil) + 3 n \log n$$ $p$ Vì may mắn sẽ có nó,p=2. Do đó ta có: T(n)=Θ(n2(1+∫ n 3 3ulog $$9 \left( \frac{1}{5} \right)^p + \left( \frac{4}{5} \right)^p = 1$$ $p = 2$ $$T(n) = \Theta \left( n^2 \left(1 + \int_3^n \frac{3 u \log u}{u^3} du \right) \right) = \Theta(n^2)$$

kể từ khi có chúng tôi hoàn thành(2)cho tất cả cácx≥3. Lưu ý rằng vì tích phân hội tụ ngay cả khi chúng ta sử dụng các hằng số khác, chẳng hạn như1, như ràng buộc thấp hơn,việc sử dụng các hằng sốđó là hợp pháp; sự khác biệt biến mất trongΘ.$k_1 \leq \frac{1}{2}\left(1 - \frac{\log 2}{\log 3}\right)$$(2)$$x\geq 3$$1$$\Theta$

Ví dụ B

Một ví dụ khác là sau cho : T ( n ) = 4 T ( n / 2 ) + n 2 / lg n Chúng tôi có g ( n ) = n 2 / ln n = O ( n 2 ) , kiểm tra. Chúng tôi có rằng có một đơn một 1 = 4 , b 1 = 1 /$n \ge 2$

$$T(n) = 4 T(n / 2) + n^2 / \lg n$$ $g(n) = n^2 / \ln n = O(n^2)$$a_1 = 4$$b_1 = 1 / 2$, mà kiểm tra ra. Giả sử rằng thực sự là ⌊ n / 2 ⌋ và / hoặc ⌈ n / 2 ⌉ , những ngụ ý h i ( n ) cũng kiểm tra. Vì vậy, chúng ta cần: một 1 b p 1 = 4 ⋅ ( 1 / 2 ) p = 1 Do đó p = 2 , và: T ( n ) = Θ ( n $n / 2$$\lfloor n / 2 \rfloor$$\lceil n / 2 \rceil$$h_i(n)$ $$a_1 b_1^p = 4 \cdot (1 / 2)^p = 1$$ $p = 2$ Chúng tôi áp dụng một mẹo tương tự như trên cho giới hạn dưới của tích phân, chỉ có điều chúng tôi sử dụng2vì tích phân không hội tụ cho1. $$T(n) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{u^2 du}{u^3 \ln u} \right) \right) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{du}{u \ln u} \right) \right) = \Theta(n^2 \ln \ln n)$$ $2$$1$

(Sự giúp đỡ của cực đại với đại số được ghi nhận một cách biết ơn)

Tổng kết

Thông thường người ta gặp một sự tái phát có dạng trong đó f ( n ) là đơn điệu. Trong trường hợp này, chúng ta có thể mở rộng T ( n ) = T ( c ) + n Σ m = c + 1 f ( m ) , và do đó được đưa ra một giá trị khởi đầu T ( c

$$T(n) = T(n-1) + f(n),$$ $f(n)$ $$T(n) = T(c) + \sum_{m=c+1}^n f(m),$$ $T(c)$, Để ước tính chúng ta cần phải ước tính tổng f ( c + 1 ) + ⋯ + f ( m ) .$T(n)$$f(c+1) + \cdots + f(m)$

Không giảm $f(n)$

Khi không đơn điệu, chúng ta có giới hạn rõ ràng f ( n ) ≤ n ∑ m = c + 1 f ( m ) ≤ ( n - c ) f ( n ) . Những giới hạn là tốt nhất có thể theo nghĩa rằng họ là chặt chẽ đối với một số chức năng: các giới hạn trên cho các chức năng liên tục, và thấp hơn giới hạn cho các chức năng bước ( f ( m ) = 1 cho m ≥ $f(n)$

$$f(n) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(n).$$ $f(m) = 1$$m \geq n$và với m < n ). Tuy nhiên, trong nhiều trường hợp những ước tính này không hữu ích lắm. Ví dụ: khi f ( m ) = m , giới hạn dưới là n và giới hạn trên là ( n - c ) n , do đó chúng cách nhau khá xa.$f(m) = 0$$m < n$$f(m) = m$$n$$(n-c)n$

Hội nhập

Một ước tính tốt hơn được đưa ra bởi tích hợp: Với f ( m ) = m , điều này cho giá trị chính xác của tổng cho đến các điều khoản bậc thấp hơn:

$$\int_c^n f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_{c+1}^{n+1} f(x) dx.$$ $f(m) = m$ Khif(m)=mchúng ta có thể tính tổng một cách rõ ràng, nhưng trong nhiều trường hợp tính toán rõ ràng là khó khăn. Ví dụ, khif(m)=mlogmcác -nguyênflà(1/2)x2logx-(1/4)x2, và do đó n Σ m=c $$\frac{1}{2} n^2 - \frac{1}{2} c^2 \leq \sum_{m=c+1}^n m \leq \frac{1}{2} (n+1)^2 - \frac{1}{2} (c+1)^2.$$ $f(m) = m$$f(m) = m\log m$$f$$(1/2) x^2\log x - (1/4) x^2$ $$\sum_{m=c+1}^n m\log m = \frac{1}{2} n^2 \log n \pm \Theta(n^2).$$

$\log n! = \sum_{m=1}^n \log m$

$f(n)$

$f(n)$

$$f(1) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(1),$$ $$\int_{c+1}^{n+1} f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_c^n f(x) dx.$$ $f(m) = 1/m$$\int f(m) = \log m$ $$\sum_{m=c+1}^n \frac{1}{m} = \log n \pm \Theta(1).$$

Sedgewick và Flajolet đã thực hiện nhiều công việc trong tổ hợp phân tích , cho phép các đợt tái phát được giải quyết một cách không có triệu chứng bằng cách sử dụng kết hợp các hàm tạo và phân tích phức tạp. Công việc của họ cho phép nhiều đợt tái phát được giải quyết tự động và đã được thực hiện trong một số hệ thống đại số máy tính.

Cuốn sách giáo khoa về chủ đề này được viết bởi Flajolet và Sedgewick và là một tài liệu tham khảo tuyệt vời. Một giải trình có phần đơn giản hơn, hướng đến các ứng dụng để phân tích thuật toán, là văn bản này của Sedgewick và Flajolet.

Hi vọng điêu nay co ich!

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$

---

Định lý chia không đồng đều Phần 1

$c$$k$

$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i < 1$

Chúng tôi cũng phải có biểu mẫu lặp lại (như ví dụ của chúng tôi ở trên):

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

Yêu cầu

$T(n) \leq bn$$b$

$$b = \frac{c}{1 - \left(\sum_1^k a_i\right)}$$

Chứng minh bằng cảm ứng

$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c < b < bn$

$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + b \lfloor a_1 n \rfloor + b \lfloor a_2 n \rfloor + \dots + b \lfloor a_k n \rfloor\\ & \leq cn + b a_1 n + b a_2 n + \dots + b a_k n\\ & = cn + bn \sum_1^k a_i\\[0.5em] & = \frac{cn - cn \sum_1^k a_i }{1 - \left(\sum_1^k a_i\right)} + \frac{cn \sum_1^k a_i}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] & = \frac{cn}{1 - \left(\sum_1^k a_i\right)}\\ & = bn & \square \end{align}$$

$T(n) \leq bn \implies T(n) = O(n)$

Thí dụ

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$ $$\begin{align} 1 & > \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7}\\[0.5em] & = \frac{2}{5} + \frac{4}{7}\\[0.5em] & = \frac{34}{35} \end{align}$$

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7\}\\ & = 7 \end{align}$$

$T(n) \leq bn$$b$

$$\begin{align} b &= \frac{c}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] &= \frac{c}{1 - \frac{34}{35}}\\[0.5em] &= 35c \end{align}$$ $$\begin{align} T(n) & \leq 35cn\\ \land\; T(n) & \geq cn\\ \therefore T(n) & = \Theta(n) \end{align}$$

---

Định lý chia không đồng đều Phần 2

$\sum_1^k = 1$

$c$$k$$k > 1$

$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i = 1$

Chúng tôi cũng phải có biểu mẫu lặp lại (như ví dụ của chúng tôi ở trên):

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

Yêu cầu

$T(n) \leq \alpha n \log_k n + \beta n$$\log$$k$$k$$\alpha$$\beta$

$$\beta = c$$ $$\alpha = \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}$$

Chứng minh bằng cảm ứng

$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c = \beta < \alpha n \log_k n + \beta n$

$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + \sum_1^k (\alpha a_i n \log_k a_i n + \beta a_i n)\\ & = cn + \alpha n\sum_1^k (a_i \log_k a_i n) + \beta n\sum_1^k a_i\\ & = cn + \alpha n\sum_1^k \left(a_i \log_k \frac{n}{a_i^{-1}}\right) + \beta n\\ & = cn + \alpha n\sum_1^k (a_i (\log_k n - \log_k a_i^{-1})) + \beta n\\ & = cn + \alpha n\sum_1^k a_i \log_k n - \alpha n\sum_1^k a_i \log_k a_i^{-1} + \beta n\\ & = \alpha n\sum_1^k a_i \log_k n + \beta n\\ & = \alpha n \log_k n + \beta n & \square \end{align}$$

$T(n) \leq \alpha n \log_k n + \beta n \implies T(n) = O(n \log n)$

Thí dụ

$$T(n) = \begin{cases} c & n < 35\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + T\left(\frac{n}{35}\right)+ cn & n \geq 35 \end{cases}$$

$$\begin{align} 1 & = \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{35}\\[0.5em] & = \frac{2}{5} + \frac{4}{7} + \frac{1}{35}\\[0.5em] & = \frac{35}{35} \end{align}$$

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7, 35\}\\ & = 35 \end{align}$$

$T(n)\leq \alpha n \log n + \beta n$$\beta = c$$\alpha$

$$\begin{align} b &= \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}\\[0.5em] &= \frac{c}{\frac{2 \log_7 5}{5} + \frac{4 \log_7 7}{7} + \frac{\log_7 35}{35}}\\[0.5em] &\approx 1.048c \end{align}$$ $$\begin{align} T(n) & \leq 1.048cn\log_7 n + cn\\ \therefore T(n) & = O(n \log n) \end{align}$$

Sau khi kiểm tra bài đăng này một lần nữa, tôi ngạc nhiên rằng điều này chưa có ở đây.

Chuyển đổi tên miền / Thay đổi biến

Khi xử lý các đợt lặp lại, đôi khi có thể thay đổi tên miền của bạn nếu không rõ ràng ngăn xếp đệ quy sẽ đi sâu đến đâu.

Chẳng hạn, hãy thực hiện các đợt tái phát sau:

$$T(n) = T(2^{2^{\sqrt{\log \log n}}}) + \log \log \log n$$

Làm thế nào chúng ta có thể giải quyết điều này? Chúng tôi có thể mở rộng loạt phim, nhưng tôi hứa điều này sẽ thu được rất nhanh. Thay vào đó, hãy xem xét cách thay đổi đầu vào của chúng tôi với mỗi cuộc gọi.

Trước tiên chúng ta có:

1. $n$
2. $2^{2^{\sqrt{\log \log n}}}$
3. $2^{2^{\sqrt{\log \log (2^{2^{\sqrt{\log \log n}}})}}}$

$S(k)$$k, k-1, k-2, \ldots$

$n = 2^{2^{2^{2^k}}}$

$$\begin{align*} T(2^{2^{2^{2^k}}}) & = T(2^{2^{\sqrt{\log \log 2^{2^{2^{2^{k}}}}}}}) + \log \log \log (2^{2^{2^{2^{k}}}})\\ & = T(2^{2^{2^{2^{k-1}}}}) + 2^k \end{align*}$$ $$T(k) = T(k-1) + 2^k = \sum_{i = 1}^{k} 2^k = 2^{k+1} - 1$$ $k$$n$ $$T(n) = 2^{(\log \log \log \log n) + 1} - 1 = O(\log \log \log n)$$

---

Với ví dụ này, bây giờ chúng ta có thể thấy mục tiêu của chúng tôi.

$$T(n) = \begin{cases} h(1) & n = 1\\ a\cdot T(f(n)) + h(n) & \mathrm{otherwise} \end{cases}$$ $a$$f(n)$$h(n)$

$g(k) = n$$f(g(k)) = g(k-1)$

$$\begin{align*} T(g(k)) &= aT(f(g(k))) + h(g(k))\\ & = a\cdot T(g(k-1)) + h(g(k)) \end{align*}$$

$f^{(i)}(n) = g(k - i)$$f^{(i)}(n)$$f$$n$$i$$f^{(2)}(n) = f(f(n))$$g(k)$$i$$h(g(k-i))$

$S(k) = T(g(k))$

$$S(k) = a\cdot S(k-1) + h(g(k))$$ $h(g(k))$$k$ $$S(k) = \sum_{i = g^{-1}(1)}^{k} a^{k - i} h(g(i))$$

$S(k) = \gamma(k)$$\gamma$$T(n)$

$$T(n) = \gamma( g^{-1}(n))$$

$T(n)$$g(k)$$T(n)$

$g(k)$$g(k)$

Có một cách tiếp cận khác phù hợp với các mối quan hệ tái phát đơn giản: yêu cầu Wolfram Alpha giải quyết sự tái phát cho bạn.

Chẳng hạn, hãy thử gõ f(0)=0, f(1)=1, f(n)=f(n-1)+f(n-2)vào Wolfram Alpha. Bạn sẽ nhận được một giải pháp, với một liên kết đến các số Fibonacci. Hoặc thử f(1)=1, f(n)=f(n-1)+nhay f(1)=1, f(n)=2*f(n-1)+3*nhay f(n)=f(n-1) + 2 f(n-2), f(1)=1, f(2)=3cho ví dụ khác. Tuy nhiên, hãy cảnh báo: Wolfram Alpha có thể giải quyết một số đợt tái phát rất đơn giản, nhưng nó lại sụp đổ đối với những trường hợp phức tạp hơn.

Cách tiếp cận này tránh sự cần thiết cho bất kỳ suy nghĩ, có thể được xem là một lỗi hoặc một tính năng.

$T(n) = aT(n/b) + f(n)$$f(n) = \Theta(n^{\log_ab}\log^k n)$$k \geq 0$$k$

$T(n) = a T(n/b) + f(n)$

1. $f(n) = O(n^{\log_b a} \log^{c-1} n)$$c < 0$$T(n) = \Theta(n^{\log_b a})$

2. $f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c = 0$$T(n) = \Theta(n^{\log_b a} \log\log n)$

3. $f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c > 0$$T(n) = \Theta(n^{\log_b a} \log^c n$

$f(n) = n^{\log_b a} \log_b^{c-1} n$$T(1) = 0$$n$$b$

$$T(n) = \sum_{i=0}^{\log_b n-1} a^i (nb^{-i})^{\log_b a} \log_b^{c-1} (nb^{-i}) = \\ \sum_{i=0}^{\log_b n-1} n^{\log_b a} (\log_b n - i)^{c-1} = n^{\log_b a} \sum_{j=1}^{\log_b n} j^{c-1}.$$ $c < 0$$\sum_{j=0}^\infty j^{c-1}$$T(n) = \Theta(n^{\log_b a})$$c = 0$$H_{\log_b n} = \log(\log_b n) + O(1)$$T(n) = \Theta(n^{\log_b a} \log \log n)$$c > 0$ $$\sum_{j=1}^{\log_b n} \approx \int_0^{\log_b n} x^{c-1} \, dx = \left. \frac{x^c}{c} \right|_0^{\log_b n} = \frac{\log_b^c n}{c},$$ và như vậy $T(n) = \Theta(n^{\log_b a} \log^c n)$.