Sắp xếp các chức năng theo sự tăng trưởng tiệm cận

Giả sử tôi có một danh sách các chức năng, ví dụ

$\qquad n^{\log \log(n)}, 2^n, n!, n^3, n \ln n, \dots$

Làm thế nào để tôi sắp xếp chúng không có triệu chứng, tức là sau khi mối quan hệ được xác định bởi

$\qquad f \leq_O g \iff f \in O(g)$ ,

giả sử họ thực sự là cặp đôi có thể so sánh (xem thêm ở đây )? Sử dụng định nghĩa của $O$ có vẻ khó xử và thường khó chứng minh sự tồn tại của hằng số phù hợp $c$ và $n_0$ .

Đây là về các biện pháp phức tạp, vì vậy chúng tôi quan tâm đến hành vi tiệm cận là $n \to +\infty$ , và chúng tôi giả định rằng tất cả các chức năng chỉ mất giá trị không âm ($\forall n, f(n) \ge 0$ ).

Nếu bạn muốn bằng chứng nghiêm ngặt, bổ đề sau thường là sự tôn trọng hữu ích. tiện dụng hơn các định nghĩa.

$c = \lim_{n\to\infty} \frac{f(n)}{g(n)}$

• $c=0 \qquad \ \,\iff f \in o(g)$ ,
• $c \in (0,\infty) \iff f \in \Theta(g)$ và
• $c=\infty \quad \ \ \ \iff f \in \omega(g)$ .

Với điều này, bạn sẽ có thể đặt hàng hầu hết các hàm sắp tới trong phân tích thuật toán¹. Như một bài tập, chứng minh điều đó!

Tất nhiên bạn phải có khả năng tính toán các giới hạn cho phù hợp. Một số thủ thuật hữu ích để phá vỡ các chức năng phức tạp thành các chức năng cơ bản là:

• Thể hiện cả hai hàm là $e^{\dots}$ và so sánh các số mũ; nếu tỷ lệ của chúng có xu hướng $0$ hoặc $\infty$ , thì thương số ban đầu cũng vậy.

• Tổng quát hơn: nếu bạn có hàm lồi, liên tục khác biệt và tăng nghiêm ngặt để bạn có thể viết lại thương số của mình dưới dạng$h$

  $\qquad \displaystyle \frac{f(n)}{g(n)} = \frac{h(f^*(n))}{h(g^*(n))}$ ,

  với và$g^* \in \Omega(1)$

  $\qquad \displaystyle \lim_{n \to \infty} \frac{f^*(n)}{g^*(n)} = \infty$ ,

  sau đó

  $\qquad \displaystyle \lim_{n \to \infty} \frac{f(n)}{g(n)} = \infty$ .

  ^{Xem ở đây để có bằng chứng nghiêm ngặt về quy tắc này (bằng tiếng Đức).}

• Xem xét việc tiếp tục các chức năng của bạn trên thực tế. Bây giờ bạn có thể sử dụng quy tắc của L'Hôpital ; Hãy chú ý đến điều kiện của nó²!

• Có một cái nhìn tương đương rời rạc, Stolz về Cesàro .

• Khi giai thừa bật lên, sử dụng công thức của Stirling :

  $\qquad \displaystyle n! \sim \sqrt{2 \pi n} \left(\frac{n}{e}\right)^n$

Nó cũng hữu ích để giữ một nhóm các mối quan hệ cơ bản mà bạn chứng minh một lần và sử dụng thường xuyên, chẳng hạn như:

• logarit phát triển chậm hơn đa thức, nghĩa là

  $\qquad\displaystyle (\log n)^\alpha \in o(n^\beta)$ cho tất cả$\alpha, \beta > 0$ .

• thứ tự đa thức:

  $\qquad\displaystyle n^\alpha \in o(n^\beta)$ cho tất cả$\alpha < \beta$ .

• đa thức tăng chậm hơn số mũ:

  $\qquad\displaystyle n^\alpha \in o(c^n)$ cho tất cả và .$\alpha$$c > 1$

---

Có thể xảy ra rằng bổ đề trên không được áp dụng vì giới hạn không tồn tại (ví dụ khi các hàm dao động). Trong trường hợp này, hãy xem xét đặc tính hóa sau của các lớp Landau bằng cách sử dụng các cấp trên / kém hơn :

Với chúng ta có$c_s := \limsup_{n \to \infty} \frac{f(n)}{g(n)}$

• $0 \leq c_s < \infty \iff f \in O(g)$ và
• $c_s = 0 \iff f \in o(g)$ .

Với chúng ta có$c_i := \liminf_{n \to \infty} \frac{f(n)}{g(n)}$

• $0 < c_i \leq \infty \iff f \in \Omega(g)$ và
• $c_i = \infty \iff f \in \omega(g)$ .

Hơn nữa,

• $0 < c_i,c_s < \infty \iff f \in \Theta(g) \iff g \in \Theta(f)$ và
• $c_i = c_s = 1 \iff f \sim g$ .

---

Kiểm tra ở đây và ở đây nếu bạn bị nhầm lẫn bởi ký hiệu của tôi.

---

¹ Nota bene: Đồng nghiệp của tôi đã viết một hàm Mathicala thực hiện thành công cho nhiều chức năng, vì vậy bổ đề thực sự làm giảm nhiệm vụ đối với tính toán cơ học.

² Xem thêm tại đây .

Một mẹo khác: đôi khi áp dụng một hàm đơn điệu (như log hoặc exp) cho các hàm làm cho mọi thứ rõ ràng hơn.

Skiena cung cấp một danh sách sắp xếp các mối quan hệ thống trị giữa các chức năng phổ biến nhất trong cuốn sách của mình, Hướng dẫn thiết kế thuật toán:

$$n!\gg c^n \gg n^3 \gg n^2 \gg n^{1+\epsilon} \gg n \lg n \gg n \gg n^{1/2}$$ $$\gg \lg^2n \gg \lg n \gg \frac{\lg n}{\lg\lg n} \gg \lg\lg n \gg \alpha(n) \gg 1$$

Ở đây $\alpha(n)$ biểu thị hàm Ackermann nghịch đảo .

Mẹo: vẽ biểu đồ của các hàm này bằng cách sử dụng một cái gì đó như Wolfram Alpha để có cảm giác về cách chúng phát triển. Lưu ý rằng điều này không chính xác lắm, nhưng nếu bạn thử nó với số lượng đủ lớn, bạn sẽ thấy các mô hình tăng trưởng so sánh. Điều này tất nhiên là không thay thế cho một bằng chứng.

Ví dụ: thử: log log (log (n)) từ 1 đến 10000 để xem một biểu đồ riêng hoặc log log (log (n)) và log log (n) từ 1 đến 10000 để xem so sánh.

Tôi đề nghị tiến hành theo các định nghĩa của các ký hiệu khác nhau. Bắt đầu với một số cặp biểu thức tùy ý và xác định thứ tự của các biểu thức, như được nêu dưới đây. Sau đó, với mỗi phần tử bổ sung, tìm vị trí của nó trong danh sách được sắp xếp bằng cách sử dụng tìm kiếm nhị phân và so sánh như dưới đây. Vì vậy, ví dụ, hãy sắp xếp và 2 $n^{\log\log n}$$2^n$ , hai hàm đầu tiên của n, để bắt đầu danh sách.

Chúng tôi sử dụng thuộc tính để viết lại biểu thức đầu tiên là n log log n = ( 2 log n ) log log n = 2 log n log log n . Sau đó chúng ta có thể tiến hành sử dụng định nghĩa để chỉ ra rằng n log log n = 2 log n log log n ∈ o ( 2 n ) , vì với bất kỳ hằng số c > $n = 2^{\log n}$$n^{\log\log n} = (2^{\log n})^{\log\log n} = 2^{\log n\log\log n}$$n^{\log\log n} = 2^{\log n\log\log n} \in o(2^n)$$c > 0$, có một sao cho n ≥ n 0 , c ( n log log n ) = c ( 2 log n log log n ) < 2 n .$n_0$$n \geq n_0$$c(n^{\log\log n}) = c(2^{\log n\log\log n}) < 2^n$

Tiếp theo, chúng tôi thử . Chúng tôi so sánh nó với 2 n , yếu tố lớn nhất chúng tôi đã đặt cho đến nay. Vì 3 n = ( 2 log 3 ) n = 2 n log 3 , nên chúng tôi tương tự chỉ ra rằng 2 n ∈ o ( 3 n ) = o ( 2 n log 3 ) .$3^n$$2^n$$3^n = (2^{\log 3})^n = 2^{n\log3}$$2^n \in o(3^n) = o(2^{n \log 3})$

V.v.

Ở đây một danh sách từ Wikipedia , Thấp hơn trong bảng lớp phức tạp lớn hơn;

$$\begin{array}{|l|l|} \hline Name & \text{Running Time} \\ \hline \text{Constant time} & \mathcal{O}(1) \\ \text{Inverse Ackermann time} & \mathcal{O}(a(n)) \\ \text{Iterated logarithmic time} & \mathcal{O}(\log^*n) \\ \text{Log-logarithmic} & \mathcal{O}(n \log n) \\ \text{Logarithmic time} & \mathcal{O}(\log n) \\ \text{Polylogarithmic time} & poly(\log n) \\ \text{Fractional power} & \mathcal{O}(n^c) ,\text{where } 0<c<1 \\ \text{Linear time} & \mathcal{O}(n) \\ \text{"n log star n" time} & \mathcal{O}(n \log^* n) \\ \text{Quasilinear time} & \mathcal{O}(n \log n) \\ \text{Quadratic time} & \mathcal{O}(n^2) \\ \text{Cubic time} & \mathcal{O}(n^3) \\ \text{Polynomial time} & poly(n) = 2^{\mathcal{O}(\log n)} \\ \text{Quasi-polynomial time} & 2^{\mathcal{O}(poly(\log n))} \\ \text{Sub-exponential time (first definition)} & \mathcal{O}(2^{n^{\epsilon}}), \epsilon >0 \\ \text{Sub-exponential time (second definition)} & 2^{\mathcal{o}(n)}\\ \text{Exponential time(with linear exponent)} & 2^{\mathcal{O}(n)} \\ \text{Exponential time} & 2^{poly(n)} \\ \text{Factorial time} & \mathcal{O}(n!) \\\hline \end{array}$$

$poly(x) = x^{\mathcal{O}(1)}$