Tại sao sử dụng ngôn ngữ trong lý thuyết phức tạp

Tôi mới bắt đầu đi vào lý thuyết tính toán, nghiên cứu những gì có thể tính toán, nhanh như thế nào, sử dụng bao nhiêu bộ nhớ và với mô hình tính toán nào.

Tôi có một câu hỏi khá cơ bản, nhưng tôi thực sự hy vọng một số bạn có thể giúp tôi hiểu khái niệm đằng sau nó:

Tại sao mọi thứ tập trung xung quanh khái niệm và định nghĩa của NGÔN NGỮ (tức là ngôn ngữ thông thường và ngôn ngữ không ngữ cảnh)? Và làm thế nào để những điều này liên quan và mô tả sự phức tạp của một thuật toán và các mô hình tính toán có thể để giải quyết chúng?

Tôi đọc những loại câu hỏi liên quan:

• /cstheory/14811/what-is-the-enlightenment-im-supposed-to-attain-after-studying-finite-automata
• /cstheory/8539/how-prreal-is-automata-theory

nhưng vẫn không có câu trả lời cho những nghi ngờ của tôi, vì họ đưa ra một lời biện minh thực tế về lý do tại sao chúng quan trọng (mà tôi hiểu) nhưng không giúp tôi hiểu tại sao lý thuyết phức tạp dựa trên chúng.

Đó là bởi vì ngôn ngữ là cách tốt nhất (duy nhất?) Mà chúng ta có để chính thức hóa khái niệm "vấn đề".

Một thuật toán (Turing Machine) có hiệu suất, mà chúng tôi thể hiện thông qua độ phức tạp big-O. Một vấn đề (ngôn ngữ) thuộc về một lớp phức tạp. Chúng thường được xác định bởi sự tồn tại: nếu tồn tại một máy chấp nhận ngôn ngữ chạy trong hiệu suất nhất định (không gian hoặc thời gian), thì ngôn ngữ thuộc về lớp phức tạp tương ứng.$L$

Có một vài lý do cho việc này. Đầu tiên là ngôn ngữ là nền tảng độc lập. Bạn không lo lắng về việc một số nguyên là 32 hay 64 bit hay liệu các hoạt động của dấu phẩy động có chạy song song với các hoạt động khác hay không. Những điều này giúp tăng tốc hiệu suất ở cấp độ vi mô, nhưng phân tích phức tạp quan tâm đến cấp độ vĩ mô. Khi bạn chia tỷ lệ từ 100 đến đến đến , hiệu suất thuật toán thay đổi như thế nào? Liệu nó đi từ việc sử dụng 1 triệu tế bào băng đến 1 tỷ, hay từ 1 triệu đến nhiều tế bào hơn so với các nguyên tử trong vũ trụ?$10^6$$10^9$$10^{12}$

Thứ hai là các ngôn ngữ chỉ là một sự trừu tượng hóa tốt đẹp cho dữ liệu. Bạn cần một cái gì đó bạn có thể làm bằng chứng về, một cái gì đó bạn có thể mô hình chính thức. Mã hóa đầu vào và đầu ra của bạn dưới dạng một chuỗi có nghĩa là bây giờ bạn đang xử lý không phải các bit trong bộ nhớ, mà với các đối tượng toán học với các thuộc tính cụ thể. Bạn có thể suy luận về chúng và chứng minh bằng chứng về chúng theo nghĩa chính thức và rất đơn giản.

Lý thuyết phức tạp có xu hướng tập trung vào các vấn đề quyết định vì cuối cùng chúng trở nên khó khăn. Khi phiên bản quyết định của nhân viên bán hàng du lịch là NP-đầy đủ (nghĩa là có một chuyến tham quan ngắn hơn chiều dài ), thì rõ ràng việc tìm ra con đường ngắn nhất là khó khăn hơn. Không có nhiều sự tập trung vào các vấn đề chức năng / tối ưu hóa bởi vì vẫn còn rất nhiều câu hỏi mở và các vấn đề chưa được giải quyết về các vấn đề quyết định đơn giản hơn.$k$

Tôi đoán đây là thách thức của tôi với bạn: tìm cách mô tả toán học các vấn đề không phải là ngôn ngữ. Tôi không biết ngôn ngữ có đặc biệt không, nhưng tôi nghĩ chúng là công cụ đơn giản nhất chúng tôi có, là ngôn ngữ dễ xử lý nhất.

Có hai câu trả lời cơ bản cho câu hỏi của bạn:

1. Có nhiều lý thuyết phức tạp hơn các ngôn ngữ, ví dụ như các lớp chức năng, độ phức tạp số học và các thuật toán con của các thuật toán gần đúng và tính không tương thích.

2. Lý do lịch sử: một trong những bài viết cơ bản trong lý thuyết tính toán là thảo luận về Entscheidungspro Hiệu của Hilbert (một dạng của vấn đề tạm dừng).

Thật không may, tôi không biết nhiều về cái sau, nhưng hãy để tôi mở rộng cái trước.

Sự phức tạp ngoài ngôn ngữ

Mỗi lớp phức tạp tính toán đi kèm với một lớp chức năng liên quan . Ví dụ, lớp P của tất cả các vấn đề có thể quyết định trong thời gian đa thức được liên kết với FP, lớp của tất cả các hàm tính toán trong thời gian đa thức. FP là quan trọng vì nó được sử dụng để xác định NP-khó: một ngôn ngữ là NP-hard nếu cho mọi ngôn ngữ trong NP có một chức năng trong FP mà iff . Một lớp hàm phức tạp khác, #P , có liên quan đến cái gọi là hệ thống phân cấp đa thức thông qua định lý Toda .M f M x ∈ M f M ( x ) ∈ $L$$M$$f_M$$x \in M$$f_M(x) \in L$

Độ phức tạp mạch số học (hay lý thuyết phức tạp đại số ) liên quan đến sự phức tạp của việc tính toán các đa thức khác nhau. Các lớp phức tạp quan trọng ở đây là VP và VNP, và lý thuyết phức tạp hình học là một dự án quan trọng cố gắng tách VP và VNP (và sau này là P và NP) bằng cách sử dụng lý thuyết đại diện và hình học đại số.

Một ví dụ quan trọng khác về độ phức tạp đại số là phép nhân ma trận nhanh. Ở đây câu hỏi cơ bản là làm thế nào nhanh chóng chúng ta có thể nhân hai ma trận ? Các câu hỏi tương tự hỏi chúng ta có thể nhân các số nguyên nhanh như thế nào, chúng ta có thể kiểm tra các số nguyên nhanh như thế nào (đây là một vấn đề quyết định!) Và chúng ta có thể tính các số nguyên nhanh như thế nào.

Tối ưu hóa lồi giải quyết các vấn đề tối ưu hóa có thể được giải quyết (hoặc gần như giải quyết) một cách hiệu quả. Ví dụ là lập trình tuyến tính và lập trình semidefinite, cả hai đều có thuật toán hiệu quả. Ở đây chúng tôi quan tâm cả về tối ưu và trong chính giải pháp tối ưu. Vì thường có nhiều hơn một giải pháp tối ưu, tính toán một giải pháp tối ưu không được thể hiện tốt như một vấn đề quyết định.

Tính gần đúng là lĩnh vực nghiên cứu mức độ gần đúng mà chúng ta có thể nhận được cho một vấn đề tối ưu hóa trong thời gian đa thức. Ví dụ, hãy xem xét vấn đề cổ điển của Set Cover: đưa ra một tập hợp các tập hợp, chúng ta cần bao nhiêu trong số chúng để bao quát toàn bộ vũ trụ? Tìm số tối ưu là NP-hard, nhưng có lẽ tính được xấp xỉ? Thuật toán xấp xỉ là tiểu vùng nghiên cứu các thuật toán để tính toán xấp xỉ, trong khi inapproximability nghiên cứu giới hạn của thuật toán xấp xỉ. Trong trường hợp cụ thể của Set Cover, chúng tôi có một thuật toán đưa ra xấp xỉ (thuật toán tham lam) và NP-khó có thể làm tốt hơn nữa.$\ln n$

Hãy xem xét câu hỏi này từ góc độ của lý thuyết thể loại. Các vấn đề quyết định (hoặc ngôn ngữ) sau đó sẽ tương ứng với các đối tượng của một loại và mức giảm được phép giữa hai vấn đề sẽ tương ứng với các hình thái (mũi tên) của một loại.

Nói về các ngôn ngữ có lợi thế là sự tương đương của các ngôn ngữ được xác định rõ (cụ thể là bằng sự mở rộng). Hai vấn đề không liên quan có thể dẫn đến cùng một ngôn ngữ, và sau đó chúng tôi được phép coi chúng là tương đương. Thay vào đó, nếu chúng ta muốn nói về các vấn đề đẳng cấu, chúng ta sẽ phải xác định các hình thái được phép giữa hai vấn đề. Nhưng các hình thái được phép phụ thuộc vào lớp phức tạp thực tế đang được xem xét, điều này làm cho cách tiếp cận này không phù hợp để so sánh các lớp phức tạp khác nhau.

Khái niệm các vấn đề đẳng cấu thường sẽ thô hơn khái niệm các ngôn ngữ tương đương, tức là hai vấn đề có thể là đẳng cấu, ngay cả khi các ngôn ngữ liên quan của chúng không tương đương. Điều tồi tệ hơn là thường có các khái niệm hợp lý khác nhau cho các hình thái được phép, chỉ đồng ý với các đẳng cấu được phép. Tập trung vào các ngôn ngữ cho phép trì hoãn các vấn đề như vậy cho đến khi chúng tôi cảm thấy muốn nói về một số khái niệm hợp lý khác nhau về giảm (như giảm Karp so với giảm Cook).