Làm thế nào / Tại sao các hệ thống tuyến tính rất quan trọng đối với khoa học máy tính?

Gần đây tôi đã bắt đầu tham gia vào Tối ưu hóa toán học và rất thích nó. Có vẻ như rất nhiều vấn đề tối ưu hóa có thể dễ dàng được thể hiện và giải quyết như các chương trình tuyến tính (ví dụ: luồng mạng, bìa / đỉnh, nhân viên bán hàng du lịch, v.v.) Tôi biết rằng một số trong số chúng là NP-hard, nhưng vấn đề là chúng có thể 'đóng khung như một chương trình tuyến tính' nếu không được giải quyết tối ưu.

Điều đó khiến tôi suy nghĩ: Chúng tôi luôn được dạy các hệ phương trình tuyến tính, đại số tuyến tính trong toàn trường / đại học. Và nhìn thấy sức mạnh của LP để thể hiện các thuật toán khác nhau, điều đó thật hấp dẫn.

Câu hỏi: Mặc dù chúng ta có các hệ thống phi tuyến tính phổ biến xung quanh chúng ta như thế nào / tại sao các hệ thống tuyến tính lại rất quan trọng đối với khoa học máy tính? Tôi hiểu rằng họ giúp đơn giản hóa sự hiểu biết và có thể tính toán được hầu hết thời gian nhưng có phải vậy không? Làm thế nào tốt là 'xấp xỉ' này? Có phải chúng ta đơn giản hóa quá mức và kết quả vẫn còn có ý nghĩa trong thực tế? Hay đó chỉ là "bản chất", tức là những vấn đề hấp dẫn nhất thực sự chỉ đơn giản là tuyến tính?

Liệu có an toàn để đảm bảo rằng 'đại số tuyến tính / phương trình / lập trình' là những viên đá góc của CS không? Nếu không thì điều gì sẽ là một mâu thuẫn tốt? Tần suất chúng ta xử lý các công cụ phi tuyến tính (tôi không nhất thiết phải theo lý thuyết mà còn theo quan điểm 'khả năng giải quyết', tức là chỉ nói rằng NP không cắt giảm; cần phải có một sự gần đúng tốt cho vấn đề và nó sẽ hạ cánh lên là tuyến tính?)

Tiền đề của câu hỏi là một thiếu sót nhỏ: có nhiều người sẽ cho rằng tứ giác là "ranh giới" thực sự cho khả năng kéo và mô hình hóa, vì các bài toán bình phương gần như "dễ" như các bài toán tuyến tính. Có những người khác cho rằng độ lồi (hoặc thậm chí dưới mức trong một số trường hợp nhất định) là ranh giới cho khả năng di chuyển.

$f(x + y) = f(x) + f(y)$

Sự không nhớ này truyền đạt hiệu quả: Tôi có thể chia mọi thứ thành từng mảnh, hoặc làm việc lặp đi lặp lại, và tôi không mất đi nhờ vào việc làm như vậy. Tôi vẫn có thể đưa ra quyết định tồi (thuật toán tham lam cf) nhưng hành động chia tách mọi thứ tự nó không làm tổn thương tôi.

Đây là một lý do tại sao tuyến tính có sức mạnh như vậy. Có lẽ có nhiều người khác.

" Mặc dù chúng ta có các hệ thống phi tuyến tính phổ biến xung quanh chúng ta như thế nào / tại sao các hệ thống tuyến tính lại rất quan trọng đối với khoa học máy tính?"

Đây là một câu trả lời một phần trong tâm trí của tôi: Tôi nghĩ rằng đó là bởi vì thiên nhiên có rất nhiều đối tượng / hiện tượng - có thể biểu thị bằng các hàm mặc dù là phi tuyến trên toán hạng của chúng, thực sự là thành viên của không gian tuyến tính. Các hàm sóng trong một không gian Hilbert, các thành phần trong phổ nhiễu, vòng đa thức, các quá trình ngẫu nhiên - tất cả chúng đều hoạt động theo kiểu đó. Ngay cả những định nghĩa rất chung về không gian cong cũng được xây dựng bằng cách soạn các biểu đồ nhỏ của không gian phẳng (đa tạp, bề mặt Riemann, ..). Hơn nữa, thiên nhiên có đầy đủ các đối xứng và nghiên cứu các đối xứng luôn luôn được nghiên cứu về các toán tử tuyến tính (lý thuyết biểu diễn, trong tâm trí của tôi, đang len lỏi vào nhiều lĩnh vực của khoa học máy tính từ trước đến nay).

Đây là ngoài các trường hợp trong đó bản thân các toán tử là tuyến tính.

Một phần lớn các vấn đề mà chúng ta cần các chương trình máy tính, phát sinh trực tiếp hoặc được trừu tượng hóa từ các hiện tượng xảy ra tự nhiên. Có lẽ nghiên cứu / giải quyết các hệ thống tuyến tính không phải là một bất ngờ lớn, sau tất cả?