Ý nghĩa của (meta) phương pháp heuristic

1. Để tối ưu hóa, từ Wikipedia :

   Trong khoa học máy tính, metaheuristic chỉ định một phương pháp tính toán nhằm tối ưu hóa một vấn đề bằng cách lặp đi lặp lại để cải thiện một giải pháp ứng viên liên quan đến một thước đo chất lượng nhất định. Siêu dữ liệu đưa ra một vài hoặc không có giả định về vấn đề được tối ưu hóa và có thể tìm kiếm không gian rất lớn của các giải pháp ứng cử viên. Tuy nhiên, siêu dữ liệu không đảm bảo một giải pháp tối ưu đã từng được tìm thấy. Nhiều siêu dữ liệu thực hiện một số hình thức tối ưu hóa ngẫu nhiên.

   Các thuật ngữ khác có ý nghĩa tương tự như siêu hình, là: không có đạo hàm, tìm kiếm trực tiếp, hộp đen hoặc thực sự chỉ là trình tối ưu hóa heuristic. Một số sách và tài liệu khảo sát đã được xuất bản về chủ đề này.

   • Tôi tự hỏi làm thế nào để biết liệu một phương pháp tối ưu hóa có phải là siêu hình hay không? Ví dụ,

     (1) Là phương pháp đơn giản cho siêu dữ liệu lập trình tuyến tính?

     (2) Có phải phần lớn các phương pháp lập trình phi tuyến tính như giảm độ dốc, phương pháp số nhân Lagrangian, phương pháp phạt, phương pháp điểm nội bộ (phương pháp rào cản), siêu hình?

     (3) Có phải tất cả các phương pháp không có độ dốc, chẳng hạn như phương pháp Nelder của Mead hoặc phương pháp đơn giản xuống dốc, siêu hình?

   • Một số phương pháp tối ưu hóa không phải là siêu hình là gì?

2. Nói chung hơn (vượt quá tối ưu hóa) cho các kỹ thuật giải quyết vấn đề, từ Wikipedia :

   Heuristic đề cập đến các kỹ thuật dựa trên kinh nghiệm để giải quyết vấn đề, học hỏi và khám phá . Khi một tìm kiếm toàn diện là không thực tế, các phương pháp heuristic được sử dụng để tăng tốc quá trình tìm kiếm một giải pháp thỏa đáng. Ví dụ về phương pháp này bao gồm sử dụng quy tắc ngón tay cái, phỏng đoán có giáo dục, phán đoán trực quan hoặc ý thức chung.

   Nói một cách chính xác hơn, heuristic là các chiến lược sử dụng thông tin có thể truy cập dễ dàng, mặc dù có thể áp dụng một cách lỏng lẻo để kiểm soát việc giải quyết vấn đề ở người và máy móc.

   Tôi tự hỏi làm thế nào để hiểu ý nghĩa của "heuristic"?

   • Làm thế nào tôi có thể biết liệu một kỹ thuật "giải quyết vấn đề, học hỏi và khám phá" có phải là heuristic hay không?

   • Một số kỹ thuật "giải quyết vấn đề, học hỏi và khám phá" không theo kinh nghiệm là gì?

Cảm ơn và trân trọng!

Heuristic là một cái gì đó hoạt động trong nhiều trường hợp trong thực tế, mặc dù không có lập luận chi tiết về lý do tại sao nó nên hoạt động tốt.

Metaheuristic không phải là một thuật toán mà là một sơ đồ hoặc ý tưởng heuristic chung có thể được sử dụng bên trong các thuật toán cụ thể.

Ví dụ, thuật toán đơn giản cho lập trình tuyến tính không phải là heuristic hay metaheuristic, vì nó có một lý thuyết hội tụ được thiết lập tốt. Các sqame giữ cho lập trình tứ phương tuần tự hoặc phương pháp điểm bên trong. (Các phương pháp điểm bên trong là một sơ đồ tổng quát, nhưng không phải là heuristic và do đó không phải là một siêu dữ liệu, vì có một lý thuyết khá mạnh liên quan đến nó.)

Thuật toán Nelder-Mead = dow dốc Simplex để giảm thiểu chức năng là heuristic (nó thực sự có thể thất bại đối với các vấn đề khá đơn giản ở các chiều cao hơn) và tìm kiếm tabu là siêu dữ liệu (vì có thể viết khá nhiều thuật toán đa dạng sử dụng tìm kiếm tabu, nhưng Mặt khác có chất lượng khá khác nhau.

Tôi sẽ không lặp lại đơn giản và Nelder-Mead vì @ArnoldNeumaier đã đưa ra một lời giải thích rất tốt, nhưng muốn thêm 2 xu của tôi.

Một trong những câu trích dẫn hay nhất mà tôi đã nghe cách đây một thời gian để mô tả sự khác biệt giữa heuristic và metaheuristic: Một heuristic là một quy tắc khá tốt. Một siêu nhân là một quy tắc khá tốt để tìm các quy tắc khá tốt.

Bạn chỉ nên xem nó như một cách để tìm ra các heuristic tốt cho các vấn đề cụ thể; về cơ bản nếu bạn tự hỏi mình một trong những câu hỏi sau đây bạn đang nói về siêu hình:

• Làm thế nào tôi nên điều chỉnh các tham số của heuristic này để cải thiện hiệu suất cho vấn đề đó?
• Đây là heuristic tốt hơn heuristic?

Có một loạt các siêu dữ liệu bạn có thể sử dụng để giải quyết vấn đề, học hỏi và khám phá , cụ thể là:

• Mô phỏng ủ : Tôi đã sử dụng vấn đề này trong một vấn đề để tối ưu hóa vị trí của các thành phần được kết nối trên lưới để giảm thiểu tổng chi phí kết nối chẳng hạn.
• Đám hạt
• Đàn kiến
• Tìm kiếm Tabu

Tôi thấy rằng hầu hết các siêu dữ liệu được phần nào lấy cảm hứng từ các hiện tượng tự nhiên, khó giải thích chặt chẽ, nhưng có đặc tính hội tụ tốt.

Đây là một liên kết tốt nếu bạn muốn đọc thêm về một số kỹ thuật siêu hình khác