Những hạn chế của thuật toán leo đồi và làm thế nào để vượt qua chúng?

Những hạn chế của thuật toán leo đồi là gì? Làm thế nào chúng ta có thể khắc phục những hạn chế này?

Như @nbro đã nói rằng Hill Leo là một nhóm các thuật toán tìm kiếm địa phương . Vì vậy, khi bạn nói Hill Leo trong câu hỏi tôi đã giả sử bạn đang nói về việc leo đồi tiêu chuẩn. Phiên bản tiêu chuẩn của leo đồi có một số hạn chế và thường bị kẹt trong kịch bản sau:

• Maxima cục bộ: Thuật toán leo đồi đạt đến vùng lân cận một giá trị tối đa cục bộ, bị kéo về phía đỉnh và bị mắc kẹt ở đó, không có nơi nào khác để đi .
• Ridges: Đây là các chuỗi cực đại cục bộ , gây khó khăn cho thuật toán điều hướng.
• Plateaux: Đây là một khu vực không gian nhà nước phẳng . Vì không có khó khăn để đi, thuật toán thường bị lạc trong cao nguyên.
  

Để giải quyết những vấn đề này, nhiều biến thể của thuật toán leo đồi đã được phát triển. Chúng thường được sử dụng nhất:

• Stochastic Hill Leo chọn ngẫu nhiên từ các di chuyển lên dốc. Xác suất lựa chọn thay đổi theo độ dốc của di chuyển lên dốc.
• Leo núi lựa chọn đầu tiên thực hiện một trong những điều trên bằng cách tạo ngẫu nhiên người kế vị cho đến khi tìm thấy một người tốt hơn.
• Tìm kiếm lại leo đồi ngẫu nhiên từ các bước di chuyển ban đầu được tạo ngẫu nhiên cho đến khi đạt được trạng thái mục tiêu.

Sự thành công của thuật toán leo đồi phụ thuộc vào kiến ​​trúc của cảnh quan không gian nhà nước. Bất cứ khi nào có một vài cực đại và cao nguyên, các biến thể của thuật toán tìm kiếm leo đồi hoạt động rất tốt. Nhưng trong các vấn đề trong thế giới thực, có một cảnh quan trông giống như một gia đình nhím bị phân tán rộng rãi trên sàn phẳng, với những con nhím nhỏ sống trên đầu của mỗi chiếc kim nhím (như được mô tả trong Chương 4 của cuốn sách Trí tuệ nhân tạo: A Cách tiếp cận hiện đại). Các bài toán NP-Hard thường có số cực đại cục bộ theo cấp số nhân bị mắc kẹt.
Các thuật toán đã được phát triển để khắc phục các loại vấn đề này:

• Kích thích ủ
• Tìm kiếm chùm tia cục bộ
• Thuật toán di truyền

Sách tham khảo - Trí tuệ nhân tạo: Cách tiếp cận hiện đại

Leo đồi không phải là một thuật toán, mà là một nhóm các thuật toán "tìm kiếm địa phương". Các thuật toán cụ thể thuộc danh mục thuật toán "leo đồi" là 2-opt, 3-opt, 2.5-opt, 4-opt, hoặc, nói chung, bất kỳ N-opt nào. Xem chương 3 của bài báo " Vấn đề nhân viên bán hàng du lịch: Nghiên cứu tình huống về tối ưu hóa cục bộ " (của David S. Johnson và Lyle A. McGeoch) để biết thêm chi tiết về một số thuật toán tìm kiếm địa phương này (áp dụng cho TSP).

Điều khác biệt một thuật toán trong thể loại này với thuật toán khác là "hàm lân cận" mà chúng sử dụng (nói một cách đơn giản, cách chúng tìm các giải pháp lân cận cho một giải pháp nhất định). Lưu ý rằng, trong thực tế, điều này không phải lúc nào cũng đúng: thường các thuật toán này có một số cách triển khai khác nhau.

Hạn chế rõ ràng nhất của các thuật toán leo đồi là do bản chất của chúng, đó là, chúng là các thuật toán tìm kiếm cục bộ. Do đó họ thường chỉ tìm cực đại cục bộ (hoặc cực tiểu). Vì vậy, nếu bất kỳ thuật toán nào trong số các thuật toán này đã hội tụ đến mức tối thiểu cục bộ (hoặc tối đa) và, trong giải pháp hoặc không gian tìm kiếm, gần với giải pháp tìm thấy này, một giải pháp tốt hơn, không có thuật toán nào trong số các thuật toán này có thể tìm thấy giải pháp tốt hơn. Về cơ bản chúng sẽ bị mắc kẹt.

Các thuật toán tìm kiếm địa phương thường không được sử dụng một mình. Chúng được sử dụng như các thường trình con của các thuật toán siêu kinh nghiệm khác, như mô phỏng ủ, tìm kiếm lặp cục bộ hoặc trong bất kỳ thuật toán chống thuộc địa nào. Vì vậy, để khắc phục những hạn chế của chúng, chúng tôi thường không sử dụng chúng một mình, mà chúng tôi sử dụng chúng cùng với các thuật toán khác, có tính chất xác suất và có thể tìm thấy cực tiểu hoặc cực đại toàn cầu (ví dụ: bất kỳ thuật toán chống thuộc địa nào).