Làm thế nào để tạo ra hàng xóm trong thuật toán leo đồi?

Leo đồi dường như là một công cụ rất mạnh mẽ để tối ưu hóa. Tuy nhiên, làm thế nào để tạo ra "hàng xóm" của một giải pháp luôn làm tôi bối rối.

Ví dụ: tôi đang tối ưu hóa một giải pháp . Ở đây x 1 nằm trong phạm vi ( 0 , 0,1 ) , x 2 nằm trong phạm vi ( 0 , 100 ) , x 3 nằm trong phạm vi ( 0 , 1000000 ) . Cách tốt nhất để tạo ra "hàng xóm" là gì? Tôi thực sự không thể chọn "kích thước bước" ở đây, vì kích thước bước 1 là rất lớn đến x 1 , nhưng rất nhỏ so với x $(x_1, x_2, x_3)$$x_1$$(0, 0.1)$$x_2$$(0, 100)$$x_3$$(0, 1000000)$$x_1$$x_3$.

Cách chung nhất để tạo ra "hàng xóm" trong thuật toán leo đồi là gì?

Giải pháp của Vincent sẽ giúp bạn vượt qua rào cản đầu tiên. Bạn vẫn có thể tự hỏi làm thế nào để chọn kích thước bước ngay cả khi tất cả các kích thước có cùng phạm vi. Trong trường hợp đó, nó giúp hiểu hành vi của chức năng của bạn để bạn có thể chọn một giá trị phù hợp. Một cách khác là thiết lập một cách thích ứng kích thước bước dựa trên độ dốc (bước đi nhẹ nếu chức năng thay đổi nhiều).

Bài viết này cũng có thể có một số ý tưởng thú vị: Trên thuật toán leo đồi với kích thước bước thích ứng: Hướng tới thuật toán tối ưu hóa hộp đen ít tham số điều khiển

Cách dễ nhất (và an toàn nhất) là lặp lại vấn đề của bạn để tất cả các tham số có phạm vi tương đương, giả sử [0,1].

Ngoài ra, bạn có thể sử dụng một kích thước bước khác nhau cho mỗi tham số.