Khi nào, nếu có, việc hủy cuộn vòng lặp vẫn hữu ích?

Tôi đã cố gắng tối ưu hóa một số mã cực kỳ quan trọng về hiệu suất (một thuật toán sắp xếp nhanh được gọi hàng triệu triệu lần bên trong mô phỏng monte carlo) bằng cách mở vòng lặp. Đây là vòng lặp bên trong mà tôi đang cố gắng tăng tốc:

// Search for elements to swap.
while(myArray[++index1] < pivot) {}
while(pivot < myArray[--index2]) {}

Tôi đã thử hủy cuộn đến một cái gì đó như:

while(true) {
    if(myArray[++index1] < pivot) break;
    if(myArray[++index1] < pivot) break;
    // More unrolling
}


while(true) {
    if(pivot < myArray[--index2]) break;
    if(pivot < myArray[--index2]) break;
    // More unrolling
}

Điều này hoàn toàn không có gì khác biệt vì vậy tôi đã thay đổi nó trở lại dạng dễ đọc hơn. Tôi đã có trải nghiệm tương tự lần khác, tôi đã thử mở vòng lặp. Với chất lượng của các bộ dự đoán nhánh trên phần cứng hiện đại, khi nào, nếu có, việc giải nén vòng lặp vẫn là một tối ưu hóa hữu ích?

Bỏ cuộn vòng lặp sẽ có ý nghĩa nếu bạn có thể phá vỡ chuỗi phụ thuộc. Điều này cho phép CPU siêu vô hướng có khả năng lên lịch mọi thứ tốt hơn và do đó chạy nhanh hơn.

Một ví dụ đơn giản:

for (int i=0; i<n; i++)
{
  sum += data[i];
}

Ở đây, chuỗi phụ thuộc của các đối số rất ngắn. Nếu bạn gặp sự cố vì bạn có lỗi bộ nhớ cache trên mảng dữ liệu, cpu không thể làm gì khác ngoài việc chờ đợi.

Mặt khác, mã này:

for (int i=0; i<n; i+=4)
{
  sum1 += data[i+0];
  sum2 += data[i+1];
  sum3 += data[i+2];
  sum4 += data[i+3];
}
sum = sum1 + sum2 + sum3 + sum4;

có thể chạy nhanh hơn. Nếu bạn bị lỗi bộ nhớ cache hoặc lỗi khác trong một phép tính thì vẫn còn ba chuỗi phụ thuộc khác không phụ thuộc vào lỗi. Một CPU không hoạt động có thể thực thi những điều này.

Những điều đó sẽ không tạo ra sự khác biệt nào vì bạn đang thực hiện cùng một số phép so sánh. Đây là một ví dụ tốt hơn. Thay vì:

for (int i=0; i<200; i++) {
  doStuff();
}

viết:

for (int i=0; i<50; i++) {
  doStuff();
  doStuff();
  doStuff();
  doStuff();
}

Ngay cả khi đó gần như chắc chắn sẽ không thành vấn đề nhưng bây giờ bạn đang thực hiện 50 phép so sánh thay vì 200 (hãy tưởng tượng phép so sánh phức tạp hơn).

Hướng dẫn sử dụng vòng lặp unrolling nói chung phần lớn là một artifact của lịch sử tuy nhiên. Đó là một danh sách khác ngày càng tăng của những thứ mà một trình biên dịch tốt sẽ làm cho bạn khi nó quan trọng. Ví dụ, hầu hết mọi người không thèm viết x <<= 1hoặc x += xthay vào đó x *= 2. Bạn chỉ cần viết x *= 2và trình biên dịch sẽ tối ưu hóa nó cho bạn theo bất kỳ điều gì tốt nhất.

Về cơ bản, ngày càng ít cần phải đoán trước trình biên dịch của bạn.

Bất kể dự đoán rẽ nhánh trên phần cứng hiện đại, hầu hết các trình biên dịch đều thực hiện giải nén vòng lặp cho bạn.

Sẽ rất đáng giá khi tìm ra mức độ tối ưu hóa mà trình biên dịch của bạn mang lại cho bạn.

Tôi thấy bài thuyết trình của Felix von Leitner rất sáng tạo về chủ đề này. Tôi khuyên bạn nên đọc nó. Tóm tắt: Các trình biên dịch hiện đại RẤT thông minh, vì vậy việc tối ưu hóa bằng tay hầu như không bao giờ hiệu quả.

Theo như tôi hiểu, các trình biên dịch hiện đại đã mở các vòng lặp khi thích hợp - một ví dụ là gcc, nếu được thông qua các cờ tối ưu hóa, hướng dẫn sử dụng cho biết nó sẽ:

Bỏ cuộn các vòng mà số lần lặp có thể được xác định tại thời điểm biên dịch hoặc khi vào vòng lặp.

Vì vậy, trong thực tế, có khả năng trình biên dịch của bạn sẽ thực hiện những trường hợp nhỏ nhặt cho bạn. Do đó, tùy thuộc vào bạn để đảm bảo rằng càng nhiều vòng lặp càng tốt để trình biên dịch dễ dàng xác định số lần lặp sẽ cần thiết.

Giải nén vòng lặp, cho dù đó là giải phóng bằng tay hay giải phóng trình biên dịch, thường có thể phản tác dụng, đặc biệt là với các CPU x86 mới hơn (Core 2, Core i7). Điểm mấu chốt: điểm chuẩn cho mã của bạn có và không có vòng lặp mở trên bất kỳ CPU nào bạn định triển khai mã này.

Cố gắng mà không biết không phải là cách để làm.
Việc sắp xếp này có chiếm tỷ lệ cao trong tổng thời gian không?

Tất cả những gì mà việc mở vòng lặp làm là giảm chi phí vòng lặp tăng / giảm, so sánh với điều kiện dừng và nhảy. Nếu những gì bạn đang làm trong vòng lặp cần nhiều chu kỳ hướng dẫn hơn chính chi phí của vòng lặp, bạn sẽ không thấy nhiều cải thiện về phần trăm khôn ngoan.

Đây là một ví dụ về cách đạt được hiệu suất tối đa.

Hủy cuộn vòng lặp có thể hữu ích trong các trường hợp cụ thể. Lợi ích duy nhất không phải là bỏ qua một số bài kiểm tra!

Ví dụ, nó có thể cho phép thay thế vô hướng, chèn hiệu quả tìm nạp trước phần mềm ... Bạn sẽ ngạc nhiên thực sự nó có thể hữu ích như thế nào (bạn có thể dễ dàng tăng tốc 10% trên hầu hết các vòng lặp ngay cả với-3) bằng cách nhanh chóng mở cuộn.

Như đã nói trước đây, nó phụ thuộc rất nhiều vào vòng lặp và trình biên dịch và thử nghiệm là cần thiết. Thật khó để đưa ra quy tắc (hoặc trình biên dịch heuristic để giải nén sẽ hoàn hảo)

Việc hủy cuộn vòng hoàn toàn phụ thuộc vào kích thước vấn đề của bạn. Nó hoàn toàn phụ thuộc vào thuật toán của bạn có thể giảm kích thước thành các nhóm công việc nhỏ hơn. Những gì bạn đã làm ở trên không giống như vậy. Tôi không chắc liệu mô phỏng monte carlo thậm chí có thể được cuộn hay không.

Tôi kịch bản tốt cho việc mở vòng lặp sẽ xoay một hình ảnh. Vì bạn có thể luân chuyển các nhóm công việc riêng biệt. Để làm cho điều này hoạt động, bạn sẽ phải giảm số lần lặp lại.

Bỏ cuộn vòng lặp vẫn hữu ích nếu có nhiều biến cục bộ cả trong và với vòng lặp. Để sử dụng lại những thanh ghi đó nhiều hơn thay vì lưu một thanh ghi cho chỉ mục vòng lặp.

Trong ví dụ của bạn, bạn sử dụng một lượng nhỏ các biến cục bộ, không lạm dụng các thanh ghi.

So sánh (đến kết thúc vòng lặp) cũng là một nhược điểm lớn nếu so sánh nặng (tức là không có testhướng dẫn), đặc biệt nếu nó phụ thuộc vào một chức năng bên ngoài.

Việc giải nén vòng lặp cũng giúp nâng cao nhận thức của CPU đối với dự đoán nhánh, nhưng những điều đó vẫn xảy ra.