Tôi có nên luôn luôn sử dụng một luồng song song khi có thể?

Với Java 8 và lambdas, việc lặp lại các bộ sưu tập dưới dạng luồng và dễ dàng sử dụng một luồng song song. Hai ví dụ từ các tài liệu , ví dụ thứ hai sử dụngallelStream:

myShapesCollection.stream()
    .filter(e -> e.getColor() == Color.RED)
    .forEach(e -> System.out.println(e.getName()));

myShapesCollection.parallelStream() // <-- This one uses parallel
    .filter(e -> e.getColor() == Color.RED)
    .forEach(e -> System.out.println(e.getName()));

Miễn là tôi không quan tâm đến thứ tự, việc sử dụng song song có ích không? Người ta sẽ nghĩ rằng việc phân chia công việc trên nhiều lõi nhanh hơn.

Có những cân nhắc khác? Khi nào nên sử dụng luồng song song và khi nào không nên sử dụng song song?

^{(Câu hỏi này được yêu cầu kích hoạt một cuộc thảo luận về cách thức và thời điểm sử dụng các luồng song song, không phải vì tôi nghĩ luôn luôn sử dụng chúng là một ý tưởng hay.)}

Luồng song song có tổng phí cao hơn nhiều so với luồng liên tiếp. Phối hợp các chủ đề mất một lượng thời gian đáng kể. Tôi sẽ sử dụng các luồng tuần tự theo mặc định và chỉ xem xét các luồng song song nếu

• Tôi có một lượng lớn vật phẩm cần xử lý (hoặc việc xử lý từng vật phẩm cần có thời gian và có thể song song hóa)

• Tôi có một vấn đề hiệu suất ở nơi đầu tiên

• Tôi chưa chạy quy trình trong môi trường đa luồng (ví dụ: trong bộ chứa web, nếu tôi có nhiều yêu cầu xử lý song song, việc thêm một lớp song song bên trong mỗi yêu cầu có thể có nhiều tiêu cực hơn hiệu ứng tích cực )

Trong ví dụ của bạn, hiệu suất sẽ được điều khiển bởi quyền truy cập được đồng bộ hóa System.out.println()và làm cho quá trình này song song sẽ không có hiệu lực, hoặc thậm chí là tiêu cực.

Ngoài ra, hãy nhớ rằng các luồng song song không giải quyết một cách kỳ diệu tất cả các vấn đề đồng bộ hóa. Nếu tài nguyên được chia sẻ được sử dụng bởi các vị từ và hàm được sử dụng trong quy trình, bạn sẽ phải đảm bảo rằng mọi thứ đều an toàn theo luồng. Đặc biệt, tác dụng phụ là những điều bạn thực sự phải lo lắng nếu đi song song.

Trong mọi trường hợp, đo lường, đừng đoán! Chỉ một phép đo sẽ cho bạn biết liệu sự song song có đáng hay không.

API Stream được thiết kế để giúp dễ dàng viết các tính toán theo cách được trừu tượng hóa khỏi cách chúng sẽ được thực thi, giúp chuyển đổi giữa tuần tự và song song dễ dàng.

Tuy nhiên, chỉ vì nó dễ dàng, không có nghĩa là nó luôn luôn là một ý tưởng tốt, và trên thực tế, đó là một ý tưởng tồi khi chỉ cần bỏ .parallel()đi khắp nơi chỉ vì bạn có thể.

Đầu tiên, lưu ý rằng tính song song không mang lại lợi ích nào ngoài khả năng thực thi nhanh hơn khi có nhiều lõi hơn. Một thực thi song song sẽ luôn liên quan đến nhiều công việc hơn một công việc tuần tự, bởi vì ngoài việc giải quyết vấn đề, nó còn phải thực hiện việc gửi và điều phối các nhiệm vụ phụ. Hy vọng là bạn sẽ có thể có được câu trả lời nhanh hơn bằng cách chia nhỏ công việc trên nhiều bộ xử lý; việc này có thực sự xảy ra hay không phụ thuộc vào rất nhiều thứ, bao gồm kích thước của tập dữ liệu của bạn, mức độ tính toán của bạn trên mỗi phần tử, tính chất của tính toán (cụ thể là việc xử lý một phần tử có tương tác với xử lý của phần tử khác không?) , số lượng bộ xử lý có sẵn và số lượng các tác vụ khác cạnh tranh cho các bộ xử lý đó.

Hơn nữa, lưu ý rằng song song cũng thường phơi bày chủ nghĩa không xác định trong tính toán thường bị ẩn bởi các triển khai tuần tự; đôi khi điều này không thành vấn đề, hoặc có thể được giảm thiểu bằng cách hạn chế các hoạt động liên quan (nghĩa là, các toán tử giảm phải không trạng thái và liên kết.)

Trong thực tế, đôi khi song song sẽ tăng tốc tính toán của bạn, đôi khi nó sẽ không, và đôi khi nó sẽ làm chậm nó. Tốt nhất là phát triển đầu tiên bằng cách sử dụng thực thi tuần tự và sau đó áp dụng song song trong đó

(A) bạn biết rằng thực sự có lợi cho việc tăng hiệu suất và

(B) rằng nó thực sự sẽ cung cấp hiệu suất tăng.

(A) là một vấn đề kinh doanh, không phải là một vấn đề kỹ thuật. Nếu bạn là một chuyên gia về hiệu suất, bạn thường sẽ có thể xem mã và xác định (B), nhưng con đường thông minh là để đo lường. (Và, thậm chí đừng bận tâm cho đến khi bạn bị thuyết phục (A); nếu mã đủ nhanh, tốt hơn để áp dụng chu kỳ não của bạn ở nơi khác.)

Mô hình hiệu suất đơn giản nhất cho tính song song là mô hình "NQ", trong đó N là số phần tử và Q là tính toán trên mỗi phần tử. Nói chung, bạn cần NQ sản phẩm vượt quá một số ngưỡng trước khi bạn bắt đầu nhận được lợi ích hiệu suất. Đối với một vấn đề Q thấp như "cộng các số từ 1 đến N", bạn thường sẽ thấy mức hòa vốn giữa N = 1000 và N = 10000. Với các vấn đề Q cao hơn, bạn sẽ thấy breakevens ở ngưỡng thấp hơn.

Nhưng thực tế khá phức tạp. Vì vậy, cho đến khi bạn đạt được kinh nghiệm, trước tiên hãy xác định khi nào việc xử lý tuần tự thực sự khiến bạn phải trả giá, và sau đó đo lường xem liệu song song có giúp ích gì không.

Tôi đã xem một trong các bài thuyết trình của Brian Goetz (Kiến trúc sư ngôn ngữ Java & trưởng nhóm đặc tả cho Lambda Expressions) . Ông giải thích chi tiết 4 điểm sau đây để xem xét trước khi đi song song:

Chi phí tách / phân tách
- Đôi khi chia tách tốn kém hơn so với chỉ thực hiện công việc!
Nhiệm vụ quản lý / chi phí quản lý
- Có thể thực hiện rất nhiều công việc trong thời gian cần thiết để bàn giao công việc cho một chủ đề khác.
Chi phí kết hợp kết quả
- Đôi khi kết hợp liên quan đến việc sao chép nhiều dữ liệu. Ví dụ, thêm số là rẻ trong khi các bộ hợp nhất là đắt.
Địa phương
- Con voi trong phòng. Đây là một điểm quan trọng mà mọi người có thể bỏ lỡ. Bạn nên xem xét các lỗi bộ nhớ cache, nếu CPU chờ dữ liệu vì bộ nhớ cache bị mất thì bạn sẽ không đạt được bất cứ điều gì bằng cách song song hóa. Đó là lý do tại sao các nguồn dựa trên mảng song song tốt nhất khi các chỉ số tiếp theo (gần chỉ mục hiện tại) được lưu vào bộ đệm và có ít khả năng CPU sẽ gặp lỗi bộ nhớ cache.

Ông cũng đề cập đến một công thức tương đối đơn giản để xác định cơ hội tăng tốc song song.

Mô hình NQ :

N x Q > 10000

Trong đó,
N = số mục dữ liệu
Q = số lượng công việc trên mỗi mục

JB đánh vào đầu đinh. Điều duy nhất tôi có thể thêm là Java 8 không thực hiện xử lý song song thuần túy, nó không có giá trị . Có, tôi đã viết bài báo và tôi đã làm F / J trong ba mươi năm vì vậy tôi hiểu vấn đề này.

Các câu trả lời khác đã được trình bày hồ sơ để tránh tối ưu hóa sớm và chi phí đầu tư trong xử lý song song. Câu trả lời này giải thích sự lựa chọn lý tưởng của các cấu trúc dữ liệu để truyền phát song song.

Như một quy luật, tăng hiệu suất từ xử lý song song là tốt nhất về con suối qua ArrayList, HashMap, HashSet, và ConcurrentHashMaptrường hợp; mảng; intcác dãy; và longphạm vi. Điểm chung của các cấu trúc dữ liệu này là tất cả chúng có thể được phân chia chính xác và rẻ tiền thành các phần phụ có kích thước mong muốn, giúp dễ dàng phân chia công việc giữa các luồng song song. Sự trừu tượng hóa được sử dụng bởi thư viện stream để thực hiện tác vụ này là bộ chia, được trả về bởi spliteratorphương thức trên Streamvà Iterable.

Một yếu tố quan trọng khác mà tất cả các cấu trúc dữ liệu này có điểm chung là chúng cung cấp địa phương tham chiếu từ tốt đến xuất sắc khi được xử lý tuần tự: các tham chiếu phần tử tuần tự được lưu trữ cùng nhau trong bộ nhớ. Các đối tượng được tham chiếu bởi các tham chiếu đó có thể không gần nhau trong bộ nhớ, điều này làm giảm tính tham chiếu cục bộ. Tham chiếu địa phương hóa ra cực kỳ quan trọng để song song hóa các hoạt động hàng loạt: không có nó, các luồng dành nhiều thời gian nhàn rỗi, chờ dữ liệu được chuyển từ bộ nhớ vào bộ đệm của bộ xử lý. Các cấu trúc dữ liệu với vị trí tham chiếu tốt nhất là các mảng nguyên thủy vì bản thân dữ liệu được lưu trữ liên tục trong bộ nhớ.

Nguồn: Mục # 48 Sử dụng thận trọng khi tạo luồng song song, Java 3e hiệu quả của Joshua Bloch

Không bao giờ song song một luồng vô hạn với một giới hạn. Đây là những gì xảy ra:

    public static void main(String[] args) {
        // let's count to 1 in parallel
        System.out.println(
            IntStream.iterate(0, i -> i + 1)
                .parallel()
                .skip(1)
                .findFirst()
                .getAsInt());
    }

Kết quả

    Exception in thread "main" java.lang.OutOfMemoryError
        at ...
        at java.base/java.util.stream.IntPipeline.findFirst(IntPipeline.java:528)
        at InfiniteTest.main(InfiniteTest.java:24)
    Caused by: java.lang.OutOfMemoryError: Java heap space
        at java.base/java.util.stream.SpinedBuffer$OfInt.newArray(SpinedBuffer.java:750)
        at ...

Tương tự nếu bạn sử dụng .limit(...)

Giải thích ở đây: Java 8, sử dụng .pool trong luồng gây ra lỗi OOM

Tương tự, không sử dụng song song nếu luồng được sắp xếp và có nhiều phần tử hơn bạn muốn xử lý, ví dụ:

public static void main(String[] args) {
    // let's count to 1 in parallel
    System.out.println(
            IntStream.range(1, 1000_000_000)
                    .parallel()
                    .skip(100)
                    .findFirst()
                    .getAsInt());
}

Điều này có thể chạy lâu hơn vì các luồng song song có thể hoạt động trên nhiều phạm vi số thay vì mức quan trọng 0-100, khiến việc này mất nhiều thời gian.