Nguyên tắc chung cho các luồng là, bạn muốn có ít nhất một luồng công việc "hoạt động" (có thể thực hiện các lệnh của nó ngay lập tức trong thời gian CPU) cho mỗi "đơn vị thực thi" có sẵn trên máy tính. "Đơn vị thực thi" là một bộ xử lý hướng dẫn logic, do đó, một máy chủ siêu phân luồng Xeon bốn nhân, bốn lõi sẽ có 32 EU (4 chip, 4 lõi cho mỗi chip, mỗi siêu phân luồng). Core i7 trung bình của bạn sẽ có 8.
Một luồng trên mỗi EU là việc sử dụng toàn bộ sức mạnh của CPU, với điều kiện là các luồng sẽ luôn ở trạng thái hoạt động; điều này gần như không bao giờ xảy ra, vì các luồng cần truy cập vào bộ nhớ không được lưu trong bộ nhớ cache, đĩa cứng, cổng mạng, v.v. mà chúng phải chờ và điều đó không đòi hỏi phải có sự chú ý của CPU hoạt động. Do đó, bạn có thể tăng thêm hiệu quả tổng thể với nhiều chủ đề được xếp hàng và hiếm khi đi. Điều này không đi kèm với chi phí; khi CPU chuyển đổi một luồng, nó phải lưu trữ các thanh ghi, con trỏ thực thi và thông tin trạng thái khác thường được lưu trong các hoạt động bên trong của EU và truy cập rất nhanh, cho phép các EU khác trong chip CPU đó nhận nó. Nó cũng yêu cầu các luồng trong HĐH để quyết định nên chuyển sang luồng nào. Cuối cùng, khi một EU chuyển chủ đề, nó làm mất hiệu suất của đường ống mà hầu hết các kiến trúc bộ xử lý sử dụng; nó phải xả đường ống trước khi chuyển chủ đề. Nhưng, vì tất cả điều này vẫn mất trung bình ít thời gian hơn nhiều so với việc chờ đợi ổ cứng hoặc thậm chí RAM trở lại với thông tin, nó đáng giá.
Tuy nhiên, nói chung, một khi bạn vượt quá số lượng chủ đề "hoạt động" gấp đôi so với EU, HĐH bắt đầu dành nhiều thời gian lên lịch cho các chủ đề của EU và EU dành nhiều thời gian hơn để chuyển đổi giữa chúng, hơn là thực sự dành cho việc chạy các chủ đề đang hoạt động của các chương trình. Đây là điểm không kinh tế của quy mô; thực sự sẽ mất nhiều thời gian hơn để thuật toán đa luồng chạy nếu bạn thêm một luồng bổ sung vào thời điểm này.
Vì vậy, về tổng thể, bạn muốn duy trì ít nhất nhiều luồng trong chương trình của mình khi bạn có EU trên máy tính, nhưng bạn muốn tránh có nhiều hơn gấp đôi số đó không chờ hoặc ngủ.