Làm thế nào để phương sai trong thời gian hoàn thành nhiệm vụ ảnh hưởng đến makepan?

16

Giả sử chúng tôi có một bộ lớn các tác vụ và một bộ các bộ xử lý giống hệt nhau (về hiệu suất) hoạt động hoàn toàn trong song song, tương đông. Đối với các kịch bản quan tâm, chúng tôi có thể giả sử . Mỗi cần một lượng thời gian / chu kỳ để hoàn thành sau khi được gán cho bộ xử lý và sau khi được gán, nó không thể được chỉ định lại cho đến khi hoàn thành (bộ xử lý luôn hoàn thành nhiệm vụ được giao). Giả sử rằng mỗi mất một lượng thời gian / chu kỳ $\tau_1, \tau_2, ..., \tau_n$ $\rho_1, \rho_2, ..., \rho_m$ $m \leq n$ $\tau_i$ $\rho_j$ $\tau_i$ $X_i$ , không được biết trước, được lấy từ một số phân phối ngẫu nhiên rời rạc. Đối với câu hỏi này, chúng ta thậm chí có thể giả sử một phân phối đơn giản: và tất cả đều độc lập theo cặp. Do đó và . $P(X_i = 1) = P(X_i = 5) = 1/2$ $X_i$ $\mu_i = 3$ $\sigma^2 = 4$

Giả sử rằng, tĩnh, tại thời điểm / chu kỳ 0, tất cả các tác vụ được gán đều nhất có thể cho tất cả các bộ xử lý, thống nhất ngẫu nhiên; do đó, mỗi bộ xử lý được gán tác vụ (chúng ta cũng có thể giả sử cho các mục đích của câu hỏi). Chúng tôi gọi makepan là thời gian / chu kỳ mà bộ xử lý cuối cùng hoàn thành công việc được giao, hoàn thành công việc được giao. Câu hỏi đầu tiên: $\rho_j$ $n/m$ $m | n$ $\rho^*$

Là một hàm của $m$ , $n$ và $X_i$ , $M$ gì? Cụ thể, $E[M]$ gì? $Var[M]$ ?

Câu hỏi thứ hai:

Giả sử $P(X_i = 2) = P(X_i = 4) = 1/2$ và tất cả $X_i$ đều độc lập theo cặp, vì vậy $\mu_i = 3$ và $\sigma^2 = 1$ . Là một hàm của $m$ , $n$ và các mới này, $X_i$ là gì? Thú vị hơn, làm thế nào để so sánh với câu trả lời từ phần đầu tiên?

Một số thí nghiệm suy nghĩ đơn giản chứng minh câu trả lời cho cái sau là makepan dài hơn. Nhưng làm thế nào điều này có thể được định lượng? Tôi sẽ vui lòng đăng một ví dụ nếu điều này (a) gây tranh cãi hoặc (b) không rõ ràng. Tùy thuộc vào sự thành công với câu hỏi này, tôi sẽ đăng câu hỏi tiếp theo về sơ đồ phân công động theo các giả định tương tự. Cảm ơn trước!

Phân tích một trường hợp dễ dàng: $m = 1$

Nếu $m = 1$ , thì tất cả $n$ tác vụ được lên lịch cho cùng một bộ xử lý. Makepan $M$ chỉ là thời gian để hoàn thành $n$ nhiệm vụ theo kiểu tuần tự hoàn chỉnh. Do đó,

\begin{aligned} E [M] & = E [X_{1} + X_{2} + . . . + X_{n}] \\ = E [X_{1}] + E [X_{2}] + . . . + E [X_{n}] \\ = μ + μ + . . . + μ \\ = n μ \end{aligned}

$\begin{align*} E[M] &= E[X_1 + X_2 + ... + X_n] \\ &= E[X_1] + E[X_2] + ... + E[X_n] \\ &= \mu + \mu + ... + \mu \\ &= n\mu \end{align*}$ và

\begin{aligned} V một r [M] & = = V một r [X_{1} + X_{2} + . . . + X_{n}] \\ = = V một r [X_{1}] + V một r [X_{2}] + . . . + V một r [X_{n}] \\ = = σ^{2} + σ^{2} + . . . + σ^{2} \\ = = n σ^{2} \end{aligned}

$\begin{align*} Var[M] &= Var[X_1 + X_2 + ... + X_n] \\ &= Var[X_1] + Var[X_2] + ... + Var[X_n] \\ &= \sigma^2 + \sigma^2 + ... + \sigma^2 \\ &= n\sigma^2 \\ \end{align*}$

Có vẻ như có thể sử dụng kết quả này để trả lời câu hỏi cho ; chúng ta chỉ cần tìm một biểu thức (hoặc gần đúng) cho trong đó , một biến ngẫu nhiên có và . Là nhóm này đi đúng hướng? $m > 1$ $\max(Y_1, Y_2, ..., Y_m)$ $Y_i = X_{i\frac{n}{m} + 1} + X_{i\frac{n}{m} + 2} + ... + X_{i\frac{n}{m} + \frac{n}{m}}$ $\mu_Y = \frac{n}{m}\mu_X$ $\sigma_Y^2 = \frac{n}{m}\sigma_X^2$

probability-theory scheduling parallel-computing

— Patrick87
nguồn

Câu hỏi hay. Giá như hôm nay không có hạn chót ....

— Dave Clarke

8

Vì , chúng ta có thể xem xét điều này theo và thay vì và . Giả sử là thời gian bộ xử lý thứ hoàn thành công việc. $m = k \times n$ $k$ $n$ $n$ $m$ $T_i$ $i$

Khi phát triển, xác suất = (bộ xử lý chỉ được giao tác vụ) cho một số tiếp cận , do đó makepan được định nghĩa là , đạt . $n$ $T_i$ $5k$ $T=5$ $i$ $1$ $\mathrm{max}(T_i)$ $E[M]$ $5k$

Đối với kịch bản thứ hai, đây là do đó, việc tăng số lượng bộ xử lý làm cho 4222 tách tốt hơn. $4k$

Điều gì về - tăng số lượng tác vụ trên mỗi bộ xử lý? Tăng có tác dụng ngược lại, nó làm cho nó ít có khả năng có bộ xử lý với một bộ tác vụ không may mắn. Bây giờ tôi sẽ về nhà nhưng tôi sẽ quay lại vấn đề này sau. "Linh cảm" của tôi là khi tăng lên, sự khác biệt về giữa phần tách 42 và phần 51 sẽ biến mất, trở nên giống nhau cho cả hai. Vì vậy, tôi cho rằng 4 trận2 luôn tốt hơn ngoại trừ một số trường hợp đặc biệt (giá trị cụ thể rất nhỏ của và ), thậm chí nếu như vậy. $k$ $k$ $k$ $E[M]$ $E[M]$ $k$ $n$

Vì vậy, để tóm tắt:

Phương sai thấp hơn là tốt hơn, tất cả những người khác đều bình đẳng.
Khi số lượng bộ xử lý tăng lên, phương sai thấp hơn trở nên quan trọng hơn.
Khi số lượng tác vụ trên mỗi bộ xử lý tăng lên, phương sai thấp hơn trở nên ít quan trọng hơn.

— svinja
nguồn

+1 Trực giác tuyệt vời và điều này cũng giúp làm rõ suy nghĩ của tôi. Vì vậy, việc tăng số lượng bộ xử lý có xu hướng tăng makepan theo giả định tỷ lệ yếu; và tăng số lượng nhiệm vụ có xu hướng giảm makepan theo giả định tỷ lệ mạnh (tất nhiên là mất nhiều thời gian hơn; ý tôi là tỷ lệ công việc / makepan được cải thiện). Đây là những quan sát thú vị, và chúng có vẻ đúng;

— Patrick87

đầu tiên là hợp lý bởi thực tế là có xu hướng cho cố định và tăng ; thứ hai bởi thực tế là ... vì vậy phương sai không tăng tuyến tính như là một hàm của . Điều đó có tương thích với suy nghĩ của bạn không (đó là cách tôi diễn giải những gì bạn có cho đến nay)?

1 - (1 - P (X = 5)^{k})^{n}

$1 - (1 - P(X = 5)^k)^n$

1

$1$

k

$k$

n

$n$

V a r [X + X] = V a r [X] + V a r [X] = 2 σ^{2} \leq 4 σ^{2} = 4 V a r [X] = V a r [2 X]

$Var[X + X] = Var[X] + Var[X] = 2\sigma^2 \leq 4\sigma^2 = 4Var[X] = Var[2X]$

k

$k$

— Patrick87

Tôi không biết "linh cảm" đến từ đâu; nó không phù hợp với phần còn lại của lý luận heuristic.

— András Salamon

2

Tôi thấy rằng các đối số heuristic thường khá sai lệch khi xem xét lập lịch tác vụ (và các vấn đề liên quan chặt chẽ như đóng gói bin). Những điều có thể xảy ra là phản trực giác. Đối với một trường hợp đơn giản như vậy, nó thực sự đáng làm lý thuyết xác suất.

Đặt với một số nguyên dương. Giả sử là thời gian cần thiết để hoàn thành tác vụ thứ được trao cho bộ xử lý . Đây là một biến ngẫu nhiên có nghĩa là và phương sai . Makepan dự kiến trong trường hợp đầu tiên là Các khoản tiền đều là iid với trung bình và phương sai , giả sử rằng đều là iid (điều này mạnh hơn tính độc lập theo cặp). $n = km$ $k$ $T_{ij}$ $j$ $i$ $\mu$ $\sigma^2$

E [M] = = E [tối đa {Σ_{j = = 1}^{k} T_{Tôi j} | Tôi = = 1, 2, Giáo dục, m}] .

$E[M] = E[\max \left\{\sum_{j=1}^k T_{ij} \mid i=1,2,\dots,m \right\}].$

k μ

$k\mu$

k σ^{2}

$k\sigma^2$

T_{i j}

$T_{ij}$

Bây giờ để đạt được kỳ vọng tối đa, người ta cần thêm thông tin về phân phối hoặc người ta phải giải quyết các giới hạn không phân phối, chẳng hạn như:

Peter J. Downey, Giới hạn phân phối không mong đợi mức tối đa với các ứng dụng lập lịch , Thư nghiên cứu hoạt động 9 , 189 Phản201, 1990. doi: 10.1016 / 0167-6377 (90) 90018-Z

có thể được áp dụng nếu tổng tiền của bộ xử lý là iid. Điều này không nhất thiết phải là trường hợp nếu thời gian cơ bản chỉ độc lập theo cặp. Cụ thể, theo Định lý 1, makepan dự kiến được giới hạn ở trên bởi Downey cũng cung cấp một phân phối cụ thể đạt được ràng buộc này, mặc dù phân phối thay đổi như , và không chính xác tự nhiên.

E [M] \leq k μ + σ \sqrt{k} \frac{n - 1}{\sqrt{2 n - 1}} .

$E[M] \le k\mu + \sigma\sqrt{k}\frac{n-1}{\sqrt{2n-1}}.$

n

$n$

Lưu ý rằng ràng buộc nói rằng makepan dự kiến có thể tăng khi bất kỳ tham số nào tăng: phương sai , số lượng bộ xử lý hoặc số lượng tác vụ trên mỗi bộ xử lý . $\sigma^2$ $n$ $k$

Đối với câu hỏi thứ hai của bạn, kịch bản phương sai thấp dẫn đến kết quả lớn hơn dường như là kết quả không thể xảy ra của một thử nghiệm suy nghĩ. Đặt biểu thị cho phân phối đầu tiên và cho lần thứ hai (với tất cả các tham số khác giống nhau). Ở đây và biểu thị tổng các khoảng thời gian tác vụ tương ứng với bộ xử lý theo hai bản phân phối. Đối với tất cả , độc lập mang lại $X = \max_{i=1}^m X_i$ $Y = \max_{i=1}^m Y_i$ $X_i$ $Y_i$ $k$ $i$ $x \ge k\mu$

P r [X \leq x] = \prod_{i = 1}^{m} P r [X_{i} \leq x] \leq \prod_{i = 1}^{m} P r [Y_{i} \leq x] = P r [Y \leq x] .

$Pr[X \le x] = \prod_{i=1}^m Pr[X_i \le x] \le \prod_{i=1}^m Pr[Y_i \le x] = Pr[Y \le x].$ Do phần lớn khối lượng phân phối xác suất của cực đại sẽ cao hơn giá trị trung bình của nó, do đó sẽ có xu hướng lớn hơn . Đây không phải là một câu trả lời hoàn toàn nghiêm ngặt, nhưng trong ngắn hạn, trường hợp thứ hai có vẻ thích hợp hơn.

E [X]

$E[X]$

E [Y]

$E[Y]$

— Salamás Salamon
nguồn