Cách xây dựng mạng cục bộ nhanh


35

Tôi làm việc trong lĩnh vực sản xuất phim và cần RẤT truy cập nhanh vào các tệp cảnh thô rất lớn. Tôi hiện đang sử dụng ổ cắm eSATA 6Gbps cho các ổ đĩa cứng nội bộ, tốc độ này sẽ nhanh như ổ đĩa.

Nếu tôi sử dụng máy chủ và kết nối với máy trạm của mình qua mạng, công nghệ nào (tương đối phải chăng) sẽ cho phép tôi đến bất cứ nơi nào gần hoặc vượt quá tốc độ ổ đĩa?


12
Ethernet 10Gbps cũng nằm trong phạm vi "giá cả phải chăng nếu bạn có ngân sách" trong những ngày này. Tuy nhiên, SAN 8 hoặc 16Gbps (mạng vùng lưu trữ - hay còn gọi là sợi quang) có thể phù hợp hơn với mục đích sử dụng cụ thể?
Ecnerwal

3
Nó được thiết kế / tối ưu hóa đặc biệt cho các mạng lưu trữ.
Ecnerwal

3
Chỉ muốn kiểm tra - bạn có đang sử dụng SSD không? Nếu không, đó là một nâng cấp thiết yếu.
trpt4him

1
Tôi thấy không có giá trị gia tăng của SAN so với một NAS đơn giản và rẻ hơn ở đây.
jiggunjer

3
Để trả lời đúng, cần thêm thông tin: lượng dữ liệu phải được lưu trữ, bao nhiêu người dùng đồng thời, dữ liệu được truy cập từ đâu (loại máy nào)? Mạng 100Gbs sẽ không giúp ích nếu được truy cập từ máy 2 hoặc 3 với bộ điều hợp mạng 1Gbs.
JFL

Câu trả lời:


31

Ở đây vào đầu năm 2017, đánh giá từ thông tin có sẵn trực tuyến, có vẻ như ổ cứng SATA nhanh nhất đạt tối đa khoảng 220 MegaBytes / giây, là 1.760 Gigabits / giây.

Vì vậy, nếu bạn chỉ đang cố gắng đánh bại tốc độ của một ổ đĩa và bạn bị giới hạn ở các ổ cứng để xem xét chi phí cho mỗi terabyte cho các tệp video khổng lồ thì 10 Gigabit Ethernet là rất nhiều.


Bên cạnh đó, lưu ý rằng Thunderbolt Network cũng là 10 Gigabit / giây, vì vậy nếu bạn đã có cổng Thunderbolt, bạn có thể thử nghiệm điều đó. Nó có thể đánh bại được 6 cổng Gigabit eSATA 3 của bạn, mặc dù tôi không chắc về điều đó bởi vì eSATA rất đặc biệt về lưu trữ, trong khi việc lưu trữ qua Ethernet có nhiều chi phí hơn. Cũng lưu ý rằng Thunderbolt là một xe buýt để bàn; nó chỉ đạt được vài mét chứ không phải 100m Ethernet 10 Gigabit có thể xử lý. Vì vậy, trong khi Thunderbolt có thể thú vị để thử nghiệm và tạo mẫu trong khi bạn cân nhắc các tùy chọn của mình, thì đó có thể không phải là giải pháp lâu dài phù hợp với bạn trừ khi bạn muốn giữ tất cả các máy trạm và đĩa được kết nối lại với nhau trên một bàn lớn.


Vì vậy, đó là cho các ổ cứng. Nhưng nếu bạn kết nối các ổ đĩa đó với nhau để mỗi lần đọc hoặc ghi được trải đều trên nhiều ổ đĩa, bạn có thể có hiệu suất tốt hơn nhiều so với hiệu suất của ổ đĩa đơn. Ngoài ra, tùy thuộc vào ngân sách của bạn, bạn có thể đặt SSD PCIe / M.2 NVME vào PC để hoạt động như một máy chủ / NAS và bạn có thể có hiệu suất lưu trữ nhanh (khoảng 3,4 GigaByte / giây == 27 gigabit / giây) mỗi lái xe.

Trong trường hợp đó, bạn có thể muốn xem xét một cái gì đó nhanh hơn 10 Gigabit Ethernet, nhưng liếc nhìn trực tuyến, có vẻ như giá cả tăng vọt vượt quá 10 Gigabit Ethernet. Vì vậy, bạn có thể muốn xem xét thực hiện tổng hợp liên kết trên nhiều liên kết 10Gigabit. Tôi cũng đã thấy một số giai thoại trực tuyến sử dụng thiết bị mạng đã sử dụng, chẳng hạn như công cụ InfiniBand 40Gbps đã sử dụng, có thể được mua trên eBay với giá rẻ, nếu bạn không bận tâm đến việc mua thiết bị đã qua sử dụng trên eBay.


1
Điều gì về nhiều liên kết 10Gbit + liên kết?
André Borie

2
liên kết cho phép có các luồng riêng biệt sử dụng các liên kết vật lý khác nhau, nhưng một luồng duy nhất sẽ chỉ sử dụng một NIC. Vì vậy, điều này sẽ hữu ích khi một số tệp được phục vụ cho những người khác nhau cùng một lúc, nhưng sẽ không tăng băng thông cho một lần truy cập tệp.
JFL

4
@JohnU Không, Ethernet hiệu quả 94% với các khung 1500 byte tiêu chuẩn và thậm chí tốt hơn với các khung jumbo. Tôi thường xuyên thấy hơn 930 Mbps thông lượng mà không cần cố gắng. Gigabit Ethernet không cho phép các trung tâm, chỉ có các thiết bị chuyển mạch, do đó, nó luôn luôn là song công hoàn toàn và do đó không bao giờ có xung đột.
Spiff

1
Liên kết Ethernet @JFL (tập hợp liên kết IEEE 802.3ad) phân phối tải từng gói, không theo từng luồng. Do các công nghệ mạng thường được thiết kế theo các lớp riêng biệt, Ethernet (lớp 2, lớp liên kết dữ liệu) không có ý tưởng về các giao thức bên trên như IP hoặc TCP, do đó nó không có ý tưởng về các luồng.
Spiff

2
@JFL Tập hợp Linux chắc chắn có thể sử dụng một số thông tin layer3 + (Linux có thể làm nhiều điều bất thường), xin nhớ rằng bạn thực sự cần cả hai bên để hỗ trợ cùng một phương thức liên kết có ích. Nếu bạn đang kết nối với một công tắc thì bạn thực sự có thể sử dụng những gì công tắc hỗ trợ.
Zoredache

5

Nếu bạn dính vào các đĩa SATA, việc triển khai ethernet 10Gb và xây dựng RAID10 có kích thước hợp lý trên máy chủ sẽ giúp bạn tăng hiệu suất đáng chú ý ngoài một đĩa SATA. Đây sẽ là một khoản đầu tư xứng đáng vì bạn có thể chia sẻ máy chủ giữa số lượng máy trạm mà bạn cần và thêm vào trong tương lai bằng cách thêm các công tắc. Bạn sẽ cần chạy cáp ethernet Cat-6, vì Cat-5E sẽ không cắt nó - đừng quên thêm chi phí này vào tính toán của bạn. Bạn cũng có thể thêm SSD dưới dạng bộ đệm để tăng tốc hệ thống hơn nữa; vì bạn đang làm việc với các cảnh quay video, tôi giả sử bạn cần một lượng lớn dung lượng lưu trữ, sẽ cực kỳ tốn kém để xây dựng hoàn toàn bằng SSD.

Bạn có thể mua máy chủ rackmount được tạo sẵn từ Dell hoặc HP và sử dụng thẻ RAID phần cứng hoặc nếu bạn là người phần cứng nhiều hơn, bạn có thể mua khung máy rẻ hơn từ Supermicro và tự mình xây dựng máy lưu trữ, sử dụng RAID phần mềm Windows hoặc Linux. RAID phần cứng thường nhanh hơn khi có RAID1, vì phần mềm phải lần lượt ghi vào từng đĩa và đợi quá trình ghi hoàn tất trước khi chuyển sang thao tác tiếp theo; Thẻ RAID nói chung có thể ghi song song vào cả hai đĩa và lưu trữ hoạt động ghi, trả lại quyền điều khiển cho HĐH ngay lập tức. Tuy nhiên, xin lưu ý rằng mặc dù RAID0 thậm chí còn nhanh hơn, nhưng bạn không có dự phòng và một lỗi ổ đĩa sẽ gây mất dữ liệu hoàn toàn; không bao giờ sử dụng RAID0 khi bạn có dữ liệu mà bạn muốn giữ.

Ở cấp cao của quy mô, bạn có Mạng Khu vực lưu trữ (SAN) nhưng chúng được thiết kế để cho phép nhiều hoạt động từ số lượng lớn các máy khách riêng biệt song song; một lợi ích của điều này là thông lượng rất cao đối với một số lượng nhỏ máy được kết nối, nhưng có khả năng quá mức cho nhu cầu của bạn và rất tốn kém. Ở cấp thấp, bạn có các thiết bị Lưu trữ đính kèm mạng (NAS) mà những người khác đã đề cập, nhưng mặc dù đơn giản hơn nhiều so với máy chủ đầy đủ, tôi không khuyên dùng chúng vì NAS thường là hộp đen; chúng được thiết kế để cắm và chơi cho hầu hết người dùng và kết quả là bạn có ít quyền kiểm soát hệ điều hành - Tôi vừa phải gửi lại một NAS nhỏ mà tôi đã mua cho văn phòng của khách hàng vì nó không ổn định sau một ngày sử dụng.

Một lợi thế khác để xây dựng một máy chủ là bạn tập trung tất cả các cảnh quay của mình vào một nơi, điều này giúp cho việc sao lưu thường xuyên và tương đối dễ dàng. Không bao giờ bỏ qua chiến lược sao lưu của bạn; một ngày nào đó bạn sẽ cần phải phụ thuộc vào nó!


3
"Phần mềm phải lần lượt ghi vào từng đĩa và đợi quá trình ghi hoàn tất trước khi chuyển sang thao tác tiếp theo". Điều đó đã không đúng trong nhiều thập kỷ; ngay cả các đĩa không phải máy chủ hiện nay cũng hỗ trợ hàng đợi lệnh. Và nói đúng ra, với phần mềm DMA cũng không cần phải chờ. Điều đó đã được hỗ trợ trong máy tính để bàn từ năm 1998 hoặc lâu hơn.
MSalters

Có lẽ đáng lưu ý rằng mặc dù câu đầu tiên của bạn là đúng đối với một người dùng, 10Gb được chia sẻ băng thông có nghĩa là với nhiều người dùng cố gắng truy cập chia sẻ đồng thời, băng thông mỗi người sẽ giảm xuống dưới mức SATA của một người dùng.
Dan Neely

2
Theo định nghĩa, NAS không phải là một thiết bị đặc biệt, bạn có thể có một PC Linux bình thường với samba hoặc NFS và gọi nó là NAS. Sự khác biệt chính là chia sẻ cấp độ tệp và chia sẻ cấp độ khối. Một thiết bị khối chỉ có thể được sử dụng bởi một khách hàng tại một thời điểm. Ngoài ra SAN đắt hơn và mất nhiều thời gian hơn / nhiều kiến ​​thức hơn để cấu hình.
jiggunjer

@jiggunjer Rất đúng, nhưng hầu hết những người sẽ xây dựng PC với Samba sẽ gọi nó là máy chủ tệp chứ không phải NAS. Tôi chỉ chơi về mặt kỹ thuật có nghĩa là thiết bị chuyên dùng. Cũng rất đúng về SAN, đó là lý do tại sao tôi xếp chúng là quá mức cần thiết.
Gargravarr

@DanNeely có, vì nhiều khách hàng được thêm vào với quyền truy cập đồng thời, tốc độ cho mỗi máy trạm sẽ giảm, nhưng tổng tốc độ dữ liệu ra khỏi máy chủ phải duy trì ở mức rất cao. Tăng cường với bộ nhớ cache SSD có thể bù đắp cho hầu hết điều này.
Gargravarr

3

Không có gì vượt qua được tính linh hoạt và dễ cấu hình của 10gbe, nhưng SAS hoàn toàn có thể kết nối mạng một cách đáng ngạc nhiên:

Đối với số lượng nhỏ máy trạm (n <8) trong đó khối lượng không cần phải ghi từ nhiều máy tính cùng một lúc, SAS hoạt động rất tốt. Với Tyan JBOD ($ 1.500) và LSI HBA ($ 400), chúng tôi nhận được 3.400 MB / s (27 Gbps) chuyển bền vững sang SSD. JBOD có một bộ chuyển mạch nội bộ với 3 đường lên tới HBA, nhưng các bộ chuyển mạch SAS có sẵn cho số lượng cổng cao hơn.

Đây là bài kiểm tra tốc độ của một trong các tập của chúng tôi:

CDM5 hiển thị tuần tự 2.862MB / s với 32 iops trong hàng đợi.  4k đơn luồng ngẫu nhiên đọc 29MB / s

Trong nội bộ, chúng tôi sử dụng giải pháp này với Windows Server Clustered chạy Storage Spaces được phân phối cho các máy khách với 10gbe.

Máy chủ Windows cụm


2

https://www.newegg.com/Sản phẩm / Sản phẩm.aspx? Item = N82E16820147593 & cm_V = samsung_m.2- -20-147-593- -Sản phẩm

Trước hết, SSD M.2 được cung cấp bo mạch chủ chính xác có thể đạt 2gb-4gb / s và có thể cao hơn. RAID một vài trong số này cùng nhau, và tốc độ của bạn thậm chí còn cao hơn.

Lập nhóm nhiều NIC 10gb có thể giúp bạn đạt được tốc độ gốc.

Bất cứ điều gì hơn 10g là nhiều tiền hơn.

40 gigabit Nic https://www.serversupply.com/products/part_search/pid_lookup.asp?pid=263133&gclid


Việc vượt lên trên 10gb cũng có khả năng đưa tốc độ xe buýt cục bộ vào bối cảnh như một yếu tố hạn chế :) Khe cắm PCI-express 2.0 x16 về mặt lý thuyết là 64GBit / s - nhưng chi phí vượt trội ở tất cả các mặt (bus đến bộ nhớ, phần mềm điều khiển vào bộ nhớ, tải cpu ...) sẽ gặm nhấm nó xuống khá gần với nơi bạn có thể vui mừng nếu 10GBe của bạn chạy ở tốc độ đường truyền ...
rackandboneman

2
@rackandboneman: Đó là lý do tại sao bạn có NIC thông minh. Ethernet 10Gb / s là tốc độ thô. Các tiêu đề Ethernet, IP và TCP có thể được xử lý bởi NIC, khiến CPU chỉ xử lý dữ liệu thực.
MSalters

NẾU các cơ chế giảm tải này hoạt động kết hợp với kịch bản ứng dụng của bạn - và trong khi chúng cắt giảm việc sử dụng CPU, chúng sẽ không giảm đáng kể khối lượng dữ liệu trừ khi rất nhiều lưu lượng đó là rác ở nơi đầu tiên ...
rackandboneman

@rackandboneman PCIe 3.0 x16 tồn tại để tốc độ có thể tăng gấp đôi.
gian mạng

10gbe có thể rẻ hơn nhiều so với điều đó: Mellanox nic với giá 180 đô la và 25gbe đến gần Mellanox 25gbe với giá 300 đô la . Những gì giết chết bạn là chi phí cổng trên thiết bị chuyển mạch, nhưng eBay hoặc một mạng lưới đầy đủ làm cho vấn đề đó biến mất.
Mitch

0

Sử dụng thẻ ethernet sợi với một công tắc sợi, chế độ đa chế độ đơn hoặc lý tưởng với các miếng đệm. Nếu bạn có ngân sách, bạn có thể tạo toàn bộ 10gbps, nếu bạn sử dụng tổng hợp liên kết với thẻ sợi quang cổng kép, bạn có thể nhận được 20gbps. Vì thuật ngữ "tương đối phải chăng" thay đổi tùy thuộc vào ngân sách của bạn là bao nhiêu, con số thực tế cho những gì bạn sẵn sàng chi tiêu sẽ hữu ích.


0

Cách rẻ nhất là sử dụng tập hợp liên kết (IE chạy cáp N, thường là 2) thay vì một.

Bằng cách này, liên kết 1Gb bẩn sẽ trở thành liên kết 2Gb.

Rõ ràng nó có nghĩa là bạn cần ít nhất 4 cổng cho một máy chủ khách.


và khách hàng cần 2 cổng ... Các công tắc đơn giản có hoạt động với điều này không? hoặc nó nên là một liên kết trực tiếp?
jiggunjer

@jiggunjer Công tắc đơn giản có thể được sử dụng cho điều đó nhưng bạn cần một cấu hình đặc biệt trên tất cả các máy tính / máy chủ sử dụng sơ đồ này
Antzi

tổng hợp này có giống như liên kết được đề cập trong các nhận xét của câu trả lời của @Spiff không? Trong trường hợp đó, băng thông không tăng khi truy cập tập tin duy nhất ...
jiggunjer

@jiggunjer Điều này thực sự phụ thuộc vào cách bạn thực hiện thiết lập, vì vậy tôi thực sự không thể trả lời.
Antzi

1
@FlorianCastellane mới nhất giá rẻ tôi đã mua. Phụ thuộc vào thông số kỹ thuật
Antzi
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.