ceph có thể xử lý mảng RAID phần cứng (LUN) như các ổ OSD không?


8

Tôi khá mới với ceph và cố gắng tìm hiểu xem ceph có hỗ trợ các HBA đột kích cấp phần cứng hay không.

Đáng buồn thay không thể tìm thấy bất kỳ thông tin. Những gì tôi tìm thấy là, nên sử dụng các đĩa đơn cho OSD. Nhưng điều này đẩy các yêu cầu đến PCIe, giao diện của đĩa lên băng thông cao và yêu cầu CPU rất cao. Bộ điều khiển RAID phần cứng đã giải quyết các yêu cầu này và chúng cung cấp dự phòng cao dựa trên các thiết lập mà không ăn PCIe, CPU hoặc bất kỳ tài nguyên nào khác của tôi.

Vì vậy, thiết lập mong muốn của tôi sẽ có (các) bộ điều khiển RAID cục bộ, xử lý dự phòng ổ đĩa của tôi ở cấp độ bộ điều khiển (Raid 5, đột kích 6) bất cứ cấp độ RAID nào tôi cần. Trên hết những gì LUN RAID tôi muốn sử dụng ceph để thực hiện mức độ sao chép cao hơn giữa: máy chủ, khung, giá đỡ, hàng, trung tâm dữ liệu hoặc bất cứ điều gì có thể hoặc có thể lập kế hoạch trong CRUSH

Bất kỳ kinh nghiệm trong thiết lập đó?

Đây có phải là một thiết lập được đề nghị?

Bất kỳ tài liệu chuyên sâu cho tích hợp RAID phần cứng này?

Câu trả lời:


7

Bạn không có nghĩa là bạn nên. Ánh xạ RAID LUN tới Ceph là có thể, nhưng bạn tiêm thêm một lớp trừu tượng và loại kết xuất ít nhất là một phần của chức năng Ceph vô dụng.

Chủ đề tương tự trên danh sách gửi thư của họ:

http://lists.ceph.com/pipermail/ceph-users-ceph.com/2017-September/021159.html


1
bạn có thể xây dựng "kết xuất ít nhất một phần chức năng của Ceph" một chút nữa không? Không nhận được điểm
cilap

1
Toàn bộ ý tưởng của Ceph ... OK, một trong những ý chính! là để tránh việc quản lý "đảo lưu trữ" là LUN RAID.
tướcSamedi1958

0

Nhưng điều này đẩy các yêu cầu đến PCIe, giao diện của đĩa lên băng thông cao và yêu cầu CPU rất cao.

Không thực sự, nhiều khối lượng công việc lưu trữ được phục vụ tốt với các CPU và kết nối đa năng hiện đại.

Có, bộ điều khiển RAID đảm nhiệm việc dự phòng với một số ít đĩa trong một khung. Nhưng đó là chi phí và sự phức tạp khi bạn chạy các giải pháp lưu trữ phân tán, đa nút như Ceph. Tại sao phải phản chiếu một đĩa vật lý khi Ceph đã có nhiều bản sao của nó?

Các khối xây dựng của một giải pháp như vậy chỉ là một loạt các đĩa. Chẳng hạn như Open Vault Storage Open Open. 30 cọc trong một bao vây, được gắn vào một nút tính toán có thể là vài chục lõi CPU. Thêm nhiều nút như bạn cần mở rộng ra. Bạn có thể để máy tính đó dành riêng cho Ceph nếu bạn muốn tối đa hóa thông lượng.


Bạn có sự thật với điểm chuẩn CPU, mem và đĩa thực so với điểm chuẩn RAID phần cứng không? Với mảng RAID phần cứng, tôi có yêu cầu thấp về CPU và mem, vì bộ điều khiển phần cứng đang chăm sóc nó.
cilap

Tôi không. Và bạn thực sự muốn làm điểm chuẩn của riêng bạn nào. Chỉ cần lưu ý rằng CPU thực hiện hàng tỷ chu kỳ mỗi giây và các kết nối (PCIe) thực hiện hàng tỷ lần chuyển trong một giây. Bạn có thể tự do sử dụng bộ điều khiển RAID, có vẻ như không cần thiết trong nút lưu trữ phân tán.
John Mahowald

-1

Thiết lập được khuyến nghị là sử dụng các đĩa đơn hoặc cuối cùng là các đĩa trong cặp RAID-1.

Một bộ điều khiển SAS duy nhất (hoặc bộ điều khiển RAID ở chế độ JBOD) có thể điều khiển hàng trăm đĩa mà không gặp sự cố nào.

Sử dụng các mảng rất lớn đánh bại mục đích rất lớn của CEPH là để tránh các điểm thất bại và "điểm nóng" duy nhất. Nó cũng sẽ thực sự gây hại cho sự dư thừa của bạn.

Giả sử bạn muốn xây dựng cụm 1 PB CEPH bằng ổ đĩa 8 TB, sử dụng khung máy chủ 36 đĩa (phần cứng giống như Supermicro thông thường). Hãy so sánh các thiết lập có và không có RAID về khả năng lưu trữ và độ tin cậy:

  • Với RAID-6, bạn cần 5 khung (và 10 OSD).

    • Mỗi khung sẽ có 2 mảng RAID 18 đĩa.
    • Bạn sẽ có 1024 TB lưu trữ có sẵn.
    • Trong trường hợp xảy ra sự cố nhiều đĩa, bạn sẽ phải xây dựng lại 256 TB.
  • Với CEPH và 5 khung gầm, bạn sẽ có 180 OSD.

    • Dung lượng khả dụng sẽ vượt trội hơn một chút (sử dụng mã hóa xóa): 1152 TB
    • trong trường hợp xảy ra sự cố nhiều đĩa, bạn sẽ chỉ phải xây dựng lại số lượng đĩa bị lỗi (trừ khi đó là toàn bộ máy chủ, nó sẽ luôn dưới 256 TB).

Tôi đang nhận được yêu cầu của Ceph, nhưng vẫn còn một câu hỏi lớn chưa được trả lời. Các yêu cầu cho khung gầm 36 là gì? Afaik bạn cần 36 lõi từ mô tả của ceph cho nó. Ngoài ra những gì cấu hình bạn sẽ đề nghị cho ví dụ của bạn? Những nỗ lực nhân rộng là gì và điểm chuẩn của nó là gì?
cilap

chỉ quên thôi. Afaik thiết lập của bạn cần nhiều phiên bản hơn hoặc thậm chí nhiều máy chủ hơn để quản lý.
cilap

@cilap nó phụ thuộc vào hiệu suất cần thiết thực sự. Bạn thường không cần 1 lõi cho mỗi OSD, sử dụng khoảng một nửa số lõi là đủ. Hiệu suất của mã hóa tẩy xóa kém hơn so với sao chép đầy đủ.
wazoox

Tôi đã không đề cập đến MDS như bạn dù họ theo cách nào. tùy thuộc vào phí cụm của bạn, bạn có thể sử dụng các nút lưu trữ làm máy chủ MDS và MON.
wazoox
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.