Điều chỉnh hành vi bộ đệm đĩa Linux cho thông lượng tối đa

Tôi đang gặp phải một vấn đề thông lượng tối đa ở đây và cần một số lời khuyên về cách điều chỉnh các nút của tôi. Chúng tôi đang chạy một máy chủ tệp 10Gbit để phân phối sao lưu. Đó là thiết lập hai đĩa S-ATA2 trên Bộ điều khiển LSI MegaRAID. Máy chủ cũng có 24gig bộ nhớ.

Chúng tôi có nhu cầu phản ánh bản sao lưu được tải lên cuối cùng của chúng tôi với thông lượng tối đa.

RAID0 cho các bản sao lưu "nóng" của chúng tôi cung cấp cho chúng tôi khoảng 260 MB / giây ghi và 275 MB / giây đọc. Một tmpfs được thử nghiệm với kích thước 20GB cho chúng ta khoảng 1GB / giây. Loại thông lượng này là những gì chúng ta cần.

Bây giờ làm thế nào tôi có thể điều chỉnh hệ thống con bộ nhớ ảo của Linux để lưu trữ các tệp được tải lên cuối cùng càng lâu càng tốt trong bộ nhớ mà không ghi chúng ra đĩa (hoặc thậm chí tốt hơn: ghi vào đĩa VÀ giữ chúng trong bộ nhớ)?

Tôi thiết lập các sysctls sau, nhưng chúng không cung cấp cho chúng tôi thông lượng mà chúng tôi mong đợi:

# VM pressure fixes
vm.swappiness = 20
vm.dirty_ratio = 70
vm.dirty_background_ratio = 30
vm.dirty_writeback_centisecs = 60000

Về lý thuyết, điều này sẽ cung cấp cho chúng tôi 16GB để lưu vào I / O và chờ vài phút cho đến khi ghi vào đĩa. Tuy nhiên, khi tôi điểm chuẩn máy chủ, tôi thấy không có tác dụng gì trong việc viết, thông lượng không tăng.

Giúp đỡ hoặc lời khuyên cần thiết.

Nhìn vào các biến bạn đã đặt, có vẻ như bạn chủ yếu quan tâm đến hiệu suất ghi và không quan tâm đến việc mất dữ liệu có thể do mất điện.

Bạn sẽ chỉ nhận được tùy chọn cho việc ghi lười biếng và sử dụng bộ đệm ghi lại với các hoạt động ghi không đồng bộ. Các thao tác ghi đồng bộ yêu cầu cam kết vào đĩa và sẽ không được viết lười biếng - bao giờ hết. Hệ thống tập tin của bạn có thể gây ra tình trạng lộn xộn trang thường xuyên và ghi đồng bộ (thường là do nhật ký, đặc biệt là với ext3 trong chế độ dữ liệu = tạp chí). Ngoài ra, ngay cả các lần xóa trang "nền" sẽ cản trở việc đọc không được đọc và ghi đồng bộ , do đó làm chậm chúng.

Nói chung, bạn nên lấy một số số liệu để xem điều gì đang xảy ra - bạn có thấy quy trình sao chép của mình được đặt ở trạng thái "D" đang chờ công việc I / O được thực hiện bởi pdflush không? Bạn có thấy hoạt động ghi đồng bộ nặng trên đĩa của bạn không?

Nếu vẫn thất bại, bạn có thể chọn thiết lập hệ thống tệp tmpfs rõ ràng nơi bạn sao chép các bản sao lưu của mình vào và chỉ đồng bộ hóa dữ liệu với các đĩa của bạn sau khi thực tế - thậm chí tự động sử dụng inotify

Để đọc bộ nhớ đệm mọi thứ đơn giản hơn đáng kể - có fadvisetiện ích fcoretools có --willneedtham số để khuyên kernel tải nội dung của tệp vào bộ đệm bộ đệm.

Biên tập:

vm.denty_ratio = 70

Về lý thuyết, điều này sẽ cung cấp cho chúng tôi 16GB để lưu vào I / O và chờ vài phút cho đến khi ghi vào đĩa.

Điều này sẽ không ảnh hưởng lớn đến kịch bản thử nghiệm của bạn, nhưng có một quan niệm sai lầm trong cách hiểu của bạn. Tham số dirty_ratio không phải là một tỷ lệ phần trăm của tổng số bộ nhớ của hệ thống của bạn mà là của hệ thống của bạn miễn phí bộ nhớ.

Có một bài viết về Điều chỉnh tải trọng nặng với thông tin sâu hơn.

Hoặc chỉ nhận thêm đĩa ... Cấu hình mảng ổ đĩa bạn không hỗ trợ trong suốt thời gian bạn yêu cầu. Đây là một trường hợp mà giải pháp nên được tổ chức lại để đáp ứng nhu cầu thực sự của bạn. Tôi hiểu rằng đây chỉ là bản sao lưu, nhưng nó có ý nghĩa để tránh một bản sửa lỗi.

Sử dụng bộ nhớ cache có thể ám chỉ việc mất dữ liệu vì nếu có sự cố xảy ra, dữ liệu trong bộ nhớ và không được lưu vào đĩa sẽ bị mất.

Điều đó nói rằng, có điều chỉnh được thực hiện ở cấp hệ thống tập tin.

Ví dụ: Nếu bạn đang sử dụng ext4, bạn có thể thử tùy chọn gắn kết:

rào cản = 0

Rằng: "vô hiệu hóa việc sử dụng các rào cản ghi trong mã jbd. hoặc cách khác, vô hiệu hóa các rào cản có thể cải thiện hiệu suất một cách an toàn. Các tùy chọn gắn kết "rào cản" và "nobarrier" cũng có thể được sử dụng để bật hoặc tắt các rào cản, để thống nhất với các tùy chọn gắn kết ext4 khác. "

Xem thêm tại: http://www.mjmwired.net/kernel/Documentation/filesystems/ext4.txt