Назад | Перейти на главную страницу

RAID - Использование полос разных размеров

В большом интернет-магазине (1 ПБ), если у вас много небольших файлов (32 КБ <), изображений (256–5 МБ) и видео (> 100 МБ), можно ли использовать несколько дисков с разным размером полосы?

Допустим, 10 дисков с размером полосы 16 КБ, 20 дисков с 256 КБ, 30 дисков с 1 МБ. Когда вы загружаете видео, оно выгружается на диски с полосами размером 1 МБ, или когда вы загружаете небольшие файлы, ip загружает на диски с полосами размером 16 КБ.

малый размер полосы приводит к слишком большому количеству фрагментов больших файлов, а большие полосы неэффективны, если у вас есть небольшие файлы <32 КБ, может ли это повысить производительность чтения / записи, если вы используете разные размеры полос.

А ответ на ваш вопрос прост и понятен:

да вы можете создавать разные виртуальные диски в своем контроллере и устанавливать различные свойства для каждого виртуального диска, такие как [размер полосы, уровень рейда и так далее ...], если контроллер поддерживает это.

Я считаю, что 1петабайт - это опечатка, иначе ваш вопрос не имеет смысла, так как у вас не должно быть такого количества данных в одном корпусе хранилища. Вам нужно будет рассмотреть различные решения, наиболее вероятно, распределенное хранилище объектов, чтобы различать серверную часть для каждой категории объектов [видео, эскизы, большие изображения], что-то похожее на комментарий, который я опубликовал изначально.

можно ли использовать несколько дисков с разным размером полосы?

Да, но не в одном массиве, они работают, чередуя равные размеры по всем членам массива, я представляю себе что-то столь же гибкое, как, скажем, ZFS может разрешить такую ​​возню только ради удовольствия, но я полагаю, что это действительно была бы очень плохая идея.

Конечно, у вас может быть несколько массивов, каждый из которых настроен на разные размеры / требования к файлам, но ваша задача будет гарантировать, что соответствующие файлы будут записаны в правильный массив / том.

Не забывайте, что большинство файловых систем, с которыми вы будете иметь дело, автоматически будут иметь отложенную запись, поэтому она будет «накапливать» много записей, таким образом, по крайней мере, частично сводя на нет любое положительное влияние, которое может иметь разделение ваших файлов на разные тома.

В конечном итоге я бы предложил просто получить действительно хороший контроллер массива с приличным количеством FBWC и доверить файловую систему делать свою работу.