Я пытаюсь протестировать проект, которому требуется сжатое хранилище с использованием файловой системы ext4, поскольку приложение, которое я использую, полагается на функции ext4.
Существуют ли производственные / стабильные решения для прозрачного сжатия на ext4?
Что я пробовал:
Ext4 через том ZFS с включенным сжатием. На самом деле это имело отрицательный эффект. Я попытался создать том ZFS с включенным сжатием lz4 и создать файловую систему ext4 на / dev / zvol / ... но том zfs показал двойное фактическое использование, и сжатие, похоже, не имело никакого эффекта.
# du -hs /mnt/test
**1.1T** /mnt/test
# zfs list
NAME USED AVAIL REFER MOUNTPOINT
pool 15.2T 2.70G 290K /pool
pool/test 15.2T 13.1T **2.14T** -
Команды создания ZFS
zpool create pool raidz2 /dev/sdb1 /dev/sdc1 /dev/sdd1 /dev/sde2 /dev/sdf1 /dev/sdg1 /dev/sdh2 /dev/sdi1
zfs set recordsize=128k pool
zfs create -p -V15100GB pool/test
zfs set compression=lz4 pool/test
mkfs.ext4 -m1 -O 64bit,has_journal,extents,huge_file,flex_bg,uninit_bg,dir_nlink /dev/zvol/pool/test
Fusecompress: Казалось, работает, но не на 100% стабильно. Ищу альтернативы.
LessFS: Можно ли использовать Lessfs вместе с ext4? Я еще не пробовал, но мне было бы интересно узнать мнение пользователей.
Одна серьезная проблема: не настоящая прозрачность
Проблема, которую я видел с fusecompress, заключалась в квотах. Например, если бы я включил сжатие в файловой системе, я бы хотел, чтобы от сжатия выиграла моя система, а не обязательно конечный пользователь. Если бы я включил для пользователя квоту в 1 ГБ со степенью сжатия 1,5, они могли бы загружать 1,5 ГБ данных, а не 1 ГБ данных, и система получила бы выгоду от сжатия. Это также было показано в df -h. Есть ли решение сделать сжатие прозрачным для квот?
я использую ZFS в Linux в качестве диспетчера томов и средства обеспечения дополнительной защиты и функциональности традиционных файловых систем. Это включает создание снимков на уровне блоков, репликацию, дедупликацию, сжатие и расширенное кеширование в файловые системы XFS или ext4.
Видеть: https://pthree.org/2012/12/21/zfs-administration-part-xiv-zvols/ для другого объяснения.
В моем наиболее частом случае я использую функцию zvol ZFS для создания разреженного тома в существующем zpool. Свойства этого zvol могут быть установлены так же, как и в обычной файловой системе ZFS. На этом этапе вы можете установить такие свойства, как тип сжатия, размер тома, метод кеширования и т. Д.
Создание этого zvol представляет собой блочное устройство для Linux, которое может быть отформатировано с файловой системой по вашему выбору. Использовать fdisk или parted создать свой раздел и mkfs готовый том.
Смонтируйте это, и вы получите файловую систему, поддерживаемую zvol, со всеми его свойствами.
Вот мой рабочий процесс ...
Создайте zpool, состоящий из четырех дисков:
Вы захотите ashift=12 директива для типа используемых вами дисков. В данном случае имя zpool - «vol0».
zpool create -o ashift = 12 -f vol0 зеркало scsi-AccOW140403AS1322043 scsi-AccOW140403AS1322042 зеркало scsi-AccOW140403AS1322013 scsi-AccOW140403AS1322044
Установите начальные настройки zpool:
Я установил autoexpand=on на уровне zpool на случай, если я когда-либо заменю диски на диски большего размера или расширю пул в Зеркала ZFS настроить. Обычно я не использую ZFS raidz1 / 2/3 из-за плохой производительности и невозможности расширить zpool.
zpool set autoexpand=on vol0
Установите начальные свойства файловой системы zfs:
Пожалуйста, используйте lz4 алгоритм сжатия для новых установок ZFS. Это нормально - оставлять его включенным все время.
zfs set compression=lz4 vol0
zfs set atime=off vol0
Создать ZFS zvol:
Для ZFS в Linux очень важно использовать большой размер блока. -o volblocksize=128k здесь абсолютно необходимо. В -s опция создает разреженный zvol и не использует пространство пула, пока оно не понадобится. Здесь можно перегрузить, если вы хорошо знаете свои данные. В этом случае у меня есть около 444 ГБ доступного дискового пространства в пуле, но я представляю том 800 ГБ для XFS.
zfs create -o volblocksize=128K -s -V 800G vol0/pprovol
Устройство перегородки звол:
(для первого звола должно быть / dev / zd0; / dev / zd16, / dev / zd32 и т. д. для последующих zvols)
fdisk /dev/zd0 # (create new aligned partition with the "c" and "u" parameters)
Создайте и смонтируйте файловую систему:
mkfs.xfs или ext4 на вновь созданном разделе / dev / zd0p1.
mkfs.xfs -f -l size=256m,version=2 -s size=4096 /dev/zd0p1
Возьмите UUID с помощью blkid и изменить /etc/fstab.
UUID=455cae52-89e0-4fb3-a896-8f597a1ea402 /ppro xfs noatime,logbufs=8,logbsize=256k 1 2
Смонтируйте новую файловую систему.
mount /ppro/
Полученные результаты...
[root@Testa ~]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sde2 20G 8.9G 9.9G 48% /
tmpfs 32G 0 32G 0% /dev/shm
/dev/sde1 485M 63M 397M 14% /boot
/dev/sde7 2.0G 68M 1.9G 4% /tmp
/dev/sde3 12G 2.6G 8.7G 24% /usr
/dev/sde6 6.0G 907M 4.8G 16% /var
/dev/zd0p1 800G 398G 403G 50% /ppro <-- Compressed ZFS-backed XFS filesystem.
vol0 110G 256K 110G 1% /vol0
Список файловой системы ZFS.
[root@Testa ~]# zfs list
NAME USED AVAIL REFER MOUNTPOINT
vol0 328G 109G 272K /vol0
vol0/pprovol 326G 109G 186G - <-- The actual zvol providing the backing for XFS.
vol1 183G 817G 136K /vol1
vol1/images 183G 817G 183G /images
ZFS zpool list.
[root@Testa ~]# zpool list -v
NAME SIZE ALLOC FREE CAP DEDUP HEALTH ALTROOT
vol0 444G 328G 116G 73% 1.00x ONLINE -
mirror 222G 164G 58.1G -
scsi-AccOW140403AS1322043 - - - -
scsi-AccOW140403AS1322042 - - - -
mirror 222G 164G 58.1G -
scsi-AccOW140403AS1322013 - - - -
scsi-AccOW140403AS1322044 - - - -
ZFS свойства zvol (взять на заметку referenced, compressratio и volsize).
[root@Testa ~]# zfs get all vol0/pprovol
NAME PROPERTY VALUE SOURCE
vol0/pprovol type volume -
vol0/pprovol creation Sun May 11 15:27 2014 -
vol0/pprovol used 326G -
vol0/pprovol available 109G -
vol0/pprovol referenced 186G -
vol0/pprovol compressratio 2.99x -
vol0/pprovol reservation none default
vol0/pprovol volsize 800G local
vol0/pprovol volblocksize 128K -
vol0/pprovol checksum on default
vol0/pprovol compression lz4 inherited from vol0
vol0/pprovol readonly off default
vol0/pprovol copies 1 default
vol0/pprovol refreservation none default
vol0/pprovol primarycache all default
vol0/pprovol secondarycache all default
vol0/pprovol usedbysnapshots 140G -
vol0/pprovol usedbydataset 186G -
vol0/pprovol usedbychildren 0 -
vol0/pprovol usedbyrefreservation 0 -
vol0/pprovol logbias latency default
vol0/pprovol dedup off default
vol0/pprovol mlslabel none default
vol0/pprovol sync standard default
vol0/pprovol refcompressratio 3.32x -
vol0/pprovol written 210M -
vol0/pprovol snapdev hidden default
Вам также необходимо включить сброс в файловой системе ext4. Без сброса zfs не освобождает пространство при удалении файлов. Это может привести к большим расхождениям в пространстве между отчетами файловой системы ext4 и отчетами о томах zfs.