Назад | Перейти на главную страницу

rsync файлов> 4 ГБ

глупый,

есть ли у вас проблемы с синхронизацией больших файлов [> 4 ГБ] под современным Linux? [32bit, 64bit, поддержка больших файлов включена]? Я провел несколько тестов между двумя 64-битными ящиками и не имел проблем с передачей файлов размером 6-10 ГБ. Чтобы провести тщательный тест, я изменил файлы, снова запустил rsync, проверил md5 ... - вроде все в порядке.

но после того, как я увидел этот отчет об ошибке я немного волновался. Я немного искал, но не нашел подтверждения проблемы.

спасибо за ваши мысли!

редактировать: файловая система: ext3, reiserfs

Зависит от файловой системы, которую вы используете. У меня проблемы с файловыми системами FAT32. У меня был портативный жесткий диск на 200 ГБ (отформатированный как FAT32), и я пытался скопировать на него DVD .iso. Это не сработало, потому что у вас не может быть файлов размером более 4 ГБ в FAT32

Самый большой файл, который я недавно синхронизировал, был 180 ГБ, который находился в наборе каталогов, содержащих 15 ТБ (я написал набор сценариев, которые могут выполнять синхронизацию параллельно, я могу перемещать данные примерно со скоростью 3 ТБ в час ...)

Нет, я постоянно кидаю около 5-10 ГБ образов виртуальных машин, используя rsync, и никогда не видел проблем.

Отчет об ошибке, на который вы ссылаетесь, не связан с ошибкой размером более 4 ГБ. 429796854 байта - это всего лишь 410 МБ, и это скорее ошибка транспорта, чем ошибка rsync. Если

Я подозреваю, что транспортное соединение (предположительно SSH) прервано, возможно, из-за тайм-аута бездействия, потому что ЦП провел так много времени между отправками, потому что ему нужно было сделать что-то вроде контрольной суммы очень большого файла, и это причина того, что rsync сообщает о Сломанная труба.

Я уверен, что в прошлом я успешно использовал rsync для файлов размером более 4 Гбайт с 32-битными клиентами и серверами, и, по крайней мере, однажды, когда было фактически передано более 4 Гбайт, а не просто рассматривалось для передачи.

Нет, мы синхронизируем два набора данных по 30 ТБ (состоящих из файлов размером от 4 до 20 ГБ) ежедневно в течение нескольких месяцев с помощью rsync, без проблем.