У нас есть набор каталогов, содержащих индексы люцена. Каждый индекс представляет собой смесь файлов разных типов (различающихся по расширению), например:
0/index/_2z6.frq
0/index/_2z6.fnm
..
1/index/_1sq.frq
1/index/_1sq.fnm
..
(это примерно 10 разных расширений)
Мы хотели бы получить общую сумму по расширению файла, например:
.frq 21234
.fnm 34757
..
Я пробовал различные комбинации du / awk / xargs, но мне было сложно сделать именно это.
Для любого данного расширения вы используете
find /path -name '*.frq' -exec ls -l {} \; | awk '{ Total += $5} END { print Total }'
чтобы получить общий размер файла для этого типа.
И после некоторого размышления
#!/bin/bash
ftypes=$(find . -type f | grep -E ".*\.[a-zA-Z0-9]*$" | sed -e 's/.*\(\.[a-zA-Z0-9]*\)$/\1/' | sort | uniq)
for ft in $ftypes
do
echo -n "$ft "
find . -name "*${ft}" -exec ls -l {} \; | awk '{total += $5} END {print total}'
done
Что будет выводить размер в байтах для каждого найденного типа файла.
В bash версии 4 вам просто нужно позвонить find
, ls
и awk
не обязательно:
declare -A ary
while IFS=$'\t' read name size; do
ext=${name##*.}
((ary[$ext] += size))
done < <(find . -type f -printf "%f\t%s\n")
for key in "${!ary[@]}"; do
printf "%s\t%s\n" "$key" "${ary[$key]}"
done
Каждый второй столбец разделен на .
и последняя часть (расширение), сохраненная в массиве.
#!/bin/bash
find . -type f -printf "%s\t%f\n" | awk '
{
split($2, ext, ".")
e = ext[length(ext)]
size[e] += $1
}
END{
for(i in size)
print size[i], i
}' | sort -n
тогда у вас есть общий размер каждого расширения в байтах.
60055 gemspec
321991 txt
2075312 html
2745143 rb
13387264 gem
47196526 jar
Расширение сценария Иана более быстрой версией для работы с большим количеством файлов.
#!/bin/bash
ftypes=$(find . -type f | grep -E ".*\.[a-zA-Z0-9]*$" | sed -e 's/.*\(\.[a-zA-Z0-9]*\)$/\1/' | sort | uniq)
for ft in $ftypes
do
echo -ne "$ft\t"
find . -name "*${ft}" -exec du -bcsh '{}' + | tail -1 | sed 's/\stotal//'
done
Это решение:
find . -type f | grep -E ".*\.[a-zA-Z0-9]*$" | sed -e 's/.*\(\.[a-zA-Z0-9]*\)$/\1/' | sort | uniq -c | sort -n
Решение изначально размещено в этом посте: Получить все расширения и соответствующее количество файлов в каталоге
Я решил использовать эти две команды:
FILES=$(find . -name '*.c')
stat -c %s ${FILES[@]} | awk '{ sum += $1 } END { print ".c" " " sum }'
мой вариант ответа на вопрос:
#!/bin/bash
date > get_size.log
# Lists all files
find . -type f -printf "%s\t%f\n" | grep -E ".*\.[a-zA-Z0-9]*$" | sort -h | awk '
{
split($2, ext, ".")
e = ext[length(ext)]
# Checks that one extension could be found
if(length(e) < length($2)) {
# Check that file size are bigger than 0
if($i > 0) {
# Check that extension not are integer
if(!(e ~/^[0-9]+$/)) {
size[e] += $1
}
}
}
if(length(e) == length($2)) {
size["blandat"] += $1
}
}
END{
for(i in size)
print size[i], i
}' | sort -n >> get_size.log
echo
echo
echo The result are in file get_size.log
Попробуйте Краб (http://etia.co.uk/) - это утилита командной строки, которая позволяет запрашивать файловую систему с помощью SQL.
Для macOS:
#!/bin/bash
for ft in $(find "$1/" -type f | { export GREP_OPTIONS="--color=never" && grep -E ".*\.[a-zA-Z0-9]*$"; } | sed -E 's/.*(\.[^\.]*)$/\1/' | sort | uniq)
do
find "$1/" -name "*$ft" -exec stat -f%z {} \; | awk '{total += $1} END {printf "%s\t",total}'
echo " $ft"
done | sort -hr
$ bash temp.sh assets
1622995 .monstertype
1279175 .frames
756855 .npctype
706087 .projectile
573611 .head