Назад | Перейти на главную страницу

Кеширование больших объемов данных

Нам нужно кэшировать все файлы psd / zip из нашего хранилища amazone S3. Объем кеша между 150-200 Гб (нам нужно хранить файлы минимум 2 месяца). Теперь мы используем прозрачный прокси-сквид без кеширования.

Итак, мой вопрос: можно ли настроить «основной» сквид таким образом, чтобы все запросы к s3.amazonaws.com он передавал родительскому кальмару через прокси. В родительском squid нам нужно кешировать все zip и psd файлы только с s3.amazonaws.com. Если таких файлов в кеше нет, родительский сквид будет загружен и помещает «новые» файлы в кеш.

Как сквид будет работать с файлами 1-2 гб? Есть ли ограничения?

Основным доказательством такой настройки является то, что все файлы psd / zip из хранилища amazone доставляются локальным клиентам с максимальной скоростью из локального кеша. Потому что одни и те же файлы одновременно используются разными сотрудниками, и мы потратили много времени на загрузку этих файлов каждым сотрудником.

Можно ли решить этот вопрос по-разному?

Мы тестировали нашу систему около месяца, и она работала нормально. если кому интересно, ниже я добавил файлы конфигурации (основной / родительский сквид)

основной файл конфигурации squid (192.168.100.1)

acl local_net src 192.168.0.0/16
acl parent_peer peername PARENT_PEER
acl parent_squid dst 192.168.100.50

acl FILE_TO_CACHE urlpath_regex \.(zip|iso|rar)$
acl STORAGE dstdomain storage.example.net

http_port 192.168.100.1:3128 intercept
icp_port 3130

cache_peer 192.168.100.50 parent 3128 3130 name=PARENT_PEER connect-timeout=7 proxy-only
cache_peer_access PARENT_PEER allow STORAGE FILE_TO_CACHE

# to connect to parent via internal interface
tcp_outgoing_address 192.168.100.1 parent_peer

# to properly get cache digest from parent
tcp_outgoing_address 192.168.100.1 parent_squid

# sent all other packets via ISP2
tcp_outgoing_address xxx.xxx.xxx.xxx local_net

родительский файл конфигурации squid (192.168.100.50)

acl main_squid src 192.168.100.1

acl FILE_TO_CACHE urlpath_regex -i \.(zip|iso|rar)$

cache allow FILE_TO_CACHE
cache deny all

http_access allow main_squid
http_access allow localhost
http_access deny all

icp_port 3130
icp_access allow main_squid
icp_access deny all

http_port 192.168.100.50:3128

cache_mem 12 GB
maximum_object_size_in_memory 64 MB
minimum_object_size 16384 KB
maximum_object_size 1024 MB

cache_swap_low 93
cache_swap_high 98

refresh_pattern \.iso$ 129600 100 129600 override-lastmod override-expire ignore-reload
refresh_pattern \.zip$ 129600 100 129600 override-lastmod override-expire ignore-reload
refresh_pattern \.rar$ 129600 100 129600 override-lastmod override-expire ignore-reload

cache_effective_user squid
cache_effective_group squid