Назад | Перейти на главную страницу

nginx на время зависает некоторые POST-запросы

У меня есть следующий стек, работающий на Ubuntu 18.08 и определенный как docker-compose:

  1. случай mariadb:10.3.20
  2. настраиваемый экземпляр wordpress на основе wordpress:5.3.0-php7.2 с установленным ioncube в теме
  3. кастомный экземпляр nginx на основе nginx:1.13 с установленным nginx-amplify-agent в теме

Конфигурация nginx:

user  nginx;
worker_processes  auto;

error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;

events {
    worker_connections  10000;
}

http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                          '$status $body_bytes_sent "$http_referer" '
                          '"$http_user_agent" "$http_x_forwarded_for"';

    log_format  main_ext  '$remote_addr - $remote_user [$time_local] "$request" '
                          '$status $body_bytes_sent "$http_referer" '
                          '"$http_user_agent" "$http_x_forwarded_for" '
                          '"$host" sn="$server_name" '
                          'rt=$request_time '
                          'ua="$upstream_addr" us="$upstream_status" '
                          'ut="$upstream_response_time" ul="$upstream_response_length" '
                          'cs=$upstream_cache_status' ;

    access_log  /var/log/nginx/access.log  main_ext;
    error_log  /var/log/nginx/error.log warn;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  65;

    gzip  on;

    include /etc/nginx/conf.d/*.conf;
}

сайт определяется следующим образом:

server {
        listen 80;
        listen [::]:80;

        server_name some.org www.some.org;

        location / {
                rewrite ^ https://$host$request_uri? permanent;
        }
}

server {
        listen 443 ssl http2;
        listen [::]:443 ssl http2;
        server_name some.org www.some.org;

        index index.php index.html index.htm;

        root /var/www/html;

        server_tokens off;

        ssl_certificate /etc/letsencrypt/live/some.org/fullchain.pem;
        ssl_certificate_key /etc/letsencrypt/live/some.org/privkey.pem;

        add_header X-Frame-Options "SAMEORIGIN" always;
        add_header X-XSS-Protection "1; mode=block" always;
        add_header X-Content-Type-Options "nosniff" always;
        add_header Referrer-Policy "no-referrer-when-downgrade" always;
        add_header Content-Security-Policy "default-src * data: 'unsafe-eval' 'unsafe-inline'" always;
        # add_header Strict-Transport-Security "max-age=31536000; includeSubDomains; preload" always;
        # enable strict transport security only if you understand the implications

        location / {
                proxy_connect_timeout 600;
                proxy_send_timeout    600;
                proxy_read_timeout    600;
                proxy_redirect        off;
                proxy_pass http://wordpress;

                proxy_set_header      X-Real-IP $remote_addr;
                proxy_set_header      X-Forwarded-Proto https;
                proxy_set_header      X-Forwarded-For $proxy_add_x_forwarded_for;
                proxy_set_header      Host $host;
        }

        location = /favicon.ico {
                log_not_found off; access_log off;
        }

        location = /robots.txt {
                log_not_found off; access_log off; allow all;
        }

        location ~* \.(css|js|gif|ico|jpeg|jpg|png)$ {
                expires max;
                log_not_found off;
        }
}

Весь стек работает должным образом, если только 10-15 пользователей не заходят на сайт и не пытаются выполнить какие-то действия. В этом случае некоторые запросы начинают зависать (обычно это тот же запрос POST к какому-либо компоненту) и через 3-4 минуты он начинает выпущен без каких-либо ошибок, и пользователь может увидеть результат. Во время зависания сайт становится не ответственным из того же браузера (а у других все ок!). Как только запрос выпущен - сайт снова несет ответственность.

Журналы тоже довольно странные:

Журналы доступа nginx:

62.96.39.243 - - [17/Jan/2020:10:56:41 +0000] "GET /something

78.43.40.52 - - [17/Jan/2020:10:56:41 +0000] "POST /ajax-bidsform.html?meth=post&yid=d7f9f1a1a0bf HTTP/2.0" 200 208 "https://some.org/xchange_XRP_to_SBERRUB/" "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.117 Safari/537.36" "-"

78.43.40.52 - - [17/Jan/2020:10:56:41 +0000] "GET /something

wordpress:

134.19.130.91 - - [17/Jan/2020:10:56:40 +0000] "GET /something

78.43.40.52 - - [17/Jan/2020:10:50:07 +0000] "POST /ajax-bidsform.html?meth=post&yid=d7f9f1a1a0bf HTTP/1.0" 200 559 "https://some.org/xchange_XRP_to_SBERRUB/" "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.117 Safari/537.36"

62.96.39.243 - - [17/Jan/2020:10:56:41 +0000] "GET /something

Как видите, висит POST /ajax-bidsform.html... имеет время 10:56 в журналах nginx, но 10:50 в wordpress - и это именно то время, когда этот запрос был выполнен клиентом. Насколько я понимаю, это означает, что запрос застрял где-то на уровне nginx почти на 6 минут, пока не был передан в wordpress. Как видите, у меня нет директив nginx по защите от ddos.

Также несколько замечаний с моей стороны: во время зависания запросов нет долговременных скачков ЦП или ОЗУ, поэтому, скорее всего, это не связано с проблемами оборудования. Я также думал, что это как-то связано с зависанием скрипта (т.е. ajax-bidsform.html), но это начало происходить только тогда, когда мы перешли на облачный экземпляр digital-ocean с виртуального хостинга (где этого никогда не было раньше), поэтому я предполагаю, что это проблема конфигурации. Хронология запросов в логах тоже тому подтверждение.

До сих пор я пытался:

  1. Увеличение worker_connections до 10000
  2. Увеличьте количество экземпляров nginx (не хоста) net.core.somaxconn до 1024

Но проблема все еще возникает .. Любые идеи или мысли были бы очень признательны!

10:56 в логах nginx, но 10:50 в wordpress

Я бы интерпретировал это как то, что wordpress получает запрос в 10:50 и возвращает результат обратно в nginx в 10:56. Чтобы знать наверняка, можно добавить upstream_response_time к log_format в nginx. Видеть Использование журнала NGINX для мониторинга производительности приложений.