У меня есть установка Amazon Web Services с экземпляром Apache за Nginx, где Nginx обрабатывает SSL и обслуживает все, кроме страниц .php. В моих тестах ApacheBench я вижу это для моего самого дорогого вызова API (который кешируется через Memcached):
100 concurrent calls to API call (http): 115ms (median) 260ms (max)
100 concurrent calls to API call (https): 6.1s (median) 11.9s (max)
Я провел небольшое исследование, отключил самые дорогие шифры SSL и включил кеширование SSL (я знаю, что это не помогает в этом конкретном тесте). Вы можете сказать мне, почему мой SSL занимает так много времени? Я установил массивный сервер EC2 с 8 процессорами, и даже применяя к нему постоянную нагрузку, он доводит до 50% общего объема ЦП. У меня есть 8 рабочих Nginx и куча Apache. В настоящее время вся эта установка находится в одном блоке EC2, но я планирую разделить ее и сбалансировать нагрузку. По этой теме было несколько вопросов, но ни один из этих ответов (отключение дорогих шифров, кеширование ssl, похоже, ничего не делает). Примеры результатов ниже:
$ ab -k -n 100 -c 100 https://URL
This is ApacheBench, Version 2.3 <$Revision: 655654 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/
Benchmarking URL.com (be patient).....done
Server Software: nginx/1.0.15
Server Hostname: URL.com
Server Port: 443
SSL/TLS Protocol: TLSv1/SSLv3,AES256-SHA,2048,256
Document Path: /PATH
Document Length: 73142 bytes
Concurrency Level: 100
Time taken for tests: 12.204 seconds
Complete requests: 100
Failed requests: 0
Write errors: 0
Keep-Alive requests: 0
Total transferred: 7351097 bytes
HTML transferred: 7314200 bytes
Requests per second: 8.19 [#/sec] (mean)
Time per request: 12203.589 [ms] (mean)
Time per request: 122.036 [ms] (mean, across all concurrent requests)
Transfer rate: 588.25 [Kbytes/sec] received
Connection Times (ms)
min mean[+/-sd] median max
Connect: 65 168 64.1 162 268
Processing: 385 6096 3438.6 6199 11928
Waiting: 379 6091 3438.5 6194 11923
Total: 449 6264 3476.4 6323 12196
Percentage of the requests served within a certain time (ms)
50% 6323
66% 8244
75% 9321
80% 9919
90% 11119
95% 11720
98% 12076
99% 12196
100% 12196 (longest request)
проблема в том, что я установил ограничение скорости Nginx на ранней стадии, и это повлияло на мои нагрузочные тесты. Я знаю, это глупо. Одна интересная вещь во время ограничения скорости заключается в том, что Nginx не сразу получает 503 ошибки после порога всплеска, а просто задерживает ответы. Только когда в очереди будет слишком много запросов, он отправит 503.