Назад | Перейти на главную страницу

MySQL внезапно принимает 2000 мс на запрос вместо 200

ОБНОВИТЬ: наконец вспомнил, что посмотрел на munin, и кажется, что один из жестких дисков является корнем проблемы в конце концов, если только я полностью не читаю это неправильно. Вот вывод munin: http://imagizer.imageshack.com/img536/1070/9d5c62.png . Прав ли я, думая, что один из моих жестких дисков, вероятно, нуждается в замене, или может что-то еще объяснить эти всплески ввода-вывода?



У меня есть довольно мощный сервер (четырехъядерный i7, 32 ГБ ОЗУ), на котором работает веб-сайт Drupal 7 (pixelscrapper.com) в стеке LAMP, использующий Varnish, Memcached, APC, CloudFlare. Мы получаем около 20000 просмотров страниц в день, и обычно сайт загружается за 3-4 секунды для аутентифицированных пользователей, из которых общее время сервера составляет около 0,5 секунды, причем довольно равномерно между php и mysql (примерно 0,2 секунды в mysql для каждого запроса) ... все, как сообщается через New Relic (lite, поэтому я не вижу следов db).

Время загрузки страницы 3–4 секунды, в mysql - 0,2 секунды, постоянно повторяется в течение нескольких месяцев.

Затем несколько дней назад сайт начал загружаться намного дольше, и, глядя на New Relic, я заметил, что mysql теперь занимает около 2 секунд на запрос вместо 0,2 секунды. Это вообще без каких-либо серьезных изменений на сайте ... просто регулярное использование сайта.

Итак, мой вопрос: что может внезапно привести к тому, что mysql будет тратить 2 секунды на запрос вместо 0,2 секунды, без изменений, развернутых на сайте, и без серьезных изменений в трафике?

Лучшее, что у меня есть, - это то, что это могло быть вызвано:

  1. Некоторая таблица становится слишком большой или общий объем db становится слишком большим, в зависимости от текущего распределения памяти в my.cnf, поэтому то, что раньше было в памяти, теперь перегружает жесткие диски.
  2. Некоторые проблемы с оборудованием, например проблема с одним из жестких дисков, из-за которой доступ к диску замедляется (у меня два жестких диска в RAID).

Дело в том, что, судя по выходным данным mysqltuner, с распределением памяти все в порядке, а на основе начального теста диска жесткие диски не кажутся сломанными ... так что ...

Есть какие-нибудь мысли о том, что может вызвать что-то подобное, как мне решить эту проблему?

Вот вывод mysqltuner (mysql работает 98 дней):

-------- General Statistics --------------------------------------------------
[--] Skipped version check for MySQLTuner script
[OK] Currently running supported MySQL version 5.5.28-0ubuntu0.12.04.2-log
[OK] Operating on 64-bit architecture

-------- Storage Engine Statistics -------------------------------------------
[--] Status: -Archive -BDB -Federated +InnoDB -ISAM -NDBCluster
[--] Data in MyISAM tables: 88B (Tables: 10)
[--] Data in InnoDB tables: 1G (Tables: 582)
[--] Data in PERFORMANCE_SCHEMA tables: 0B (Tables: 17)
[!!] Total fragmented tables: 148

-------- Performance Metrics -------------------------------------------------
[--] Up for: 98d 2h 0m 34s (1B q [156.130 qps], 14M conn, TX: 3596B, RX: 225B)
[--] Reads / Writes: 72% / 28%
[--] Total buffers: 5.2G global + 3.1M per thread (300 max threads)
[OK] Maximum possible memory usage: 6.1G (19% of installed RAM)
[OK] Slow queries: 0% (32K/1B)
[OK] Highest usage of available connections: 37% (113/300)
[OK] Key buffer size / total MyISAM indexes: 128.0M/2.4M
[OK] Key buffer hit rate: 100.0% (35M cached / 545 reads)
[OK] Query cache efficiency: 71.4% (820M cached / 1B selects)
[!!] Query cache prunes per day: 43794
[OK] Sorts requiring temporary tables: 0% (15K temp sorts / 63M sorts)
[!!] Joins performed without indexes: 85938
[OK] Temporary tables created on disk: 1% (302K on disk / 17M total)
[OK] Thread cache hit rate: 99% (113K created / 14M connections)
[!!] Table cache hit rate: 13% (2K open / 19K opened)
[OK] Open file limit used: 0% (69/33K)
[OK] Table locks acquired immediately: 99% (529M immediate / 529M locks)
[OK] InnoDB data size / buffer pool: 1.5G/4.0G

-------- Recommendations -----------------------------------------------------
General recommendations:
    Run OPTIMIZE TABLE to defragment tables for better performance
    Increasing the query_cache size over 128M may reduce performance
    Adjust your join queries to always utilize indexes
    Increase table_cache gradually to avoid file descriptor limits
Variables to adjust:
    query_cache_size (> 1G) [see warning above]
    join_buffer_size (> 512.0K, or always use indexes with joins)
    table_cache (> 16384)

Вот my.cnf:


#
# The MySQL database server configuration file.
#
# You can copy this to one of:
# - "/etc/mysql/my.cnf" to set global options,
# - "~/.my.cnf" to set user-specific options.
# 
# One can use all long options that the program supports.
# Run program with --help to get a list of available options and with
# --print-defaults to see which it would actually understand and use.
#
# For explanations see
# http://dev.mysql.com/doc/mysql/en/server-system-variables.html

# This will be passed to all mysql clients
# It has been reported that passwords should be enclosed with ticks/quotes
# escpecially if they contain "#" chars...
# Remember to edit /etc/mysql/debian.cnf when changing the socket location.
[client]
port        = 3306
socket      = /var/run/mysqld/mysqld.sock

# Here is entries for some specific programs
# The following values assume you have at least 32M ram

# This was formally known as [safe_mysqld]. Both versions are currently parsed.
[mysqld_safe]
socket      = /var/run/mysqld/mysqld.sock
nice        = 0

[mysqld]
#
# * Basic Settings
#
user        = mysql
pid-file    = /var/run/mysqld/mysqld.pid
socket      = /var/run/mysqld/mysqld.sock
port        = 3306
basedir     = /usr
datadir     = /var/lib/mysql
tmpdir      = /tmp
lc-messages-dir = /usr/share/mysql
skip-external-locking
#
# Instead of skip-networking the default is now to listen only on
# localhost which is more compatible and is not less secure.
bind-address        = 127.0.0.1
#
# * Fine Tuning
#
key_buffer      = 128M
max_allowed_packet  = 16M
thread_stack        = 192K
thread_cache_size       = 8
# This replaces the startup script and checks MyISAM tables if needed
# the first time they are touched
myisam-recover         = BACKUP
max_connections        = 300
table_cache     = 16384
max_heap_table_size = 256M
join_buffer_size    = 512K

#thread_concurrency     = 10
#
# * Query Cache Configuration
#
query_cache_limit   = 4M
query_cache_size        = 1024M
#
# * Logging and Replication
#
# Both location gets rotated by the cronjob.
# Be aware that this log type is a performance killer.
# As of 5.1 you can enable the log at runtime!
#general_log_file        = /var/log/mysql/mysql.log
#general_log             = 1
#
# Error logging goes to syslog due to /etc/mysql/conf.d/mysqld_safe_syslog.cnf.
#
# Here you can see queries with especially long duration
log_slow_queries    = /var/log/mysql/mysql-slow.log
long_query_time = 3
#log-queries-not-using-indexes
#
# The following can be used as easy to replay backup logs or for replication.
# note: if you are setting up a replication slave, see README.Debian about
#       other settings you may need to change.
#server-id      = 1
#log_bin            = /var/log/mysql/mysql-bin.log
expire_logs_days    = 10
max_binlog_size         = 100M
#binlog_do_db       = include_database_name
#binlog_ignore_db   = include_database_name
#
# * InnoDB
#
# InnoDB is enabled by default with a 10MB datafile in /var/lib/mysql/.
# Read the manual for more InnoDB related options. There are many!
#
innodb_file_per_table
innodb_buffer_pool_size = 4G 
innodb_flush_method = O_DIRECT

# This is crucial to avoid checkpointing all the time:
innodb_log_file_size = 512M

# Lock wait timeout. See http://stackoverflow.com/questions/6000336/how-to-debug-lock-wait-timeout-exceeded
innodb_lock_wait_timeout = 120

# * Security Features
#
# Read the manual, too, if you want chroot!
# chroot = /var/lib/mysql/
#
# For generating SSL certificates I recommend the OpenSSL GUI "tinyca".
#
# ssl-ca=/etc/mysql/cacert.pem
# ssl-cert=/etc/mysql/server-cert.pem
# ssl-key=/etc/mysql/server-key.pem



[mysqldump]
quick
quote-names
max_allowed_packet  = 16M

[mysql]
#no-auto-rehash # faster start of mysql but no tab completition

[isamchk]
key_buffer      = 16M

#
# * IMPORTANT: Additional settings that can override those from this file!
#   The files must end with '.cnf', otherwise they'll be ignored.
#
!includedir /etc/mysql/conf.d/

Вот мой журнал медленных запросов:


https://gist.github.com/JordanMagnuson/68e3ab30ff9b6ccc5a96

Пытался запустить проверку жесткого диска на sdb, которая не завершилась ... (сначала я думал, что выполнил проверку жесткого диска, которая завершилась, но я ошибочно думал, что тестирую sdb, когда на самом деле тестировал sda).

В этом случае ответом на мою проблему было проверить Munin, заметить сбойный (отказавший) диск и заменить его.

Все как было сейчас.