MariaDB в Windows - InnoDB зависает при преобразовании таблицы в MyISAM
Это немного странно (и большой пост, извините), я работаю с клиентом, который запускает MariaDB в Windows (Server 2008 R2). У них есть несколько больших таблиц MyISAM (до 30 ГБ каждая, 200+ миллионов строк), и по нескольким причинам я конвертирую их в InnoDB. Большинство таблиц преобразовано нормально, однако некоторые из них полностью блокируют движок InnoDB. Когда я говорю о полной блокировке, я имею в виду, что процент выполнения перестает увеличиваться, вся активность процессора / диска для mysqld останавливается, и большинство задач, связанных с InnoDB, перестают работать. Даже запущенный "SHOW ENGINE InnoDB STATUS" зависает. Я оставил его на один день, и процент остается прежним.
Несколько замечаний:
- Он работает на виртуальной машине ESXi и является клоном их производственной виртуальной машины, поэтому абсолютно нулевой трафик (отдельное оборудование, клиенты не подключены).
- Виртуальная машина имеет 8 ядер ЦП и 16 ГБ ОЗУ, ни одно из которых не нагружается.
- Я пробовал отключить кеш запросов, результаты не изменились
- Как упоминалось ранее, процесс преобразования зависнет где-то в середине фазы 1 (копирование в таблицу tmp), и процент перестанет увеличиваться. В этот момент нет активности ЦП или диска, связанной с mysqld.
- Во время зависания ничего не регистрируется, только предшествующие сообщения о долгом ожидании семафора.
- Мы запускаем innodb_file_per_table.
- Я догадывался, что временный файл .ibd не слишком фрагментирован, при последней попытке преобразования он был разбит на 99 фрагментов.
- Это произошло не со всеми таблицами, и не только с самыми большими таблицами. У меня был сбой на 7 ГБ (со 100 м строками) и на 30 ГБ (с 200 м строками).
- Он всегда терпит неудачу в одном и том же месте на рассматриваемом столе.
- Все таблицы прошли полную проверку / ремонт MyISAM
- Никакие ошибки не регистрируются в системном журнале Windows
- Мы используем последнюю ветку 10.2 (стабильную). Я подумывал о переходе на 10.3, но не увидел в примечаниях к выпуску ничего похожего на это.
- Проверяя процедуру, в mysqld есть два активных потока, которые показывают ntoskrnl.exe! KeWaitForMultipleObjects + 0xc0a. Ниже приведены скриншоты обоих стеков.
- Проверяя procmon, в mysqld.exe нет абсолютно нулевой активности.
- Пока он висит, к таблицам MyISAM можно обращаться, но любой запрос InnoDB зависает.
- Я нашел эта тема и установите innodb_adaptive_hash_index = 0, но это не имело никакого значения.
- Все остальные аспекты системы работают нормально (хотя это не что иное, как SQL-сервер), и она несколько раз перезагружалась.
- Некоторые могут заметить, что у меня отключена функция двойной записи, это только для тестирования и будет отключено для производства.
Несколько скриншотов: 
Выдержка из журнала, возможно, важных данных: (повторяется несколько раз)
InnoDB: ###### Starts InnoDB Monitor for 30 secs to print diagnostic info: InnoDB: Pending reads 0, writes 0 ===================================== 2017-12-28 15:54:44 0x3c8 INNODB MONITOR OUTPUT ===================================== Per second averages calculated from the last 17 seconds ----------------- BACKGROUND THREAD ----------------- srv_master_thread loops: 1788 srv_active, 0 srv_shutdown, 67 srv_idle srv_master_thread log flush and writes: 1854 ---------- SEMAPHORES ---------- OS WAIT ARRAY INFO: reservation count 59085 --Thread 3892 has waited at ibuf0ibuf.cc line 3460 for 247.00 seconds the semaphore: S-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 --Thread 2944 has waited at ibuf0ibuf.cc line 4578 for 247.00 seconds the semaphore: S-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 --Thread 3700 has waited at buf0flu.cc line 1246 for 246.00 seconds the semaphore: SX-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 --Thread 3800 has waited at buf0buf.cc line 4136 for 247.00 seconds the semaphore: S-lock on RW-latch at 000000018299B078 created in file buf0buf.cc line 1471 a writer (thread id 0) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file not yet reserved line 0 Last time write locked in file buf0buf.cc line 5363 --Thread 2564 has waited at ibuf0ibuf.cc line 4578 for 247.00 seconds the semaphore: S-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 --Thread 3484 has waited at ibuf0ibuf.cc line 4578 for 247.00 seconds the semaphore: S-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 --Thread 3200 has waited at ibuf0ibuf.cc line 2720 for 246.00 seconds the semaphore: Mutex at 00000001406064F8, Mutex IBUF created ibuf0ibuf.cc:516, lock var 2 OS WAIT ARRAY INFO: signal count 46563 RW-shared spins 0, rounds 53529, OS waits 24403 RW-excl spins 0, rounds 480664, OS waits 7825 RW-sx spins 2641, rounds 24044, OS waits 184 Spin rounds per wait: 53529.00 RW-shared, 480664.00 RW-excl, 9.10 RW-sx ------------ TRANSACTIONS ------------ Trx id counter 94794 Purge done for trx's n:o < 94152 undo n:o < 0 state: running but idle History list length 0 LIST OF TRANSACTIONS FOR EACH SESSION: ---TRANSACTION 281476765058824, not started 0 lock struct(s), heap size 1136, 0 row lock(s) ---TRANSACTION 94793, ACTIVE 247 sec inserting mysql tables in use 1, locked 1 1 lock struct(s), heap size 1136, 0 row lock(s), undo log entries 1930 MySQL thread id 8, OS thread handle 3892, query id 1 ::1 root copy to tmp table alter table dbname.table_being_converted engine=innodb -------- FILE I/O -------- I/O thread 0 state: complete io for buf page (insert buffer thread) I/O thread 1 state: complete io for buf page (log thread) I/O thread 2 state: complete io for buf page (read thread) I/O thread 3 state: complete io for buf page (read thread) I/O thread 4 state: native aio handle (read thread) I/O thread 5 state: native aio handle (read thread) I/O thread 6 state: native aio handle (write thread) I/O thread 7 state: native aio handle (write thread) I/O thread 8 state: native aio handle (write thread) I/O thread 9 state: native aio handle (write thread) Pending normal aio reads: [0, 0, 2, 4] , aio writes: [0, 0, 0, 0] , ibuf aio reads:, log i/o's:, sync i/o's: Pending flushes (fsync) log: 0; buffer pool: 0 108072 OS file reads, 2437337 OS file writes, 23912 OS fsyncs 0.00 reads/s, 0 avg bytes/read, 0.00 writes/s, 0.00 fsyncs/s ------------------------------------- INSERT BUFFER AND ADAPTIVE HASH INDEX ------------------------------------- InnoDB: ###### Diagnostic info printed to the standard error stream 2017-12-28 15:55:09 3240 [Warning] InnoDB: A long semaphore wait: --Thread 3892 has waited at ibuf0ibuf.cc line 3460 for 272.00 seconds the semaphore: S-lock on RW-latch at 00000000975EFC68 created in file buf0buf.cc line 1471 a writer (thread id 3800) has reserved it in mode exclusive number of readers 0, waiters flag 1, lock_word: 0 Last time read locked in file ibuf0ibuf.cc line 3460 Last time write locked in file mtr0mtr.ic line 147 (snip, above data is repeated a lot)
Содержимое my.ini:
[mysqld] datadir=D:/SQLData port=3306 default-storage-engine=InnoDB innodb_buffer_pool_size=4096M innodb_log_file_size=256M innodb_doublewrite = 0 innodb_file_per_table innodb_force_recovery=1 max_connections=500 query_cache_size=4096M skip-name-resolve slow_query_log log-error=Errors.log myisam_sort_buffer_size=768M tmp_table_size=768M key_buffer_size=2048M read_rnd_buffer_size=5M sort_buffer_size=32M