1

неожиданно медленно

Банальность, есть пара таблиц - группы и привязанные к ним элементы, примерно 2.5К групп, 3.3М элементов. Часть групп пустая.
Collapse )

$%^, ПОЧЕМУ?! Моя фантазия пасует.
Сортировка должна выполняться на полностью сформированной выборке.
Сортировка 2к5 строк не занимает минуту. Ни при каких раскладах.

UPD
Таки что скажет купечество? Ни у кого нет соображений?
alone
  • simsun

Ускорить OPTIMIZE TABLE

Здравствуйте!

MySQL 5.7.25, innodb, Linux

При запуске OPTIMIZE TABLE создаёт временный файл в той же директории где лежит таблица. А для скорости хочется что-бы временный файл можно было создать на другом диске.
Переменные tmpdir, innodb_tmpdir, именно на OPTIMIZE TABLE не влияют.
Чисто для опыта попробовал включить путь в префикс временного файла
#define TEMP_FILE_PREFIX_INNODB "#sql-ib"
Но чуда не произошло, т.к. созданный файл потом переименовывается в место старого, а rename (); не умеет с другой fs.

Как бы такое правильно сделать?

Встреча Moscow MySQL User Group 11 июля в офисе Mail.Ru Group

11 июля в 18:00 в офисе компании Mail.Ru состоится очередная встреча Moscow MySQL User Group. Специальный гость встречи - Пётр Зайцев (CEO, Percona). Пётр сделает два доклада и ответит на вопросы участников встречи. Вход свободный. Регистрация здесь: https://www.meetup.com/moscowmysql/events/240684527/

Программа встречи

1. Обеспечение высокой доступности (HA) СУБД MySQL.

2. MySQL в облаке: миграция, лучшие практики, высокая доступность и масштабируемость.

3. Ответы на вопросы аудитории.

Секция MySQL на PG Day’17 Russia (Санкт-Петербург)

В рамках PG Day’17 Russia состоится полноценный поток докладов и мастер-классов, посвященный MySQL и другим открытым базам данных: https://pgday.ru/ru/2017/papers­

Ключевым событием для специалистов, занимающихся эксплуатацией MySQL, станут мастер-классы от ведущих экспертов компании Percona, Петра Зайцева и Светы Смирновой.

Петр Зайцев является основателем и CEO Percona, обладает более чем 15-летним стажем работы с MySQL и поддержки СУБД для крупнейших представителей бизнеса. В рамках PG Day'17 Петр представит учебный курс, посвященный архитектуре и оптимизации производительности InnoDB. InnoDB — наиболее часто используемая подсистема хранения для MySQL и Percona Server, на которую направлены основные усилия разработки команд MySQL и Percona. Петр расскажет, как использовать InnoDB, чтобы добиться максимальной производительности вашего приложения, и предложит конкретные рекомендации относительно конфигурации сервера, схемы базы данных, архитектуры приложения и выбора оборудования.


Света Смирнова обладает 10-летней экспертизой технической поддержки MySQL, является автором книги MySQL Troubleshooting и мировым экспертом по архитектуре и оптимизации производительности этой СУБД. На PG Day'17 участников ждет интенсивный 8-часовой учебный курс, посвященный отладке производительности MySQL. В рамках мастер-класса Света покажет, на основе личного опыта работы в технической поддержке, простые в использовании методы, позволяющие определить и устранить причины нежелательного поведения MySQL. Вы узнаете, какие инструменты и в каком порядке удобно использовать, с чего начать и как углубиться в проблему, научитесь безопасно тестировать свой сервер СУБД.

Вас также ждет множество интересных докладов от специалистов компаний MongoDB, Percona, МТС, Elastic, КРОК, Яндекс, Mail.Ru Group, Epam, Data Egret и др. Регистрируйтесь: https://pgday.ru/ru/2017/request/registration
v muzee

Почему запрос не использует cache?

Есть MySQL 5.7.16 на Убунте, который используется как бэкенд для Wordpress.
Куча криво написанных запросов, но после того, как я активизировал cache, большинство запросов выполняется из cache.
Но один почему-то cache не использует.
Заранее спасибо за помощь!

Collapse )
Sphinx
  • m_ike

Кто это локально ломится под рутом без пароля?

Каждые пять минут в логах (/var/log/mysqld.log) появляется такое:

2016-09-25T22:48:10.512240Z 18873775 [Note] Access denied for user 'root'@'localhost' (using password: NO)
2016-09-25T22:53:00.526894Z 18874007 [Note] Access denied for user 'root'@'localhost' (using password: NO)
2016-09-25T22:58:01.353671Z 18874265 [Note] Access denied for user 'root'@'localhost' (using password: NO)

Грешил на что-то вебовское или на cron job, поэтому временно убил обоих демонов:
systemctl stop httpd
systemctl stop crond
После этого подождал пять минут, и, как ни в чем ни бывало, появилось очередное аксесдинайд.

Что это такое и как прекратить? Операционка CentOS 7.1, сервер mysql 5.7. Спасибо!

P.S. Оказалось, это был webmin. Вопрос снимается.
1

ну, раз пошла такая пьянка

режь последний огурец.
160626 14:23:52 [ERROR] \usr\local\mysql-5.5\bin\mysqld.exe: Out of memory (Needed 16384 bytes)

Напихал в машину оперативки до 4 гигабайт. Разрешил мускулю побольше.
key_buffer_size = 1G
max_allowed_packet = 8M
table_open_cache = 512
sort_buffer_size = 1G
read_buffer_size = 1G
read_rnd_buffer_size = 256M
myisam_sort_buffer_size = 1G
thread_cache_size = 64
query_cache_size = 256M

Фактически mysqld не занимает более 1 гига, в машине еще полтора-два свободно.
Тем не менее постоянно вижу в журнале такую ошибку.

Что забавно: при попытке перекинуть данные из таблицы (большой) в другую
insert into tbl1 select * from tbl0
появляется _ошибка_ out of memory и операция сбрасывается.
А вот при сортировке или перестройке индексов эти ошибки пишутся в журнал именно как ERROR, но учитываются как предупреждения - warnings.

Можно как-нибудь понять кому и для чего не хватает памяти?

UPD. Что-то здесь концы с концами не сходятся
Взял из комплекта "денвера" конфиг мускуля
# This is for a large system with memory of 1G-2G where the system runs mainly
# MySQL.
key_buffer_size = 512M
max_allowed_packet = 4M
table_open_cache = 512
sort_buffer_size = 256M
read_buffer_size = 256M
read_rnd_buffer_size = 256M
myisam_sort_buffer_size = 512M
thread_cache_size = 64
query_cache_size = 256M

В машине 4 гига, кроме мускуля ничего не запущено. Ну, подойдет.
Объем памяти, занимаемой mysqld, не превыcил 800М. Хотя уже сообразно конфигу должно быть больше.
В машине еще 2 гига свободной оперативки.
Однако же "out of memory error".

Ладно, берем из того же комплекта другой образец.
# This is for a large system with memory = 512M where the system runs mainly
# MySQL.
key_buffer_size = 256M
max_allowed_packet = 1M
table_open_cache = 256
sort_buffer_size = 1M
read_buffer_size = 1M
read_rnd_buffer_size = 4M
myisam_sort_buffer_size = 64M
thread_cache_size = 8
query_cache_size= 16M

Таки key_buffer_size=256M. Надо ожидать, что mysqld будет не меньше. Однако же размер mysqld жестко ограничивается 80М и все работает феноменально медленно.
Ну то есть вообще неприемлемо. Поставил таблицу на сортировку. 120М строк. Пришел на следующий день - едва ли на 3/4 выполнено.

Поднял немного лимиты.
key_buffer_size = 256M
max_allowed_packet = 2M
table_open_cache = 256
sort_buffer_size = 4M
read_buffer_size = 4M
read_rnd_buffer_size = 4M
myisam_sort_buffer_size = 128M
thread_cache_size = 8
query_cache_size= 16M

Запрос "insert into p2 select * from parts order by de_mas, ra_mas;"
Пока идет выборка и сортировка show processlist -> sorting result - памяти забирает примерно 80-90 М. На этапе внесения в новую таблицу - уже 1.5G и похоже, что этим не ограничится.
1

кстати, как бы это сделать

Не первый раз сталкиваюсь с задачей такого типа
Надо пробежаться по таблице и сделать замены вида
if (col_a == 255) set col_a = null;
if (col_b == 0) set col_b = col_c/3;
if (col_z < 0) set col_z = 200;
Независимые замены в каждой строке.

Это же можно как-то сделать за один прогон по таблице?
Одним update-ом, а не тремя ( в данном примере ).
1

partition tables, итоги

Текущий вариант таблицы: дробление range, нарезана на 360 кусков на 1 градусу долготы.
Координаты в mas, I*4, два независимых индекса по долготе и по широте.

Оказалось крайне важным предварительное упорядочивание данных.
Если в сегментах строки уложены в порядке по широте (ORDER BY latitude, longitude), то среднее время выборки объектов по площадке 12х12 минут составляет 80+/-30 милисекунд.
А если же данные были уложены по долготе (ORDER BY longitude, latitude), то 5-7 секунд. На два порядка больше.
Это при прочих равных.

Таблица MyISAM. Проверял как это будет на InnoDB. Сделал вариант, влил 1 гиг для теста. Время выборки оказалось примерно на порядок больше, чем для абсолютно такое же таблицы ISAM.

Очередной раз вижу преимущество узкоспециалированных инструментов над универсальными.

В оригинате данные представлены 900 бинарными фпйлами fixed records length и 1 весьма примитивный индекс на 10 мегабайт (всего-то!). Плюс крошечная програмка на фортране в 1000 строк вместе с комментариями. Всего 8 гиг. Для некоторых полей применена "познаковая" упаковка.

В виде мускуль-таблицы это 11 гиг (9 данные и 2 индексы).

Время выборки примерно такое же.