?

Log in

No account? Create an account

Встреча Moscow MySQL User Group 11 июля в офисе Mail.Ru Group
efeiya_grassie

11 июля в 18:00 в офисе компании Mail.Ru состоится очередная встреча Moscow MySQL User Group. Специальный гость встречи - Пётр Зайцев (CEO, Percona). Пётр сделает два доклада и ответит на вопросы участников встречи. Вход свободный. Регистрация здесь: https://www.meetup.com/moscowmysql/events/240684527/

Программа встречи

1. Обеспечение высокой доступности (HA) СУБД MySQL.

2. MySQL в облаке: миграция, лучшие практики, высокая доступность и масштабируемость.

3. Ответы на вопросы аудитории.


Секция MySQL на PG Day’17 Russia (Санкт-Петербург)
efeiya_grassie
В рамках PG Day’17 Russia состоится полноценный поток докладов и мастер-классов, посвященный MySQL и другим открытым базам данных: https://pgday.ru/ru/2017/papers­

Ключевым событием для специалистов, занимающихся эксплуатацией MySQL, станут мастер-классы от ведущих экспертов компании Percona, Петра Зайцева и Светы Смирновой.

Петр Зайцев является основателем и CEO Percona, обладает более чем 15-летним стажем работы с MySQL и поддержки СУБД для крупнейших представителей бизнеса. В рамках PG Day'17 Петр представит учебный курс, посвященный архитектуре и оптимизации производительности InnoDB. InnoDB — наиболее часто используемая подсистема хранения для MySQL и Percona Server, на которую направлены основные усилия разработки команд MySQL и Percona. Петр расскажет, как использовать InnoDB, чтобы добиться максимальной производительности вашего приложения, и предложит конкретные рекомендации относительно конфигурации сервера, схемы базы данных, архитектуры приложения и выбора оборудования.


Света Смирнова обладает 10-летней экспертизой технической поддержки MySQL, является автором книги MySQL Troubleshooting и мировым экспертом по архитектуре и оптимизации производительности этой СУБД. На PG Day'17 участников ждет интенсивный 8-часовой учебный курс, посвященный отладке производительности MySQL. В рамках мастер-класса Света покажет, на основе личного опыта работы в технической поддержке, простые в использовании методы, позволяющие определить и устранить причины нежелательного поведения MySQL. Вы узнаете, какие инструменты и в каком порядке удобно использовать, с чего начать и как углубиться в проблему, научитесь безопасно тестировать свой сервер СУБД.

Вас также ждет множество интересных докладов от специалистов компаний MongoDB, Percona, МТС, Elastic, КРОК, Яндекс, Mail.Ru Group, Epam, Data Egret и др. Регистрируйтесь: https://pgday.ru/ru/2017/request/registration

Почему запрос не использует cache?
v muzee
vitaly_il
Есть MySQL 5.7.16 на Убунте, который используется как бэкенд для Wordpress.
Куча криво написанных запросов, но после того, как я активизировал cache, большинство запросов выполняется из cache.
Но один почему-то cache не использует.
Заранее спасибо за помощь!

ПодробностиCollapse )

Кто это локально ломится под рутом без пароля?
Sphinx
m_ike
Каждые пять минут в логах (/var/log/mysqld.log) появляется такое:

2016-09-25T22:48:10.512240Z 18873775 [Note] Access denied for user 'root'@'localhost' (using password: NO)
2016-09-25T22:53:00.526894Z 18874007 [Note] Access denied for user 'root'@'localhost' (using password: NO)
2016-09-25T22:58:01.353671Z 18874265 [Note] Access denied for user 'root'@'localhost' (using password: NO)

Грешил на что-то вебовское или на cron job, поэтому временно убил обоих демонов:
systemctl stop httpd
systemctl stop crond
После этого подождал пять минут, и, как ни в чем ни бывало, появилось очередное аксесдинайд.

Что это такое и как прекратить? Операционка CentOS 7.1, сервер mysql 5.7. Спасибо!

P.S. Оказалось, это был webmin. Вопрос снимается.

point, polygon
1
white_thesis
попробовал spatial ext если кому интересны результаты экспериментаCollapse )

ну, раз пошла такая пьянка
1
white_thesis
режь последний огурец.
160626 14:23:52 [ERROR] \usr\local\mysql-5.5\bin\mysqld.exe: Out of memory (Needed 16384 bytes)

Напихал в машину оперативки до 4 гигабайт. Разрешил мускулю побольше.
key_buffer_size = 1G
max_allowed_packet = 8M
table_open_cache = 512
sort_buffer_size = 1G
read_buffer_size = 1G
read_rnd_buffer_size = 256M
myisam_sort_buffer_size = 1G
thread_cache_size = 64
query_cache_size = 256M

Фактически mysqld не занимает более 1 гига, в машине еще полтора-два свободно.
Тем не менее постоянно вижу в журнале такую ошибку.

Что забавно: при попытке перекинуть данные из таблицы (большой) в другую
insert into tbl1 select * from tbl0
появляется _ошибка_ out of memory и операция сбрасывается.
А вот при сортировке или перестройке индексов эти ошибки пишутся в журнал именно как ERROR, но учитываются как предупреждения - warnings.

Можно как-нибудь понять кому и для чего не хватает памяти?

UPD. Что-то здесь концы с концами не сходятся
Взял из комплекта "денвера" конфиг мускуля
# This is for a large system with memory of 1G-2G where the system runs mainly
# MySQL.
key_buffer_size = 512M
max_allowed_packet = 4M
table_open_cache = 512
sort_buffer_size = 256M
read_buffer_size = 256M
read_rnd_buffer_size = 256M
myisam_sort_buffer_size = 512M
thread_cache_size = 64
query_cache_size = 256M

В машине 4 гига, кроме мускуля ничего не запущено. Ну, подойдет.
Объем памяти, занимаемой mysqld, не превыcил 800М. Хотя уже сообразно конфигу должно быть больше.
В машине еще 2 гига свободной оперативки.
Однако же "out of memory error".

Ладно, берем из того же комплекта другой образец.
# This is for a large system with memory = 512M where the system runs mainly
# MySQL.
key_buffer_size = 256M
max_allowed_packet = 1M
table_open_cache = 256
sort_buffer_size = 1M
read_buffer_size = 1M
read_rnd_buffer_size = 4M
myisam_sort_buffer_size = 64M
thread_cache_size = 8
query_cache_size= 16M

Таки key_buffer_size=256M. Надо ожидать, что mysqld будет не меньше. Однако же размер mysqld жестко ограничивается 80М и все работает феноменально медленно.
Ну то есть вообще неприемлемо. Поставил таблицу на сортировку. 120М строк. Пришел на следующий день - едва ли на 3/4 выполнено.

Поднял немного лимиты.
key_buffer_size = 256M
max_allowed_packet = 2M
table_open_cache = 256
sort_buffer_size = 4M
read_buffer_size = 4M
read_rnd_buffer_size = 4M
myisam_sort_buffer_size = 128M
thread_cache_size = 8
query_cache_size= 16M

Запрос "insert into p2 select * from parts order by de_mas, ra_mas;"
Пока идет выборка и сортировка show processlist -> sorting result - памяти забирает примерно 80-90 М. На этапе внесения в новую таблицу - уже 1.5G и похоже, что этим не ограничится.

кстати, как бы это сделать
1
white_thesis
Не первый раз сталкиваюсь с задачей такого типа
Надо пробежаться по таблице и сделать замены вида
if (col_a == 255) set col_a = null;
if (col_b == 0) set col_b = col_c/3;
if (col_z < 0) set col_z = 200;
Независимые замены в каждой строке.

Это же можно как-то сделать за один прогон по таблице?
Одним update-ом, а не тремя ( в данном примере ).

partition tables, итоги
1
white_thesis
Текущий вариант таблицы: дробление range, нарезана на 360 кусков на 1 градусу долготы.
Координаты в mas, I*4, два независимых индекса по долготе и по широте.

Оказалось крайне важным предварительное упорядочивание данных.
Если в сегментах строки уложены в порядке по широте (ORDER BY latitude, longitude), то среднее время выборки объектов по площадке 12х12 минут составляет 80+/-30 милисекунд.
А если же данные были уложены по долготе (ORDER BY longitude, latitude), то 5-7 секунд. На два порядка больше.
Это при прочих равных.

Таблица MyISAM. Проверял как это будет на InnoDB. Сделал вариант, влил 1 гиг для теста. Время выборки оказалось примерно на порядок больше, чем для абсолютно такое же таблицы ISAM.

Очередной раз вижу преимущество узкоспециалированных инструментов над универсальными.

В оригинате данные представлены 900 бинарными фпйлами fixed records length и 1 весьма примитивный индекс на 10 мегабайт (всего-то!). Плюс крошечная програмка на фортране в 1000 строк вместе с комментариями. Всего 8 гиг. Для некоторых полей применена "познаковая" упаковка.

В виде мускуль-таблицы это 11 гиг (9 данные и 2 индексы).

Время выборки примерно такое же.

partition tables
1
white_thesis
У меня появился повод поразбираться с этой фичей. На слабой машине нужна работа с большой таблицей 120кк строк, 14G байт . Записи - объекты с географическими координатами, выборка обычно делается по очень компактной области координат и иногда по идентификатору объекта. Таблица используется только на чтение. Мускуль 5.5

То есть просто напрашивается на разделение на N таблиц по диапазону одной из координат.
create table qwe
(
ident int not null comment 'уникальный код объекта'
lat decimal (10,8) not null comment 'широта',
lng decimal (11,8) unsigned not null comment 'долгота',
...
unique (ident),
index (lat),
index (lng)
)
partition by range (lat)
...
реальная конструкция таблицы - многабуквCollapse )

На практике я, разумеется, столкнулся с непонятным поведением.
К примеру, мускуль не желает делать дробную таблицу, покуда есть unique индекс по идентификатору. Просто index - приемлет. Не, ну в данном случае мне никто не мешает заменить тип индекса. Это мелочи, хотя и странные.

Что гораздо хуже - многократно выросли требования к оперативке при добавлении записей из старой таблицы (обычной) в новую (сегментированную). То есть до такой степени, что данные добавить невозможно. 2 гига опертивки на компе, всё отдано для mysqld - ему мало. Думаю, что при выборке будет та же проблема.

Видимо я не понимаю как мускуль управляется с такими таблицами и в частности с индексами, НЕ использованными для сегментирования.

http://dev.mysql.com/doc/refman/5.5/en/partitioning.html перечитал, ответов либо не нашел либо не понял.

странная тишина
1
white_thesis
почему тут никого нет?
О. Проявились.
Странно, что последний пост от 14 года. Словно проблемы у мускуля закончились :)

Кстати, раз пошла такая пьянка, кто-нибудь здесь имеет опыт работы с многосекционными (partition) таблицами?