Перейти к содержимому
Последнее обновление

Ручное секционирование

Ручное секционирование — это способ секционирования, при котором пользователь явно задаёт правила разделения данных при создании таблицы. В этой статье описывается использование ручного секционирования в Doris, включая синтаксис, сценарии применения и рекомендации по секционированию Range, List и NULL.

Правила для столбцов секционирования​

Перед использованием ручного секционирования необходимо ознакомиться с общими правилами для столбцов секционирования:

  • Для секционирования можно использовать один или несколько столбцов, причём все они должны быть столбцами KEY.
  • Независимо от типа столбца секционирования значения секционирования при записи необходимо заключать в двойные кавычки.
  • Теоретического ограничения на количество секций нет. Однако по умолчанию действует ограничение в 4096 секций на таблицу. Чтобы превысить это ограничение, измените параметры FE max_multi_partition_num и max_dynamic_partition_num.
  • При создании таблицы без секционирования система автоматически создаёт единственную секцию с тем же именем, что и у таблицы, охватывающую весь диапазон значений. Эта секция не видна пользователям, её нельзя изменить или удалить.
  • Создавать секции с пересекающимися диапазонами нельзя.

Секционирование Range​

Секционирование Range разделяет данные на секции по диапазонам значений столбца секционирования. Обычно для этого используется столбец со значениями времени, что упрощает управление старыми и новыми данными.

Поддерживаемые типы столбцов: DATE, DATETIME, TIMESTAMPTZ, TINYINT, SMALLINT, INT, BIGINT, LARGEINT.

Секционирование Range поддерживает следующие четыре формы для разных сценариев:

ФормаСценарий использования
FIXED RANGEКогда требуется точно задавать верхнюю и нижнюю границы каждой секции
LESS THANКогда важна только верхняя граница секции, а новые секции добавляются в хронологическом порядке
BATCH RANGEПакетное создание секций для числовых или временных значений с одинаковым шагом
MULTI RANGEПакетное создание секций с разным шагом для разных временных диапазонов

1. FIXED RANGE​

Задаёт для секции интервал, включающий левую границу и исключающий правую.

Синтаксис:

PARTITION BY RANGE(col1[, col2, ...])
(
    PARTITION partition_name1 VALUES [("k1-lower1", "k2-lower1", "k3-lower1",...), ("k1-upper1", "k2-upper1", "k3-upper1", ...)),
    PARTITION partition_name2 VALUES [("k1-lower1-2", "k2-lower1-2", ...), ("k1-upper1-2", MAXVALUE, ))
)

Пример:

PARTITION BY RANGE(`date`)
(
    PARTITION `p201701` VALUES [("2017-01-01"), ("2017-02-01")),
    PARTITION `p201702` VALUES [("2017-02-01"), ("2017-03-01")),
    PARTITION `p201703` VALUES [("2017-03-01"), ("2017-04-01"))
)

2. LESS THAN​

Задаёт только верхнюю границу секции; нижняя граница определяется верхней границей предыдущей секции.

Синтаксис:

PARTITION BY RANGE(col1[, col2, ...])
(
    PARTITION partition_name1 VALUES LESS THAN MAXVALUE | ("value1", "value2", ...),
    PARTITION partition_name2 VALUES LESS THAN MAXVALUE | ("value1", "value2", ...)
)

Пример:

PARTITION BY RANGE(`date`)
(
    PARTITION `p201701` VALUES LESS THAN ("2017-02-01"),
    PARTITION `p201702` VALUES LESS THAN ("2017-03-01"),
    PARTITION `p201703` VALUES LESS THAN ("2017-04-01"),
    PARTITION `p2018` VALUES [("2018-01-01"), ("2019-01-01")),
    PARTITION `other` VALUES LESS THAN (MAXVALUE)
)

3. BATCH RANGE​

Создаёт секции RANGE для числовых и временных типов пакетно, задавая для каждой секции интервал с указанным шагом, включающий левую границу и исключающий правую.

Синтаксис:

PARTITION BY RANGE(int_col)
(
    FROM (start_num) TO (end_num) INTERVAL interval_value
)

PARTITION BY RANGE(date_col)
(
    FROM ("start_date") TO ("end_date") INTERVAL num YEAR | num MONTH | num WEEK | num DAY | 1 HOUR
)

Пример:

PARTITION BY RANGE(age)
(
    FROM (1) TO (100) INTERVAL 10
)

PARTITION BY RANGE(`date`)
(
    FROM ("2000-11-14") TO ("2021-11-14") INTERVAL 2 YEAR
)

4. MULTI RANGE​

Создаёт секции RANGE пакетно с интервалами, включающими левую границу и исключающими правую, позволяя задавать разный шаг в одном операторе.

Пример:

PARTITION BY RANGE(col)
(
    FROM ("2000-11-14") TO ("2021-11-14") INTERVAL 1 YEAR,
    FROM ("2021-11-14") TO ("2022-11-14") INTERVAL 1 MONTH,
    FROM ("2022-11-14") TO ("2023-01-03") INTERVAL 1 WEEK,
    FROM ("2023-01-03") TO ("2023-01-14") INTERVAL 1 DAY,
    PARTITION p_20230114 VALUES [('2023-01-14'), ('2023-01-15'))
)

Секционирование List​

Секционирование List разделяет данные на секции по явно перечисленным значениям столбца секционирования. Строка направляется в секцию только в том случае, если её значение совпадает с одним из значений, перечисленных для этой секции.

Поддерживаемые типы столбцов: BOOLEAN, TINYINT, SMALLINT, INT, BIGINT, LARGEINT, DATE, DATETIME, TIMESTAMPTZ, CHAR, VARCHAR.

Ключевые слова синтаксиса: используйте VALUES IN (...), чтобы перечислить значения, входящие в каждую секцию.

Секционирование List по одному столбцу​

PARTITION BY LIST(city)
(
    PARTITION `p_cn` VALUES IN ("Beijing", "Shanghai", "Hong Kong"),
    PARTITION `p_usa` VALUES IN ("New York", "San Francisco"),
    PARTITION `p_jp` VALUES IN ("Tokyo")
)

Секционирование List по нескольким столбцам​

PARTITION BY LIST(id, city)
(
    PARTITION p1_city VALUES IN (("1", "Beijing"), ("1", "Shanghai")),
    PARTITION p2_city VALUES IN (("2", "Beijing"), ("2", "Shanghai")),
    PARTITION p3_city VALUES IN (("3", "Beijing"), ("3", "Shanghai"))
)

Секционирование NULL​

По умолчанию столбцы секционирования должны иметь ограничение NOT NULL. Чтобы использовать для секционирования столбец, допускающий NULL, задайте следующую переменную сеанса:

SET allow_partition_column_nullable = true;

Разные типы секционирования обрабатывают значения NULL следующим образом:

Тип секцииОбработка значений NULL
Секция LISTПоддерживает полноценную секцию NULL
Секция RANGE (с LESS THAN)Значения NULL помещаются в секцию LESS THAN с наименьшей верхней границей
Секция RANGE (без LESS THAN)Вставлять значения NULL нельзя

Сценарий 1: секция LIST поддерживает NULL​

mysql> create table null_list(
    -> k0 varchar null
    -> )
    -> partition by list (k0)
    -> (
    -> PARTITION pX values in ((NULL))
    -> )
    -> DISTRIBUTED BY HASH(`k0`) BUCKETS 1
    -> properties("replication_num" = "1");
Query OK, 0 rows affected (0.11 sec)

mysql> insert into null_list values (null);
Query OK, 1 row affected (0.19 sec)

mysql> select * from null_list;
+------+
| k0   |
+------+
| NULL |
+------+
1 row in set (0.18 sec)

Сценарий 2: секция RANGE направляет NULL в секцию LESS THAN с наименьшей верхней границей​

mysql> create table null_range(
    -> k0 int null
    -> )
    -> partition by range (k0)
    -> (
    -> PARTITION p10 values less than (10),
    -> PARTITION p100 values less than (100),
    -> PARTITION pMAX values less than (maxvalue)
    -> )
    -> DISTRIBUTED BY HASH(`k0`) BUCKETS 1
    -> properties("replication_num" = "1");
Query OK, 0 rows affected (0.12 sec)

mysql> insert into null_range values (null);
Query OK, 1 row affected (0.19 sec)

mysql> select * from null_range partition(p10);
+------+
| k0   |
+------+
| NULL |
+------+
1 row in set (0.18 sec)

Сценарий 3: секция RANGE без LESS THAN не принимает NULL​

mysql> create table null_range2(
    -> k0 int null
    -> )
    -> partition by range (k0)
    -> (
    -> PARTITION p200 values [("100"), ("200"))
    -> )
    -> DISTRIBUTED BY HASH(`k0`) BUCKETS 1
    -> properties("replication_num" = "1");
Query OK, 0 rows affected (0.13 sec)

mysql> insert into null_range2 values (null);
ERROR 5025 (HY000): Insert has filtered data in strict mode, tracking_url=......
Report issue