DECIMALV3

DECIMALV3

SinceVersion 1.2.1

DECIMALV3

description

DECIMALV3(M[,D])
高精度定点数，M 代表一共有多少个有效数字(precision)，D 代表小数位有多少数字(scale)，
有效数字 M 的范围是 [1, 38]，小数位数字数量 D 的范围是 [0, precision]。

默认值为 DECIMALV3(9, 0)。

精度推演

DECIMALV3有一套很复杂的类型推演规则，针对不同的表达式，会应用不同规则进行精度推断。

四则运算

• 加法 / 减法：DECIMALV3(a, b) + DECIMALV3(x, y) -> DECIMALV3(max(a - b, x - y) + max(b, y) + 1, max(b, y))。
• 乘法：DECIMALV3(a, b) + DECIMALV3(x, y) -> DECIMALV3(a + x, b + y)。
• 除法：DECIMALV3(a, b) + DECIMALV3(x, y) -> DECIMALV3(a + y, b)。

聚合运算

• SUM / MULTI_DISTINCT_SUM：SUM(DECIMALV3(a, b)) -> DECIMALV3(38, b)。
• AVG：AVG(DECIMALV3(a, b)) -> DECIMALV3(38, max(b, 4))。

默认规则

除上述提到的函数外，其余表达式都使用默认规则进行精度推演。即对于表达式 expr(DECIMALV3(a, b))，结果类型同样也是DECIMALV3(a, b)。

调整结果精度

不同用户对DECIMALV3的精度要求各不相同，上述规则为当前Doris的默认行为，如果用户有不同的精度需求，可以通过以下方式进行精度调整：

1. 如果期望的结果精度大于默认精度，可以通过调整入参精度来调整结果精度。例如用户期望计算AVG(col)得到DECIMALV3(x, y)作为结果，其中col的类型为DECIMALV3(a, b)，则可以改写表达式为AVG(CAST(col as DECIMALV3(x, y)))。
2. 如果期望的结果精度小于默认精度，可以通过对输出结果求近似得到想要的精度。例如用户期望计算AVG(col)得到DECIMALV3(x, y)作为结果，其中col的类型为DECIMALV3(a, b)，则可以改写表达式为ROUND(AVG(col), y)。

为什么需要DECIMALV3

Doris中的DECIMALV3是真正意义上的高精度定点数，相比于老版本的Decimal，DecimalV3有以下核心优势：

1. 可表示范围更大。DECIMALV3中precision和scale的取值范围都进行了明显扩充。
2. 性能更高。老版本的DECIMAL在内存中需要占用16 bytes，在存储中占用12 bytes，而DECIMALV3进行了自适应调整（如下表格）。

+----------------------+-------------------+
|     precision        | 占用空间（内存/磁盘）|
+----------------------+-------------------+
| 0 < precision <= 8   |      4 bytes      |
+----------------------+-------------------+
| 8 < precision <= 18  |      8 bytes      |
+----------------------+-------------------+
| 18 < precision <= 38 |     16 bytes      |
+----------------------+-------------------+

3. 更完备的精度推演。对于不同的表达式，应用不同的精度推演规则对结果的精度进行推演。

keywords

DECIMALV3