CORR_WELFORD
描述
采用 Welford 算法计算两个随机变量的皮尔逊系数,能够有效降低计算误差。
语法
CORR_WELFORD(<expr1>, <expr2>)
参数
参数 | 说明 |
---|---|
<expr1> | 用于计算的表达式之一,支持类型为 Double 。 |
<expr2> | 用于计算的表达式之一,支持类型为 Double 。 |
返回值
返回值为 DOUBLE 类型,expr1 和 expr2 的协方差,除 expr1 和 expr2 的标准差乘积,特殊情况:
- 如果 expr1 或 expr2 的标准差为 0, 将返回 0。
- 如果 expr1 或者 expr2 某一列为 NULL 时,该行数据不会被统计到最终结果中。
- 如果组内没有有效数据,返回 NULL 。
举例
-- setup
create table test_corr(
id int,
k1 double,
k2 double
) distributed by hash (id) buckets 1
properties ("replication_num"="1");
insert into test_corr values
(1, 20, 22),
(1, 10, 20),
(2, 36, 21),
(2, 30, 22),
(2, 25, 20),
(3, 25, NULL),
(4, 25, 21),
(4, 25, 22),
(4, 25, 20);
select id,corr_welford(k1,k2) from test_corr group by id;
+------+---------------------+
| id | corr_welford(k1,k2) |
+------+---------------------+
| 1 | 1 |
| 2 | 0.4539206495016017 |
| 3 | NULL |
| 4 | 0 |
+------+---------------------+
select corr_welford(k1,k2) from test_corr where id=999;
组内没有有效数据。
+---------------------+
| corr_welford(k1,k2) |
+---------------------+
| NULL |
+---------------------+