【详述】round函数如果写成隐式的精度丢失。举个例子:
4063/16000 = 0.2539375
我SQL写成 round(0.2539375, 6) 输出结果 0.253938 是正确的
我SQL写成 round( 4063/16000, 6) 输出结果 0.253937 这个时候精度就错误,没有进1
这个是啥情况呢?
【StarRocks版本】3.2版本
【详述】round函数如果写成隐式的精度丢失。举个例子:
4063/16000 = 0.2539375
我SQL写成 round(0.2539375, 6) 输出结果 0.253938 是正确的
我SQL写成 round( 4063/16000, 6) 输出结果 0.253937 这个时候精度就错误,没有进1
这个是啥情况呢?
【StarRocks版本】3.2版本