test = 11111.234
度量值设置为千分位整数,但是当列表显示多位小数,小数为是不会被抹去的
当列表显示为0位小数,看到如下,但是复制出来数值还是11111.234,用户看到的与实际数值是有差异的
最大的坑来自,当维表与事实表的key较多时(上千或上万),sum起来的数会有极微小的差异如53634349.49999999 和 53634349.50000016
这种差异在汇总或者加,乘,除都没问题,
减法极有可能变成负数,减法除法混合,导致最后结果会很奇妙。
test = 11111.234
度量值设置为千分位整数,但是当列表显示多位小数,小数为是不会被抹去的
当列表显示为0位小数,看到如下,但是复制出来数值还是11111.234,用户看到的与实际数值是有差异的
最大的坑来自,当维表与事实表的key较多时(上千或上万),sum起来的数会有极微小的差异如53634349.49999999 和 53634349.50000016
这种差异在汇总或者加,乘,除都没问题,
减法极有可能变成负数,减法除法混合,导致最后结果会很奇妙。
本文标题:一个很大的坑:数字小数位
本文链接:https://www.haomeiwen.com/subject/wntfxltx.html
网友评论