首页 > 电脑

wps计算结果错误怎么本来是0结果是0.000000000015,如图

更新时间2021-06-28 01:54:08

个别数据这样不是我数据本来就有小数点多位小数点wps计算结果错误怎么本来是0结果是0.000000000015,如图

这是由于程序计算浮点数(非整数)时经过二进制转换,造成了精度丢失的状况。

可使用ROUND 函数四舍五入处理。

比如表格中的计算结果最多需要保留小数点后两位小数,则可如下改写公式

=ROUND(612458.64-600000-12458.64,2)


相关标签:wps

上一篇:【c语言】我这个for循环提前停止了,求原因。代码如下

下一篇:请高手帮忙解决下