数据计算数值漂移出现错误,如何彻底解决?

①所有入库出库数据都是手动输入,确认未出现误录数据情况(数据输入绝对精确到小数点后一位,后续位数确保没有输入任何数据);②根据图中红圈显示结果,篮框内两个数据0.1并非完全相等,发出收入列数据均为手工输入且确保精确,说明结存列的计算结果出现了偏移;③最先出现偏移错误的数据是在13号单出货录入0.2的时候出现,后来将其改为0.1结果正常,14号单录入0.1错误复现,现在这样操作后再回去13号单录入0.2时,结果又显示正常了。 请问:这种情况如何解决,彻底杜绝此类误差出现?
广东省
浏览 95
收藏
3
分享
3 +1
4
+1
全部评论 4
 
HC.旋
HC.旋 WPS资深用户WPS寻令官Lv.2 潜力创作者

Lv.2潜力创作者

答:这是浮点计算造成的误差,可以用函数修正,嵌套round
· 福建省
回复
 
E精精
E精精 WPS资深用户KVPWPS函数专家Lv.2 潜力创作者

Lv.2潜力创作者

答:出现这种是因为浮点数,计算机底层是二进制,10进制和二进制互转,是出现类似1/3除不尽要保留进度问题 1.2-1.1 = 0.099999999999 “十进制 → 二进制 → 截断 → 回十进制”,小数十进制转二进制 使用 乘2取整法,具体看下面示例,在表格中最好的办法就是ROUND或其他函数保留特定的精度!
· 江苏省
回复
拾光漫行
向精精老师学习
· 重庆
回复
 
亂雲飛渡
回答:在公式外套ROUND函数取一位小数,即可解决。 =ROUND(原公式,1)
· 广东省
回复