这种叫什么错误?迭代算数错误吗?

98001.08-95959.28-2041.8=0.0000000000003[捂脸]

上海
浏览 1517
收藏
2
分享
2 +1
4
+1
全部评论 4
 
懒得批爆
懒得批爆

WPS寻令官 | WPS产品体验官

科学计数法
· 四川省
回复
 
李强
计算机浮点运算的问题,可以修改精度,或者用round函数解决
· 山西省
回复
 
TB
楼上正解
· 广东省
回复
 
亂雲飛渡
亂雲飛渡

WPS寻令官

回答:二进制转十进制出现的浮点错误。可以套ROUND函数解决。
· 广东省
1
回复