这种叫什么错误？迭代算数错误吗？

98001.08-95959.28-2041.8=0.0000000000003[捂脸]

WPS表格格式样式

2025-08-21 04:44:26 上海

浏览 1517

收藏

2

分享

2 +1

4

+1

全部评论 4

WPS寻令官 | WPS产品体验官

科学计数法

2025-08-22 00:30:06 · 四川省

回复

计算机浮点运算的问题，可以修改精度，或者用round函数解决

2025-08-21 14:10:21 · 山西省

回复

楼上正解

2025-08-21 07:43:43 · 广东省

回复

WPS寻令官

回答：二进制转十进制出现的浮点错误。可以套ROUND函数解决。

2025-08-21 05:01:05 · 广东省

1

回复

帖子 3
回复 9
点赞 12