关于小数精确位的BUG

就是简单的加减乘除,大家测试一下,难道是我的版本问题?应该是浮点运算BUG。

我用计算器计算出来的是38.125

广东省
浏览 211
收藏
点赞
分享
+1
4
+1
全部评论 4
 
=LET(a,A2,b,OFFSET(a,-1,0),MAP(ROUND(SCAN(0,a,LAMBDA(x,y,x+y)),3),ROUND(SCAN(0,b,LAMBDA(x,y,x+y)),3),LAMBDA(x,y,x-y))),可以处理浮点误差
· 黑龙江省
回复
 
黑化新路

WPS函数专家

可以了解下浮点误差。计算机的换算问题
· 重庆
回复
了解
· 广东省
回复