自己编程的计算器计算时有偏差

来源:3-5 计算器细节完善

江民川

2020-04-26 10:55:14

http://img.mukewang.com/climg/5ea4f79a0a9ce1c703150258.jpg如gif所示,0.8+0.88和1.8+1.88都会在小数点很多位的时候出现偏差,到了2.8+2.88就没差了,这是什么原理?

写回答

1回答

时间,

2020-04-26

同学,你好。这是js进行浮点数运算时精度的问题。在计算机在存储浮点数时会有误差,导致在使用浮点数计算的时候同样会产生误差。

如果我的回答解决了您的疑惑,请采纳!祝学习愉快~~~~

0

0 学习 · 3562 问题

查看课程