自己编程的计算器计算时有偏差
来源:3-5 计算器细节完善
江民川
2020-04-26 10:55:14
如gif所示,0.8+0.88和1.8+1.88都会在小数点很多位的时候出现偏差,到了2.8+2.88就没差了,这是什么原理?
1回答
时间,
2020-04-26
同学,你好。这是js进行浮点数运算时精度的问题。在计算机在存储浮点数时会有误差,导致在使用浮点数计算的时候同样会产生误差。
如果我的回答解决了您的疑惑,请采纳!祝学习愉快~~~~
0 学习 · 3562 问题
相似问题
回答 2
回答 1