为什么会小数点后会出现这么多位
来源:3-21 程序调试实战:结合收银台程序讲解调试技巧(python中最重要的技巧)
iorh
2020-02-07 22:46:41
2回答
同学,你好,alipay_total在计算后得到的类型为浮点类型的数据。在计算机在存储浮点数时会有误差,导致在使用浮点数计算的时候同样会产生误差,但这些误差在极小范围内的。在后面的课程中会学到如何对得到的浮点数保留一定的小数位。
如果我的回答解决了您的疑惑,请采纳!祝学习愉快~~~
coffeehyh
2020-02-08
简单地说就是,电脑是用0和1来表示数据的,你这里得到的结果,电脑没法精确地表示出来,所以只能得到近似值,所以才那么多位小数。
想知道具体是怎么回事,可以使用搜索引擎搜索“二进制 浮点数”应该会有答案。
我搜了一下,能找到这个:
http://www.ruanyifeng.com/blog/2010/06/ieee_floating-point_representation.html
代码部分看不懂可以跳过,可以从文章第2节开始看起即可。
相似问题