关于小数四舍五入和截断的问题

来源:2-15 测试浮点类型

全栈丶obj

2020-02-14 02:04:14

视频中说的float和double进行了四舍五入。decimal进行了截断,但我这里得出的结果如下:float进行了截断,而double和decimal进行了四舍五入的操作

http://img.mukewang.com/climg/5e458f560980801607970681.jpg

写回答

1回答

好帮手慕阿莹

2020-02-14

同学你好,都会进行四舍五入的

1、因为decimal是严格按照指定的精度进行四舍五入的,而float和double则是系统自动进行了四舍五入,不可控

并且使用decimal这个decimal类型在进行四舍五入时会产生警告,而float和double都不会产生警告。

例如,当小数位是1的时候,float是四舍五入的:

http://img.mukewang.com/climg/5e465e6509f4a0fd05220383.jpg

如果我的回答解决了你的问题,请采纳,祝学习愉快.


0

0 学习 · 8016 问题

查看课程