关于小数四舍五入和截断的问题
来源:2-15 测试浮点类型
全栈丶obj
2020-02-14 02:04:14
视频中说的float和double进行了四舍五入。decimal进行了截断,但我这里得出的结果如下:float进行了截断,而double和decimal进行了四舍五入的操作

1回答
同学你好,都会进行四舍五入的
1、因为decimal是严格按照指定的精度进行四舍五入的,而float和double则是系统自动进行了四舍五入,不可控。
并且使用decimal这个decimal类型在进行四舍五入时会产生警告,而float和double都不会产生警告。
例如,当小数位是1的时候,float是四舍五入的:

如果我的回答解决了你的问题,请采纳,祝学习愉快.
相似问题