为什么对精度要求比较高选DECIMAL
来源:2-15 测试浮点类型
一giao我勒giao
2020-09-01 23:54:03
DECIMAL不是会四舍五入吗,精度要求比较高不应该是flaot 和double吗
1回答
好帮手慕阿园
2020-09-02
同学你好,float和double也是会进行四舍五入的;
关于精度问题可以这样理解:
DECIMAL(M,D)类型,M为数字的总位数,其范围为1~65位。D为小数点后面的位数,其范围是0~30,不得超过M。
而Float类型,它最多保留7位小数,
Double类型,它最多保留15位左右的小数,
DECIMAL类型,它最多保留30位左右的小数,所以它的精度最高,如果我们后面的保留的小数多,要求精度比较高,则选择DECIMAL类型;在进行小数运算时可以更好的防止小数丢失。
如果我的回答解决了你的疑惑,请采纳,祝学习愉快~
相似问题