为什么对精度要求比较高选DECIMAL

来源:2-15 测试浮点类型

一giao我勒giao

2020-09-01 23:54:03

DECIMAL不是会四舍五入吗,精度要求比较高不应该是flaot 和double吗

写回答

1回答

好帮手慕阿园

2020-09-02

同学你好,float和double也是会进行四舍五入的;

关于精度问题可以这样理解:

DECIMAL(M,D)类型,M为数字的总位数,其范围为1~65位。D为小数点后面的位数,其范围是0~30,不得超过M。

而Float类型,它最多保留7位小数,

Double类型,它最多保留15位左右的小数,

DECIMAL类型,它最多保留30位左右的小数,所以它的精度最高,如果我们后面的保留的小数多,要求精度比较高,则选择DECIMAL类型;在进行小数运算时可以更好的防止小数丢失。

如果我的回答解决了你的疑惑,请采纳,祝学习愉快~


0

0 学习 · 8016 问题

查看课程