关于DECIMAL
来源:2-15 测试浮点类型
慕丝7446887
2020-02-27 09:36:29
视频中,老师提到,如果要求精度比较高,则选择DECIMAL类型。我并不是很理解这句话,DECIMAL类型不是会自动截断,理论上精度应该不如FLOAT或者DOUBLE,请问这怎么理解?
1回答
同学你好,可以这样理解:
DECIMAL(M,D)类型,M为数字的总位数,其范围为1~65位。D为小数点后面的位数,其范围是0~30,不得超过M。
而Float类型,它最多保留7位小数
Double类型,它最多保留15位左右的小数
DECIMAL类型,它最多保留30位左右的小数,所以它的精度最高,如果我们后面的保留的小数多,要求精度比较高,则选择DECIMAL类型。
如果我的回答解决了你的疑惑,请采纳,祝学习愉快~
相似问题