关于DECIMAL

来源:2-15 测试浮点类型

慕丝7446887

2020-02-27 09:36:29

视频中,老师提到,如果要求精度比较高,则选择DECIMAL类型。我并不是很理解这句话,DECIMAL类型不是会自动截断,理论上精度应该不如FLOAT或者DOUBLE,请问这怎么理解?

写回答

1回答

好帮手慕酷酷

2020-02-27

同学你好,可以这样理解:

DECIMAL(M,D)类型,M为数字的总位数,其范围为1~65位。D为小数点后面的位数,其范围是0~30,不得超过M。

而Float类型,它最多保留7位小数

Double类型,它最多保留15位左右的小数

DECIMAL类型,它最多保留30位左右的小数,所以它的精度最高,如果我们后面的保留的小数多,要求精度比较高,则选择DECIMAL类型。

如果我的回答解决了你的疑惑,请采纳,祝学习愉快~



1

0 学习 · 8016 问题

查看课程