老师演示出大问题

来源:2-15 测试浮点类型

AOSOUL

2020-09-04 03:40:08

decimal默认的时候只保留到整数,老师为什么说他更精确??????????????????

写回答

2回答

好帮手慕小尤

2020-09-06

同学你好,decimal并不是只保留到整数。语法: DECIMAL(P,D);

    P是表示有效数字数的精度。 P范围为1〜65。

    D是表示小数点后的位数。 D的范围是0~30。MySQL要求D小于或等于(<=)P。

    DECIMAL(P,D)表示列可以存储D位小数的P位数。十进制列的实际范围取决于精度和刻度。

所以DECIMAL类型是可以存储小数的。

祝学习愉快!

0

好帮手慕小尤

2020-09-05

同学你好,因decimal的存储范围更大一点,并且float,double容易产生误差。存储范围:

    float:浮点型,含字节数为4,32字节,数值范围为-3.4E38~3.4E38(7个有效位)

    double:双精度实型,含字节数为8,64字节数值范围-1.7E308~1.7E308(15个有效位)

    decimal:数字型,128字节,不存在精度损失,常用于银行帐目计算。(28个有效位)

同学可以尝试创建三个字段,并添加数据数据后使用sum进行计算,查看数据的精度。

祝学习愉快!

0
hOSOUL
h 还是没有解释为什么decimal为什么只保留到整数
h020-09-05
共1条回复

0 学习 · 4928 问题

查看课程