精度比较高的话选decimal类型?
来源：2-15 测试浮点类型
liqihang
2018-05-16 16:51:34
decimal类型的默认类型是整数的话，那么要求精度高的话怎么可能选decimal?
写回答
2回答
-
好帮手慕珊
2018-05-16
这个是两个问题，之所以视频中会显示整数，是因为没有定义精度，默认就显示整数，直接把小数点去掉了。
如果合理的设置精度，还是decimal类型精度高
祝学习愉快！
1 -
Lucas_ke
2019-02-09
这个就有点涉及计算机内层原理了 Float 和 Double都表示的是一个近似值，有精力的话了解一下IEE754浮点型的表示法，而decimal则以字符点形式存储数据，所以能表示精度当然就比float 和 double 高了。
0
相似问题