作业帮 > 综合 > 作业

vb中为什么两个double数值,都只有一位小数,相减结果是六位小数的近似值,比如1171.6-1170.6=0.999

来源:学生作业帮 编辑:搜搜做题作业网作业帮 分类:综合作业 时间:2024/05/04 02:31:02
vb中为什么两个double数值,都只有一位小数,相减结果是六位小数的近似值,比如1171.6-1170.6=0.999999999
实在是没有财富值了,不好意思
vb中为什么两个double数值,都只有一位小数,相减结果是六位小数的近似值,比如1171.6-1170.6=0.999
虽然在十进制看来只有一位小数,但在二进制中却是个无限循环小数.
受到电脑精度的限制,无限循环小数只能去掉尾部,这就造成了进制转换误差.