水泥输送管:为什么有时候VB的浮点计算不准确

来源:百度文库 编辑:查人人中国名人网 时间:2024/05/09 03:53:23
有误差

这是因为计算机使用二进制保存数据,对于有限位十进制的小数来说,二进制使他变成了无限不循环小数(至于为什么,建议看数学书),损失了一点,然后在恢复成十进制时自然会有一点误差.

是的。
VB的浮点计算只能准确到小数点后三位,建议不要用副点计算!!

浮点行都有精确度,误差所有语言都有,正常。用的时候需要注意

大部分语言的浮点运算都有误差的。

程序的浮点计算就是有误差的