lijeki 发表于 2009-2-17 12:22:48

关于小数计算的建议

用计算整数的算法也可以计算小数,方法是计算前先移动小数点,计算出结果后再添加小数点,举个例子:
计算2的开平方,先把小数点向后移两位就到200,然后计算200的开平方得到结果14,如果还需要更多的精度可以再次移动小数点,继续计算,最后结果添加上小数点就行了。也可以直接移动到2000000,这样就可以得到3位的小数计算精度。
至计算速度方面实际上与大整数的计算速度差不多。

gxqcn 发表于 2009-2-17 13:14:35

HugeCalc 的双进制内核(10进制和2进制)均已提供移位、指定精度的函数,
所以要完成小数运算是很容易的,
唯一不便的是输出时要自己在指定的地方补加小数点。

现阶段 HugeCalc 仍将聚焦在大整数方面,
但同时会兼顾以后的扩展性。

liangbch 发表于 2009-2-17 15:42:01

如果计算2.0的平方根,精确到好几位有效数字,还是直接用浮点指令好。一个计算结果精确到16bit的整数平方根就够算一阵子的。但使用浮点指令,可以轻易的将计算结果精确到56bit.

无心人 发表于 2009-2-17 15:54:51

:lol
页: [1]
查看完整版本: 关于小数计算的建议