关于小数计算的建议

lijeki · 发表于 2009-2-17 12:22:48

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？欢迎注册

×

用计算整数的算法也可以计算小数，方法是计算前先移动小数点，计算出结果后再添加小数点，举个例子：
计算2的开平方，先把小数点向后移两位就到200，然后计算200的开平方得到结果14，如果还需要更多的精度可以再次移动小数点，继续计算，最后结果添加上小数点就行了。也可以直接移动到2000000，这样就可以得到3位的小数计算精度。
至计算速度方面实际上与大整数的计算速度差不多。

gxqcn · 发表于 2009-2-17 13:14:35

HugeCalc 的双进制内核（10进制和2进制）均已提供移位、指定精度的函数，
所以要完成小数运算是很容易的，
唯一不便的是输出时要自己在指定的地方补加小数点。

现阶段 HugeCalc 仍将聚焦在大整数方面，
但同时会兼顾以后的扩展性。

liangbch · 发表于 2009-2-17 15:42:01

如果计算2.0的平方根，精确到好几位有效数字，还是直接用浮点指令好。一个计算结果精确到16bit的整数平方根就够算一阵子的。但使用浮点指令，可以轻易的将计算结果精确到56bit.

无心人 · 发表于 2009-2-17 15:54:51

账号		自动登录	找回密码
密码			欢迎注册

[讨论] 关于小数计算的建议

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。