数学研发论坛

 找回密码
 欢迎注册
查看: 2291|回复: 3

[讨论] 关于小数计算的建议

[复制链接]
发表于 2009-2-17 12:22:48 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?欢迎注册

x
用计算整数的算法也可以计算小数,方法是计算前先移动小数点,计算出结果后再添加小数点,举个例子:
计算2的开平方,先把小数点向后移两位就到200,然后计算200的开平方得到结果14,如果还需要更多的精度可以再次移动小数点,继续计算,最后结果添加上小数点就行了。也可以直接移动到2000000,这样就可以得到3位的小数计算精度。
至计算速度方面实际上与大整数的计算速度差不多。
毋因群疑而阻独见  毋任己意而废人言
毋私小惠而伤大体  毋借公论以快私情
发表于 2009-2-17 13:14:35 | 显示全部楼层
HugeCalc 的双进制内核(10进制和2进制)均已提供移位、指定精度的函数,
所以要完成小数运算是很容易的,
唯一不便的是输出时要自己在指定的地方补加小数点。

现阶段 HugeCalc 仍将聚焦在大整数方面,
但同时会兼顾以后的扩展性。
毋因群疑而阻独见  毋任己意而废人言
毋私小惠而伤大体  毋借公论以快私情
发表于 2009-2-17 15:42:01 | 显示全部楼层
如果计算2.0的平方根,精确到好几位有效数字,还是直接用浮点指令好。一个计算结果精确到16bit的整数平方根就够算一阵子的。但使用浮点指令,可以轻易的将计算结果精确到56bit.
毋因群疑而阻独见  毋任己意而废人言
毋私小惠而伤大体  毋借公论以快私情
发表于 2009-2-17 15:54:51 | 显示全部楼层
毋因群疑而阻独见  毋任己意而废人言
毋私小惠而伤大体  毋借公论以快私情
您需要登录后才可以回帖 登录 | 欢迎注册

本版积分规则

小黑屋|手机版|数学研发网 ( 苏ICP备07505100号 )

GMT+8, 2020-10-27 11:28 , Processed in 0.056183 second(s), 16 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表