发现HugeCalc的bug

qq5942111

素性检测0xFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001
也就是2^224-2^32+1
HugeCalc陷入漫长的计算，并耗尽内存，最终崩溃.
其它类似的数还有
2^672-2^32+1
2^896-2^32+1
2^1120-2^32+1
2^1344-2^32+1
2^2240-2^32+1
请版主检查

gxqcn

谢谢！
这是正式发布以来反馈的为数不多的几个bug，我将抽空去分析一下。

mathematica

谢谢！
这是正式发布以来反馈的为数不多的几个bug，我将抽空去分析一下。
gxqcn 发表于 2011-1-13 07:30

郭能回复一下,是素数判定算法缺陷的问题,还是因为bug吗?
不过这个问题的答案只有你自己知道了!

gxqcn

不是算法的问题，应该是代码的问题。
近期忙，还没来得及debug.

TuringBombe

1# qq5942111

用Beaconaut APICalc 2计算2^224-2^32+1非常方便快速.顺便把另外几个计算结果也公布如下以便检测素性:
2^672-2^32+1=FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001

2^896-2^32+1=FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001

2^1120-2^32+1=FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001

2^1344-2^32+1=FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001

2^2240-2^32+1=FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000001

gxqcn

原因已查明：是一处优化算法中出现了整型溢出现象。
此类bug很难debug（因为有汇编）：我曾用debug版测试正常，编译成release版却异常，
一步一步地跟踪，今天才得以修正。

mathe

奇怪,整型数溢出为什么debug状态不会出问题?同样应该内存溢出才会出现debug和release状态的不同.

gxqcn

这也是我比较纠结的地方。
可能与寄存器初始化什么的有关。
我用的是Intel的编译器。

mathe

那还有可能是编译器出错了

gxqcn

应该问题还是代码上，我修正后编译成 release 版再测试这几组数据，都迅速得到了答案（均为合数）。
不过，我以前确实碰到编译器出错的时候，那是在用浮点型的时候，可能与编译器自身的优化有关。