shshsh_0510 发表于 2008-4-16 16:46:17

我刚学了下，整数是任意精度的
浮点的精度是自己指定的，对不同的问题指定这个应该是个学问。对我这个问题中，我的矩阵中项的比值不超过10^8,我只要准备10^-24的精度就够用了，谢谢二位

无心人 发表于 2008-4-16 16:55:24

:)

如果比例这么大
要小心某些值计算中下溢出

mathe 发表于 2008-4-16 16:58:45

我觉得$10^-24$还可能不够。
还是奇异值分解计算出最小的奇异值是多少看看。这个maple应该可以告诉你一个大概了

无心人 发表于 2008-4-16 17:05:21

用64字节那种
应该足够了
页: 1 2 [3]
查看完整版本: 关于矩阵计算