几个100位精度的常数
本帖最后由 灵树 于 2024-1-10 16:42 编辑\(\sqrt[]{2}\)=1.4142135623730950488016887242096980785696718753769480731766797379907324784621070388503875343276415714
\(\sqrt[]{3}\)=1.7320508075688772935274463415058723669428052538103806280558069794519330169088000370811461867572485741
\(\sqrt{2}\)=1.2599210498948731647672106072782283505702514647015079800819751121552996765139594837293965624362550934
\(\sqrt{3}\)=1.4422495703074083823216383107801095883918692534993505775464161945416875968299973398547554797056452557
\(\sqrt[]{π}\)=1.7724538509055160272981674833411451827975494561223871282138077898529112845910321813749506567385446636
\(\sqrt[]{e}\)=1.6487212707001281468486507878141635716537761007101480115750793116406610211942156086327765200563666430
\(\sqrt{π}\)=1.4645918875615232630201425272637903917385968556279371743572559371383936497982862661456820678203538198
\(\sqrt{e}\)=1.3956124250860895286281253196025868375979065151994069826175167060317390156459518469697888172958302240
没意思，算一万位又如何？基本上数学软件都能算一百位。 nyy 发表于 2024-1-11 09:59
没意思，算一万位又如何？基本上数学软件都能算一百位。
能算100位就能算一万位这个本质上没什么不同，但二进制计算到十进制计算则是一个质的变化。中国人做的计算工具别人有的我们也要有，别人没有的我们要创新。你这么悲观可不好，容易厌世的。 灵树 发表于 2024-1-11 21:14
能算100位就能算一万位这个本质上没什么不同，但二进制计算到十进制计算则是一个质的变化。中国人做的计 ...
你比我强1万倍。我只会用软件，不会写代码。只会写简单的代码 nyy 发表于 2024-1-11 21:27
你比我强1万倍。我只会用软件，不会写代码。只会写简单的代码
跟自己过不去何苦呢！ 我验算了第一个， 发现最后两个数字不对。根号3也是，最后两个数字不对。
嗯，有人讨论这个问题我还是很高兴的。这个的确是一个精度问题，我在应用中设置了小数点后100位的精度。其中的几个常数e、π也是保留到100位小数，如果在计算时用到这几个常数，就会有可能在最后两到三位上出现误差。这个不是BUG，只是没有对数据进行修饰。在下面的链接里有几个这方面的例子可以参考：
https://www.zhihu.com/pin/1728121447749099520
页:
[1]