千眼观音 发表于 2008-3-4 22:12

[请教] 电脑计算的小数位可以调吗？

小数只能保留15位，再后面的强行四舍五入，离计划精度基本要求还差千里。
    可以修改系统设置选择增减吗？或者必须升级硬件？希望不要超出普通的PC范围。

水星人 发表于 2008-3-4 22:35

去下载一个专用的计算器这样的软件试试看！

bearcat 发表于 2008-3-4 23:15

同上。
或修改自己的计算程序，自己写高精度计算的模块。

千眼观音 发表于 2008-3-4 23:15

是数据处理的一部分，要编程，单做一步数值计算没啥用处，行不通yct57.gif

bearcat 发表于 2008-3-4 23:29

原帖由 千眼观音 于 2008-3-4 23:15 发表 http://www.astronomy.com.cn/bbs/images/common/back.gif
是数据处理的一部分，要编程，单做一步数值计算没啥用处，行不通yct57.gif

当然是要把整个程序中需要的部分都修改的啊……
显然会很麻烦，或者修改算法，让算法别要求那么严格就是了。
实在想不通什么数据处理会要求那么高的精度……

千眼观音 发表于 2008-3-4 23:36

厄，太高深了吧，不是电脑的专专啊.....::01::
   或者有跟那种绿色小软件一样的吗？设计是要可以在现有主流PC上轻易通用的，跟谁想玩QQ现在就下一个安装起来折腾一样，最讨厌的是不至少到小数后18位就等于垃圾，还原则上不许分成几个数值表示，不然其它处理步骤的现有模块不匹配，就可能要编写一切了， 本来只把保留位数的设置改动就可以了yct34.gif

千眼观音 发表于 2008-3-4 23:54

原帖由 bearcat 于 2008-3-4 23:29 发表 http://www.astronomy.com.cn/bbs/images/common/back.gif


当然是要把整个程序中需要的部分都修改的啊……
显然会很麻烦，或者修改算法，让算法别要求那么严格就是了。
实在想不通什么数据处理会要求那么高的精度…… ...
算法已经无洞可钻放宽到几乎不可容忍了，只好要机器也客气一点。
页: [1]
查看完整版本: [请教] 电脑计算的小数位可以调吗？