[请教] 电脑计算的小数位可以调吗？

千眼观音 · 发表于 2008-3-4 22:12

×

小数只能保留15位，再后面的强行四舍五入，离计划精度基本要求还差千里。
可以修改系统设置选择增减吗？或者必须升级硬件？希望不要超出普通的PC范围。

水星人 · 发表于 2008-3-4 22:35

去下载一个专用的计算器这样的软件试试看！

bearcat · 发表于 2008-3-4 23:15

同上。
或修改自己的计算程序，自己写高精度计算的模块。

千眼观音 · 发表于 2008-3-4 23:15

是数据处理的一部分，要编程，单做一步数值计算没啥用处，行不通

bearcat · 发表于 2008-3-4 23:29

原帖由 千眼观音 于 2008-3-4 23:15 发表

 登录/注册后可看大图

是数据处理的一部分，要编程，单做一步数值计算没啥用处，行不通

当然是要把整个程序中需要的部分都修改的啊……
显然会很麻烦，或者修改算法，让算法别要求那么严格就是了。
实在想不通什么数据处理会要求那么高的精度……

千眼观音 · 发表于 2008-3-4 23:36

厄，太高深了吧，不是电脑的专专啊.....

或者有跟那种绿色小软件一样的吗？设计是要可以在现有主流PC上轻易通用的，跟谁想玩QQ现在就下一个安装起来折腾一样，最讨厌的是不至少到小数后18位就等于垃圾，还原则上不许分成几个数值表示，不然其它处理步骤的现有模块不匹配，就可能要编写一切了，本来只把保留位数的设置改动就可以了

千眼观音 · 发表于 2008-3-4 23:54

原帖由 bearcat 于 2008-3-4 23:29 发表

 登录/注册后可看大图

当然是要把整个程序中需要的部分都修改的啊……
显然会很麻烦，或者修改算法，让算法别要求那么严格就是了。
实在想不通什么数据处理会要求那么高的精度…… ...

算法已经无洞可钻放宽到几乎不可容忍了，只好要机器也客气一点。

		自动登录	找回密码
密码			加入牧夫（请注明天文爱好者，否则无法通过审核，请勿使用gmail/outlook/aol/icloud邮箱注册）