应付误差变错误

1640阅读 0评论2019-07-31 yjyzfw
分类:其他平台

(误差是指测量计算时不大于被指认为错误的最小数量单位的取值范围。)

在程序的计算中同样也存在避免误差累积成错误的一些应对。我的办法一般是这样:针对参与计算的量,让小数化为整数,除法尽量变乘法或减法,把误差无可避免的计算尽量延后,总的目标是保证计算过程最终的值尽量保持其客观正确性。

大家有其它更好的办法,望各位不吝赐教,因为这个问题有时很重要。谢谢。
上一篇:我在蚂蚁金服技术风险部做“医生”
下一篇:“运动”新解