全部分类
移动开发与应用
WEB前端
架构与运维
程序设计
数据库
操作系统
热点技术
综合
应付误差变错误
1640阅读 0评论
2019-07-31
yjyzfw
分类:
其他平台
(误差是指测量计算时不大于被指认为错误的最小数量单位的取值范围。)
在程序的计算中同样也存在避免误差累积成错误的一些应对。我的办法一般是这样:针对参与计算的量,让小数化为整数,除法尽量变乘法或减法,把误差无可避免的计算尽量延后,总的目标是保证计算过程最终的值尽量保持其客观正确性。
大家有其它更好的办法,望各位不吝赐教,因为这个问题有时很重要。谢谢。
上一篇:
我在蚂蚁金服技术风险部做“医生”
下一篇:
“运动”新解