我们目前正在使用System.Decimals来表示我们正在开发的.NET应用程序中的数字.我知道小数是为了最小化由于舍入引起的错误而设计的,但是我也知道某些数字,例如1/3,不能表示为小数,因此一些计算将具有小的舍入误差.我相信这个错误的幅度非常小而且微不足道,但同事不同意.因此,我希望能够估计由于我们的应用程序中的舍入而导致的错误的数量级.例如,假设我们正在计算“交易”的运行总数,并且每天将执行大约10,000次“交易”,并且有大约5-10个十进制操作(add,sub,div,mul等)来计算运行总计收到的每笔交易的新运行总额,圆形错误的大亨顺序是什么？计算这个程序的答案也很好,所以我可以在将来学习如何为自己做这个.
解决方法
在给定浮点类型的精度的情况下,What Every Computer Scientist Should Know About Floating-Point Arithmetic详细说明了估计浮点运算序列的结果中的错误.我没有在任何实际程序上试过这个,所以我很想知道它是否可行.
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
