• 数据精度问题的处理


           数据精度这是一个很小的问题,在.net中都有专门的函数来进行处理,System.Decimal.Round,可是你知道 System.Decimal.Round(a,2),System.Decimal.Round(a,2)和

    System.Decimal.Round(a,2,MidpointRounding.AwayFromZero)这2个函数的区别吗,还有在SQLServer数据库中 Round(a,2)的取值是怎么样的吗?

           一般情况下,我们在日常生活中是使用4舍5入来进行计算的,但是现在国际的有的就是使用4舍6入5成双的算法,即在C#代码中取小数时采用System.Decimal.Round(a,2)这个方法,如果取用的是System.Decimal.Round(a,2,MidpointRounding.AwayFromZero)这个方法就是采用的我们日常所用的4舍5入。但是在SQL Server中一般我们用的Round(a,2)这个方法取的就是4舍5入的算法。但是SQL Server中没有提供4舍6入5成双的现成实现,需要自己写函数来实现。因此很容易出现在代码中使用了4舍6入5成双,而在数据库中使用的是4舍5入。如果涉及到财务报表和单据的查询时,很有可能就会有精度的误差。

           一般财务上出现了偏差,哪怕是一分钱都是不允许的,因此这个问题在系统的设计之初就要考虑一致性,但是很多系统可能都没有考虑过。目前我们在实现一个项目时就发现了目前我们的系统出现了这样的问题。所以精度的问题是不容忽视的。

         

  • 相关阅读:
    leetcode231
    leetcode326
    leetcode202
    leetcode121
    leetcode405
    leetcode415
    2019-9-2-win10-uwp-应用转后台清理内存
    2019-9-2-win10-uwp-应用转后台清理内存
    ACM学习心得
    ACM学习心得
  • 原文地址:https://www.cnblogs.com/kevinGao/p/2922935.html
Copyright © 2020-2023  润新知