c#之浮点数计算问题的解决

互联网 17-9-20
给大家看个计算题,看看大家的算术能力。

0.1 +0.1 +0.1 - 0.3 等于几?

大家可能会说这么简单的问题,是不是看不起我?肯定等于0啊。

如果大家直接算的是没有问题的,但是如果用计算机呢?

见证奇迹的时刻到了,看代码:

void Main()  {    var f = 0.1 +0.1 +0.1 -0.3;      Console.WriteLine("f=={0}",f);  }

运行结果:

这是因为计算机的精度的问题,在计算机的内部存储和运算的精度缺失等问题,我解释的可能不太明白,不过,大家可以用下面的方案进行解决:

void Main()  {    //var f = 0.1 +0.1 +0.1 -0.3;    //Console.WriteLine("f=={0}",f);            var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);      Console.WriteLine("f1 == {0}",f1);  }

运行结果:

这样就是正常的运算结果了。

啦啦啦!!!!

以上就是c#之浮点数计算问题的解决的详细内容,更多内容请关注技术你好其它相关文章!

来源链接:
免责声明:
1.资讯内容不构成投资建议,投资者应独立决策并自行承担风险
2.本文版权归属原作所有,仅代表作者本人观点,不代表本站的观点或立场
标签: 解决
上一篇:php获取远程图片并下载保存到本地的方法分析 下一篇:C#之FastSocket实战项目的示例分享

相关资讯