这篇文章主要介绍了C# double类型变量比较分析,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
double类型变量
怎么比较大小
通过使用double.equals(doubale a,double b)进行比较时,发现两个数值不是相等。
图中sum为从0加0.1累计到1,按数学计算应该为1.0,但是在计算机中计算为0.9999999999,通过double.equals或者直接用==进行等量判断时,发现不相同。
这说明double类型不能直接进行等量判断,那么怎么进行比较呢?
类型转换为decimal
将float模型转换成decimal可以直接进行判断了.
可以看出两个值都是1,这样就可以直接进行比较了。
综上所述,在进行数值比较时,如果使用double类型时,不能直接进行等量判断,需要通过两值相减小于某个定义的值如0.0000001来判断两值相等或者转换为其他类型进行判断。
补充知识:c#中Double类型的使用场景
【Double】
double类型在程序中定义变量会经常使用,如果使用不当,会导致实际值精度问题出现,例子如下:
Double d1 = 66.09;
Double d2 = 89.943;
Double d3 = 156.033;
d2 = d1 + d2; //两个double 类型相加的结果是:156.03300000000002
Console.WriteLine(d2.CompareTo(d3)); //导致最终的结果是d2的值大于d3的值,但是实际看到的值是相等的
Console.ReadLine();
【解决方案】
使用Decimal类型定义后保证小数的精确度,两个相同类型的decimal相加后可以确保程序不会自动添加进度到结果值中,这样就能够避免出现以上情况发生
Decimal d1 = 66.09M;
Decimal d2 = 89.943M;
Decimal d3 = 156.033M;
d2 = d1 + d2;
Console.WriteLine(d2.CompareTo(d3));
Console.ReadLine();
以上这篇C# double类型变量比较分析就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持得得之家。
本文标题为:C# double类型变量比较分析
- 我应该为我的项目使用相对包含路径,还是将包含目录放在包含路径上? 2022-10-30
- C语言手把手带你掌握带头双向循环链表 2023-04-03
- Qt计时器使用方法详解 2023-05-30
- C++ 数据结构超详细讲解顺序表 2023-03-25
- C语言qsort()函数的使用方法详解 2023-04-26
- c++ const 成员函数,返回一个 const 指针.但是返回的指针是什么类型的 const? 2022-10-11
- Easyx实现扫雷游戏 2023-02-06
- 详解C语言中sizeof如何在自定义函数中正常工作 2023-04-09
- C语言详解float类型在内存中的存储方式 2023-03-27
- ubuntu下C/C++获取剩余内存 2023-09-18
