0


Java浮点数的计算与比较

Java的浮点数计算是存在误差的,所以列出以下注意事项。

1.浮点数计算只有是在两个数之间含有一个浮点数的情况下才能算出。

1+7/3=3这个结果显然是错误的。但是为什么呢?公式没错啊!

因为在Java中,** 只有是在两个数之间含有一个浮点数的情况下才能算出浮点数**。所以有以下两种修改方案。

(1)将整数型3改为浮点型3.0

(2)将b改为浮点型double b

2.那么如何对浮点数进行比较呢?

(1)

为什么a == b是true,而 a == c是false?这就是跟上一点提到的有关,浮点数的计算有误差。你那我们如何判断呢?

(2)

只需增加一句Math.abs(a - b) < 0.000001,什么意思呢就是说取a - b的绝对值,看是否小于一个很小的数,是的即相等。我们来看看c到底等于什么?

这就是浮点数计算的误差。

有问题欢迎指出,在CSDN上学到很多,希望大家一起分享学习经验。

标签: java eclipse

本文转载自: https://blog.csdn.net/ddqqdq/article/details/120485418
版权归原作者 ddqqdq 所有, 如有侵权,请联系我们删除。

“Java浮点数的计算与比较”的评论:

还没有评论