导读 | 绝对值是指一个数在数轴上所对应点到原点的距离,所以,在数学领域,正数的绝对值是这个数本身,负数的绝对值应该是他的相反数。 |
这几乎是每个人都知道的。
在Java中,想要获得有个数字的绝对值,可以使用java.lang.Math中的abs方法,这个类共有4个重载的abs方法,分别是:
public static int abs(int a) { return (a < 0) ? -a : a; } public static long abs(long a) { return (a < 0) ? -a : a; } public static float abs(float a) { return (a <= 0.0F) ? 0.0F - a : a; } public static double abs(double a) { return (a <= 0.0D) ? 0.0D - a : a; }
以上4个方法分别返回int、long、float、double类型的绝对值,方法里面的逻辑也简单,无非就是整数直接返回,负数取相反数返回。
所以,基于以上所有的知识,我们经常会直接使用Math.abs来对一个数字取绝对值。
在我们的代码中,也有很多这样的例子。
比如,我们需要用订单号做分库分表,但是订单号是字符串类型,所以,我们就需要取得这个字符换的hashCode,因为hashCode可能是负数,所以然后再对hashCode取绝对值,再用这个值去对分表数取模:
Math.abs(orderId.hashCode()) % 1024;
但是,上面这个逻辑是有问题的!!!
因为在极特殊情况下,上面的代码会得到一个负数的值。
这个极特殊情况下就是当hashCode是Integer.MIN_VALUE,即整数能表达的最小值的时候,可以代码验证下:
public static void main(String[] args) { System.out.println(Math.abs(Integer.MIN_VALUE)); }
执行以上代码,得到的结果是:
-2147483648
很明显,这是个负数!!!
这要从Integer的取值范围说起,int的取值范围是-2^31 —— (2^31) - 1,即-2147483648 至 2147483647
那么,当我们使用abs取绝对值时候,想要取得-2147483648的绝对值,那应该是2147483648。
但是,2147483648大于了2147483647,即超过了int的取值范围。这时候就会发生越界。
2147483647用二进制的补码表示是:
01111111 11111111 11111111 11111111
这个数 +1 得到:
10000000 00000000 00000000 00000000
这个二进制就是-2147483648的补码。
虽然,这种情况发生的概率很低,只有当要取绝对值的数字是-2147483648的时候,得到的数字还是个负数。
那么,如何解决这个问题呢?
既然是以为越界了导致最终结果变成负数,那就解决越界的问题就行了,那就是在取绝对值之前,把这个int类型转成long类型,这样就不会出现越界了。
如,前面我们的分表逻辑修改为
Math.abs((long)orderId.hashCode()) % 1024;
就万无一失了。
大家可以执行下以下代码:
public static void main(String[] args) { System.out.println(Math.abs((long)Integer.MIN_VALUE)); }
得到的结果就是:
2147483648
以上,就是今天要介绍的知识点了。
但是,一定要记得,对long类型取绝对值其实也可能存在这个情况哦!只不过发生的概率就更低了,但是只要他存在,就有可能发生哦!
原创文章,作者:kepupublish,如若转载,请注明出处:https://blog.ytso.com/tech/linux/126819.html