Qt 浮点数比较


计算机表示浮点数都有一个精度的限制,由于精度的限制会发生部分的截断,使得原本不相等的浮点数就变成了相等

假设 float x = 3.144444445, y = 3.144444448
从数学角度上看,x 和 y 是不相等的,但在 32 位计算机中它们是相等的

所以我们编程中最好不要直接使用 == 或 != 等对浮点数进行相应操作

一般地都使用 > 或 < 比较,然后小于某一个进度即认为它相等

类似以下代码

    if(qAbs(x-y) < 0.000001){
        qDebug() << "x 和 y 相等";
    }

1、qFuzzyCompare 函数

在 Qt 中,提供了 qFuzzyCompare 函数,相等即返回值为真

    if(qFuzzyCompare(x, y)){
        qDebug() << "x 和 y 相等";
    }

2、qFuzzyIsNull 函数

在 Qt 中,提供了 qFuzzyIsNull 函数,与0相等即返回值为真

    if(qFuzzyIsNull (x)){
        qDebug() << "x 和 0 相等";
    }

原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/283095.html

(0)
上一篇 2022年8月30日
下一篇 2022年8月30日

相关推荐

发表回复

登录后才能评论