AI工具人
提示词工程师

浮点数美丽的表象(为什么要慎用浮点数)

现在假设你负责一个广告公司的结算系统,你需要统计下月度点击收入,生成一个月度报告。假设有2000w个点击,每个点击平均1元,我们用小学数学计算就知道总收入是2000w。但是我们用计算机累加就会出问题了。如果我们用float存储数据,float可以表示的数据范围$-2^{128}$到 $2^{128}$,看起来绝对够啊!那让我们写个程序测试下。
<!--more-->

    public static void main(String[] args) {
        int N = 20000000;
        float sum = 0.0;
        float price = 1.0f;
        for (int i = 0; i < N; i++) {
            sum += price;
        }
        System.out.println("sum is " + sum);
    }
1.6777216E7

在这里插入图片描述
What?输出应该是2000w的,但为什么少了3222784.0,如果在生成环境中,这意味着我们的钱凭空消失了3222784.0!why?

这其实是float累加过程中精度丢失导致的,要理解这点我们首先要理解什么是浮点数。首先我们了解数在计算机中是如何表示的,因为计算机只能理解0和1两个数,所以一切信息都是用二进制表示的。如何保存更多的信息就是计算机设计者面临的挑战。

赞(0) 打赏
未经允许不得转载:XINDOO » 浮点数美丽的表象(为什么要慎用浮点数)
描述文字

评论 抢沙发

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续给力更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫