0

0

Golang浮点数精度问题分析_比较两个浮点数是否相等

P粉602998670

P粉602998670

发布时间:2026-03-05 13:02:03

|

221人浏览过

|

来源于php中文网

原创

go中直接用==比较float64通常错误,因浮点数是二进制近似表示,0.1+0.2≠0.3属正常;==执行严格比特比较,微小二进制差异即导致false;应改用math.abs(a-b)

golang浮点数精度问题分析_比较两个浮点数是否相等

Go 里直接用 == 比较两个 float64 基本上是错的

浮点数在内存中是二进制近似表示,0.1 + 0.2 不等于 0.3 是常态,不是 bug。Go 的 == 是严格比特比较,只要两个值的二进制表示稍有差异,结果就是 false,哪怕肉眼看不出差别。

常见错误现象:math.Abs(a - b) 看起来合理,但没考虑数量级——当 <code>ab1e10 级别时,1e-9 这个绝对误差阈值毫无意义。

  • 用相对误差判断更稳妥:先取较大绝对值作为基准,再比差值占比
  • 简单场景可用 math.Abs(a-b)
  • 注意 ab 都为 0 时,math.Max 返回 0,会导致除零风险(实际这里不会除零,但逻辑需覆盖)
  • 标准库没提供现成函数,别指望 float64.Equal 这种东西存在

math.Nextafter 判断“是否落在同一个浮点箱”

IEEE 754 规定每个浮点值都有前驱和后继,相邻可表示值之间的距离叫 ULP(Unit in the Last Place)。用 ULP 差距来衡量“接近程度”,比固定 epsilon 更符合浮点数本质。

使用场景:需要高鲁棒性比较,比如数值算法验证、测试断言、金融计算中的容差控制。

立即学习go语言免费学习笔记(深入)”;

AI神器大全
AI神器大全

AI工具集合导航站

下载
  • math.Nextafter(x, math.Inf(1)) 得到 x 的下一个更大浮点数
  • ULP 差 = int64(math.Abs(x-y)) / int64(math.Abs(math.Nextafter(x,0)-x)) —— 实际不这么算,推荐用现成库如 github.com/achilleas/ulp 或手写 ULPDistance 函数
  • 常见误用:对 NaN 或无穷大调用 Nextafter,会返回非预期值;务必先用 math.IsNaNmath.IsInf 过滤
  • 性能影响小,但比纯绝对误差多几次函数调用,高频循环里要注意

测试中怎么写可靠的浮点断言(以 testify/assert 为例)

很多人直接写 assert.Equal(t, expected, actual),结果 CI 偶发失败。这不是测试不稳,是断言方式错了。

关键点:测试框架的浮点比较必须显式指定容差,且容差要匹配业务语义。

  • assert.InEpsilon(t, expected, actual, 1e-6) 用相对误差,适合大多数科学计算
  • assert.InDelta(t, expected, actual, 0.01) 用绝对误差,适合固定量纲场景(如温度 ±0.01℃)
  • 别混用:比如用 InDelta 比较 1e-15 级别的值,0.01 容差太大,永远通过
  • 自定义错误信息里带上原始值:assert.InEpsilonf(t, expected, actual, 1e-9, "failed at i=%d", i)

什么时候真该用 float64?还是换 int64decimal

精度问题本质是选型问题。不是所有“带小数”的场景都该用浮点。

容易踩的坑:把金额、配置比例、版本号小数部分全塞进 float64,后面 debug 花半天。

  • 钱 → 用整数单位(分)或专用库如 shopspring/decimalfloat64 表示 0.1 元本身就是错的
  • 比例(如 0.75 表示 75%)→ 若只做展示或粗略计算,float64 可接受;若参与累计(如税率叠加),必须转整数或 decimal
  • 物理模拟、机器学习权重 → float64 合理,但比较仍需 ULP 或相对误差
  • 配置文件读出的数字默认是 float64(如 json 解析),如果业务要求精确,应在解析后立刻转 int64 或校验范围

最常被忽略的一点:浮点比较的“正确性”依赖于你对误差来源的理解。不是套个 1e-9 就万事大吉,得知道这个数是从哪儿来的——是算法截断误差?输入测量误差?还是单纯二进制表示限制?

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

209

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

245

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

354

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

214

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

407

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

449

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1335

2025.06.17

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

19

2026.03.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.9万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号