浮点数直接用 == 比较总出错,因二进制无法精确表示多数十进制小数(如0.1+0.2=0.30000000000000004),导致内存值不等;应改用 math.isclose() 或 abs(a-b)
浮点数直接用 == 比较为什么总出错
因为二进制无法精确表示大多数十进制小数,
0.1 + 0.2实际结果是0.30000000000000004,和0.3的内存表示不一致,所以==返回False。这不是 Python 独有,所有遵循 IEEE 754 的语言都这样。常见错误现象:单元测试里
assert result == 0.3偶尔失败;科学计算中判断“是否收敛”卡在临界值。
- 永远别用
==判断两个浮点数是否“数学上相等”- 改用
math.isclose()(Python 3.5+),它默认用相对容差1e-09和绝对容差1e-09双重判断- 如果要兼容旧版本,手动写
abs(a - b)math.isclose() 的 rel_tol 和 abs_tol 怎么选
rel_tol控制相对误差比例,适合比较数量级接近的数;abs_tol是硬性阈值,对极小值(比如接近 0)必须设,否则rel_tol在分母趋近 0 时会失效。使用场景举例:物理仿真中判断速度是否“基本为零”,或机器学习里检查梯度是否收敛到
1e-8量级。立即学习“Python免费学习笔记(深入)”;
营销型企业网站源码响应式界面1.0.1下载这几年企业营销型网站成为PC端风靡一时的设计主流,主要特点就是首页长度比较长,首页展示的内容量非常大,通过对首页的大量渲染,突出企业优势、产品服务优势等众多信息,让用户在页面停留时间更久,对企业的映像更加深刻,从而达到营销的目的。但是对于大部分的营销型网站来说,一个最大的弱点就是在手机上的用户体验都比较差,而这又恰好是自适应网站所具备的优势,自适应网站能够自动检测访问者浏览设备的分辨率,从而根据访
- 一般数值计算,设
rel_tol=1e-09足够(IEEE 754 double 精度约 15–17 位有效数字)- 涉及接近 0 的值,必须显式给
abs_tol,比如math.isclose(x, 0.0, abs_tol=1e-12)- 不要把
rel_tol设成0——那会退化成纯绝对误差判断,但失去对大数的鲁棒性numpy.allclose() 和 math.isclose() 的关键区别
numpy.allclose()是数组批量比较,底层逻辑类似math.isclose(),但默认容差更宽松:rtol=1e-05,atol=1e-08。直接混用容易漏掉精度问题。性能影响:对单个数,
math.isclose()更轻量;对数组,必须用numpy.allclose(),否则循环调用math.isclose()会慢一个数量级。
- 数组比较一律用
numpy.allclose(),别自己写np.array([math.isclose(a, b) for a, b in zip(arr1, arr2)]).all()- 若需和
math.isclose()行为一致,显式传参:numpy.allclose(a, b, rtol=1e-09, atol=1e-09)numpy.allclose()对nan默认返回False,如需 “NaN == NaN”,加参数equal_nan=True自定义容差函数要注意的边界情况
手写容差比较看似简单,但容易忽略负数、无穷、NaN 和零除。比如
abs(a - b) 在 <code>a或b是inf时会得到nan,导致判断失效。真实项目里,容差逻辑常被封装进工具函数,但很多人只测了普通正数。
- 必须单独处理
math.isinf()和math.isnan():无穷大之间可比,但无穷和有限数不可比;NaN 一律视为不相等(除非明确要求)- 避免用
max(abs(a), abs(b))当分母——当两者都为 0 时没问题,但一正一负且绝对值相等时,max仍为正,逻辑无误;真正危险的是两者都为inf- 如果业务要求“误差不超过 0.01 元”,就用绝对容差
abs_tol=0.01,别强行套相对容差容差不是越小越好,也不是统一设成
1e-9就万事大吉。关键是根据数据量级、业务语义和误差来源决定该用相对、绝对,还是混合策略。最常被忽略的,是忘记给接近零的值配abs_tol。
0
0
相关文章
Python async with 的嵌套性能分析
Python 多线程异常捕获与处理
Python 四舍五入实现的常见误区
Python asyncio 任务取消的正确姿势
Python CAN 总线的 python-can 实践
本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门AI工具
相关专题
《Golang 疑难杂症解决指南》聚焦开发过程中常见却棘手的问题,从并发模型、内存管理、性能瓶颈到工程化实践逐步拆解。通过真实案例与调试思路,帮助开发者定位问题根因,建立系统化排查方法。不只给出答案,更强调分析路径与工具使用,让你在复杂 Go 项目中具备持续解决问题的能力。
0
2026.02.24
Golang 入门路线涵盖从零到上手的核心路径:首先打牢基础语法与切片等底层机制;随后攻克 Go 的灵魂——接口设计与 Goroutine 并发模型;接着通过 Gin 框架与 GORM 深入 Web 开发实战;最后在微服务与云原生工具开发中进阶,旨在培养具备高性能并发处理能力的后端工程师。
0
2026.02.24
本专题汇总苹果官网最新可用入口及中国站点访问方式,涵盖官网直达链接、iPhone官方页面查看方法与常见访问说明,帮助用户快速进入苹果官方网站,便捷了解产品信息与官方服务。
11
2026.02.24
本专题系统整理Asianfanfics(AFF)官方网站最新可用入口,涵盖官方平台最新直达地址、官网登录方式及中文访问指引,帮助用户快速、安全地进入AFF平台浏览与使用相关内容。
13
2026.02.24
本专题围绕 Go 语言在分布式系统中的服务治理实践展开,系统讲解服务注册与发现、配置中心、限流熔断、灰度发布以及分布式链路追踪方案。通过完整项目示例,帮助开发者构建可观测性完善、稳定性高、易扩展的 Go 微服务架构体系,提升线上系统问题定位与运维效率。
1
2026.02.24
本专题聚焦 Python 在自动化测试与持续集成中的工程化实践,系统讲解测试框架选型、测试用例设计、接口自动化、测试数据管理及测试报告生成。结合 CI/CD 流水线场景,讲解如何将自动化测试融入持续集成流程,实现代码提交即自动测试,提升项目交付质量与团队协作效率。
3
2026.02.24
本专题围绕 Java 在高并发业务场景下的系统设计与性能调优展开,系统讲解线程模型、并发容器、锁机制、异步编程及 JVM 性能调优思路。结合真实高并发业务场景,深入分析接口限流、线程池配置、热点资源优化与系统稳定性保障方案,帮助开发者构建高性能、高可用的 Java 后端系统。
5
2026.02.24
本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。
1269
2026.02.13
热门下载
精品课程



