0

0

Python异常值怎么发现_箱线图四分位数绘制与3Sigma统计原则应用

P粉602998670

P粉602998670

发布时间:2026-03-18 13:50:03

|

551人浏览过

|

来源于php中文网

原创

默认 plt.boxplot 会显示离群点,前提是数据中存在落在 [Q1−1.5×IQR, Q3+1.5×IQR] 外的值;常见原因包括无真实异常、showfliers=False、含 NaN 未处理、插值方式不一致或样本量过小。

python异常值怎么发现_箱线图四分位数绘制与3sigma统计原则应用

plt.boxplot 画箱线图,但离群点总不显示?

默认情况下 plt.boxplot 确实会计算并标出离群点(outliers),但前提是数据里真有落在 [Q1 - 1.5×IQR, Q3 + 1.5×IQR] 区间外的值。常见误判是:数据本身没异常,或被缩放/归一化过,导致 IQR 过小、阈值太严。

  • 检查原始数据分布,先用 np.quantile(data, [0.25, 0.75])np.iqr(data) 手动算一遍,确认是否真有超出范围的点
  • 如果用了 showfliers=False(默认是 True),离群点会被隐藏——删掉这个参数或显式设为 True
  • Matplotlib 3.8+ 对极小样本(n )可能跳过离群点计算,建议确保 <code>len(data) >= 20 再画
  • 若数据含 np.nanboxplot 默认丢弃它们,但不会报错;用 np.isnan(data).sum() 先清查缺失值

scipy.stats.iqr 和手算 Q3 - Q1 结果不一样?

差异来自插值方式:scipy.stats.iqr 默认用 interpolation='linear'(线性插值),而 np.percentile(data, 75) - np.percentile(data, 25) 在 NumPy 1.22+ 后也默认同策略,但旧版本用的是 'midpoint'。实际业务中这点差异通常可忽略,但做自动化异常判定时必须统一。

  • 明确指定插值方式:用 np.percentile(data, 25, interpolation='linear')np.percentile(data, 75, interpolation='linear') 手算,结果就和 iqr(data, rng=(25,75), interpolation='linear') 一致
  • 避免混用库:别一边用 scipy.stats.iqr,另一边用 pd.Series.quantile(0.25)(pandas 默认 interpolation='linear',但 method 参数名不同,易漏)
  • IQR 本身对极端值鲁棒,但对小样本敏感——样本量

3σ 原则在 Python 里怎么稳稳落地?

直接套公式 abs(x - mean) > 3 * std 很危险:一旦数据含明显异常值,meanstd 就被污染,导致漏判。得先用稳健统计量兜底。

  • np.median 替代 np.mean,用 scipy.stats.median_abs_deviation(MAD)替代 np.std,再按 abs(x - median) > 3 * 1.4826 * MAD 判定(1.4826 是正态下 MAD 与 σ 的换算系数)
  • 如果坚持用 3σ,至少做两轮:第一轮粗筛去掉明显离群点(比如先用 IQR 法剔除),再用剩余数据重算 meanstd,二次过滤
  • 注意 np.std 默认是总体标准差(ddof=0),而样本标准差应设 ddof=1;对 >50 个点的数据,差别不大,但小样本必须明确

同一组数据,IQR 和 3σ 标出的异常点完全不重合?

这非常正常,不是 bug。IQR 基于顺序统计,对分布形状不敏感;3σ 隐含正态假设。当数据左偏、右偏或双峰时,两者天然分歧。

一点PPT
一点PPT

一句话生成专业PPT,AI自动排版配图

下载

立即学习Python免费学习笔记(深入)”;

  • 右偏数据(如用户停留时长):3σ 容易把右侧长尾全判为异常,IQR 更宽容;此时优先信 IQR,或改用对数变换后再用 3σ
  • 双峰数据(如 AB 测试混在一起):IQR 可能压根找不到“箱体”,因为中位数卡在两个峰之间,IQR 虚高;这时先聚类(比如用 sklearn.cluster.KMeans 分两组),再分组跑 IQR
  • 真正该警惕的是:两个方法都标不出异常,但直方图明显有孤立尖峰——那可能是采集错误或埋点重复,得查原始日志,而不是调统计阈值

事情说清了就结束。异常检测没有银弹,IQR 和 3σ 都只是工具,关键是你是否清楚当前数据的生成逻辑和业务容忍边界。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

82

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

34

2026.01.31

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

82

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

34

2026.01.31

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

82

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

34

2026.01.31

PHP 命令行脚本与自动化任务开发
PHP 命令行脚本与自动化任务开发

本专题系统讲解 PHP 在命令行环境(CLI)下的开发与应用,内容涵盖 PHP CLI 基础、参数解析、文件与目录操作、日志输出、异常处理,以及与 Linux 定时任务(Cron)的结合使用。通过实战示例,帮助开发者掌握使用 PHP 构建 自动化脚本、批处理工具与后台任务程序 的能力。

76

2025.12.13

抖漫入口地址合集
抖漫入口地址合集

本专题整合了抖漫入口地址相关合集,阅读专题下面的文章了解更多详细地址。

109

2026.03.17

多环境下的 Nginx 安装、结构与运维实战
多环境下的 Nginx 安装、结构与运维实战

本专题聚焦多环境下Nginx实战,详解开发、测试及生产环境的差异化安装策略与目录结构规划。深入剖析配置模块化设计、灰度发布流程及跨环境同步机制。结合监控告警、故障排查与自动化运维工具,提供全链路管理方案,助力团队构建灵活、高可用的Nginx服务体系,从容应对复杂业务场景挑战。

13

2026.03.17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5.1万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号