0

0

Pandas: 使用参考数据框的分位数区间对目标数据框进行分箱标注

花韻仙語

花韻仙語

发布时间:2026-01-21 11:44:20

|

388人浏览过

|

来源于php中文网

原创

Pandas: 使用参考数据框的分位数区间对目标数据框进行分箱标注

本文介绍如何基于一个参考数据框(df2)按日期分组计算的 qcut 分位数边界,精准地对另一个目标数据框(df1)中的数值列进行分箱(binning)并生成类别标签(如 0、1),特别适用于跨数据集的一致性分组场景。

在量化分析、风控建模或报表分层统计中,常需保证不同数据集在相同时间维度(如交易日)下使用完全一致的分箱逻辑——例如,用全量历史成交价(df2)计算每日四分位数边界,再将新样本(df1)映射到这些固定区间中。直接对 df1 单独分箱会导致边界漂移,破坏可比性;而 pd.qcut 不支持外部 bin 输入,因此需手动构建分箱流程。

核心思路分为四步:

  1. 从参考数据(df2)提取分位数边界:按 PriceDate 分组,对 Price 列调用 pd.qcut(..., retbins=True) 获取各组的 bin 边界数组;
  2. 关联边界到目标数据(df1):通过 merge 将边界列表(Bins)按日期左连接至 df1;
  3. 扩展边界以覆盖异常值:将原始 bin 的首尾替换为 -∞ 和 +∞,确保所有 Price 值均可被 pd.cut 安全归类;
  4. 按日期分组执行分箱:对合并后的 DataFrame 按 PriceDate 分组,对每组 Price 应用 pd.cut 并返回整数标签。

以下是完整可运行代码:

AskAI
AskAI

无代码AI模型构建器,可以快速微调GPT-3模型,创建聊天机器人

下载
import pandas as pd
import numpy as np

# 示例数据(已修正 df1 首值为 -4.4 以验证边界外处理)
df1 = pd.DataFrame({
    'Price': [-4.4, 3.6, 9.2, 3.4],
    'PriceDate': ['2023-10-01', '2023-10-01', '2023-10-01', '2023-10-02']
})
df2 = pd.DataFrame({
    'Price': [0.0, 3.6, 9.3, 4.5, 2.9, 3.2, 1.0, 6.7, 8.7, 9.8, 3.4, 0.7, 2.2, 6.5, 3.4, 1.7, 9.4, 10.0],
    'PriceDate': ['2023-10-01']*7 + ['2023-10-02']*11
})

# Step 1: 从 df2 提取每日期的 qcut 边界(2 分位 → 3 个边界点)
ref = df2.groupby('PriceDate')['Price'].apply(
    lambda g: pd.qcut(g, q=2, retbins=True)[1]
).reset_index(name='Bins')

# Step 2: 合并边界到 df1
df_merged = pd.merge(df1, ref, on='PriceDate', how='left')

# Step 3 & 4: 定义安全分箱函数并应用
def assign_bin(group):
    bins = group['Bins'].iloc[0]  # 取当前日期的边界列表
    # 扩展边界:保留中间断点,首尾替换为 ±inf(关键!)
    extended_bins = [-np.inf] + bins[1:-1].tolist() + [np.inf]
    # 执行分箱,返回整数标签(0-based)
    return pd.cut(group['Price'], bins=extended_bins, labels=False).astype('Int64')

df_merged['Rank'] = df_merged.groupby('PriceDate', group_keys=False).apply(assign_bin)
print(df_merged[['Price', 'PriceDate', 'Rank']])

输出结果:

   Price   PriceDate  Rank
0 -4.4  2023-10-01     0
1  3.6  2023-10-01     1
2  9.2  2023-10-01     1
3  3.4  2023-10-02     0

关键注意事项

  • bins[1:-1] 跳过首尾(因 qcut 返回的边界含最小/最大值,而 cut 需内部断点);
  • 使用 [-np.inf, ..., np.inf] 是鲁棒性保障,避免 ValueError: Bin edges must be unique 或 NaN 标签;
  • 若需处理 NaN 价格,可在 assign_bin 中添加 group['Price'].dropna() 或设置 pd.cut(..., include_lowest=True);
  • 对于高基数日期(如万级交易日),建议将 ref 转为字典索引提升 merge 效率:bins_dict = ref.set_index('PriceDate')['Bins'].to_dict(),再用 map 替代 merge。

该方法确保了分箱逻辑完全复用参考分布,是实现跨数据集标准化分组的可靠范式。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

40

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

67

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

47

2025.11.27

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

28

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

68

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

164

2026.03.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Java 教程
Java 教程

共578课时 | 78.4万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号