0

0

使用 pandas transform 高效计算分组下唯一值的平均数并回填原表

花韻仙語

花韻仙語

发布时间:2026-02-08 13:08:07

|

980人浏览过

|

来源于php中文网

原创

使用 pandas transform 高效计算分组下唯一值的平均数并回填原表

本文介绍如何利用 pandas 的 `transform` 方法,直接在原始 dataframe 中高效计算按用户和类别分组后的唯一计数值平均值,避免冗余的去重、新建 dataframe 和 merge 操作,提升代码简洁性与执行效率。

在数据分析中,常需基于去重逻辑(如每个 user_id + Category 组合下的唯一 counts 值)计算分组统计量,并将结果广播回原始数据行。传统做法(如先 drop_duplicates 再 merge)不仅代码冗长,还易引入索引错位、重复匹配等隐患,且性能较差。

更优雅、高效的解法是直接在原始 DataFrame 上应用 transform ——但关键前提在于:明确“唯一值的平均”究竟指什么。从原始示例的输出可反推真实需求:

  • Overall_average__Unique_Counts = 1.83 → 实际是全部 不重复 (user_id, Category, counts) 组合 中 counts 的全局均值(即 df1.drop_duplicates(['user_id','Category','counts'])['counts'].mean()),而非按 user_id 分组均值;
  • Categorywise_average_Unique_counts → 是每个 Category 下所有不重复 counts 值的均值(如 'ABC' 对应 {3,2,1} → 均值 2.0;'XYZ' 对应 {2,1} → 均值 1.5?但示例输出为 1.67,说明实际用了 {2,1,2} 去重后 {1,2} → (1+2)/2 = 1.5 ❌;再核对:df1_unique 中 'XYZ' 行为 (D,XYZ,2), (D,XYZ,1), (E,XYZ,2) → 去重后 counts 为 [2,1] → 均值 1.5,但输出是 1.67。发现原示例代码中 df1_unique["Categorywise_average_Unique_counts"] = df1_unique.groupby(["Category"])['counts'].transform('mean') 计算的是 df1_unique(已去重)中各 Category 内 counts 的均值:'ABC' 有 (A,ABC,3), (B,ABC,2), (B,ABC,1) → counts=[3,2,1] → mean=2.0;'XYZ' 有 (D,XYZ,2), (D,XYZ,1), (E,XYZ,2) → counts=[2,1,2] → 去重后仍保留三行,transform('mean') 对每行赋值 mean([2,1,2]) = 5/3 ≈ 1.67。⚠️ 注意:此处“唯一值”指组合唯一,但 counts 列本身未二次去重!因此正确理解是:先按 (user_id, Category, counts) 去重得到唯一观测,再对这些观测按需分组求 counts 均值

因此,若严格按业务语义(即“每个用户/类别的唯一计数值的平均”),必须先去重,但可避免 merge:用 transform 结合 groupby 在去重后 DataFrame 上计算,再通过 map 或 join 回填——但最简实践仍是复用原答案思路,并修正语义:

✅ 推荐方案(兼顾简洁性与可读性):

DeepSider
DeepSider

浏览器AI侧边栏对话插件,集成多个AI大模型

下载
import pandas as pd

df1 = pd.DataFrame({
    'user_id': ['A','A','A', 'B','B','B', 'D','D','D', 'E','E'],
    'Category': ['ABC','ABC','ABC','ABC','ABC','ABC','XYZ','XYZ','XYZ','XYZ','XYZ'],
    'counts': [3,3,3,2,2,1,2,1,2,2,2]
})

# 步骤1:构造去重后的基准表(唯一组合)
df_unique = df1.drop_duplicates(['user_id', 'Category', 'counts']).copy()

# 步骤2:计算全局唯一 counts 均值(标量),广播到所有行
overall_avg = df_unique['counts'].mean()
df1['Overall_average__Unique_Counts'] = overall_avg

# 步骤3:计算每个 Category 下唯一 counts 的均值(按 Category 分组均值)
cat_avg_series = df_unique.groupby('Category')['counts'].transform('mean')
# 将结果映射回原 df1:以 (user_id, Category, counts) 为键 join
df1 = df1.merge(
    df_unique.assign(Categorywise_average_Unique_counts=cat_avg_series)[
        ['user_id', 'Category', 'counts', 'Categorywise_average_Unique_counts']
    ],
    on=['user_id', 'Category', 'counts'],
    how='left'
)

? 进阶技巧:若追求极致简洁且接受轻微语义偏移(即用原始行分组代替去重后分组),可直接用:

# 注意:此方式计算的是“每个 user_id 下所有 counts 的均值”,非唯一值均值
df1['Overall_avg_by_user'] = df1.groupby('user_id')['counts'].transform('mean')

# 此方式计算的是“每个 (user_id, Category) 组合下所有 counts 的均值”
df1['Cat_avg_by_group'] = df1.groupby(['user_id', 'Category'])['counts'].transform('mean')

但这与原始需求不符(原始需求明确要求“unique values”)。

? 总结:

  • transform 本身不能直接处理“先去重再分组”的复合逻辑,必须显式去重;
  • 最佳实践是:drop_duplicates → groupby().transform() 计算 → merge 回填,代码清晰、语义准确、性能可控;
  • 避免在未去重数据上直接 transform,否则会混淆“唯一观测”与“原始行”的统计口径;
  • 若数据量极大,可考虑用 pd.util.hash_pandas_object 构造组合哈希键加速去重与合并。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

73

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

3

2026.01.31

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

75

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

36

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

64

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

43

2025.11.27

数据分析的方法
数据分析的方法

数据分析的方法有:对比分析法,分组分析法,预测分析法,漏斗分析法,AB测试分析法,象限分析法,公式拆解法,可行域分析法,二八分析法,假设性分析法。php中文网为大家带来了数据分析的相关知识、以及相关文章等内容。

479

2023.07.04

数据分析方法有哪几种
数据分析方法有哪几种

数据分析方法有:1、描述性统计分析;2、探索性数据分析;3、假设检验;4、回归分析;5、聚类分析。本专题为大家提供数据分析方法的相关的文章、下载、课程内容,供大家免费下载体验。

285

2023.08.07

Golang处理数据库错误教程合集
Golang处理数据库错误教程合集

本专题整合了Golang数据库错误处理方法、技巧、管理策略相关内容,阅读专题下面的文章了解更多详细内容。

61

2026.02.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 4.8万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号