0

0

Pandas GroupBy聚合:自定义函数实现nth行为与NaN处理

霞舞

霞舞

发布时间:2025-10-23 11:54:11

|

524人浏览过

|

来源于php中文网

原创

Pandas GroupBy聚合:自定义函数实现nth行为与NaN处理

本教程探讨了在pandas groupby聚合操作中,如何实现类似`nth(0)`的功能,尤其是在需要保留nan值时。由于pandas `agg`函数不直接支持字符串形式的`'nth(0)'`,且内置的`'first'`会跳过nan,文章将介绍使用lambda表达式、命名函数以及函数工厂三种自定义函数方法,以灵活地在分组聚合中获取指定位置的元素,并提供代码示例及详细解释。

理解问题:Pandas GroupBy聚合的挑战

在数据分析中,Pandas的groupby()结合agg()函数是进行分组聚合的强大工具。我们经常需要对分组后的数据执行多种聚合操作,例如计算均值、求和等。然而,当需要获取每个分组的第N个元素(特别是第一个元素,包括NaN值)时,会遇到一些挑战。

考虑以下DataFrame:

import pandas as pd
import numpy as np

df = pd.DataFrame({
    'a' : [1,1,1,1],
    'b' : [1,2,3,4],
    'c' : [np.nan,6,7,8],
})
print("原始DataFrame:")
print(df)

我们希望对列'b'计算均值,同时对列'c'获取每个分组的第一个元素,即使它是NaN。

直接尝试使用字符串'nth(0)'作为聚合函数会引发AttributeError:

# 错误示例
# try:
#     r = df.groupby('a').agg({
#         'b' : 'mean',
#         'c' : 'nth(0)',
#     })
# except AttributeError as e:
#     print(f"\n捕获到错误: {e}")

这是因为agg函数中,字符串形式的聚合函数通常是Pandas预定义的,如'mean', 'sum', 'first'等,而'nth(0)'并不是一个被识别的字符串别名。

此外,如果使用Pandas内置的'first'聚合函数,它会返回分组中的第一个非NaN值。这不符合我们“包含NaN”的需求:

# 使用 'first' 的结果 (会跳过NaN)
r_first = df.groupby('a').agg({
    'b' : 'mean',
    'c' : 'first',
})
print("\n使用 'first' 的结果 (会跳过NaN):")
print(r_first)
# 预期 c 列为 NaN,但这里会是 6.0

因此,我们需要一种自定义的方法来精确地获取分组中的第N个元素,并保留其原始值,包括NaN。

解决方案一:使用Lambda表达式

最直接且简洁的方法是使用Python的lambda表达式。lambda函数可以在agg中作为匿名函数直接传递,它会接收每个分组的Series作为输入。通过Series的.iloc[0]属性,我们可以轻松获取到第一个元素,无论其值是否为NaN。

r_lambda = df.groupby('a').agg({
    'b' : 'mean',
    'c' : lambda s: s.iloc[0],
})
print("\n使用Lambda表达式的结果:")
print(r_lambda)

解释:

Postme
Postme

Postme是一款强大的AI写作工具,可以帮助您快速生成高质量、原创的外贸营销文案,助您征服全球市场。

下载
  • lambda s: s.iloc[0]定义了一个匿名函数。
  • 当agg对列'c'应用此函数时,s会是每个分组中'c'列对应的Series。
  • s.iloc[0]则安全地获取了该Series的第一个元素(索引为0),包括NaN值。

优点: 简洁,适用于一次性或简单的自定义聚合逻辑。 缺点: 对于更复杂的逻辑,可读性会下降;无法直接复用,每次都需要重新定义。

解决方案二:定义命名函数

当自定义聚合逻辑需要更高的可读性或希望在多个地方复用时,定义一个普通的命名函数是更好的选择。这个函数同样接收一个Series作为输入,并返回聚合结果。

def get_nth_element(series, index=0):
    """
    获取Series中指定索引位置的元素。
    """
    return series.iloc[index]

r_named_func = df.groupby('a').agg({
    'b' : 'mean',
    'c' : get_nth_element, # 直接传递函数名
})
print("\n使用命名函数的结果:")
print(r_named_func)

解释:

  • get_nth_element函数被定义为接收一个series和一个可选的index参数。
  • 在agg中,我们直接传递get_nth_element函数名。Pandas在内部调用时,会将每个分组的Series作为第一个参数传递给它。
  • 由于我们希望获取第一个元素,index的默认值0正好符合需求。如果需要获取其他位置的元素,可以修改函数定义或使用functools.partial。

优点: 代码可读性强,易于理解和维护;函数可以被复用。 缺点: 如果需要获取不同位置的元素(例如,对不同列获取第0个和第1个),需要为每个位置定义不同的函数,或者结合functools.partial。

解决方案三:使用函数工厂(Function Factory)

函数工厂是一种更高级的模式,它是一个返回另一个函数的函数。这种模式在需要根据不同参数生成不同行为的聚合函数时非常有用,提供了极大的灵活性和代码复用性。

def nth_element_factory(index):
    """
    创建一个返回指定索引位置元素的聚合函数。
    """
    def get_element_at_index(series):
        return series.iloc[index]
    return get_element_at_index

r_factory = df.groupby('a').agg({
    'b' : 'mean',
    'c' : nth_element_factory(0), # 调用工厂函数生成聚合函数
})
print("\n使用函数工厂的结果:")
print(r_factory)

解释:

  • nth_element_factory(index)是一个外部函数,它接收我们希望获取的索引index。
  • 它内部定义并返回了一个名为get_element_at_index的闭包函数。这个闭包函数“记住”了外部函数的index参数。
  • 在agg中,我们调用nth_element_factory(0),它会返回一个专门用于获取第0个元素的聚合函数,然后agg会使用这个返回的函数进行聚合。

优点:

  • 极高的灵活性和复用性,可以根据需要生成各种行为的聚合函数。
  • 代码结构清晰,易于管理复杂的聚合逻辑。
  • 尤其适用于需要为不同列或在不同场景下获取不同nth位置的情况。

结果验证与总结

所有上述三种方法都能够正确地实现我们的目标:对列'b'计算均值,并对列'c'获取第一个元素,包括NaN值。最终输出结果应如下:

     b    c
a          
1  2.5  nan

这表明,当Pandas内置的聚合函数无法满足特定需求时,自定义函数是解决此类问题的关键。

注意事项:

  • 性能考量: 对于非常大的数据集,自定义Python函数通常会比Pandas高度优化的内置聚合函数(如'mean', 'sum')慢。这是因为自定义函数在Python层面执行,而内置函数则在C语言层面执行。在性能敏感的场景下,应权衡灵活性与效率。
  • 索引的重要性: iloc是基于整数位置的索引,它始终能获取到指定位置的元素。如果使用loc,则需要确保索引是连续且基于位置的,否则可能会出错。
  • 多列聚合: 无论是lambda、命名函数还是函数工厂,都可以与其他标准聚合函数一起在agg中组合使用,实现复杂的多列多类型聚合。

通过掌握这些自定义聚合函数的方法,您将能够更灵活地处理Pandas GroupBy操作中的各种复杂需求,从而更高效地进行数据分析和转换。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

409

2023.06.20

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

635

2023.07.25

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

362

2023.08.02

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

263

2023.08.09

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

628

2023.09.05

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

558

2023.09.20

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

668

2023.09.20

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

616

2023.09.22

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.8万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号