0

0

Pandas数据清洗:从混合字符串列中提取数值并进行分组聚合

碧海醫心

碧海醫心

发布时间:2025-09-13 14:17:01

|

174人浏览过

|

来源于php中文网

原创

Pandas数据清洗:从混合字符串列中提取数值并进行分组聚合

本教程详细介绍了如何在Pandas DataFrame中处理包含混合文本和数字的字符串列。通过使用str.extract结合正则表达式,可以高效地从字符串中提取数值,并将其转换为适当的数字类型。文章进一步演示了如何利用这些提取出的数值进行分组聚合,包括基础的总和计算以及基于其他列的条件性聚合,从而解决数据清洗和分析中的常见挑战。

在数据分析实践中,我们经常会遇到数据格式不规范的情况,例如在同一个字符串列中混合了数字和文本。当我们需要对这些数字进行计算(如求和、平均值)时,就必须先将它们精确地提取出来。pandas库提供了强大的字符串处理功能,特别是series.str.extract方法,能够结合正则表达式高效地解决这类问题。

场景描述

假设我们有一个Pandas DataFrame,其中包含产品类别(Category)、销售量(Sales)和支付状态(Paid)等信息。Sales列的数据格式不一致,例如"1 table"、"3chairs"、"8 cushions"等,数字与文本紧密相连,且文本部分也不固定。我们的目标是从Sales列中提取出纯粹的销售数字,并根据Category列进行分组求和。

首先,我们来创建示例数据:

import pandas as pd
import io

data = """Category    Sales       Paid
Table       1 table     Yes
Chair       3chairs     Yes
Cushion     8 cushions  Yes
Table       3Tables     Yes
Chair       12 Chairs   No
Mats        12Mats      Yes
"""

df = pd.read_csv(io.StringIO(data), sep=r'\s{2,}', engine='python')
print("原始DataFrame:")
print(df)

输出:

RecoveryFox AI
RecoveryFox AI

AI驱动的数据恢复、文件恢复工具

下载
原始DataFrame:
  Category       Sales Paid
0    Table     1 table  Yes
1    Chair     3chairs  Yes
2  Cushion  8 cushions  Yes
3    Table     3Tables  Yes
4    Chair    12 Chairs   No
5     Mats       12Mats  Yes

使用str.extract提取数值

解决此问题的核心是使用str.extract方法,它允许我们通过正则表达式从字符串中捕获特定模式的数据。

1. 定义正则表达式

我们需要一个正则表达式来匹配字符串开头的数字。

  • ^:匹配字符串的开始。
  • \d+:匹配一个或多个数字(0-9)。
  • ():捕获组,表示我们想要提取这部分匹配到的内容。

因此,正则表达式为^(\d+)。

2. 应用str.extract并转换类型

将正则表达式应用于Sales列,并指定expand=False以返回一个Series而不是DataFrame(因为我们只有一个捕获组)。提取出的结果将是字符串类型,需要通过astype(int)将其转换为整数类型,以便进行数学运算。

# 提取Sales列中的数字并转换为整数
extracted_sales = df['Sales'].str.extract('^(\d+)', expand=False).astype(int)
print("\n提取并转换后的销售数字:")
print(extracted_sales)

输出:

提取并转换后的销售数字:
0     1
1     3
2     8
3     3
4    12
5    12
Name: Sales, dtype: int64

分组聚合:计算各类别的总销售量

现在我们已经得到了纯粹的销售数字,可以将其与原始DataFrame的Category列结合,进行分组求和。

# 计算所有项目的销售总量
total_sales_per_category = extracted_sales.groupby(df['Category']).sum()
print("\n按类别统计的总销售量:")
print(total_sales_per_category)

输出:

按类别统计的总销售量:
Category
Chair      15
Cushion     8
Mats       12
Table       4
Name: Sales, dtype: int64

进阶应用:条件性分组聚合

有时,我们可能需要基于另一个列的条件来计算销售量,例如只计算已支付(Paid == 'Yes')的销售量。这时,我们可以先对Sales列进行条件筛选,然后再进行提取和聚合。

一种有效的做法是使用Series.where()方法。where()方法根据条件选择性地替换Series中的值。如果条件为True,则保留原始值;如果条件为False,则替换为other参数指定的值。在这里,我们希望对于Paid不为'Yes'的行,其销售量计为0。

# 只计算已支付(Paid == 'Yes')项目的销售总量
conditional_sales = (
    df['Sales']
    .where(df['Paid'] == 'Yes', other='0') # 如果Paid不是'Yes',则将Sales值替换为'0'
    .str.extract('^(\d+)', expand=False)
    .astype(int)
    .groupby(df['Category'])
    .sum()
)
print("\n按类别统计的已支付销售量:")
print(conditional_sales)

输出:

按类别统计的已支付销售量:
Category
Chair       3
Cushion     8
Mats       12
Table       4
Name: Sales', dtype: int64

在这个例子中,Chair类别的总销售量是15,但只有一条记录是Paid == 'Yes'(3chairs),另一条(12 Chairs)是Paid == 'No'。因此,条件性聚合后,Chair的已支付销售量变为3。

注意事项与总结

  • 正则表达式的准确性:选择正确的正则表达式至关重要。本例中^(\d+)适用于数字在字符串开头的情况。如果数字在字符串中间或末尾,或者有其他更复杂的模式,则需要调整正则表达式。例如,(\d+)可以匹配字符串中任意位置的数字。
  • expand参数:当正则表达式包含捕获组时,str.extract默认返回一个DataFrame。如果只有一个捕获组且希望结果为Series,设置expand=False会更方便。
  • 类型转换:str.extract提取出的内容总是字符串类型。在进行数值计算前,务必使用astype(int)、astype(float)等方法将其转换为合适的数值类型。
  • 错误处理:如果str.extract未能匹配到任何数字,它会返回NaN。尝试将NaN转换为整数会引发错误。在实际应用中,可能需要先用fillna(0)或其他策略处理NaN值,或使用pd.to_numeric(errors='coerce')来更稳健地处理转换失败的情况。
  • where()的妙用:Series.where()是一个非常强大的工具,可以在不改变DataFrame结构的前提下,根据条件灵活地修改Series中的值,为后续操作(如本例中的条件性聚合)奠定基础。

通过本教程,我们学习了如何利用Pandas的str.extract方法结合正则表达式,有效地从混合字符串列中提取数值,并进行灵活的分组聚合。掌握这些技巧,将大大提升您在数据清洗和预处理方面的效率和能力。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

514

2023.06.20

正则表达式不包含
正则表达式不包含

正则表达式,又称规则表达式,,是一种文本模式,包括普通字符和特殊字符,是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串,通常被用来检索、替换那些符合某个模式的文本。php中文网给大家带来了有关正则表达式的相关教程以及文章,希望对大家能有所帮助。

251

2023.07.05

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

746

2023.07.05

java正则表达式匹配字符串
java正则表达式匹配字符串

在Java中,我们可以使用正则表达式来匹配字符串。本专题为大家带来java正则表达式匹配字符串的相关内容,帮助大家解决问题。

215

2023.08.11

正则表达式空格
正则表达式空格

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。本专题为大家提供正则表达式相关的文章、下载、课程内容,供大家免费下载体验。

351

2023.08.31

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

正则表达式空格如何表示
正则表达式空格如何表示

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。想了解更多正则表达式空格怎么表示的内容,可以访问下面的文章。

236

2023.11.17

正则表达式中如何匹配数字
正则表达式中如何匹配数字

正则表达式中可以通过匹配单个数字、匹配多个数字、匹配固定长度的数字、匹配整数和小数、匹配负数和匹配科学计数法表示的数字的方法匹配数字。更多关于正则表达式的相关知识详情请看本专题下面的文章。php中文网欢迎大家前来学习。

532

2023.12.06

俄罗斯Yandex引擎入口
俄罗斯Yandex引擎入口

2026年俄罗斯Yandex搜索引擎最新入口汇总,涵盖免登录、多语言支持、无广告视频播放及本地化服务等核心功能。阅读专题下面的文章了解更多详细内容。

158

2026.01.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.3万人学习

Django 教程
Django 教程

共28课时 | 3.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号