0

0

Pandas数据合并技巧:基于字符串提取和映射实现条件关联

聖光之護

聖光之護

发布时间:2025-09-04 16:36:15

|

830人浏览过

|

来源于php中文网

原创

Pandas数据合并技巧:基于字符串提取和映射实现条件关联

本文详细介绍了如何使用Pandas高效地处理两个DataFrame之间基于复杂条件的关联。通过演示从字符串列中提取数字作为匹配键,并利用Series.map()函数实现数据映射,解决了传统合并方法在键格式不匹配时的挑战,最终将外部数据精确地添加到目标DataFrame中。

引言:处理复杂条件下的DataFrame数据关联

在数据分析和处理过程中,我们经常需要将分散在不同数据集中的信息关联起来。pandas库提供了强大的数据合并(merge)和连接(join)功能,但有时关联键的格式并不直接匹配,例如,一个dataframe中的键是包含数字的字符串(如“1st”),而另一个dataframe的键是纯数字索引。本文将详细阐述如何利用pandas的字符串处理和映射功能,优雅地解决这类复杂条件下的数据关联问题。

数据准备与问题阐述

假设我们有两个DataFrame,df1和df2,它们的结构如下:

df1包含birthdate和ceremony_number两列,其中ceremony_number是包含数字和文本的字符串。 df2包含一个日期列dates,其索引(index)代表了某个事件的序号。

我们的目标是:根据df1中ceremony_number列里提取出的数字(例如从“1st”提取出“1”),去匹配df2的索引,并将df2中对应的dates值作为新列date_oscar添加到df1中。

示例代码:初始DataFrame构建

import pandas as pd

# 原始 df1 数据
data1 = {'birthdate': {0: '9/30/1895', 1: '7/23/1884', 2: '3/29/1889',
                       3: '4/10/1868', 4: '4/8/1892'},
         'ceremony_number': {0: '1st', 1: '1st', 2: '2nd', 3: '3rd', 4: '2nd'}}
df1 = pd.DataFrame(data1)

# 原始 df2 数据 (注意其索引从1开始)
data2 = {'dates': {1: '1929-05-16', 2: '1930-04-03', 3: '1930-11-05'}}
df2 = pd.DataFrame(data2)

print("原始 df1:")
print(df1)
print("\n原始 df2:")
print(df2)

输出:

原始 df1:
  birthdate ceremony_number
0 9/30/1895             1st
1 7/23/1884             1st
2 3/29/1889             2nd
3 4/10/1868             3rd
4  4/8/1892             2nd

原始 df2:
        dates
1  1929-05-16
2  1930-04-03
3  1930-11-05

直接使用pd.merge()函数无法完成此任务,因为df1['ceremony_number']是字符串,而df2的匹配键是整数索引。此外,尝试通过循环df1.iterrows()来逐行匹配并追加数据是一种低效且容易出错的方法,应尽量避免在Pandas中使用。

解决方案:字符串提取与Series映射

解决此问题的核心在于两个步骤:首先,从df1的ceremony_number列中精确提取出数字部分;其次,利用Pandas的Series.map()功能将这些提取出的数字与df2的索引进行匹配,并获取对应的日期值。

步骤一:数据类型标准化

在进行任何日期相关的操作之前,将日期字符串转换为Pandas的datetime类型是一个良好的实践。这不仅能确保数据的一致性,也便于后续的日期计算或格式化。

# 将日期列转换为 datetime 类型
df1['birthdate'] = pd.to_datetime(df1['birthdate'], format='%m/%d/%Y')
df2['dates'] = pd.to_datetime(df2['dates'], format='%Y-%m-%d')

print("\n转换日期类型后的 df1:")
print(df1)
print("\n转换日期类型后的 df2:")
print(df2)

输出:

转换日期类型后的 df1:
   birthdate ceremony_number
0 1895-09-30             1st
1 1884-07-23             1st
2 1889-03-29             2nd
3 1868-04-10             3rd
4 1892-04-08             2nd

转换日期类型后的 df2:
       dates
1 1929-05-16
2 1930-04-03
3 1930-11-05

步骤二:从字符串中提取匹配键

我们需要从df1['ceremony_number']列中的“1st”、“2nd”等字符串中提取出数字“1”、“2”等。Pandas的Series.str.extract()方法结合正则表达式是实现这一目标的理想工具

免费语音克隆
免费语音克隆

这是一个提供免费语音克隆服务的平台,用户只需上传或录制一段 5 秒以上的清晰语音样本,平台即可生成与用户声音高度一致的 AI 语音克隆。

下载
  • ^(\d+):这是一个正则表达式,^表示字符串的开始,\d+表示匹配一个或多个数字,括号()用于捕获匹配到的数字。
  • expand=False:此参数确保str.extract()返回一个Series而不是一个DataFrame,这更适合后续的映射操作。
  • astype(int):将提取出的字符串数字转换为整数类型,以便与df2的整数索引进行精确匹配。
# 从 'ceremony_number' 中提取数字并转换为整数
extracted_num = df1['ceremony_number'].str.extract('^(\d+)', expand=False).astype(int)
print("\n从 'ceremony_number' 提取出的数字键:")
print(extracted_num)

输出:

从 'ceremony_number' 提取出的数字键:
0    1
1    1
2    2
3    3
4    2
Name: ceremony_number, dtype: int32

步骤三:利用Series.map()进行高效映射

现在我们有了df1中用于匹配的数字键(extracted_num Series),以及df2中作为查找表的dates列(其索引是匹配键)。Pandas的Series.map()方法是执行此映射操作的完美选择。

当map()方法接收一个Series作为参数时,它会使用该参数Series的索引作为查找键,其值作为返回结果。在本例中,df2['dates']的索引是1, 2, 3,对应的值是日期。extracted_num中的每个值都会在df2.index中查找,并返回df2['dates']中对应的值。

# 使用提取出的数字作为键,通过 df2['dates'] 进行映射
df1['date_oscar'] = extracted_num.map(df2['dates'])

完整示例与结果验证

将上述所有步骤整合起来,形成一个完整的解决方案代码块:

import pandas as pd

# 1. 原始数据准备
data1 = {'birthdate': {0: '9/30/1895', 1: '7/23/1884', 2: '3/29/1889',
                       3: '4/10/1868', 4: '4/8/1892'},
         'ceremony_number': {0: '1st', 1: '1st', 2: '2nd', 3: '3rd', 4: '2nd'}}
df1 = pd.DataFrame(data1)

data2 = {'dates': {1: '1929-05-16', 2: '1930-04-03', 3: '1930-11-05'}}
df2 = pd.DataFrame(data2)

# 2. 数据类型标准化
df1['birthdate'] = pd.to_datetime(df1['birthdate'], format='%m/%d/%Y')
df2['dates'] = pd.to_datetime(df2['dates'], format='%Y-%m-%d')

# 3. 从 'ceremony_number' 中提取数字并转换为整数
num = df1['ceremony_number'].str.extract('^(\d+)', expand=False).astype(int)

# 4. 使用提取出的数字作为键,通过 df2['dates'] 进行映射
df1['date_oscar'] = num.map(df2['dates'])

print("\n最终 df1 (包含 'date_oscar' 列):")
print(df1)

最终输出:

最终 df1 (包含 'date_oscar' 列):
   birthdate ceremony_number date_oscar
0 1895-09-30             1st 1929-05-16
1 1884-07-23             1st 1929-05-16
2 1889-03-29             2nd 1930-04-03
3 1868-04-10             3rd 1930-11-05
4 1892-04-08             2nd 1930-04-03

从结果可以看出,df1成功地添加了date_oscar列,并且其中的日期值根据ceremony_number与df2的索引正确匹配。例如,ceremony_number为“1st”的行被映射到了df2索引为1的日期1929-05-16。

注意事项与最佳实践

  1. 效率优先: Pandas的向量化操作(如str.extract()和map())比Python原生的循环(如for index, row in df.iterrows():)效率高出几个数量级,尤其是在处理大型数据集时。始终优先考虑使用Pandas内置的向量化函数。
  2. 数据类型一致性: 在进行数据匹配或合并之前,确保所有参与比较的键具有相同的数据类型(例如,都是整数或都是字符串)至关重要。本文通过astype(int)实现了这一点。
  3. 正则表达式的灵活性: str.extract()结合正则表达式能够处理各种复杂的字符串模式提取需求,是数据清洗和准备的强大工具。根据实际的字符串格式调整正则表达式即可。
  4. map()的强大功能: Series.map()是执行一对一或多对一映射的利器。它可以接受字典、Series或函数作为参数,在需要根据一个Series的值去查找另一个Series或字典中的对应值时非常有用。

总结

本文提供了一个清晰、高效的Pandas解决方案,用于处理两个DataFrame之间基于字符串提取和映射的条件关联。通过将ceremony_number列中的数字部分提取出来并转换为整数,然后利用Series.map()功能与df2的索引进行匹配,我们成功地将所需数据合并到df1中。这种方法不仅解决了特定场景下的数据关联难题,也体现了Pandas在数据处理方面的强大功能和灵活性,是每个数据分析师和工程师都应掌握的关键技能。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

531

2023.06.20

正则表达式不包含
正则表达式不包含

正则表达式,又称规则表达式,,是一种文本模式,包括普通字符和特殊字符,是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串,通常被用来检索、替换那些符合某个模式的文本。php中文网给大家带来了有关正则表达式的相关教程以及文章,希望对大家能有所帮助。

258

2023.07.05

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

767

2023.07.05

java正则表达式匹配字符串
java正则表达式匹配字符串

在Java中,我们可以使用正则表达式来匹配字符串。本专题为大家带来java正则表达式匹配字符串的相关内容,帮助大家解决问题。

219

2023.08.11

正则表达式空格
正则表达式空格

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。本专题为大家提供正则表达式相关的文章、下载、课程内容,供大家免费下载体验。

357

2023.08.31

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

正则表达式空格如何表示
正则表达式空格如何表示

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。想了解更多正则表达式空格怎么表示的内容,可以访问下面的文章。

245

2023.11.17

正则表达式中如何匹配数字
正则表达式中如何匹配数字

正则表达式中可以通过匹配单个数字、匹配多个数字、匹配固定长度的数字、匹配整数和小数、匹配负数和匹配科学计数法表示的数字的方法匹配数字。更多关于正则表达式的相关知识详情请看本专题下面的文章。php中文网欢迎大家前来学习。

549

2023.12.06

chatgpt使用指南
chatgpt使用指南

本专题整合了chatgpt使用教程、新手使用说明等等相关内容,阅读专题下面的文章了解更多详细内容。

0

2026.03.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号