0

0

Pandas 中高效展开多级教育字段:从宽表到长表的规范化处理

心靈之曲

心靈之曲

发布时间:2026-03-14 10:46:32

|

268人浏览过

|

来源于php中文网

原创

本文介绍如何使用 pandas 的 melt() 方法将包含重复模式列(如 degree1/degree2…、specialisation1/specialisation2…)的宽格式员工教育数据,规范转换为每行一条学历记录的长格式结构,便于后续逐人逐学历处理(如 Selenium 自动化填报)。

本文介绍如何使用 pandas 的 `melt()` 方法将包含重复模式列(如 degree1/degree2…、specialisation1/specialisation2…)的宽格式员工教育数据,规范转换为每行一条学历记录的长格式结构,便于后续逐人逐学历处理(如 selenium 自动化填报)。

在处理招聘或人事类 Excel 数据时,常遇到“一人多学历”的建模困境:为兼容最多 5 项教育背景,表格设计采用宽表结构(degree1, specialisation1, college1, degree2, …, college5),这虽便于人工填写,却严重阻碍程序化处理——直接遍历 df.iterrows() 后仍需手动解析字段编号、拼接逻辑、容错缺失值,代码冗长且易出错。

更专业、可维护的解法是数据规范化(Normalization):将宽表重塑为符合第三范式的长表结构,即每行唯一标识一位候选人的一条教育经历。核心工具是 pandas 的 pd.melt() —— 它能批量“拆解”具有命名规律的列,生成结构清晰、语义明确的扁平化数据。

✅ 正确实现步骤

假设已读取原始 Excel:

import pandas as pd

df = pd.read_excel("applicants.xlsx")

原始列包括固定属性(sr_no, name, address, mobile, emp_status)和重复教育字段(degree1–degree5, specialisation1–specialisation5, college1–college5)。我们首先用 melt() 展开所有教育相关列:

# 定义不变的标识列(id_vars)
id_cols = ['sr_no', 'old_emp_id', 'name', 'address', 'mobile', 'emp_status']

# 使用 melt 展开所有以 'degree', 'specialisation', 'college' 开头的列
df_melted = pd.melt(
    df,
    id_vars=id_cols,
    var_name='attribute',
    value_name='value'
)

此时 df_melted 每行含完整候选人信息 + 一个属性名(如 'degree1')及其值。下一步是提取学位序号与字段类型,并重构为规整的教育记录:

Peppertype.ai
Peppertype.ai

高质量AI内容生成软件,它通过使用机器学习来理解用户的需求。

下载
# 提取序号(如 'degree1' → 1, 'college3' → 3)和字段类型('degree', 'specialisation', 'college')
df_melted[['field_type', 'seq']] = df_melted['attribute'].str.extract(r'^(degree|specialisation|college)(\d+)$')
df_melted['seq'] = df_melted['seq'].astype(int)

# 过滤掉无效行(如空字段名或未匹配的列)
df_melted = df_melted.dropna(subset=['field_type', 'seq'])

# 透视:将同一人的同一次序(seq)的 degree/specialisation/college 聚合成一行
df_education = df_melted.pivot_table(
    index=id_cols + ['seq'],
    columns='field_type',
    values='value',
    aggfunc='first'  # 防止重复索引导致聚合异常
).reset_index()

# 清理列名:移除多级索引,重命名
df_education.columns.name = None
df_education = df_education.rename(columns={
    'degree': 'degree',
    'specialisation': 'specialisation',
    'college': 'college'
})

# 可选:按候选人和序号排序,提升可读性
df_education = df_education.sort_values(['sr_no', 'seq']).reset_index(drop=True)

最终得到标准长表:

sr_no old_emp_id name address mobile emp_status seq degree specialisation college
1 24 Amit ABC Road 356363474 full-time 1 Computer Science Robotics IIT Delhi
1 24 Amit ABC Road 356363474 full-time 2 MSC ML MIT
1 24 Amit ABC Road 356363474 full-time 3 PHD AI Harvard

? 关键优势:此后可直接 for _, edu_row in df_education.iterrows(): 安全遍历每条学历;配合 groupby('sr_no') 还能轻松实现“每人一组学历”的嵌套处理,完美适配 Selenium 表单自动化中「先填基本信息 → 循环添加教育经历」的业务流。

⚠️ 注意事项与最佳实践

  • 字段命名一致性至关重要:melt() 依赖列名规律。若实际数据中存在 specialization2(美式拼写)与 specialisation1(英式),需预处理统一(如 df.columns = df.columns.str.replace('specialization', 'specialisation'))。
  • 缺失值处理:pivot_table(..., aggfunc='first') 自动跳过 NaN,但建议在 melt 后检查 df_melted['value'].isna().sum(),确认空学历字段是否合理(如 degree3 为空表示仅两项学历)。
  • 性能提示:对超大数据集(>10 万行),避免在循环中调用 df.iloc 或多次 filter;优先使用向量化操作(如 map、merge)完成字段映射。
  • 扩展性设计:若未来增加 course_start_date1 等新字段,只需将其加入 melt 的隐式覆盖范围(不需修改逻辑),天然支持横向扩展。

通过这一范式,你不再需要手写 for j in range(1, 6) 的脆弱循环,而是用声明式数据操作构建健壮、可测试、易协作的数据流水线——这才是 Pandas 真正擅长的领域。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

81

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

33

2026.01.31

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

40

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

67

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

47

2025.11.27

PHP 命令行脚本与自动化任务开发
PHP 命令行脚本与自动化任务开发

本专题系统讲解 PHP 在命令行环境(CLI)下的开发与应用,内容涵盖 PHP CLI 基础、参数解析、文件与目录操作、日志输出、异常处理,以及与 Linux 定时任务(Cron)的结合使用。通过实战示例,帮助开发者掌握使用 PHP 构建 自动化脚本、批处理工具与后台任务程序 的能力。

67

2025.12.13

excel对比两列数据异同
excel对比两列数据异同

Excel作为数据的小型载体,在日常工作中经常会遇到需要核对两列数据的情况,本专题为大家提供excel对比两列数据异同相关的文章,大家可以免费体验。

1454

2023.07.25

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号