
本文详解如何使用pandas定位包含“financial services”的所有字符串条目,将其标准化为单一标签,并合并对应数值(如count),实现数据清洗与聚合的一体化操作。
本文详解如何使用pandas定位包含“financial services”的所有字符串条目,将其标准化为单一标签,并合并对应数值(如count),实现数据清洗与聚合的一体化操作。
在数据分析实践中,常遇到分类字段存在不规范表达的问题——例如“Financial Services”以独立项、前缀、后缀或与其他类别用逗号拼接(如"Financial Services,Lending and Investments")等多种形式共存。若直接按原始字符串分组统计,会导致同一业务领域被拆散计数,严重削弱分析准确性。此时,需先语义归一化(semantic normalization):识别所有含目标关键词的记录,统一重命名为标准名称,再执行聚合。
以下为完整、可复现的操作流程:
✅ 步骤一:构建示例数据
import pandas as pd
df = pd.DataFrame({
"category_groups_list": [
"Health Care",
"Financial Services,Lending and Investments",
"Real Estate",
"Financial Services",
"Financial Services,Professional Services",
"Financial Services,Real Estate",
"Administrative Services, Financial Services"
],
"Count": [10, 15, 5, 20, 25, 10, 30]
})✅ 步骤二:模糊匹配 + 批量替换
使用 .str.contains() 进行子串搜索(默认大小写敏感;如需忽略大小写,添加 case=False 参数)。注意:该方法返回布尔Series,可直接用于布尔索引:
# 创建掩码:标记所有包含 "Financial Services" 的行
mask = df["category_groups_list"].str.contains("Financial Services")
# 将匹配行的 category_groups_list 统一设为标准值
df.loc[mask, "category_groups_list"] = "Financial Services"⚠️ 关键注意事项:
- str.contains() 默认启用正则引擎,若待查字符串含正则特殊字符(如 .、*、+),需显式设置 regex=False 避免意外匹配;
- 空值(NaN)会导致 contains() 返回 NaN,进而使 loc 赋值失效。稳妥做法是补充 na=False:
mask = df["category_groups_list"].str.contains("Financial Services", na=False)
✅ 步骤三:按新分类聚合求和
替换完成后,直接调用 groupby(...).sum() 即可完成合并统计:
result = df.groupby("category_groups_list", as_index=False).sum()
print(result)输出:
category_groups_list Count 0 Financial Services 100 1 Health Care 10 2 Real Estate 5
? 扩展建议
- 若需保留原始多类别结构(如拆分逗号分隔项再展开),可结合 str.split().explode();
- 对更复杂的归一化逻辑(如“Fin. Services”→“Financial Services”),推荐使用 str.replace() 配合正则或自定义映射字典;
- 生产环境中,建议将清洗逻辑封装为函数,并添加日志记录替换行数,提升可维护性与可追溯性。
通过以上三步,你不仅能解决当前问题,更能掌握 Pandas 字符串清洗与聚合的核心范式:匹配 → 替换 → 聚合,为后续结构化分析奠定坚实基础。










