
本文旨在介绍如何使用 Pandas 检查 DataFrame 中两列字符串值是否互相包含,并生成一个新的布尔列来指示匹配结果。通过 numpy.where 结合 in 运算符,可以高效地实现此功能,处理包含缺失值的情况,并输出清晰的结果。
在数据分析和处理中,经常会遇到需要判断一个字符串是否包含在另一个字符串中的情况。在 Pandas DataFrame 中,如果需要比较两列字符串,并判断它们的值是否互相包含,可以使用一些技巧来实现。本文将介绍一种高效的方法,使用 numpy.where 结合 in 运算符来完成此任务。
问题描述
假设有一个 Pandas DataFrame,包含三列:Column1、Column2 和 Match_Column。目标是创建一个新的列 is_Match,如果 Column1 或 Column2 的值包含在 Match_Column 中,或者 Match_Column 的值包含在 Column1 或 Column2 中,则 is_Match 的值为 "Yes",否则为 "No"。
例如:
Column1 Column2 Match_Column 0 Customer1 Customer1 Customer1 LLC 1 NaN Customer2 Customer2 LLC 2 Customer3 NaN Customer3 LLC 3 NaN Customer4 LLC Customer4 4 Customer5 LLC NaN Customer5 5 Customer6 LLC NaN Customer8 6 NaN Customer9 LLC Customer4 7 NaN NaN Customer4
期望的输出是:
Column1 Column2 Match_Column is_Match 0 Customer1 Customer1 Customer1 LLC Yes 1 NaN Customer2 Customer2 LLC Yes 2 Customer3 NaN Customer3 LLC Yes 3 NaN Customer4 LLC Customer4 Yes 4 Customer5 LLC NaN Customer5 Yes 5 Customer6 LLC NaN Customer8 No 6 NaN Customer9 LLC Customer4 No 7 NaN NaN Customer4 No
解决方案
可以使用 numpy.where 函数结合 Python 的 in 运算符来逐行检查 DataFrame 中的数据。为了处理缺失值(NaN),需要先使用 fillna 函数将其替换为占位符。
以下是实现此功能的代码:
import pandas as pd
import numpy as np
# 示例 DataFrame
data = {'Column1': ['Customer1', np.nan, 'Customer3', np.nan, 'Customer5 LLC', 'Customer6 LLC', np.nan, np.nan],
'Column2': ['Customer1', 'Customer2', np.nan, 'Customer4 LLC', np.nan, np.nan, 'Customer9 LLC', np.nan],
'Match_Column': ['Customer1 LLC', 'Customer2 LLC', 'Customer3 LLC', 'Customer4', 'Customer5', 'Customer8', 'Customer4', 'Customer4']}
df = pd.DataFrame(data)
# 使用 numpy.where 和 in 运算符创建 is_Match 列
df['is_Match'] = np.where([(a in c) or (b in c) or (c in a) or (c in b) for a,b,c
in zip(df['Column1'].fillna('_'), df['Column2'].fillna('_'),
df['Match_Column'].fillna('nodata'))],
'Yes', 'No')
print(df)代码解释:
- 导入必要的库: 导入 pandas 和 numpy 库。
- 创建示例 DataFrame: 创建一个包含示例数据的 DataFrame。
-
使用 numpy.where 和 in 运算符:
- df['Column1'].fillna('_'): 将 Column1 中的 NaN 值替换为 "_"。
- df['Column2'].fillna('_'): 将 Column2 中的 NaN 值替换为 "_"。
- df['Match_Column'].fillna('nodata'): 将 Match_Column 中的 NaN 值替换为 "nodata"。
- zip(df['Column1'].fillna('_'), df['Column2'].fillna('_'), df['Match_Column'].fillna('nodata')): 将三列数据逐行打包成元组。
- [(a in c) or (b in c) or (c in a) or (c in b) for a,b,c in ...]: 使用列表推导式,对每一行数据进行判断。如果 Column1 或 Column2 的值包含在 Match_Column 中,或者 Match_Column 的值包含在 Column1 或 Column2 中,则返回 True,否则返回 False。
- np.where(..., 'Yes', 'No'): 根据列表推导式的结果,如果为 True,则 is_Match 列的值为 "Yes",否则为 "No"。
注意事项
- 缺失值处理: 在比较字符串之前,务必处理缺失值。可以使用 fillna 函数将 NaN 值替换为合适的占位符,以避免出现错误。
- 性能: 对于大型 DataFrame,使用循环可能会影响性能。numpy.where 和列表推导式通常比循环更高效。
- 字符串大小写: 默认情况下,字符串比较区分大小写。如果需要进行不区分大小写的比较,可以使用 .str.lower() 或 .str.upper() 方法将字符串转换为统一的大小写形式。
总结
本文介绍了一种使用 Pandas 和 NumPy 来判断 DataFrame 中两列字符串值是否互相包含的方法。通过 numpy.where 结合 in 运算符,可以高效地实现此功能,并处理包含缺失值的情况。这种方法在数据清洗、数据验证和特征工程等场景中非常有用。










