
本文介绍如何使用 pandas 按指定 iteration 列值(如 '1_1', '2_2')分别从不同 dataframe 中提取对应行,并沿列方向(axis=1)合并为结构对齐的新表,适用于性能测试数据比对等场景。
在性能分析或实验对比中,常需从多个独立采集的 DataFrame 中提取特定迭代(iteration)批次的数据进行横向并排比对——例如将基准组 df1 的 ['1_1', '2_2', '3_3', '9_9'] 行与对照组 df2 的 ['1_1', '2_2', '5_5', '6_6'] 行按顺序左右拼接,形成双栏对照表。这种需求无法通过常规 merge 或 concat(..., axis=0) 实现,关键在于保持用户指定的行序,而非默认索引或自然顺序。
核心思路是:先将各 DataFrame 以 'iteration' 列设为索引,再用 reindex() 按目标列表强制重排(缺失值自动填充为 NaN),最后通过 pd.concat(..., axis=1) 横向拼接。该方法确保左右两栏的第 i 行严格对应各自列表中的第 i 个 iteration 值。
以下是完整实现代码:
import pandas as pd
def align_by_iteration(df, target_iterations):
"""
根据指定 iteration 值列表对 DataFrame 进行对齐重排
参数:
df: 输入 DataFrame,必须包含 'iteration' 列
target_iterations: 字符串列表,如 ['1_1', '2_2', '5_5']
返回:
重排后的 DataFrame,行顺序与 target_iterations 严格一致
"""
return (df.set_index('iteration')
.reindex(target_iterations)
.reset_index())
# 示例数据(已按题设构造)
df1 = pd.DataFrame({
'iteration': ['1_1', '2_2', '3_3', '4_4', '5_5', '6_6', '7_7', '8_8', '9_9'],
'IOPS': [46090, 12, 49164, 98311, 196604, 249843, 298974, 348108, 397230],
'Latency': [0.7300, 0.0221, 0.1236, 0.1318, 0.2076, 0.1467, 0.1578, 0.1604, 0.1707]
})
df2 = pd.DataFrame({
'iteration': ['1_1', '2_2', '3_3', '4_4', '5_5', '6_6'],
'IOPS': [46074, 12, 49159, 98307, 298976, 397265],
'Latency': [0.6977, 0.0279, 0.1921, 0.2189, 0.2337, 0.2622]
})
# 指定每张表需提取的 iteration 序列(长度可不等,但 concat 后取最短长度)
df1_iters = ['1_1', '2_2', '3_3', '9_9']
df2_iters = ['1_1', '2_2', '5_5', '6_6']
# 执行对齐 + 横向拼接
df3 = pd.concat([
align_by_iteration(df1, df1_iters),
align_by_iteration(df2, df2_iters)
], axis=1)
print(df3)输出结果如下(列名自动保留,行严格按输入列表顺序对齐):
iteration IOPS Latency iteration IOPS Latency 0 1_1 46090 0.7300 1_1 46074 0.6977 1 2_2 12 0.0221 2_2 12 0.0279 2 3_3 49164 0.1236 5_5 298976 0.2337 3 9_9 397230 0.1707 6_6 397265 0.2622
✅ 关键注意事项:
- reindex() 会严格遵循目标列表顺序,若某 iteration 在原 DataFrame 中不存在,则对应行全列为 NaN;
- pd.concat(..., axis=1) 默认按行索引对齐,而 reindex() 后所有 DataFrame 共享相同整数索引(0, 1, 2, ...),因此能精准逐行拼接;
- 若需处理更多 DataFrame,推荐使用 itertools.starmap 批量调用 align_by_iteration,提升可维护性(见扩展示例);
- 列名重复时(如两表均有 'iteration'),concat 会自动保留原始列名,无需额外重命名——这正是本例所需行为。
该方法轻量、可控、无副作用,是实现“按需抽样+横向比对”任务的标准实践方案。










