
本文介绍如何将具有嵌套表头(年份+高低值)的原始 dataframe,通过 multiindex 构建与 stack 操作,高效转换为参数-年份-指标的规整长格式数据结构。
在实际数据分析中,我们常遇到以“二维表头”形式存储的宽格式数据:第一行为年份(如 2001, 2002),第二行为子类别(如 low, high),后续行为具体参数(如 foo, bar)及其数值。这种结构虽便于人工阅读,却不利于 Pandas 的向量化操作与建模分析。因此,需将其标准化为「参数(parameter)– 年份(year)– 指标(low/high)」的三元长格式。
核心思路是:利用前两行构造列的 MultiIndex → 将参数行设为行索引 → 对列进行 stack 展平 → 重置索引并清理结构。以下是完整实现:
import pandas as pd
import numpy as np
# 构造原始数据(注意:第0行是表头文字,第1行是子表头)
data = {
0: ['parameter', '', 'foo', 'bar'],
1: [2001, 'low', 1.0, np.nan],
2: [2001, 'high', 2.0, np.nan],
3: [2002, 'low', 7.0, 12.0],
4: [2002, 'high', 8.0, 13.0],
}
df = pd.DataFrame(data)
# 步骤1:用第0行(年份)和第1行(low/high)构建列的MultiIndex
# 注意跳过第0列(即'parameter'列),只处理数值列(索引1起)
years = df.iloc[0, 1:] # → [2001, 2001, 2002, 2002]
levels = df.iloc[1, 1:] # → ['low', 'high', 'low', 'high']
columns = pd.MultiIndex.from_arrays([years, levels], names=('year', 'level'))
# 步骤2:取参数数据行(第2行起),设第0列为行索引(即'foo', 'bar')
df_data = df.iloc[2:].set_index(0) # 行索引变为 parameter 名称
# 步骤3:将列替换为新 MultiIndex,并重命名索引以明确语义
df_data = df_data.set_axis(columns, axis=1).rename_axis('parameter')
# 步骤4:stack 第一级(year),自动展开为长格式;reset_index 得到规整DataFrame
result = df_data.stack(level=0).reset_index(name='value')
# 可选:将 'level_1'(即原'low'/'high')拆分为独立列(若需宽格式指标列)
wide_result = result.pivot(index=['parameter', 'year'], columns='level_1', values='value').reset_index()
wide_result.columns.name = None # 清除列名层级
wide_result = wide_result.rename(columns={'level_1': 'metric'}) # 实际无需此步,因已pivot
# 最终输出(等价于答案中的简洁版)
out = df_data.stack(0).reset_index(name='value')
out.columns = ['parameter', 'year', 'level', 'value'] # 显式命名
final = out.pivot(index=['parameter', 'year'], columns='level', values='value').reset_index()
final.columns.name = None运行后得到目标结构:
parameter year high low 0 bar 2002 13.0 12.0 1 foo 2001 2.0 1.0 2 foo 2002 8.0 7.0
⚠️ 注意事项:
- df.iloc[0, 1:] 和 df.iloc[1, 1:] 必须严格对齐——确保年份与 level 列一一对应;
- 若原始数据存在缺失列(如某年缺少 high),MultiIndex.from_arrays 仍可构建,但 stack 后会生成 NaN,符合预期;
- stack(0) 默认堆叠最外层列(即 year),若有多级需显式指定 level 参数;
- 最终 .reset_index() 前的索引为 (parameter, year),是理想的分组键,便于后续 groupby 或 pivot_table 操作。
该方法避免了手动循环或复杂 melt + pivot 组合,兼具可读性与执行效率,是处理嵌套表头类 Excel 报表的推荐范式。









