怎样在Python中将长宽表数据结构进行高效灵活的互转?

用 pandas.melt() 和 pandas.pivot() 就够了,但必须理解它们的轴对齐逻辑和缺失值处理机制,否则容易产出错行、丢数据或类型混乱的结果。
为什么 melt() 一用就多出空行?
常见于原始表中存在混合类型列(比如某列部分是数字、部分是字符串)或隐式 NaN。pandas 默认把无法转为数值的单元格设为 NaN,而 melt() 不会跳过这些 NaN —— 它照常展开,导致“空行”实际是带 NaN 的记录。
检查前先运行 df.info() 和 df.isna().sum(),确认哪些列真有缺失
加参数 dropna=False(默认就是 True)可显式控制是否保留含 NaN 的行,但更推荐先清洗:用 df.fillna() 或 df.dropna(subset=[...]) 预处理关键列
若 ID 列(id_vars)里混了空值,melt() 会直接报 ValueError: All arrays must be of the same length —— 这说明它底层做了长度校验,不是静默跳过
pivot() 报错 “Index contains duplicate entries” 怎么办?
这不是数据“不规整”,而是你试图把一个非唯一组合映射到单个值 —— 比如同一组 id_vars + value_vars 对应多个观测值,pivot() 拒绝猜测该取哪个。
先用 df.groupby(['col1', 'col2']).size().max() 查最大重复数;如果 >1,就不能直用 pivot()
改用 pivot_table(),指定 aggfunc='first'、'mean' 或自定义函数,它本质是先分组聚合再展开
若业务上本就不该重复,用 df.drop_duplicates(subset=['col1','col2'], keep='first') 去重后再 pivot()
宽表转长表时,如何保留原始列顺序并控制变量名?
melt() 默认按列名字母序展开 value_vars,且新列固定叫 variable 和 value,这在对接下游系统或生成报告时经常不匹配。采集狗请注意素质:正版出处(www.jishuyy.com 原文)的文章可以看,可以分享,唯独不劳而获最丢人。
显式传入 value_vars 列表,顺序即展开顺序:melt(id_vars=['user_id'], value_vars=['day_1', 'day_2', 'day_3'])
用 var_name='metric' 和 value_name='score' 自定义列名,避免硬编码依赖默认名
如果原始列名含语义前缀(如 temp_max, temp_min),可用 df.filter(regex='^temp_').columns.tolist() 动态提取,再传给 value_vars
真正难的不是调哪个函数,而是判断当前数据是否满足 pivot/melt 的前提假设:ID 组合是否唯一、value 列是否真为同质观测、缺失值是否代表“无意义”而非“未采集”。漏掉这个判断,后面所有链式操作都可能放大误差。

