特征工程通过稳健统计量、分箱钝化、容错交互和噪声感知特征提升模型鲁棒性。用中位数/IQR替代均值/标准差，等频分箱与目标编码处理类别噪声，交互加约束，引入变异系数与邻近一致性等辅助特征。
特征工程是提升模型在噪声数据上鲁棒性的最直接、最有效的手段之一。它不依赖复杂模型或大量算力，而是通过更合理地表达原始信息，让模型“看到更干净的信号”。关键不在去掉噪声，而在削弱噪声对建模逻辑的干扰。
用统计稳健性替代敏感指标
均值、标准差等经典统计量容易被异常值带偏。在含噪声的数据中，应优先使用对离群点不敏感的替代方案：
- 用中位数（
np.median）代替均值计算中心趋势 - 用四分位距（IQR = Q3 − Q1）代替标准差衡量离散程度
- 构造新特征时，避免直接用
max - min，改用q95 - q05（5%~95%分位差） - 对时间序列类特征，用滚动中位数+IQR窗口，比滚动均值+标准差更稳定
离散化与分箱：把连续噪声“钝化”
噪声常表现为连续特征上的微小抖动，而模型真正需要的是趋势或区间判断。分箱能天然抑制高频扰动：
- 等频分箱（
pd.qcut）比等宽分箱更适应偏态分布，减少边界处的噪声放大 - 对高基数类别特征，先用目标编码（Target Encoding）平滑后，再做频率截断（如只保留出现>10次的类别）
- 加入“未知/异常”箱体（如
np.where(..., 'normal', 'outlier')），显式建模噪声模式
特征交互要带“容错设计”
两个含噪特征相乘或相除，误差会放大。交互特征需加约束：
立即学习“Python免费学习笔记（深入）”；
- 避免原始值直接相乘，改用符号一致+幅度分段：例如
(np.sign(a) == np.sign(b)) & (np.abs(a) > 0.5) & (np.abs(b) > 0.5) - 用多项式特征时，限制阶数（
degree=2），并配合interaction_only=True防止高阶噪声耦合 - 对比率型特征（如 A/B），增加分母阈值保护：
np.where(B > 1e-3, A/B, 0)
引入噪声感知的辅助特征
不试图消灭噪声，而是告诉模型“这里可能有噪声”：
- 为每个数值特征添加对应的标准差/变异系数（CV）作为新列（可在滑动窗口或分组内计算）
- 构造“邻近一致性”特征：例如某样本在KNN中的标签方差、或其与3个最近邻在关键特征上的L1距离均值
- 对传感器类时序数据，加入“突变强度”特征：
np.abs(np.diff(x, n=2))的局部最大值检测结果
基本上就这些。特征工程不是一步到位的技巧堆砌，而是围绕“噪声从哪来、怎么影响决策、模型哪里容易被骗”持续提问的过程。动手时多画几个分布直方图、看看排序后的标签跳变点，比调参更能守住鲁棒性底线。
