直接调用 statsmodels.stats.outliers_influence.variance_inflation_factor 最稳，它内置回归逻辑；输入须为数值型二维数组或DataFrame，需预处理分类变量、缺失值和截距项，VIF>10非必删，应结合业务逻辑与模型稳定性综合判断。
怎么用 statsmodels 算 VIF 值
直接调用 variance_inflation_factor 函数最稳，它内置了回归逻辑，不用自己手动构造设计矩阵。注意：这个函数只接受二维 numpy 数组或 pandas.DataFrame，且必须是数值型——如果有分类变量，得先 pd.get_dummies 或 OneHotEncoder 编码完再传进去。
常见错误现象：ValueError: array must be 2-dimensional，多半是因为传了 Series（比如只选一列）；LinAlgError: Singular matrix 则说明某列和其他列完全线性相关（比如含全 0 列、重复列、或未剔除截距项的哑变量）。
实操建议：
- 确保输入数据不含缺失值，
vif不处理NaN，先用df.dropna()或插补 - 别把目标变量
y放进 VIF 计算里，只对特征列逐个跑 - 如果用
sklearn流水线，记得在fit_transform后再算 VIF，否则编码/缩放前的数据会误导判断
VIF > 10 就一定要删特征吗
不是。VIF 是个相对指标，阈值要看场景：金融风控模型常容忍 VIF ，而探索性回归可能放宽到 <code>10；但真正危险的是 VIF 趋向无穷大（比如 > 50），说明该特征几乎能被其他特征完美线性表示。
立即学习“Python免费学习笔记（深入）”；
更关键的是看变化趋势：如果剔除一个高 VIF 特征后，其余特征的 VIF 集体下降明显，说明它确实是“共线性枢纽”；但如果只是局部波动，可能只是多重共线性的表象，背后是业务逻辑耦合（比如“月收入”和“年收入”天然强相关），硬删反而损失信息。
实操建议：
- 优先检查高 VIF 特征是否为冗余衍生变量（如同时存在
total_price、unit_price、quantity） - 对比删前删后模型的
coef稳定性：用不同训练集抽样重跑，看系数方差是否显著缩小 - 若多个特征 VIF 都高（比如
['age', 'birth_year', 'generation']），不要只删一个，考虑合并或降维（如 PCA）
为什么 sklearn 没有内置 VIF 计算
因为 VIF 本质是统计推断工具，依赖 OLS 回归假设（残差独立同分布、无自相关等），而 sklearn 定位是机器学习工具库，更关注预测性能而非参数解释性。它提供 LinearRegression，但没封装 VIF 这类诊断函数。
性能影响很小——VIF 计算就是对每个特征做一次 OLS 回归，时间复杂度约 O(k * n * p²)（k 为特征数，n 为样本量，p 为剩余特征数），一般数据下秒级完成。但要注意：如果特征维度 p > 样本量 n，np.linalg.inv 会失败，此时应改用 SVD 或岭回归近似。
实操建议：
- 别试图用
sklearn.Pipeline直接套 VIF，它不支持中间诊断；先 fit_transform 得到最终特征矩阵，再单独算 VIF - 想自动化筛选？写个循环 +
while max_vif > threshold，每次删掉当前最高 VIF 的特征，但最多删len(X.columns)//3，防过删 - 兼容性提醒：
statsmodels.stats.outliers_influence.variance_inflation_factor在 statsmodels 0.14+ 支持 pandas Index 保留，旧版本会丢列名
剔除高共线特征后模型效果反而变差怎么办
大概率不是共线性问题，而是你删掉了带预测信号的代理变量。例如“用户最近登录天数”和“最近活跃小时数”高度相关（VIF=12），但各自捕捉行为的不同侧面；删掉一个后，模型对沉默用户的识别能力就断了一环。
这时候该怀疑的不是 VIF 阈值，而是特征工程本身：是否该用领域知识构造新特征（如 login_frequency / active_hours），或换用树模型（RandomForest、XGBoost）这类对共线性不敏感的算法。
实操建议：
- 用
shap.summary_plot对比删前后各特征的 SHAP 值分布，确认信号是否真实丢失 - 检查被删特征的单变量 IV（信息值）或
sklearn.feature_selection.f_classif分数，如果显著高于其他特征，谨慎删除 - 如果必须用线性模型，试试
RidgeCV替代 OLS，它通过 L2 正则天然缓解共线性，且无需手动剔特征
共线性诊断最难的不是算 VIF，而是区分“数学相关”和“业务必要相关”。很多高 VIF 特征不是噪声，是现实世界耦合关系的诚实反映——强行拆解，模型可能更“干净”，但离真实更远。
