0

0

如何在Pandas DataFrame中对每行的多维数组列进行带放回随机抽样

碧海醫心

碧海醫心

发布时间:2026-03-07 18:18:12

|

845人浏览过

|

来源于php中文网

原创

如何在Pandas DataFrame中对每行的多维数组列进行带放回随机抽样

本文介绍如何高效地对包含多个长数组列的dataframe执行按行随机抽样(带放回),解决因维度不匹配导致的valueerror,并提供可直接运行的优化代码与关键注意事项。

本文介绍如何高效地对包含多个长数组列的dataframe执行按行随机抽样(带放回),解决因维度不匹配导致的valueerror,并提供可直接运行的优化代码与关键注意事项。

在实际数据分析中,常遇到结构特殊的DataFrame:每一行包含多个长度一致的数值数组(例如11列,每列存储一个长度为38,000的float64 NumPy数组),目标是对每行所有列的数组合并后,独立抽取1000个样本(允许重复),并将结果作为新列'rand_sample'存入DataFrame。

原始代码失败的根本原因在于列表推导式逻辑错误:

df['rand_sample'] = [np.random.choice(j, size=n, replace=True) for i in df for j in df[i]]

该写法实际执行了双重嵌套循环:外层遍历列名(i in df → 11次),内层遍历每列数据(j in df[i] → 800个数组),最终生成 11 × 800 = 8800 个样本数组,而DataFrame仅有800行索引,导致 ValueError: Length of values (8800) does not match length of index (800)。

Texta
Texta

AI博客和文章一键生成

下载

✅ 正确解法是逐行处理:使用 df.apply(..., axis=1) 遍历每一行(r为pd.Series,含11个数组),先用 np.concatenate(r) 将该行全部11个数组拼接为单个长度为 11 × 38000 = 418,000 的一维数组,再调用 np.random.choice(..., size=1000, replace=True) 完成抽样:

import pandas as pd
import numpy as np

# 示例构造测试数据(仅2列×3行,便于演示)
np.random.seed(42)
df = pd.DataFrame({
    'col_a': [np.random.randn(38000) for _ in range(3)],
    'col_b': [np.random.randn(38000) for _ in range(3)],
    # ... 其余9列同理(此处省略)
})

n = 1000
df['rand_sample'] = df.apply(
    lambda r: np.random.choice(np.concatenate(r), size=n, replace=True),
    axis=1
)

print(df['rand_sample'].apply(len))  # 输出:3个1000,验证每行生成正确长度数组

⚠️ 关键注意事项

  • 性能提示:np.concatenate(r) 在每行触发一次内存拷贝,若数组极大(如38K×11)且行数多(800),建议在内存充足前提下运行;如需极致性能,可改用 np.hstack(list(r))(行为等价,部分场景略快)。
  • dtype一致性:确保所有数组列均为同类型(如全为float64),否则concatenate可能隐式转换或报错。
  • 避免.values误用:不要写 np.random.choice(r.values, ...) —— r.values 是对象数组,非数值数组,会导致choice失效。
  • 可复现性:如需结果可复现,请在apply外部设置全局种子 np.random.seed(XXX),或在lambda中使用独立Generator(推荐):
rng = np.random.default_rng(seed=42)
df['rand_sample'] = df.apply(
    lambda r: rng.choice(np.concatenate(r), size=n, replace=True),
    axis=1
)

该方案逻辑清晰、向量化程度高,完美适配“每行跨列联合抽样”这一典型需求,是处理高维数组型DataFrame的稳健实践。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

214

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

192

2025.11.08

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

61

2026.01.05

length函数用法
length函数用法

length函数用于返回指定字符串的字符数或字节数。可以用于计算字符串的长度,以便在查询和处理字符串数据时进行操作和判断。 需要注意的是length函数计算的是字符串的字符数,而不是字节数。对于多字节字符集,一个字符可能由多个字节组成。因此,length函数在计算字符串长度时会将多字节字符作为一个字符来计算。更多关于length函数的用法,大家可以阅读本专题下面的文章。

953

2023.09.19

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号