0

0

如何在Pandas DataFrame中对每行的数组列进行带放回随机抽样

碧海醫心

碧海醫心

发布时间:2026-03-07 17:44:02

|

668人浏览过

|

来源于php中文网

原创

如何在Pandas DataFrame中对每行的数组列进行带放回随机抽样

本文介绍如何高效地对包含多列数组(每行各列均为长度为38000的float64数组)的dataframe,按行执行带放回的随机抽样(每行抽取n=1000个数值),并修正常见维度不匹配错误。

本文介绍如何高效地对包含多列数组(每行各列均为长度为38000的float64数组)的dataframe,按行执行带放回的随机抽样(每行抽取n=1000个数值),并修正常见维度不匹配错误。

在处理高维结构化数据时,常遇到一类典型场景:DataFrame 的每一列存储的是 NumPy 数组(而非标量),且需对每行所有列的数组合并后统一抽样。例如,一个 800 行 × 11 列的 DataFrame,每单元格为 shape=(38000,) 的 float64 数组,目标是为每一行生成一个长度为 1000 的带放回随机样本数组(即从该行全部 11×38000 = 418,000 个数中均匀、可重复地抽取 1000 个)。

原始代码失败的根本原因在于嵌套循环逻辑错误:

df['rand_sample'] = [np.random.choice(j, size=n, replace=True) for i in df for j in df[i]]

该写法实际展开为「对每列 i,再对每行 j(即 df[i] 是一列 Series,j 是其每个元素——即单个数组)」,导致生成了 800 行 × 11 列 = 8800 个样本数组,而非预期的 800 个(每行一个)。因此抛出 ValueError: Length of values (8000) does not match length of index (800) —— 赋值时右侧长度(8800)与 DataFrame 索引长度(800)不一致。

Texta
Texta

AI博客和文章一键生成

下载

✅ 正确解法是:按行聚合 → 合并数组 → 统一抽样。使用 df.apply(..., axis=1) 遍历每行(r 为 pd.Series,含 11 个数组),先用 np.concatenate(r) 将该行所有数组沿默认轴拼接为单个一维数组(长度 418,000),再调用 np.random.choice(..., size=1000, replace=True) 完成抽样:

import numpy as np
import pandas as pd

n = 1000
df['rand_sample'] = df.apply(
    lambda r: np.random.choice(np.concatenate(r), size=n, replace=True),
    axis=1
)

? 关键注意事项:

  • np.concatenate(r) 要求 r 中所有数组 dtype 兼容(此处均为 float64,安全);若存在 None 或非数组元素,需提前清洗;
  • 抽样性能:np.random.choice 在大数据集上高效,但若后续需频繁操作 rand_sample 列,建议将其转为 pd.arrays.PandasArray 或保持为 object 列(因每行为变长数组);
  • 内存优化:若 38000×11×800 数据已占较大内存,避免中间生成超大临时数组(如 np.concatenate(r) 会创建新数组),可改用 np.hstack([arr for arr in r])(功能等价,语义更清晰);
  • 可复现性:如需结果可重现,请在抽样前设置随机种子:np.random.seed(42)(全局)或使用 Generator 实例(推荐):
rng = np.random.default_rng(seed=42)
df['rand_sample'] = df.apply(
    lambda r: rng.choice(np.concatenate(r), size=n, replace=True),
    axis=1
)

最终,df['rand_sample'] 将是一个长度为 800 的 Series,每个元素为 shape=(1000,) 的 ndarray,可直接用于后续统计分析或模型输入。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

12

2026.01.31

length函数用法
length函数用法

length函数用于返回指定字符串的字符数或字节数。可以用于计算字符串的长度,以便在查询和处理字符串数据时进行操作和判断。 需要注意的是length函数计算的是字符串的字符数,而不是字节数。对于多字节字符集,一个字符可能由多个字节组成。因此,length函数在计算字符串长度时会将多字节字符作为一个字符来计算。更多关于length函数的用法,大家可以阅读本专题下面的文章。

953

2023.09.19

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

68

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

162

2026.03.04

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

84

2026.03.04

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

113

2026.03.03

C++高性能网络编程与Reactor模型实践
C++高性能网络编程与Reactor模型实践

本专题围绕 C++ 在高性能网络服务开发中的应用展开,深入讲解 Socket 编程、多路复用机制、Reactor 模型设计原理以及线程池协作策略。内容涵盖 epoll 实现机制、内存管理优化、连接管理策略与高并发场景下的性能调优方法。通过构建高并发网络服务器实战案例,帮助开发者掌握 C++ 在底层系统与网络通信领域的核心技术。

29

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号