0

0

使用Python Pandas和Numpy高效生成混合类型虚拟数据并导出CSV

聖光之護

聖光之護

发布时间:2025-09-19 13:51:01

|

294人浏览过

|

来源于php中文网

原创

使用python pandas和numpy高效生成混合类型虚拟数据并导出csv

本文旨在指导读者如何利用Python的pandas、numpy和random库,高效地生成包含数值和文本(分类)混合类型的大规模虚拟数据集,并将其保存为CSV文件。文章将重点解决在生成随机文本数据列时常见的错误,并通过详细的代码示例和最佳实践,确保数据生成过程的准确性和可读性。

1. 虚拟数据生成概述

在数据分析、机器学习模型开发或系统测试中,虚拟数据(Dummy Data)扮演着重要角色。它允许开发者在没有真实数据的情况下进行原型设计、功能验证和性能测试。一个常见的需求是生成包含不同数据类型的虚拟数据集,例如数值型(如面积、价格)和分类型(如区域、类别)。

2. 挑战:生成随机分类文本数据列

当需要生成大量数值型虚拟数据时,numpy.random.randint等函数提供了简洁高效的方法。然而,在生成分类文本数据列时,新手用户常会遇到困惑。一个常见的错误是尝试通过类似random.randrange(len(some_string))的方式来生成一整列的随机文本值。

错误示例分析:

考虑以下代码片段:

立即学习Python免费学习笔记(深入)”;

import random
import pandas as pd
import numpy as np

WORDS = ["Chelsea", "Kensington", "Westminster", "Pimlico", "Bank", "Holborn", "Camden", "Islington", "Angel", "Battersea", "Knightsbridge", "Bermondsey", "Newham"]
word = random.choice(WORDS) # 假设这里word被随机赋值为 "Chelsea"
np.random.seed(1)
data3 = pd.DataFrame({
    "Sq. feet" : np.random.randint(low=75, high=325, size=50000),
    "Price" : np.random.randint(low=200000, high=1250000, size=50000),
    "Borough" : random.randrange(len(word)) # 错误:len("Chelsea") 为 7,random.randrange(7) 产生一个 0-6 之间的整数(例如 5)。
                                            # 这个单一的整数 5 会被广播到 "Borough" 列的所有 50,000 行。
})
print(data3.head())

上述代码的预期输出是Borough列包含来自WORDS列表的随机文本值,但实际输出却是所有行的Borough列都显示同一个数字(例如5)。这是因为random.randrange(len(word))仅执行一次,返回一个单一的整数,这个整数随后被Pandas的广播机制应用到整个Borough列。为了生成一列随机的文本值,我们需要为每一行独立地选择一个随机值。

3. 正确的解决方案:使用列表推导式生成随机分类数据

解决上述问题的关键是为DataFrame的每一行生成一个独立的随机选择。这可以通过Python的列表推导式(List Comprehension)结合random.choice()函数来实现。

GitHub Copilot
GitHub Copilot

GitHub AI编程工具,实时编程建议

下载

random.choice(sequence)函数用于从给定的非空序列中随机选择一个元素。通过将其置于列表推导式中,我们可以生成一个包含所需数量的随机元素的列表。

修正后的代码示例:

import random
import pandas as pd
import numpy as np

# 定义数据集大小
SIZE = 50_000

# 定义分类数据列表,建议使用更具描述性的变量名
BOROUGHS = ["Chelsea", "Kensington", "Westminster", "Pimlico", "Bank", "Holborn", "Camden", "Islington", "Angel", "Battersea", "Knightsbridge", "Bermondsey", "Newham"]

# 设置随机种子以确保结果可复现
np.random.seed(1)

# 构建DataFrame
data = pd.DataFrame({
    "Sq. feet": np.random.randint(low=75, high=325, size=SIZE),
    "Price": np.random.randint(low=200000, high=1250000, size=SIZE),
    # 使用列表推导式为每一行生成一个随机的区域名称
    "Borough": [random.choice(BOROUGHS) for _ in range(SIZE)]
})

# 将DataFrame保存为CSV文件
# index=False 避免将DataFrame的索引写入CSV文件
output_file_path = "realestate_dummy_data.csv"
data.to_csv(output_file_path, index=False)

print("生成的前5行数据:")
print(data.head())
print(f"\n数据已成功保存到:{output_file_path}")

代码输出示例:

生成的前5行数据:
   Sq. feet    Price      Borough
0       112   345382      Pimlico
1       310   901500    Battersea
2       215   661033      Holborn
3       147  1038431  Westminster
4       212   296497      Holborn

数据已成功保存到:realestate_dummy_data.csv

从输出中可以看出,Borough列现在包含了来自BOROUGHS列表的随机文本值,而不是重复的数字。

4. 关键概念与最佳实践

  • numpy.random.randint(low, high, size): 用于生成指定范围[low, high)内,大小为size的整数数组。非常适合批量生成数值型虚拟数据。
  • random.choice(sequence): 从给定的序列(如列表)中随机选择一个元素。
  • 列表推导式 [expression for item in iterable]: 一种简洁的创建列表的方法。在本例中,[random.choice(BOROUGHS) for _ in range(SIZE)]会迭代SIZE次,每次迭代都调用random.choice(BOROUGHS)生成一个随机区域名,并将其收集到一个列表中。
  • 变量常量化: 对于在代码中多次使用的固定值(如数据集大小50000),将其定义为常量(如SIZE = 50_000)是一种良好的编程习惯。这不仅提高了代码的可读性,也便于日后修改和维护。
  • 描述性变量名: 将WORDS重命名为BOROUGHS等,使变量的用途一目了然。
  • np.random.seed(seed_value): 设置随机数生成器的种子。这对于需要可复现结果的实验和测试至关重要。每次使用相同的种子,生成的随机数序列将是相同的。
  • df.to_csv(filepath, index=False): 将DataFrame保存为CSV文件。index=False参数用于防止将DataFrame的行索引作为一列写入CSV文件,这通常是希望避免的。

5. 总结

通过本文,我们学习了如何使用pandas、numpy和random库有效地生成包含数值和分类文本的混合虚拟数据集。关键在于理解如何正确地为分类列生成随机值,即利用列表推导式结合random.choice()函数,为每一行数据独立地选择一个随机元素。遵循文中提到的最佳实践,可以编写出更健壮、可读性更强且易于维护的数据生成代码。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

56

2025.12.04

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

309

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

222

2025.10.31

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1498

2023.10.24

word背景色怎么改成白色
word背景色怎么改成白色

Word是微软公司的一个文字处理器软件。word为用户提供了专业而优雅的文档工具,帮助用户节省时间并得到优雅美观的结果。word提供了许多易于使用的文档创建工具,同时也提供了丰富的功能供创建复杂的文档使用。怎么word背景色怎么该呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3711

2023.07.21

word最后一页空白页怎么删除
word最后一页空白页怎么删除

word最后一页空白页删除方法有:通过删除回车符、调整页边距、删除分节符或调整分页符位置,您可以轻松去除最后一页的空白页。根据您实际的文档情况,选择适合您的方法进行操作,使您的文档更加美观和整洁。本专题为大家提供word最后一页空白页怎么删除不了相关的各种文章、以及下载和课程。

322

2023.07.24

word最后一页空白页怎么删除不了
word最后一页空白页怎么删除不了

word删除最后一页空白页,可以尝试使用Backspace键删除空白页,如果无效,查找和删除分页符,或者调整页面边距和行距。还可以尝试将文档保存为其他格式并重新打开和保存。本专题为大家提供word最后一页空白页为啥删除不了的相关的文章、下载、课程内容,供大家免费下载体验。

373

2023.07.25

word单页改变纸张方向
word单页改变纸张方向

word单页改变纸张方向:1、在界面上选择文档纸张方向;2、自定义页面设置;3、分节功能。本专题为大家提供word单页改变纸张方向的相关的文章、下载、课程内容,供大家免费下载体验。

619

2023.07.27

Python 自然语言处理(NLP)基础与实战
Python 自然语言处理(NLP)基础与实战

本专题系统讲解 Python 在自然语言处理(NLP)领域的基础方法与实战应用,涵盖文本预处理(分词、去停用词)、词性标注、命名实体识别、关键词提取、情感分析,以及常用 NLP 库(NLTK、spaCy)的核心用法。通过真实文本案例,帮助学习者掌握 使用 Python 进行文本分析与语言数据处理的完整流程,适用于内容分析、舆情监测与智能文本应用场景。

10

2026.01.27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.3万人学习

Django 教程
Django 教程

共28课时 | 3.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号