0

0

Python 使用 NumPy 与 pandas 内存优化

舞夢輝影

舞夢輝影

发布时间:2025-09-21 17:05:01

|

353人浏览过

|

来源于php中文网

原创

答案:通过选用合适数据类型、及时释放内存、分块处理及利用numpy视图可有效优化python内存使用。具体包括将整数和浮点数降级为int8/int16/float32,分类变量转为category类型;用del删除无用对象并调用gc.collect();对大文件使用read_csv(chunksize)分批读取;优先使用numpy结构化数组与视图避免冗余复制,从而降低内存占用提升处理效率。

python 使用 numpy 与 pandas 内存优化

Python 在数据处理中广泛使用 NumPy 和 pandas,但随着数据量增大,内存占用会迅速上升。优化内存使用不仅能提升运行效率,还能避免程序崩溃。以下是一些实用的内存优化策略。

1. 使用合适的数据类型

默认情况下,pandas 为数值列使用 float64 或 int64 类型,但这对许多实际场景来说过于“重”。通过降级数据类型可显著减少内存消耗。

说明与建议:
  • 整数列若取值较小(如 ID、年龄),可用 int8int16 替代 int64
  • 浮点数若不需要高精度,可用 float32 替代 float64,节省一半空间
  • 分类数据(如性别、状态)应转换为 category 类型,尤其当唯一值较少时

示例代码:

import pandas as pd
<h1>假设 df 是原始 DataFrame</h1><p>df['age'] = pd.to_numeric(df['age'], downcast='integer')  # 自动选择最小合适整型
df['price'] = pd.to_numeric(df['price'], downcast='float') # 使用 float32
df['category_col'] = df['category_col'].astype('category')

2. 及时释放不用的数据

在处理大文件或链式操作时,中间变量容易累积,造成内存堆积。

立即学习Python免费学习笔记(深入)”;

说明与建议:
  • 用完就删:使用 del 删除不再需要的 DataFrame 或数组
  • 配合 gc.collect() 主动触发垃圾回收,尤其在循环中
  • 避免复制:使用 .copy() 要谨慎,尽量用视图操作

示例:

Kacha
Kacha

KaCha是一款革命性的AI写真工具,用AI技术将照片变成杰作!

下载
import gc
<p>del large_df
gc.collect()

3. 分块读取和处理数据

对于超大 CSV 文件,一次性加载可能超出内存限制。

说明与建议:
  • 使用 pandas.read_csv(chunksize=n) 分批读取
  • 逐块处理并汇总结果,避免全量驻留内存
  • NumPy 中也可通过切片分段处理数组

示例:

chunk_list = []
for chunk in pd.read_csv('big_file.csv', chunksize=10000):
    chunk['value'] = pd.to_numeric(chunk['value'], downcast='float')
    chunk_list.append(chunk)
<p>df = pd.concat(chunk_list, ignore_index=True)

4. 利用 NumPy 的内存视图与结构化数组

NumPy 数组比原生 Python 列表更省内存,且支持更精细控制。

说明与建议:
  • 优先使用 NumPy 数组存储数值数据,而非 list of dict
  • 多字段数据可用 structured array,避免多个独立数组
  • 利用切片获取视图(view)而非副本,减少内存拷贝

示例:

import numpy as np
<h1>定义结构化 dtype</h1><p>dt = np.dtype([('name', 'U10'), ('age', 'i1'), ('score', 'f4')])
data = np.zeros(1000, dtype=dt)
data['age'] = np.random.randint(18, 65, 1000)
data['score'] = np.random.rand(1000).astype('float32')

基本上就这些。关键是根据数据特征选择合适的类型,避免冗余复制,并合理分批处理。内存优化不复杂但容易忽略。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

337

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

224

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

138

2026.02.12

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

443

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

605

2023.08.10

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

443

2023.07.18

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Pandas 教程
Pandas 教程

共15课时 | 1.2万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

NumPy 教程
NumPy 教程

共44课时 | 3.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号