0

0

如何在CSV文件中动态定位数据起始行并用Pandas读取

聖光之護

聖光之護

发布时间:2026-02-05 10:53:18

|

264人浏览过

|

来源于php中文网

原创

如何在CSV文件中动态定位数据起始行并用Pandas读取

本文介绍一种高效、单次遍历的方案:通过逐行扫描csv文件,定位以“[deal type]”开头的首行作为数据头,随后直接将剩余内容交由pandas.read_csv解析,避免重复读取或硬编码跳过行数。

在实际数据处理场景中,许多每日生成的CSV文件存在“头部噪声”——前若干行包含元信息、说明、空行或格式化分隔符,而真正结构化的表格数据(带列名)往往从某一行动态出现。当该起始行位置不固定(无法用skiprows=5等静态参数),但具备明确文本特征(如本例中首列为[Deal Type])时,推荐采用流式预扫描 + 文件句柄接力的方式。

核心思路是:不加载整个文件到内存,而是打开文件后逐行迭代,一旦匹配到目标表头行(例如 line.startswith("[Deal Type]")),立即终止扫描,并将此时的文件指针位置作为数据正文起点,再将该“已定位的文件对象”直接传给 pandas.read_csv()。由于Python文件对象是可迭代且支持后续读取的,read_csv() 会自动从当前指针处开始解析,无需重开文件或二次读取。

以下为完整可运行示例(使用 io.StringIO 模拟文件,生产环境替换为真实路径):

BrandCrowd
BrandCrowd

一个在线Logo免费设计生成器

下载
import pandas as pd
import io

# 示例数据(模拟真实CSV文件内容)
csv_content = """Counterparty Name
ID Number

.
.

Asset
USD.HO
USD.LCO
USD.RB

Cpty:
Product:

[Deal Type],[Amount],[Currency],[Date]
Deal_A,100000.5,USD,2024-04-01
Deal_B,75000.0,EUR,2024-04-02
"""

# 关键步骤:打开文件对象,扫描至目标行
with io.StringIO(csv_content) as f:
    # 逐行查找表头起始标记
    for line in f:
        if line.strip().startswith("[Deal Type]"):
            break
    # 此时f的指针已位于表头行之后,read_csv将从此处读取
    df = pd.read_csv(f, skiprows=0)  # skiprows=0确保不跳过已定位的表头行

print(df)

⚠️ 注意事项:

  • 必须使用 strip():原始行末含换行符\n,直接 line.startswith("[Deal Type]") 可能失败;建议统一用 line.strip().startswith(...)。
  • 列分隔符需显式指定:若CSV使用非逗号分隔(如制表符、分号),务必传入 sep='\t' 或 sep=';' 参数。
  • 处理真实文件时:将 io.StringIO(csv_content) 替换为 open("your_file.csv", "r", encoding="utf-8"),并添加 try/finally 或 with 确保文件关闭。
  • 兼容性增强:若表头可能含空格或方括号变体(如 "Deal Type" 无括号),可改用正则匹配:re.search(r'^\s*\[?Deal Type\b', line.strip())。

该方法时间复杂度为 O(n),仅一次磁盘/内存扫描,内存占用低,且完全复用pandas原生解析能力,是处理“动态表头CSV”的轻量级最佳实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

72

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

3

2026.01.31

Python 数据库优化与性能调优
Python 数据库优化与性能调优

本专题专注讲解 Python 在数据库性能优化中的应用,包括数据库连接池管理、SQL 查询优化、索引设计与使用、数据库事务管理、分布式数据库与缓存系统的结合。通过分析常见性能瓶颈,帮助开发者掌握 如何优化数据库操作,提升 Python 项目在数据库层的响应速度与处理能力。

0

2026.02.05

Java 微服务与 Spring Cloud 实战
Java 微服务与 Spring Cloud 实战

本专题讲解 Java 微服务架构的开发与实践,重点使用 Spring Cloud 实现服务注册与发现、负载均衡、熔断与限流、分布式配置管理、API Gateway 和消息队列。通过实际项目案例,帮助开发者理解 如何将传统单体应用拆分为高可用、可扩展的微服务架构,并有效管理和调度分布式系统中的各个组件。

0

2026.02.05

C++ 多线程编程与线程池设计
C++ 多线程编程与线程池设计

本专题深入讲解 C++ 中的多线程编程与线程池设计,涵盖 C++11/14/17 的线程库、线程同步机制(mutex、condition_variable、atomic)、线程池设计模式、任务调度与优化、并发瓶颈分析与解决方案。通过多个实际案例,帮助开发者掌握 如何设计高效的线程池管理系统,提升 C++ 程序在高并发场景下的性能与稳定性。

0

2026.02.05

微信网页版文件传输助手教程合集
微信网页版文件传输助手教程合集

本专题整合了微信网页版文件传输助手教程、入口等等内容,阅读专题下面的文章了解更多详细内容。

15

2026.02.04

微信文件过期恢复教程
微信文件过期恢复教程

本专题整合了微信文件过期恢复方法、技巧教程,阅读专题下面的文章了解更多详细内容。

10

2026.02.04

抖音网页版入口与视频观看指南 抖音官网视频在线访问
抖音网页版入口与视频观看指南 抖音官网视频在线访问

本专题汇总了抖音网页版的入口链接、官方登录页面以及视频观看入口,帮助用户快速访问抖音网页版,提供免登录访问方式和直接进入视频播放页面的方法,确保顺利浏览和观看抖音视频。

95

2026.02.04

学习通网页版入口与在线学习指南 学习通官网登录与使用方法
学习通网页版入口与在线学习指南 学习通官网登录与使用方法

本专题详细汇总了学习通网页版入口与登录方法,提供学习通官方网页端入口、学生登录平台、网页版使用指南等内容,帮助用户快速稳定地登录学习通官网,顺利进入学习平台,提升学习效率和体验。

17

2026.02.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 3.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号