0

0

如何将 CSV 中已处理的行移至新文件并自动更新原文件

花韻仙語

花韻仙語

发布时间:2026-03-12 09:28:06

|

747人浏览过

|

来源于php中文网

原创

如何将 CSV 中已处理的行移至新文件并自动更新原文件

本文介绍一种高效、安全的 csv 行级“移动”策略:读取原始 csv,将满足条件的行写入“已用”文件,其余行保留至新临时文件,最后原子化替换原文件,实现逻辑删除与归档一体化。

本文介绍一种高效、安全的 csv 行级“移动”策略:读取原始 csv,将满足条件的行写入“已用”文件,其余行保留至新临时文件,最后原子化替换原文件,实现逻辑删除与归档一体化。

在数据批处理场景中(如任务队列消费、邮件发送、订单分发),常需将已处理的记录从源 CSV 中“移出”,既保留操作痕迹(存入 used.csv),又确保后续流程只处理未使用数据。Python 标准库 csv 模块本身不支持原地行删除,但可通过“读—分流—覆盖”的三步模式安全实现该需求。

核心思路是:不修改原文件,而是构建两个输出流——一个专用于归档已用行,另一个用于重建精简后的源数据。整个过程避免内存全量加载(适用于大文件)、无需第三方依赖,且具备良好的可扩展性。

以下是一个完整、生产就绪的示例代码,假设我们按某列(如第 2 列 status)判断是否“已使用”,并将匹配行移入 used.csv,剩余行写回原文件:

ColorMagic
ColorMagic

AI调色板生成工具

下载
import csv
import shutil
import os

def move_used_rows(
    input_path: str,
    used_path: str,
    condition_func: callable,
    has_header: bool = True
):
    """
    将满足 condition_func 的行移至 used_path,其余行覆盖写入 input_path

    :param input_path: 原始 CSV 路径
    :param used_path: 已用行归档路径
    :param condition_func: 接收 row(list) 返回 bool 的判定函数,True 表示“已用”
    :param has_header: 是否含表头(决定是否分流表头)
    """
    # 创建临时文件路径(避免同名冲突)
    temp_path = input_path + ".tmp"

    with open(input_path, newline="", encoding="utf-8") as f_in, \
         open(used_path, "w", newline="", encoding="utf-8") as f_used, \
         open(temp_path, "w", newline="", encoding="utf-8") as f_temp:

        reader = csv.reader(f_in)
        writer_used = csv.writer(f_used)
        writer_temp = csv.writer(f_temp)

        # 处理表头
        if has_header:
            header = next(reader)
            writer_used.writerow(header)
            writer_temp.writerow(header)

        # 分流数据行
        for row in reader:
            if condition_func(row):
                writer_used.writerow(row)
            else:
                writer_temp.writerow(row)

    # 原子化替换:用 temp 替换原文件(确保数据一致性)
    shutil.move(temp_path, input_path)

# ✅ 使用示例:将 department == "Marketing" 的行移入 used.csv
move_used_rows(
    input_path="data.csv",
    used_path="used.csv",
    condition_func=lambda row: len(row) > 1 and row[1] == "Marketing",
    has_header=True
)

print("✅ 处理完成:已用行已归档至 'used.csv',原文件 'data.csv' 已更新为剩余数据。")

关键注意事项

  • 编码兼容性:显式指定 encoding="utf-8" 避免中文乱码(Windows 默认 ANSI 易出错);
  • 原子性保障:使用 .tmp 临时文件 + shutil.move(),防止中断导致原文件损坏;
  • 内存友好:逐行读写,不将整个 CSV 加载进内存,适合 GB 级文件;
  • ⚠️ 列索引安全:condition_func 中应加入 len(row) > N 防御性检查,避免 IndexError;
  • ⚠️ 并发风险:若多进程同时操作同一 CSV,需额外加锁(如 filelock 库),本方案默认单线程安全。

该方法本质是“重写式删除”,虽非真正意义上的磁盘行删除,但在应用层语义上完全等价于“移动 + 删除”,且比就地编辑更可靠、更易调试。配合日志记录或计数器(如统计本次移动行数),即可构建健壮的数据流水线归档机制。

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1496

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1170

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

835

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

463

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2361

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

874

2023.08.10

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号