0

0

Python怎么搜索文件内容_遍历目录配合正则多线程匹配关键字

P粉602998670

P粉602998670

发布时间:2026-03-19 13:27:13

|

590人浏览过

|

来源于php中文网

原创

os.walk 比 pathlib.rglob 更稳健,支持 onerror 回调跳过权限错误和损坏符号链接;需预编译正则、指定文件编码、逐行读大文件、用 ThreadPoolExecutor 管理线程,并先魔数识别二进制文件。

python怎么搜索文件内容_遍历目录配合正则多线程匹配关键字

os.walk 遍历目录比 pathlib.rglob 更稳,尤其处理符号链接或权限异常时

默认递归遍历容易在权限不足或损坏的符号链接上直接抛 PermissionErrorOSErroros.walk 支持 onerror 回调,能跳过并继续——这点 pathlib 没法优雅处理。

  • topdown=True(默认)避免进入不想搜的子目录,比如 __pycache__.git
  • 遇到 PermissionError 时,在 onerrorpass,别 print,否则大量报错刷屏
  • Windows 下注意路径分隔符,os.path.join(root, file) 比拼字符串更安全

正则匹配前必须用 re.compile 预编译,否则多线程下性能暴跌

每次打开文件都用 re.search(pattern, line),等于反复解析正则语法树。多线程里这个开销会被放大,实测 10 线程下慢 3 倍以上。

  • re.compile(r"your_pattern", re.IGNORECASE) 提到线程外,作为全局变量或传入参数
  • 如果 pattern 来自用户输入,记得用 re.escape() 包一层,否则 foo.bar 会误匹配任意字符
  • 行内匹配用 pattern.search(line),全文匹配才用 findall;前者早停,更快

多线程选 concurrent.futures.ThreadPoolExecutor,别手写 threading

手动管理 threading.Thread 容易漏 join、没异常捕获、线程数失控。而 ThreadPoolExecutor 自带任务队列、结果收集和异常透出机制。

靠岸学术
靠岸学术

一款集翻译,阅读,文献管理于一体的英文文献阅读器

下载
  • 线程数别设成 os.cpu_count(),IO 密集型任务设 8~16 足够,再多反而因 GIL 切换拖慢
  • executor.submit(func, *args) 提交单个文件处理,别把整个目录列表塞进去
  • 每个线程里用 try/except 包住文件打开和读取,避免一个坏文件让整个线程崩溃
  • 错误信息统一捕获为 Future.exception(),别让异常被吞掉

open() 必须指定 encoding,否则中文匹配全失效

不指定编码时,open() 依赖系统 locale,在 Linux 服务器上常是 asciiANSI_X3.4-1968,一读中文就抛 UnicodeDecodeError;即使读成功,编码不一致也会导致正则匹配不到。

立即学习Python免费学习笔记(深入)”;

  • 优先试 utf-8,失败再 fallback 到 gbk(Windows 文本)或 latin-1(二进制混文本)
  • 别用 errors="ignore" 掩盖问题,它会静默丢字,导致关键字漏匹配
  • 小文件可全读 f.read(),大文件务必逐行 for line in f:,不然内存爆掉
实际跑起来最麻烦的不是并发或正则,是编码探测和二进制文件识别——比如 .pyc.pdf.zip 这些根本不能当文本读,得先用魔数判断是否跳过。这步漏了,程序要么卡死,要么报一堆解码错误。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

781

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

697

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

784

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

890

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1564

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

598

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

591

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

759

2023.08.11

Go Web框架Gin接口开发与中间件设计实践
Go Web框架Gin接口开发与中间件设计实践

本专题围绕 Go 在 Web 后端开发中的主流框架 Gin 展开,系统讲解高性能接口开发与中间件机制设计。内容涵盖路由分组、请求绑定、参数校验、统一响应封装、日志与鉴权中间件实现,以及接口限流与异常处理策略。通过实战项目案例,帮助开发者构建结构清晰、性能优良的 Go Web 服务体系,提升接口开发效率与系统可维护性。

7

2026.03.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5.1万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号