0

0

如何用Python删除具有前缀重复关系的行(保留最长连续前缀链的末尾行)

花韻仙語

花韻仙語

发布时间:2026-01-10 20:22:21

|

324人浏览过

|

来源于php中文网

原创

如何用Python删除具有前缀重复关系的行(保留最长连续前缀链的末尾行)

本文介绍一种python脚本方法,用于识别并删除存在“逐行前缀包含”关系的重复行序列(如“this” → “this line” → “this line has”),仅保留每条链中最长的那行。

在文本处理中,有时我们需要清理“渐进式重复”的行——即后一行完全以前行内容为开头(前缀关系),形成类似嵌套的字符串链。例如:

This
This line 
This line has
This line has five
This line has five strings

目标不是去重(set去重只处理完全相同的行),而是识别这种前缀继承链,并仅保留每条链的最后一个(即最长)行。上述示例中,所有前4行都是第5行的真前缀,因此只输出第5行。

以下是一个健壮、简洁的实现方案:

infilename = "input.txt"  # 替换为你的输入文件路径

with open(infilename) as fin:
    # 读取所有行并去除换行符(避免因\n导致startswith判断失败)
    lines = list(map(str.rstrip, fin))

i = 0
while i < len(lines):
    # 向后扫描:只要下一行以当前行为前缀,就跳过当前行
    while i + 1 < len(lines) and lines[i + 1].startswith(lines[i]):
        i += 1
    # 此时lines[i]是当前前缀链的末端(最长行),输出它
    print(lines[i])
    i += 1

关键逻辑说明

云从科技AI开放平台
云从科技AI开放平台

云从AI开放平台

下载

立即学习Python免费学习笔记(深入)”;

  • 使用 str.startswith() 判断前缀关系,天然支持空字符串和边界情况;
  • 外层 while 遍历每一“链起点”,内层 while 快进至该链终点;
  • 每次循环只输出链尾,不输出中间任何前缀行。

⚠️ 注意事项

  • 输入行必须严格按前缀顺序排列(如示例所示)。若顺序混乱(如“This line has”出现在“This”之前),该算法将失效;如需鲁棒性更强的处理(如任意顺序下找最长非前缀子集),需改用排序+集合筛法,但复杂度上升;
  • rstrip() 是必需的——否则换行符会影响 startswith 判断;
  • 若需写入文件而非打印,将 print(lines[i]) 替换为 outfile.write(lines[i] + '\n') 即可(注意手动补回换行符)。

该方法时间复杂度为 O(n×m),其中 n 为行数、m 为平均行长度,适用于常规日志或配置文本清洗场景,简洁高效,无需额外依赖。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

193

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

19

2026.02.03

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

107

2023.09.25

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

760

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1567

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

650

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1228

2024.03.22

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号