0

0

C#读取大文件最后几行 C#如何高效获取日志文件的最新内容

幻夢星雲

幻夢星雲

发布时间:2026-02-13 10:22:00

|

449人浏览过

|

来源于php中文网

原创

不能用File.ReadAllLines读大日志文件,因其会将整个文件加载到内存导致OutOfMemoryException;应使用FileStream反向扫描换行符,逐字节从末尾向前读取并累计行数,兼容\r\n和\n,注意文件共享、编码及并发写入问题。

c#读取大文件最后几行 c#如何高效获取日志文件的最新内容

为什么不能用 File.ReadAllLines 读大日志文件

直接加载整个文件到内存会触发 OutOfMemoryException,尤其当日志超几百 MB 甚至 GB 时。Windows 下单个 .NET 进程在 32 位模式下默认只能用 2GB 虚拟地址空间,64 位虽宽裕但依然扛不住几十 GB 的日志。更关键的是,你只关心最后几行,却把前面几百万行全读进来再丢弃——纯属浪费 CPU 和 GC 压力。

FileStream 从文件末尾反向扫描换行符

核心思路是:打开文件流,Seek 到末尾,然后逐字节往前读,统计 '\n'(Unix/Linux)或 "\r\n"(Windows)出现的次数,直到凑够目标行数或碰到文件开头。注意必须用 FileStream + BinaryReader 或手动 ReadByte,不能用 StreamReader,因为它内部缓冲机制会破坏反向定位逻辑。

常见坑:

  • File.OpenRead(path) 默认不支持 Seek,得用 FileMode.Open + FileAccess.Read + FileShare.Read 显式打开
  • Windows 日志可能含 \r\n,Linux 是 \n,需兼容判断;若文件以 \r\n 结尾,末尾可能多出一个空行,要跳过
  • 文件编码不确定时,别假设是 UTF8;建议按字节处理换行符,行内容再用 Encoding.DefaultEncoding.UTF8 解码(日志通常不带 BOM,UTF8 更安全)

封装成可复用的 ReadTailLines 方法

下面是一个轻量实现,返回 IEnumerable<string></string>,支持延迟执行、避免一次性分配大数组:

OFFER快
OFFER快

首个全流程托管的 AI 求职 Agent(自动筛选、沟通、网申)

下载
public static IEnumerable<string> ReadTailLines(string path, int lineCount = 10)
{
    using var fs = new FileStream(path, FileMode.Open, FileAccess.Read, FileShare.Read, 4096, FileOptions.SequentialScan);
    if (fs.Length == 0) yield break;
<pre class="brush:php;toolbar:false;">var buffer = new byte[1];
long pos = fs.Length - 1;
int linesFound = 0;
var lineBuilder = new List<byte>();

while (pos >= 0 && linesFound < lineCount)
{
    fs.Seek(pos, SeekOrigin.Begin);
    fs.Read(buffer, 0, 1);

    if (buffer[0] == '\n' || (buffer[0] == '\r' && pos > 0 && fs.ReadByte() == '\n'))
    {
        if (lineBuilder.Count > 0)
        {
            linesFound++;
            yield return Encoding.UTF8.GetString(lineBuilder.AsReadOnly().ToArray());
            lineBuilder.Clear();
        }
        // 跳过 \r\n 两个字节
        if (buffer[0] == '\r') pos--;
    }
    else if (pos == 0 || buffer[0] == '\r')
    {
        // 文件开头或孤立 \r,也视为一行结束
        if (lineBuilder.Count > 0 || pos == 0)
        {
            linesFound++;
            if (pos == 0 && buffer[0] != '\n' && buffer[0] != '\r')
                lineBuilder.Add(buffer[0]);
            yield return Encoding.UTF8.GetString(lineBuilder.AsReadOnly().ToArray());
        }
    }
    else
    {
        lineBuilder.Insert(0, buffer[0]);
    }
    pos--;
}

// 处理第一行(文件开头没换行的情况)
if (linesFound < lineCount && lineBuilder.Count > 0)
{
    yield return Encoding.UTF8.GetString(lineBuilder.ToArray());
}

}

生产环境要注意文件被其他进程写入

日志文件常被追加写入,FileStream 打开时若没加 FileShare.Write,可能抛 IOException;但加了之后,需接受“读到半截行”的风险——比如某次写入正在写入第 1001 行中间,你刚好扫到那里,就可能解码失败或得到乱码。解决办法只有两个:

  • 捕获 DecoderFallbackExceptionArgumentException,对异常行用 Encoding.GetChars 加容错解码
  • 更稳妥的做法是:先 GetLastWriteTime 记录时间戳,再用 FileSystemWatcher 监听 Changed 事件,仅当文件大小增长且修改时间更新后才重新读尾部——这适合轮询场景,避免高频扫描

真正难处理的是多进程并发写同一个日志文件(如多个服务实例共用一个 log.txt),此时连文件长度都可能不准;这种架构本身就有问题,优先考虑换成按日期分片或用 ConcurrentQueue + 单独日志线程落盘。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

653

2023.08.10

default gateway怎么配置
default gateway怎么配置

配置default gateway的步骤:1、了解网络环境;2、获取路由器IP地址;3、登录路由器管理界面;4、找到并配置WAN口设置;5、配置默认网关;6、保存设置并退出;7、检查网络连接是否正常。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

226

2023.12.07

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1068

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1145

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

818

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

460

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2358

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

850

2023.08.10

Flutter跨平台开发与状态管理实战
Flutter跨平台开发与状态管理实战

本专题围绕Flutter框架展开,系统讲解跨平台UI构建原理与状态管理方案。内容涵盖Widget生命周期、路由管理、Provider与Bloc状态管理模式、网络请求封装及性能优化技巧。通过实战项目演示,帮助开发者构建流畅、可维护的跨平台移动应用。

0

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 9.3万人学习

C 教程
C 教程

共75课时 | 4.7万人学习

C++教程
C++教程

共115课时 | 17.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号