使用bufio.Reader可减少系统调用,提升读取效率,如ReadString按分隔符读取;2. bufio.Writer缓存写入数据,需Flush确保落盘,适合批量日志写入。

在Go语言中,bufio 包是提升I/O性能的关键工具。默认的I/O操作(如 os.File.Read/Write)每次都会触发系统调用,频繁的小数据读写会导致性能下降。通过使用 bufio.Reader 和 bufio.Writer,可以有效减少系统调用次数,显著提升程序效率。
使用 bufio.Reader 提升读取效率
当从文件、网络连接或标准输入读取数据时,直接调用 Read() 会逐字节或小块读取,效率较低。使用 bufio.Reader 可以预先读取一块数据到缓冲区,后续读取操作优先从内存中获取。
常见方法包括:
- reader.ReadString(delimiter):按分隔符读取字符串,适合处理换行或逗号分隔的数据。
- reader.ReadLine():低层次读取单行,返回字节切片和是否超出长度限制。
- scanner := bufio.NewScanner(r):结合 Scanner 使用更简洁,特别适合逐行处理大文件。
file, _ := os.Open("large.log")
defer file.Close()
reader := bufio.NewReader(file)
for {
line, err := reader.ReadString('\n')
if err != nil { break }
process(line)
}
使用 bufio.Writer 减少写入系统调用
频繁写入小量数据(如日志记录)会导致大量系统调用。使用 bufio.Writer 将数据先写入缓冲区,待缓冲区满或手动调用 Flush() 时才真正写入底层设备。
立即学习“go语言免费学习笔记(深入)”;
关键点:
- 写入操作默认不立即落盘,需调用 writer.Flush() 确保数据写出。
- 合理设置缓冲区大小(如4KB、8KB),避免过小失去意义或过大占用内存。
- 程序结束前必须调用
Flush(),否则可能丢失最后一批数据。
file, _ := os.Create("log.txt")
defer file.Close()
writer := bufio.NewWriterSize(file, 4096) // 自定义缓冲区大小
for i := 0; i < 1000; i++ {
fmt.Fprintln(writer, "log entry", i)
}
writer.Flush() // 必须刷新
Scanner 的高级用法与性能权衡
bufio.Scanner 是构建在 bufio.Reader 之上的便利工具,适用于文本解析场景。它默认按行切分,也支持自定义分割函数。
优化建议:
- 处理超长行时,调整 Scanner.Buffer([]byte, maxCapacity) 防止报错。
- 对于非文本数据(如二进制协议),实现自定义 split 函数提升解析效率。
- 注意 Scanner 默认限制单行长度为64KB,超过需手动扩容缓冲区。
scanner := bufio.NewScanner(strings.NewReader("a,b,c,d,e"))
scanner.Split(bufio.ScanRunes) // 或自定义split函数
for scanner.Scan() {
fmt.Println(scanner.Text())
}
基本上就这些。合理使用 bufio 能让I/O密集型程序性能提升数倍。关键是根据数据特征选择合适的读写方式,并注意缓冲区管理和刷新时机。不复杂但容易忽略。











