最稳妥的文件读取方式是小文件用os.ReadFile、大文件用bufio.Scanner+os.Open;os.ReadFile适用于配置文件、JSON/YAML模板、日志快照等确定不大的场景。

Go 里读文件最稳妥的方式是用 os.ReadFile(小文件)或 bufio.Scanner + os.Open(大文件/流式处理),别直接用 io.ReadAll 包裹 os.Open,容易忘关文件句柄。
什么时候该用 os.ReadFile?
适合配置文件、JSON/YAML 模板、日志快照等「确定不大」的场景(一般 json.Unmarshal 或 yaml.Unmarshal。
常见错误:对大文件硬套 os.ReadFile,导致内存暴涨甚至 OOM;或者忽略错误直接解包,比如:
data := os.ReadFile("config.json") // ❌ 没检查 error!
正确写法:
立即学习“go语言免费学习笔记(深入)”;
data, err := os.ReadFile("config.json")
if err != nil {
log.Fatal(err) // 或按需处理
}
var cfg Config
json.Unmarshal(data, &cfg)
注意:os.ReadFile 从 Go 1.16 引入,旧版本需用 ioutil.ReadFile(已弃用)或手动处理。
如何安全地逐行读大文件?
用 bufio.Scanner 是标准做法,它默认缓冲 64KB,自动按行切割,且能防止超长行导致 panic(可通过 Scanner.Buffer 调整上限)。
关键点:
- 必须用
os.Open获取*os.File,读完后显式调用Close() -
Scanner.Scan()返回bool,不是 error —— 错误要查Scanner.Err() - 别在循环里用
scanner.Text()结果做长期引用,它底层复用缓冲区,下一次Scan()就会覆盖
示例:
f, err := os.Open("access.log")
if err != nil {
log.Fatal(err)
}
defer f.Close() // 必须 defer!
scanner := bufio.NewScanner(f)
for scanner.Scan() {
line := strings.TrimSpace(scanner.Text()) // 立即拷贝需要的内容
if len(line) == 0 {
continue
}
processLine(line)
}
if err := scanner.Err(); err != nil {
log.Printf("scan error: %v", err)
}
io.ReadFull 和 io.ReadAtLeast 适合什么场景?
当你需要「精确读取固定字节数」时才用它们,比如解析二进制协议头、读取 magic number、处理帧长度固定的网络包。
区别:
-
io.ReadFull(r, buf):要求刚好填满buf,少一个字节就算io.ErrUnexpectedEOF -
io.ReadAtLeast(r, buf, min):至少读min字节,多读不报错,但返回实际读到数
常见坑:
- 传入的
buf长度不够min,ReadAtLeast直接 panic - 对普通文件用
ReadFull读整个内容,文件末尾字节数不足就失败 —— 这不是 bug,是设计如此
所以除非你在写协议解析器,否则基本用不到这两个函数。
为什么不能用 io.ReadAll 直接配 os.Open?
可以,但风险高。因为 io.ReadAll 只负责读,不关文件:
data, err := io.ReadAll(os.Open("huge.bin")) // ❌ 文件没关!
这会造成文件描述符泄漏,尤其在循环中反复调用时,很快 hit ulimit。正确方式是分开写:
f, err := os.Open("huge.bin")
if err != nil {
return err
}
defer f.Close()
data, err := io.ReadAll(f)
if err != nil {
return err
}
更进一步:如果文件真很大,io.ReadAll 会一次性分配全部内存,不如用 io.Copy 流式写到 bytes.Buffer 或磁盘临时文件。
真正容易被忽略的是:Go 的文件操作错误类型很“安静”——比如权限拒绝、路径不存在、设备忙,都统一返回 *os.PathError,需要用 errors.Is(err, fs.ErrNotExist) 或 errors.Is(err, fs.ErrPermission) 做语义判断,而不是字符串匹配。










