Go语言TCP长连接：多文件传输导致文件合并问题分析及解决方案
本文分析了使用Go语言进行TCP长连接传输多个文件时，所有文件内容合并写入同一个文件的现象，并提供了解决方案。
问题描述:
在Go语言中，使用TCP长连接从服务器A向服务器B传输多个文件时，所有文件内容都被写入到服务器B的同一个文件中，而非各自独立的文件。
立即学习“go语言免费学习笔记（深入）”；
代码示例 (已简化):
发送端:
package main
import (
"fmt"
"io"
"log"
"net"
"os"
)
func main() {
conn, err := net.Dial("tcp", ":9900")
if err != nil {
log.Fatal(err)
}
defer conn.Close()
files := []string{"./file/1.jpg", "./file/2.jpg"}
for _, file := range files {
f, err := os.Open(file)
if err != nil {
log.Fatal(err)
}
defer f.Close()
io.Copy(conn, f) // 直接复制文件内容到连接
}
}
接收端: (问题代码)
package main
import (
"fmt"
"io"
"log"
"net"
"os"
)
func main() {
listener, err := net.Listen("tcp", ":9900")
if err != nil {
log.Fatal(err)
}
defer listener.Close()
for {
conn, err := listener.Accept()
if err != nil {
log.Fatal(err)
}
go handleConnection(conn)
}
}
func handleConnection(conn net.Conn) {
defer conn.Close()
f, err := os.OpenFile("./tmp/merged.jpg", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0666) // 错误：所有数据写入同一个文件
if err != nil {
log.Fatal(err)
}
defer f.Close()
io.Copy(f, conn)
}
问题根源:
TCP是一种面向字节流的协议，它不提供任何内置机制来区分传输的数据块属于哪个文件。发送端连续发送文件数据，接收端也连续接收，导致所有数据被视为一个整体写入到同一个文件中。
解决方案:
需要在应用层添加协议来标识文件边界。以下提供两种常见方法：
方法一：添加文件长度前缀
在发送每个文件之前，先发送一个表示文件长度的整数（例如，使用binary.Write写入文件大小）。接收端读取这个长度，然后读取相应长度的数据，即可区分不同的文件。
改进后的代码 (示例):
发送端:
import (
"encoding/binary"
// ... other imports
)
// ... other functions
for _, file := range files {
// ... open file
fileInfo, _ := f.Stat()
fileSize := fileInfo.Size()
binary.Write(conn, binary.BigEndian, fileSize) // 发送文件大小
io.Copy(conn, f)
}
接收端:
import (
"encoding/binary"
// ... other imports
)
// ... other functions
var fileSize int64
binary.Read(conn, binary.BigEndian, &fileSize) // 读取文件大小
f, err := os.Create(fmt.Sprintf("./tmp/%d.jpg", fileCounter)) // 为每个文件创建新文件
if err != nil {
log.Fatal(err)
}
io.CopyN(f, conn, fileSize) // 读取指定长度的数据
f.Close()
fileCounter++
方法二：使用自定义协议或JSON
定义一个更复杂的协议，例如使用JSON格式，每个JSON对象包含文件名和文件内容（可以使用Base64编码）。接收端解析JSON，根据文件名创建文件，并写入解码后的文件内容。 这更灵活，但实现更复杂。
选择哪种方法取决于项目的复杂性和需求。 对于简单的场景，方法一就足够了；对于更复杂的场景，方法二可能更适合。 记住始终处理潜在的错误，例如网络错误和文件I/O错误。
