net/http 无法实现真正负载均衡,因其缺乏服务发现、健康检查和请求分发能力;需基于 httputil.NewSingleHostReverseProxy 自研反向代理,并扩展轮询/最少连接策略及异步健康探测。

为什么直接用 net/http 无法实现真正的负载均衡
Go 标准库的 net/http 本身不提供服务发现、健康检查或请求分发能力。它只是 HTTP 服务器/客户端基础组件,所谓“负载均衡”必须由你主动构造转发逻辑——比如启动一个反向代理服务,再在其中决定把请求发给哪台后端。否则所有流量只会打到单个 http.Serve() 实例上,和负载均衡毫无关系。
常见误区是以为起多个 http.ListenAndServe() 就算“多实例”,但没有统一入口做分发,客户端仍需自己轮询 IP,这属于客户端负载均衡,且缺乏故障转移能力。
- 真正服务端负载均衡需要一个中心化入口(如自研 LB 服务或接入 Nginx)
- Go 更适合作为被调度的后端节点,而非替代专业 LB 软件
- 若坚持用 Go 实现轻量 LB,核心是封装
httputil.NewSingleHostReverseProxy并扩展路由与健康检查
用 httputil.NewSingleHostReverseProxy 做最简反向代理
这是 Go 官方提供的可复用反向代理构造器,能直接复用连接池、处理 Upgrade 头、保留原始 Host 等。但它只支持单目标 host,要支持多后端,得自己包装 Director 函数来动态改写 req.URL。
关键点在于:每次请求进来时,Director 被调用,你在这里选后端地址并重写 req.URL.Scheme、req.URL.Host,其他字段(如 Path、Query)保持不变即可。
立即学习“go语言免费学习笔记(深入)”;
-
Director必须是无状态或线程安全的;避免在其中做耗时操作(如 HTTP 健康探测) - 后端地址建议用
*url.URL预解析,避免每次请求都调用url.Parse - 记得显式设置
req.Header.Set("X-Forwarded-For", clientIP),否则后端拿不到真实来源
proxy := httputil.NewSingleHostReverseProxy(&url.URL{Scheme: "http", Host: "127.0.0.1:8081"})
proxy.Director = func(req *http.Request) {
backend := pickBackend() // 你的选择逻辑
req.URL.Scheme = backend.Scheme
req.URL.Host = backend.Host
req.Header.Set("X-Forwarded-For", getClientIP(req))
}
轮询(Round Robin)与最少连接(Least Conn)策略怎么写
轮询最简单:维护一个原子计数器,取模后端列表长度;最少连接则需每个后端记录当前活跃连接数,用 sync.Map 或带锁结构缓存,并在 Director 中读取、在 ModifyResponse 或中间件中增减计数。
注意:Go 的 HTTP server 默认启用 keep-alive,一个 TCP 连接可能承载多个 HTTP 请求,所以“连接数”不能只靠 http.Transport.MaxIdleConnsPerHost 控制,而应统计实际并发处理中的 handler 入口/出口。
- 轮询适合后端性能均一、无状态场景;若某台机器 CPU 已满,轮询仍会继续派发
- 最少连接对瞬时压力敏感,但需额外同步开销,且无法感知后端响应延迟或错误率
- 生产环境建议配合定期健康探测(如每 5 秒 GET /health),将失败节点临时剔除
为什么不要在 Director 里做健康检查
因为 Director 在每次请求路径上同步执行,如果这里发起 HTTP 请求探测后端,整个代理请求就会卡住,吞吐量断崖下跌。错误日志里常看到 context deadline exceeded 或大量超时,根源就是这个。
正确做法是另起 goroutine 周期性探测,结果存入内存缓存(如 map[string]bool 加 sync.RWMutex),Director 只做快速查表。失败节点可标记为“熔断中”,持续 30 秒后自动重试。
- 探测间隔建议 3–10 秒,超时设为 1 秒以内,避免堆积
- 避免使用
time.Sleep在主 goroutine 等待,一律用time.Ticker - 首次启动时,所有后端默认为健康,等第一次探测完成再更新状态










