0

0

Linux flannel 的 backend vxlan vs host-gw 的延迟与吞吐实测

冷漠man

冷漠man

发布时间:2026-02-22 15:21:37

|

249人浏览过

|

来源于php中文网

原创

vxlan延迟比host-gw高0.2–0.8ms,因其需udp封装/解封装、fdb查表及绕过fast path进入gso/gro流程,而host-gw仅路由查表后二层转发;host-gw要求节点同二层广播域,跨路由器、云overlay或vlan未透传即失效。

linux flannel 的 backend vxlan vs host-gw 的延迟与吞吐实测

vxlan backend 的延迟为什么比 host-gw 高 0.2–0.8ms

因为 VXLAN 在内核协议栈里多走了一层封装/解封装:原始 IP 包被包进 UDP,再加一层 IP 头,发出去前要查 FDB、更新 VTEP 表;接收时反向操作。host-gw 则只是查路由表后直接二层转发,不碰隧道逻辑。

实测中,同一台宿主机上两个 Pod 通信(跨节点),vxlan 平均 ping 延迟约 1.1ms,host-gw 约 0.4ms——差值主要卡在 vethflannel.1UDP 封装链路。

  • UDP 封装本身不耗时,但触发 skb->encapsulation = 1 后会绕过部分 fast path,进入更重的 GSO/GRO 流程
  • flanneld 每次 ARP 学习要写 /run/flannel/subnet.env 并触发 iptables 规则刷新,高频建连时有抖动
  • VXLAN 默认 MTU 是 1450,若底层网络不支持 jumbo frame,小包分片概率上升,进一步拉高延迟毛刺

host-gw 在什么网络环境下根本跑不起来

host-gw 要求所有 Node 必须在同一个二层广播域,也就是能直接通过 MAC 地址通信。一旦中间隔着路由器、VLAN 透传未开、或云厂商用了 overlay 网络(比如 AWS 的 VPC、阿里云的经典网络后端),host-gw 就会静默失效:路由写了,但 ARP 请求发不出去,arping -I eth0 <next-hop></next-hop> 直接超时。

Gaga
Gaga

曹越团队开发的AI视频生成工具

下载
  • 公有云环境基本排除 host-gw,除非你明确确认宿主机网卡直通物理交换机且 VLAN 全放开
  • 混合云或跨 IDC 场景,即使物理链路可达,只要中间有三层设备做策略路由或 ACL 限 UDP/ICMP,host-gw 的 ARP 探测就会失败
  • flanneld 日志里如果反复出现 failed to acquire lease: node xxx has no ipfailed to send ARP request,大概率是二层不通

吞吐压测时 vxlan 和 host-gw 的真实差异在哪

iperf3 -c <pod-ip> -t 30 -P 8</pod-ip> 测跨节点带宽,host-gw 通常能跑到宿主机间直连的 92–96%,vxlan 在 85–90% 左右。差距不是出在“加密”或“CPU 占用高”,而是内核处理路径不同:

  • host-gw 走的是 dev_queue_xmit() 直发,路径短,GRO 合并效率高
  • vxlanudp_sendmsg()ip_local_out()__dev_queue_xmit() 多跳,且 UDP 校验和计算、TTL 递减、FDB 查表都在线上完成,对缓存局部性不友好
  • 当开启 net.ipv4.udp_l3mdev_accept = 1 且使用多队列网卡时,vxlan 的软中断分布更容易不均,单核打满导致吞吐瓶颈

示例:在 10Gbps 网卡上,host-gw 实测稳定 9.3Gbps,vxlan 在无调优下仅 8.1Gbps;加上 ethtool -L eth0 combined 16 + sysctl net.core.rmem_max=16777216 后可提到 8.7Gbps,但仍低于 host-gw。

flannel 启动时怎么强制选 backend 还不踩坑

backend 不是在启动参数里硬编码的,而由 flanneld 自动探测:先查 /run/flannel/options.env 或 CLI --backend-type,没设就 fallback 到 vxlan。但很多人忽略 --iface--ip-masq 的联动影响。

  • 显式指定必须用 flanneld --backend-type=host-gw --iface=eth0,不能只写 --backend-type=host-gw——否则它可能选错网卡,导致路由指向错误接口
  • host-gw--ip-masq=true 会干扰 SNAT,建议关掉;vxlan 下可以开,用于访问集群外服务
  • 修改 backend 后必须删掉 /run/flannel/subnet.env/var/run/flannel/subnet.env,否则 flanneld 会沿用旧子网配置,Pod CIDR 冲突
  • 验证是否生效:看 ip route show table flannelhost-gw 应该全是 via <node-ip> dev eth0</node-ip>vxlan 则是 via <vtep-ip> dev flannel.1</vtep-ip>
实际部署中最容易被忽略的,是 host-gw 对底层网络拓扑的零容忍——它不报错,只静默丢包;而 vxlan 的性能损耗不是常量,会随并发连接数、MTU、网卡驱动版本明显浮动。测之前务必确认你的 ethtool -i eth0 输出里 driver 是 ixgbe 还是 virtio_net,这两者在 UDP 封装路径上的表现差一倍。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1557

2023.10.24

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1583

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

463

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2274

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

40

2026.01.19

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

421

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

595

2023.08.10

tcp和udp的区别
tcp和udp的区别

TCP和UDP的区别,在连接性、可靠性、速度和效率、数据报大小以及适用场景等方面。本专题为大家提供tcp和udp的区别的相关的文章、下载、课程内容,供大家免费下载体验。

123

2023.07.25

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

1030

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 9.5万人学习

Git 教程
Git 教程

共21课时 | 3.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号