0

0

Python 指标埋点的 cardinality 控制

冷漠man

冷漠man

发布时间:2026-02-18 14:27:04

|

565人浏览过

|

来源于php中文网

原创

根本原因是标签组合爆炸导致基数过高,如用user_id、request_id等高基数字段作标签会使时间序列数指数增长,引发oom。

python 指标埋点的 cardinality 控制

为什么 statsdprometheus_client 的指标打多了会 OOM?

根本原因不是数据量大,而是标签组合爆炸——也就是 cardinality 过高。比如用 user_idrequest_idtrace_id 甚至 ip 作为标签,一个请求就生成一个新时间序列,内存和存储会指数级增长。

真实场景里,你可能只看到 MemoryError 或 Prometheus 报 target is unhealthy: context deadline exceeded,但没意识到是指标本身在“自我繁殖”。

  • 避免把高基数字段当标签:如 user_idemailurl_path(含参数)
  • 聚合优先于打点:能用 counter.inc() 统计总数的,别拆成 counter.labels(status="200", user_id="u123").inc()
  • 用直方图(Histogram)代替带状态码+路径的多维 Gauge:比如 HTTP 延迟用 http_request_duration_seconds_bucket,而不是为每个 path + status 单独建指标

prometheus_client 中哪些标签写法实际在造坑?

很多人以为只要不写 user_id 就安全,但其实 request_iduuid4()、甚至 datetime.now().isoformat() 都是隐形高基数陷阱。

关键判断标准是:这个值的取值空间是否随请求线性增长?如果是,它就不该进 .labels()

立即学习Python免费学习笔记(深入)”;

Python开发网站指南 WORD版
Python开发网站指南 WORD版

本文档主要讲述的是Python开发网站指南;HTML是网络的通用语言,一种简单、通用的全置标记语言。它允许网页制作人建立文本与图片相结合的复杂页面,这些页面可以被网上任何其他人浏览到,无论使用的是什么类型的电脑或浏览器 Python和其他程序语言一样,有自身的一套流程控制语句,而且这些语句的语法和其它程序语言类似,都有for, if ,while 类的关键字来表达程序流程。希望本文档会给有需要的朋友带来帮助;感兴趣的朋友可以过来看看

下载
  • 危险写法:metrics_counter.labels(method="GET", path=request.path, status=str(resp.status_code)).inc() —— path 含动态 ID 时,cardinality ≈ 请求量
  • 可接受写法:metrics_counter.labels(method="GET", path="/api/users/{id}", status="200").inc(),前提是 path 是预处理过的模板字符串
  • 更稳做法:用 re.sub(r"/\d+", "/{id}", request.path) 规范化路径,再塞进 labels()

statsd 时怎么防 cardinality 爆炸?

statsd 本身不存标签,但客户端(比如 dogstatsdstatsd-client)支持 tags,一不小心就把 tags=["user_id:123", "host:web-01"] 当成常规操作了。

问题在于:tag 组合 = 新 metric key,服务端(如 Datadog、StatsD server)会为每组唯一 tag 创建独立计数器,内存占用直接翻倍。

  • 禁止在循环或请求处理中动态拼 tag:比如 statsd.increment("http.requests", tags=[f"user_id:{uid}"])
  • 只允许有限白名单 tag:如 env:prodservice:authmethod:POST,且值必须来自枚举
  • 用采样降频:对非核心维度加 rate=0.01,比如 statsd.gauge("user.balance", balance, tags=["currency:usd"], rate=0.01)

如何快速发现已存在的高基数指标?

别等报警,先查指标本身的 series 数量。Prometheus 提供 count({__name__=~".+"}) 是总时间序列数,但更实用的是定位具体指标:

  • 查 top 10 高基数指标:count by (__name__) ({__name__=~".+"}) | sort_desc(在 Prometheus 表达式浏览器里跑)
  • 看单个指标的 label 组合数:count by (job, instance) (rate(http_requests_total[1h])),如果结果 > 1000,说明 job/instance 维度已经过细
  • curl http://localhost:9090/api/v1/status/tsdb | jq '.data.seriesCount' 监控总量,超过 100 万要警觉

最常被忽略的一点:cardinality 不是静态的,它会随着业务增长缓慢爬升。今天 500 个 path 标签,下个月可能变成 5000 —— 没有自动化监控的话,等发现时往往已经拖垮了整个监控链路。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
counta和count的区别
counta和count的区别

Count函数用于计算指定范围内数字的个数,而CountA函数用于计算指定范围内非空单元格的个数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

199

2023.11.20

curl_exec
curl_exec

curl_exec函数是PHP cURL函数列表中的一种,它的功能是执行一个cURL会话。给大家总结了一下php curl_exec函数的一些用法实例,这个函数应该在初始化一个cURL会话并且全部的选项都被设置后被调用。他的返回值成功时返回TRUE, 或者在失败时返回FALSE。

452

2023.06.14

linux常见下载安装工具
linux常见下载安装工具

linux常见下载安装工具有APT、YUM、DNF、Snapcraft、Flatpak、AppImage、Wget、Curl等。想了解更多linux常见下载安装工具相关内容,可以阅读本专题下面的文章。

181

2023.10.30

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

553

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

216

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1553

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

640

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

945

2024.03.22

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

561

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号