0

0

Python中的集中日志

碧海醫心

碧海醫心

发布时间:2025-02-18 20:24:13

|

329人浏览过

|

来源于php中文网

原创

python中的集中日志

本项目旨在构建一个集中式日志记录系统的概念验证 (POC)。由于项目限制,无法使用 Elasticsearch 或其他外部集中式日志收集工具,因此需要处理多种日志输出,例如控制台、文件和日志数据库。鉴于项目中存在多个运行进程,需要一种将所有日志写入文件或数据库的方法。

解决方案是创建一个集中式日志服务器,该服务器接收来自多个客户端的日志并进行处理。服务器是一个独立的进程,负责处理日志。代码已上传至 GitHub: https://www.php.cn/link/c6d18b0ed03091006bd1785ae97156e5

系统架构:

  • 服务器: 持续运行,监听客户端的传入连接。解析接收到的数据,将其转换为日志记录,并通过相应的日志处理程序进行处理。
  • 客户端: 使用套接字处理程序将日志记录发送到服务器。
  • 处理程序: POC 使用 Python 的 StreamHandlerFileHandler(写入日志到文件)和自定义的 SocketHandler(将日志发送到服务器)。

架构优势:

立即学习Python免费学习笔记(深入)”;

  • 可扩展性: 服务器可以处理来自多个进程或系统的日志,实现集中式日志收集。
  • 灵活性: 可在服务器端添加自定义处理程序,例如将日志写入数据库、发送警报等。
  • 解耦: 客户端进程只需发送日志,无需关注日志处理的细节。

日志记录机制:

日志服务器是一个标准的 TCP 服务器,监听来自客户端的传入连接。客户端使用 SocketHandler 发送日志数据,数据以二进制格式传输。前四个字节表示日志记录的长度,之后是序列化后的日志记录。

ModelGate
ModelGate

一站式AI模型管理与调用工具

下载

Python struct 模块中的 >l 格式:

Python 的 struct 模块中的 >l 格式是一种格式说明符,用于打包和解包二进制数据。它指定了字节序、数据类型和大小。

  • >: 指定大端字节序(最高有效字节优先)。
  • l: 指定一个无符号长整数(通常为 4 个字节)。

>l 的作用:

  • struct.pack('>l', value): 将 Python 整数转换为 4 字节的大端二进制表示。
  • struct.unpack('>l', packed): 将 4 字节的大端二进制数据转换为 Python 整数。

示例:

<code class="python">import struct

value = 1024

# 打包整数(大端,无符号长整数)
packed = struct.pack('>l', value)
print(f"packed: {packed}")  # 输出: b'\x00\x00\x04\x00'

# 解包回整数
unpacked = struct.unpack('>l', packed)
print(f"unpacked: {unpacked[0]}")  # 输出: 1024</code>

在日志服务器中的应用:

服务器端代码片段如下所示:首先接收日志记录的长度,然后接收数据本身。长度使用 struct.unpack('>L', length_of_data)[0] 解包,获取数据的实际长度。数据使用 pickle.loads() 接收并反序列化。最后,使用 logging.makeLogRecord() 创建日志记录并发送到日志处理程序。

<code class="python">length_of_data = connection.recv(4)
if not length_of_data:
    break

length = struct.unpack('>L', length_of_data)[0]
log_data = connection.recv(length)
if not log_data:
    break

log_data = pickle.loads(log_data)
log_record = logging.makeLogRecord(log_data)

for handler in self._handlers:
    handler.emit(log_record)</code>

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

338

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

225

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

138

2026.02.12

github中文官网入口 github中文版官网网页进入
github中文官网入口 github中文版官网网页进入

github中文官网入口https://docs.github.com/zh/get-started,GitHub 是一种基于云的平台,可在其中存储、共享并与他人一起编写代码。 通过将代码存储在GitHub 上的“存储库”中,你可以: “展示或共享”你的工作。 持续“跟踪和管理”对代码的更改。

4291

2026.01.21

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

389

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2111

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

357

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

259

2023.09.05

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号