0

0

分布式定时任务那些事儿|青训营笔记

絕刀狂花

絕刀狂花

发布时间:2025-07-19 09:32:50

|

1021人浏览过

|

来源于php中文网

原创

一、前言分布式定时任务那些事儿|青训营笔记

以集福开奖为例,后端如何设计最终开奖环节的技术方案?

自动化 + 定时执行 + 大规模数据处理 + 高效稳定性 == 分布式定时任务

二、概述2.1 发展历程• Windows运行批处理文件• Windows任务计划程序• Linux命令—CronJob• 应用程序编码层—单机定时任务(Timer—JavaTicker—GoScheduledExecutorService—线程池技术)• 任务调度—Quartz(单任务极致控制、没有负载均衡机制)• 分布式定时任务(平台化管理、分布式部署、支持海量数据)2.2 分布式定时任务概述定时任务是指系统自动完成特定任务,实时、延时、周期性完成任务调度的过程。

分布式定时任务是一种将分散的、可靠性低的定时任务整合到统一平台,并实现集群管理调度和分布式部署的管理方式。

2.3 分布式定时任务特点• 自动化:自动完成定时任务的调度和执行• 平台化:基于平台化的思维管理一系列的分布式定时任务• 分布式:在分布式系统环境下运行任务调度,突破单机定时任务的性能限制• 伸缩性:采用集群部署,可以按需进行扩缩容• 高可用:单点故障不影响最终任务结果,可以实现故障转移2.4 分布式定时任务执行方式• 单机任务:随机触发一台机器执行任务,适用于计算量小、并发低的任务• 广播任务:广播到所有机器上执行同一个任务,例如所有机器同时清理日志• Map任务:一个任务可以分出多个子任务,每个子任务负责部分计算。适用于计算量大,单机无法满足要求的任务• MapReduce任务:在Map的基础上,还可以对所有子任务的结果进行汇总计算,适用于计算量大且需要对子任务结果进行汇总的任务分布式定时任务那些事儿|青训营笔记2.5 业内定时任务框架分布式定时任务那些事儿|青训营笔记三、实现原理3.1 核心架构分布式定时任务那些事儿|青训营笔记分布式定时任务核心要解决触发、调度、执行三个关键问题。

• 触发器:Trigger,解析任务,生成触发事件• 调度器:Scheduler,分配任务,管理任务生命周期• 执行器:Executor,获取执行任务单元,执行任务逻辑3.2 控制台分布式定时任务那些事儿|青训营笔记• 任务:Job,任务元数据• 任务实例:JobInstance,周期任务会生成多个任务实例• 任务结果:JobResult,任务实例运行的结果• 任务历史:JobHistory,用户可以修改任务信息,任务实例对应的任务元数据可以不同,因此使用任务历史存储3.3 触发器给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度,以下是一些触发器设计方案:

飞书多维表格
飞书多维表格

表格形态的AI工作流搭建工具,支持批量化的AI创作与分析任务,接入DeepSeek R1满血版

下载

分布式定时任务那些事儿|青训营笔记不同业务之间的任务调度相互影响怎么办?负责扫描和触发的机器挂了怎么办?

• 存储上:不同国家、业务进行资源隔离• 运行上:不同国家、业务分开执行• 部署时:采用多机房集群化部署,避免单点故障,通过数据库锁或分布式锁保证任务只被触发一次3.4 调度器根据调度的资源来源可以分为两种方案:

• 业务系统提供资源(阿里、美团、字节)• 优点:任务执行逻辑与业务系统共用一份资源,利用率高• 缺点:更容易发生定时任务脚本影响在线业务的事故;不能由定时任务平台控制扩缩容• 定时任务平台提供机器资源(字节)• 优点:任务执行逻辑与业务系统提供的在线服务隔离,避免相互影响,可以优化扩缩容• 缺点:消耗更多机器资源;需要额外为定时任务平台申请接口调用权限,而不能直接继承业务系统的权限资源调度—节点选择:

• 随机节点执行:选择集群中的一个可用的执行节点执行调度任务。适用场景:定时对账• 广播执行:在集群中所有的执行节点分发调度任务并执行。适用场景:批量运维• 分片执行:按照用户自定义的分片逻辑进行拆分,分发到集群中不同节点并执行,提升资源利用效率。适用场景:海量日志统计分布式定时任务那些事儿|青训营笔记• 故障转移:分片任务基于一致性Hash策略分发任务,当某个执行器异常时,调度器会将任务分发到其他执行器。• 高可用:调度器可以集群部署,做到完全无状态,靠消息队列的重试机制保障任务一定会被调度。分布式定时任务那些事儿|青训营笔记3.5 执行器分布式定时任务那些事儿|青训营笔记基于注册中心,可以实现执行器的弹性扩缩容。

四、业务应用所有需要定时、延时、周期性执行任务的业务场景,都可以考虑使用分布式定时任务

• 电商:订单30分钟未支付自动关闭、定时给商家、达人发送消息、优惠券• 互动:支付宝集五福、字节春节集卡分红包• 游戏:活动结束后批量补发用户未领取的奖励、定期更新游戏内的榜单分布式定时任务那些事儿|青训营笔记五、总结分布式定时任务那些事儿|青训营笔记

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

407

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

251

2023.10.07

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1925

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

656

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2394

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

47

2026.01.19

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 7万人学习

Git 教程
Git 教程

共21课时 | 4.2万人学习

Excel 教程
Excel 教程

共162课时 | 21.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号