0

0

2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)

星夢妙者

星夢妙者

发布时间:2025-10-03 10:32:08

|

175人浏览过

|

来源于php中文网

原创

day02-03_流批一体API今日目标 流处理原理初探 流处理概念(理解) 程序结构之数据源Source(掌握) 程序结构之数据转换Transformation(掌握) 程序结构之数据落地Sink(掌握) Flink连接器Connectors(理解) 流处理原理初探 Flink的角色分配 JobMaster 老大, 主要负责 集群的管理, 故障的恢复, checkpoint 检查点设置taskmanager worker 小弟, 具体负责任务的执行节点client 提交任务的界面 taskmanager 执行能力 taskslot 静态的概念parallelism 并行度 动态概念

2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)
每个节点就是一个 task 任务 每个任务拆分成多个并行处理的任务, 多个线程就有多个子任务,就叫子任务 subtask 流图 StreamGraph 逻辑执行流图 DataFlow operator chain 操作链 JobGraph ExecuteGraph 物理执行计划 Event 事件 带有时间戳的 Operator 传递模式 : one to one 模式, redistributing模式
2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)
Flink之执行图
2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)
流处理概念数据的时效性 强调的是数据的处理时效 处理的时间窗口, 按月, 按天, 按小时还是秒级处理 流处理和批处理 批处理是有界的数据 处理完整的数据集, 比如排序数据, 计算全局的状态, 生成最终的输入概述.批量计算: 统一收集数据->存储到DB->对数据进行批量处理 流处理是无界的数据 窗口操作来划分数据的边界进行计算流式计算,顾名思义,就是对数据流进行处理 在Flink1.12时支持流批一体 既支持流处理也支持批处理。
2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)
流批一体 Flink1.12.x 批处理和流处理 可复用性: 作业在流模式或者批处理两种模式自由切换, 无需重写任何代码.维护简单: 统一的 API 意味着流和批可以共用同一组 connector,维护同一套代码.编程模型
2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)
source - 读取数据源transformation - 数据转换 map flatMap groupBy keyBy sumsink - 落地数据 addSink printSource基于集合的Source合并-拆分分流 select 和 outputside数据重平衡 rebalanceSink预定义Sink代码语言:javascript代码运行次数:0运行复制
<code class="javascript">/** * Author itcast * Desc * 1.ds.print 直接输出到控制台 * 2.ds.printToErr() 直接输出到控制台,用红色 * 3.ds.collect 将分布式数据收集为本地集合 * 4.ds.setParallelism(1).writeAsText("本地/HDFS的path",WriteMode.OVERWRITE) */public class SinkDemo01 {    public static void main(String[] args) throws Exception {        //1.env        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();        //2.source        //DataStream ds = env.fromElements("hadoop", "flink");        DataStream<String> ds = env.readTextFile("data/input/words.txt");        //3.transformation        //4.sink        ds.print();        ds.printToErr();        ds.writeAsText("data/output/test", FileSystem.WriteMode.OVERWRITE).setParallelism(2);        //注意:        //Parallelism=1为文件        //Parallelism>1为文件夹        //5.execute        env.execute();    }}</code>
自定义SinkConnectorFlink官方提供的连接器, 用于连接 JDBC 或者 Kafka ,MQ等JDBC 连接方式Kafka 连接方式从 kafka 集群中消费数据Flink写入到 Redis 数据库问题 vmware 打开镜像文件 15.5.x 升级为 16.1.0 , 可以升级为 fromSequece(1,10) , CPU 12线程, from log
2021年最新最全Flink系列教程_Flink原理初探和流批一体API(二.五)

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
kafka消费者组有什么作用
kafka消费者组有什么作用

kafka消费者组的作用:1、负载均衡;2、容错性;3、广播模式;4、灵活性;5、自动故障转移和领导者选举;6、动态扩展性;7、顺序保证;8、数据压缩;9、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

175

2024.01.12

kafka消费组的作用是什么
kafka消费组的作用是什么

kafka消费组的作用:1、负载均衡;2、容错性;3、灵活性;4、高可用性;5、扩展性;6、顺序保证;7、数据压缩;8、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

159

2024.02.23

rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

Java 流式处理与 Apache Kafka 实战
Java 流式处理与 Apache Kafka 实战

本专题专注讲解 Java 在流式数据处理与消息队列系统中的应用,系统讲解 Apache Kafka 的基础概念、生产者与消费者模型、Kafka Streams 与 KSQL 流式处理框架、实时数据分析与监控,结合实际业务场景,帮助开发者构建 高吞吐量、低延迟的实时数据流管道,实现高效的数据流转与处理。

180

2026.02.04

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

786

2023.08.10

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

41

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

67

2025.11.17

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

69

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
React 教程
React 教程

共58课时 | 6.1万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 3.5万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号