大数据_Flink_数据处理_运行时架构7_程序结构和数据流图---Flink工作笔记0022
2022/3/1 11:21:59
本文主要是介绍大数据_Flink_数据处理_运行时架构7_程序结构和数据流图---Flink工作笔记0022,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
然后我们再来看实际上,flink对数据的处理,反应到代码上可以看到都是对DataStream的处理对吧,然后我们看,可以分成3个部分,一个是source部分,这里就是对源数据流的读取,
然后transformation这个是转换的意思对吧,是对数据流的转换,然后再看sink这个是对数据流的输出
对吧.
transformation这个步跟spark不一样,不会区分转换算子和启动算子.
然后我们再看,把上面的 程序代码分成了3个部分以后,再去看可以看成一个数据流图了,
其实就是数据流的流动对吧,流动的各个阶段做了各种处理,这里要注意,可以看到输入source,这里
可以有多个,源数据的流也可以有多个,然后sink,也可以有多个对吧,因为这里输出sink,可以输出到
mysql,也可以输出到redis,csv等等,可以有多个输出.
然后上面的这个数据流图可以看到他是一个有向无环图对吧.
这篇关于大数据_Flink_数据处理_运行时架构7_程序结构和数据流图---Flink工作笔记0022的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-14使用AWS Lambda和S3打造智能文件整理器 - (动手搭建系列)
- 2024-11-14Netflix简化营收基础设施中的合同管理工具
- 2024-11-142024年必备的6款开源Terraform神器
- 2024-11-14Spin 3.0来啦:全新功能让你的无服务器Wasm应用开发更上一层楼
- 2024-11-14如何高效管理项目?小团队到大企业的多功能项目管理工具推荐
- 2024-11-1333 张高清大图,带你玩转 KubeSphere 4.1.2 部署与扩展组件安装
- 2024-11-11Spark 新作《循序渐进 Spark 大数据应用开发》简介
- 2024-11-11KubeSphere 社区双周报| 2024.10.25-11.07
- 2024-11-11云原生周刊:Istio 1.24.0 正式发布
- 2024-11-10一个故事,为你理清云开发服务的选择思路