当前位置: 首页 > news >正文

Flink运行时架构以及核心概念

1.运行构架

1.提交作业后启动一个客户端进程,客户端解析参数(-d -t 等等),后进行封装由Actor通信系统提交,取消,更新任务给JobManager。

2.JobManager(进程)通信系统一个组件叫分发器,分发器会启动并提交应用给JobMaster(线程类似于spark里的driver)JobMaster向资源管理器请求资源,资源管理器就会对TaskManager要资源。

3.资源管理器要资源,TaskManager通过通讯走网络把TaskSlot(任务槽)给JobMaster,JobMaster把任务分发出去让TaskManager开始执行任务,最后就是状态更新返回状态结果。

4.一个job对应一个jobmaster

2.核心概念

2.1并行度(Parallelism)

把一个算子操作,复制多份到多个节点。每个算子可以包含多个子任务,子任务在不同的线程,物理机或者容器中完成就是并行度。

2.2算子链

并行度相同的一对一算子操作,可以直接链接在一起形成一个大的任务,每一个这样的任务被一个线程执行,这样的技术被称为算子链。下面原先两个进程合并成一个就不用再跨线程,提高了效率。默认时开启的

2.3任务槽(Task Slots)

用来运行子任务(task)的,将TaskManager分成多份内存。

每个任务槽表示TaskManager拥有计算机的一个固定大小的子集。


http://www.mrgr.cn/news/71362.html

相关文章:

  • 【MQTT】代理服务比较RabbitMQ、Mosquitto 和 EMQX
  • 推荐一个超漂亮ui的网页应用设计
  • 使用控制台对C语言文件的编译执行
  • Kafka新节点加入集群操作指南
  • ubuntu18.04上存储空间分析
  • docker save 和 docker load介绍
  • 非常惨痛的一次lockbit经历
  • 华为路由策略配置
  • 【系统架构设计师】真题论文: 论数据挖掘技术的应用(包括解题思路和素材)
  • Ansible内置模块之known_hosts
  • 抖音热门素材去哪找?优质抖音视频素材网站推荐!
  • idea 添加内嵌代码作者-方法添加作者-设置方法作者-设置[code author]--设置代码修改作者和修改时间
  • Redis下载历史版本
  • MySQL 如何用C语言连接
  • 力扣--树题总结
  • JS爬虫实战之TikTok_Shop验证码
  • Linux_1
  • 软件测试基础二十三 (接口测试 集成UnitTest)
  • 【miniMax开放平台-注册安全分析报告】
  • 前端js用canvas合成图片并转file对象
  • 【GPTs】Get Simpsonized:一键变身趣味辛普森角色
  • 2025计算机毕设选题精选推荐【Java方向】
  • PCB过孔分哪些,设计需注意事项
  • VirtualBox和 Vagrant
  • 力扣 LeetCode 977. 有序数组的平方(Day1:数组)
  • docker使用过程中安装wsl的问题wsl update failed错误0x800701bc