ApacheFlink部署模式-创新互联

目录

创新互联欢迎来电:18982081108,为您提供成都网站建设网页设计及定制高端网站建设服务,创新互联网页制作领域10年,包括雨棚定制等多个领域拥有丰富的营销推广经验,选择创新互联,为网站保驾护航。

会话模式 Session Mode 

单作业模式 Per-Job Mode (deprecated)

应用模式 Application Mode


在一些应用场景中,对于集群资源分配和占用的方式,可能会有特定的需求。Flink 为各种场景提供了不同的部署模式,主要有以下三种:

in Session Mode会话模式

in a Per-Job Mode (deprecated)

单作业模式

in Application Mode

应用模式


会话模式 Session Mode 

会话模式其实最符合常规思维。我们需要先启动一个集群,保持一个会话,在这个会话中通过客户端提交作业,集群启动时所有资源就都已经确定,所以所有提交的作业会竞争集群中的资源。

会话模式比较适合于单个规模小、执行时间短的大量作业。


单作业模式 Per-Job Mode (deprecated)

会话模式因为资源共享会导致很多问题,所以为了更好地隔离资源,我们可以考虑为每个提交的作业启动一个集群,这就是所谓的单作业(Per-Job)模式,Flink 本身无法直接这样运行,所以单作业模式一般需要借助一些资源管理平台来启动集群,比如 YARN、K8S。


应用模式 Application Mode

前面提到的两种模式下,应用代码都是在客户端上执行,然后由客户端提交给 JobManager的。但是这种方式客户端需要占用大量网络带宽,去下载依赖和把二进制数据发送给JobManager;加上很多情况下我们提交作业用的是同一个客户端,就会加重客户端所在节点的资源消耗。所以解决办法就是,我们不要客户端了,直接把应用提交到 JobManger 上运行。而这也就代表着,我们需要为每一个提交的应用单独启动一个 JobManager,也就是创建一个集群。这个 JobManager 只为执行这一个应用而存在,执行结束之后 JobManager 也就关闭了,这就是所谓的应用模式。

应用模式与单作业模式,都是提交作业之后才创建集群;单作业模式是通过客户端来提交的,客户端解析出的每一个作业对应一个集群;而应用模式下,是直接由 JobManager 执行应用程序的,并且即使应用包含了多个作业,也只创建一个集群。

你是否还在寻找稳定的海外服务器提供商?创新互联www.cdcxhl.cn海外机房具备T级流量清洗系统配攻击溯源,准确流量调度确保服务器高可用性,企业级服务器适合批量采购,新人活动首月15元起,快前往官网查看详情吧


分享文章:ApacheFlink部署模式-创新互联
文章来源:http://scjbc.cn/article/epcei.html

其他资讯