在之前的内容当中,我们为大家介绍过 ChengYing 的安装原理、产品包制作等内容,本篇就延续之前的内容,和大家展开聊聊 ChengYing 产品线部署相关的设计。帮助对「一站式全自动化全生命周期大数据平台运维管家 ChengYing」感兴趣的开发者更好地了解和使用 ChengYing。
(资料图片仅供参考)
首先对 ChengYing 的产品线部署进行一个“自我介绍”,共分为三个部分:
● 支持用户自定义的产品线
在 ChengYing 中,是以组件包的维度部署服务,比如一个 zookeeper 的产品包,会预先定义好 ZK 的包上传到 ChengYing 的系统当中,再去选择要部署的服务以及给 ZK 编排部署机器,以此完成部署。
对于初学者来说,当需要部署多个服务,这些服务又有顺序依赖关系时,会不清楚部署的先后顺序,从而导致部署非常吃力。因此 ChengYing 支持使用 DAG(有向无环图)进行定义灵活可配的组件包部署顺序。目的是为了让熟悉和不熟悉的人都能够通过预定义产品线的形式同时部署多个组件包,从而大大提高部署效率。
● 支持服务的亲和性配置
根据组件包中不同服务的类型,结合主机角色信息自动进行服务主机编排。在接入主机到 ChengYing 系统中时,支持给主机打上对应的标签即角色,相应角色的组件会部署到相应角色的机器上。
● 一键自动部署组件包
基于组件包手动部署,同样的入口,选择不同的产品线部署方式之后,可一键按需迅速完成所需要的多个组件包的同时部署,提高部署效率。
接下来,通过代码设计的角度看看 ChengYing 对产品线部署是如何进行技术设计的。
DAG (有向无环图,Directed Acyclic Graph)是一种常用数据结构,仅就 DAG 而言,它已经在我们日常的各种工具中存在,如依赖系统、数据流系统、数据可视化等。当我们从任务编排的角度来看,DAG 面向普通人术语叫作工作流(Workflow)。
在图论中, 如果一个有向图无法从任意顶点出发经过若干条边回到该点, 则这个图就是一个有向无环图 (DAG 图)。
ChengYing 产品线部署设计的核心就是给定一组任务,按照自定义的方式安排它们的执行顺序,即 DAG。
预先定义某一条产品线中每一个组件包的部署顺序,将其关系使用 DAG 的方式定义为 json 文件,平台自动解析 json 得到部署顺序从而实现自动部署的效果。
· product_line_name: 产品线名称(可预定义)
· product_line_version: 产品线版本(可预定义)
· product_serial: 组件包部署顺序(上图说明 DTBase 的 dependee 为0,表示没有依赖;DTFront 的 dependee 为1,表示依赖 id 为1的组件包)
如果要对复杂对象排序的话,该排序必须包含 Len,Swap,Less 这三个方法。
下面这段源码是 DAG 执行的核心逻辑,对于源码的具体解析可以前往视频进行观看:
https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0
源码本身已经全部开源,可以前往 ChengYing 的 Github 进行学习:
https://github.com/DTStack/chengying
服务亲和性的定义指以预选、优选、选定的机制完成将每个新的服务绑定至为其选出的目标节点上。
在 k8s 中,支持节点和 Pod 两个层级的亲和性、反亲和性调度,通过配置亲和与反亲和的规则,允许指定硬性限制和软性限制,即偏好。
比如将前端的 Pod 和后端的 Pod 部署在一起,这样可以减少网络延迟。或是某一类型的服务部署在某一类型的节点上,不同的应用部署在不同的节点上等。
定义节点亲和性规则时有两种类型的节点亲和性规则 :硬亲和性 required 和软亲和性 preferred。硬亲和性实现的是强制性规则,它是 Pod 调度时必须要满足的规则,而在不存在满足规则的节点时 , Pod 对象会被置为 Pending 状态。
而软亲和性规则实现的是一种柔性调度限制,它倾向于将 Pod 对象运行于某类特定的节点之上,而调度器也将尽量满足此需求,但在无法满足调度需求时它将退而求其次地选择一个不匹配规则的节点。
类似于 k8s,ChengYing 中的服务亲和性和反亲和性也进行了相应的字段设置:
· orchestration.affinity:数组,自动编排角色亲和性【可选】, 但是没有该字段的话,该服务将无法参与自动编排
· orchestration.anti_affinity:数组,自动编排角色反亲和性 【可选】
下面来为大家介绍如何在 ChengYing 中使用产品线的部署。
在【部署中心】-【集群管理】-【集群详情】中,可以给节点编辑对应角色。
角色完成定义之后,就可以在【部署中心】进行部署。支持自动部署(基于产品线顺序部署多个组件包,支持主机角色自动编排),手动部署(基于单个组件包部署,支持自定义主机编排)。
只要把产品线和产品包的亲和性与反亲和性全部定义好之后,开发者进入这个页面会非常一目了然,每一个节点上分配了哪些服务,先后进行怎样的部署等,一键就可以完成这些繁琐的工作,极大提升部署效率。
视频课程:
https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0
课件获取:
https://www.dtstack.com/resources/1037
《数栈产品白皮书》:https://www.dtstack.com/resources/1004?src=szsm
《数据治理行业实践白皮书》下载地址:https://www.dtstack.com/resources/1001?src=szsm
想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=szbky
同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术qun」,交流最新开源技术信息,qun号码:30537511,项目地址:https://github.com/DTStack
在之前的内容当中,我们为大家介绍过ChengYing的安装原理、产品包制作等内容,本篇就延续之前的内容,和大
冬去春来,在辽宁丹东东港市椅圈镇马家岗草莓种植基地的大棚内,种植户赵秀梅正在忙着滴灌、采摘、掐尖,春
战火重燃2023年4月26日,经过2022一年的短暂沉寂,斯蒂尔2023-2024赛季中国伐木大赛在广西南宁战火重燃!斯
今天来聊聊关于我行我素的意思是什么,我行我素的意思的文章,现在就为大家来简单介绍下我行我素的意思是什
文旅强势复苏未来西安旅游还要怎么“玩”?
其实也是巴萨想要接回来梅西,但是巴萨的糟糕财务状况确实是让他们无法简单进行梅西梅西的签约。这三人都是
医保断缴后医保卡还能用多久?医保断缴医保卡不会作废,并且卡里面的钱也不会过期,只是断缴之后无法使用医保卡申请报销了,但是医保卡里面
1、教科版科学五年级上册科学知识第一单元1 种子发芽的必须条件是水分、空气、适宜的温度。2、2 种子发芽可
生育保险自己怎么购买?自己不能购买生育保险,因为规定是生育保险必须由用人单位在保险公司购买,生育保险是公司提供给在职员工的一种福利
信用卡额度可以提取么?信用卡是支持办理取现业务的,但是取现额度是在信用卡的通用授信额度范围内的,按照规定,信用卡的取现额度不能超过
【董小姐股份“冻结”最新公告:写错了!】5月5日晚,格力电器公告称,公司已发布的《2023年第一季度报告》
当地时间5月5日,美股三大指数集体收涨,道指上涨1 65%%,纳指涨2 25%,标普500指数涨1 85%。美国银行股全
三者险保额是一次赔付还是多次?多次。车险第三者保额指的是年度累计额,即在保险年度内,无论出险多少次,只要符合赔偿范围内,累计赔偿不
三七互娱5月5日对外发布2022年年度社会责任暨高质量发展报告,对企业2022年履责情况以及在社会责任践行方面
为什么车险报价不一样?我们以交强险、第三者责任险、车损险为例:1、交强险同款车型交强险首年保费统一的,但车辆出险情况不同的话,价格是
等额本金提前还款怎样更划算?选择等额本金的用户,在办理提前还款的时候,最好是在还款周期只剩三分之一的时候进行提前还款。对于这个时间
生活中许多人会密切留意身体变化,感觉某个地方和平时不一样,会去追根究底,了解这些变化是怎么回事,相比
股票走势图不同颜色的线代表什么?K线图中,红色的线段表示收盘价高于开盘价,而绿色则表示收盘价低于开盘价。此外,白色代表股票的即时成交
《西游记ABC》将于5月24日开播。吴彦祖扮演美猴王,杨紫琼扮演观音娘娘,本·王扮演男主王进,许玮伦扮演石
股票主要看哪几个指标?股票主要看MACD、KDJ、CCI、Boll 、GDP增速、通胀率CPI、大宗商品、期货、美股、日经、港股等指标。投资者要注意市
刘蔷薇:5 6周评黄金及下周行情走势分析附策略建议刘蔷薇:5 6周评黄金及下周行情走势分析附策略建议现在的
社保断交几年后再续交有影响吗?有影响,若是退休之前没有累计缴满15年就无法按时领取退休金,再者是社保断缴后也会达不到买房限购对社保连
场内基金的价格受什么影响?场内基金的价格主要受基金投资标的、资金量和供求关系有关。投资标的上涨、资金量流入大于流出、也就是供不应求
场内基金交易规则和手续费?场内基金买卖时和股票一样实行T+1交收,即当天买入的份额,下一个交易日可以卖出,当天卖出的份额,资金实时可用
生育津贴打到什么账户?打到参保单位的账户,因为生育津贴为女职工产假期间的工资性补偿,原则上不予以发放至个人,若是因单位问题不能正常
如何抓好今冬明春市场监管领域安全生
12月16日,达州市达川区市场监督管理局下发《市场监管领域今冬明春安全生产隐患大排查大整治行动工作方案》,要求下属各部门从2022年12月16日起至2023年3月15日,全面聚焦城镇燃气、特种设备、危险化学品、烟花爆
《2021年度中国对外直接投资统计公报
金港高速公路连接柬埔寨首都金边和该国最大深水海港西哈努克港,是中国路桥按建造—运营—移交模式投资的项目,采用中国设计及质量标准,横跨5个省份,全长187 05公里,双向四车道。金港高速公路通车后,从金边到
总体保持稳定恢复态势 工业经济展现
2022年1至10月,浙江省宁波市811家汽车制造业规上工业总产值2646 8亿元,同比增长14 2%。图为11月19日,工人在领克汽车宁波梅山工厂的总装车间作业。今年以来,受疫情多发散发、市场需求不振等因素影响,国内工业
14家券商获首批个人养老金代销展业资
11月18日晚间,证监会发布《个人养老金基金销售机构名录》,共37家机构入围,其中券商14家,银行16家,独立基金销售机构7家。14家券商包括华泰证券、中信证券、海通证券、国泰君安、申万宏源、中金财富和长江证券
北京再担保承保规模超6000亿 覆盖中
北京中小企业融资再担保有限公司(简称北京再担保)发布的最新数据显示,成立14年来已累计承保规模超过6000亿元,覆盖中小微企业(农户)超过16万户次,积极推动北京市中小微企业融资规模不断扩大。北京再担保2008年
Copyright @ 2001-2023 www.u74.cn All Rights Reserved 商业时报网 版权所有
网站信息内容, 均为相关单位具有著作权,未经书面授权,转载注明出处
未经商业时报网书面授权,请勿建立镜像,转载请注明来源,违者依法必究