登录  | 加入社区

黑狼游客您好!登录后享受更多精彩

只需一步,快速开始

新浪微博登陆

只需一步, 快速开始

查看: 939|回复: 0

Harbor应用案例:网易轻舟微服务平台

[复制链接]

959

主题

959

帖子

0

现金

黑狼菜鸟

Rank: 1

积分
0
发表于 2020-12-24 03:37:14 | 显示全部楼层 |阅读模式 来自 北美地区

原标题:Harbor应用案例:网易轻舟微服务平台

vZWpQLKlwVXWllSQ.jpg

题图摄于颐和园

注:微信公众号不按照时间排序,请关注“亨利条记”,并加星标以置顶,以免错过更新。

本文作者系裴明显,网易杭州研究院轻舟云原生架构师, Harbor 开源项目维护者,重要负责网易轻舟云原生 DevOps 体系计划、研发及落地等,在云原生、 DevOps、微服务架构等范畴拥有丰富的履历。

本文节选自《Harbor权势巨子指南》,精选网易轻舟微服务平台集成 Harbor 的方式和应用场景,读者既可以相识 Harbor 的特性和利用模式,也可以在方案订定和管理实践上鉴戒乐成履历。

网易轻舟微服务团队利用的是 Harbor 1.7 版本,对该版本举行了性能上的优化和功能上的加强,并将加强的 Webhook 功能贡献回 Harbor 项目。

为满意网易的音乐、电商、传媒、教诲等业务线的微服务化需求,网易杭州研究院研发了一套完备的云原生应用管理平台——网易轻舟微服务,平台以 Docker、Kubernetes、Harbor、Istio 为底子办法,构造了 DevOps、微服务等一套完备的办理方案,并将其开放给第三方企业办理业务容器化和服务管理等题目。该平台在生产情况集群中曾到达单集群运行 10000 个节点的规模。

轻舟微服务平台的团体架构如下图所示。

h8g6kGR66pvhx8t9.jpg

睁开全文

该平台基于 Harbor 提供了镜像堆栈功能,并为 PaaS 平台的其他功能提供服务,上层的微服务体系则依靠 PaaS 平台提供的服务,配套日记、监控等平台功能,完成了从项目研发到服务管理的全生命周期管理。网易轻舟团队在 Harbor 上做了一层业务开辟,使得轻舟镜像堆栈支持多租户、多项目、多情况,而且和轻舟微服务平台数据模子、权限模子买通,将镜像堆栈功能融入多个业务流程中,将应用的上卑鄙贯通,形成一套完备的应用管理和交付流程。

1.Harbor 的利用

网易轻舟微服务平台中镜像堆栈服务的焦点架构如下图所示。轻舟镜像堆栈服务和轻舟容器云服务构成了中心层服务,被轻舟 DevOps 平台所依靠。轻舟镜像堆栈服务可以管理多套 Harbor,并将堆栈资源分配给差别的 Kubernetes 集群利用,做到集群级别的资源隔离,通过 Harbor 的开放 API 管理每个实例下的数据资源。别的,轻舟镜像堆栈服务负责将 Harbor 和轻舟微服务平台的数据模子对齐,买通 Harbor 和轻舟微服务平台的权限体系,用户可利用轻舟微服务平台的账号和权限来管理镜像。

mgZQbIl7I9bOIseI.jpg

轻舟微服务平台的 Harbor 之间可以通过长途复制的方式同步镜像,做到研发和运维职员在差别情况下的协作。用户可以为项目差别情况下的集群分配差别的 Harbor 实例,比方线下利用一套 Harbor,线上利用另一套 Harbor,而且设置符合的复制规则,将测试通过的镜像推送到线上堆栈中发布和利用。这种计划在线上线下情况网络隔离而且应用发布更新频仍的场景中非常实用,用户只需连通两套 Harbor 之间的网络,就可以在集群中利用私有网络分发镜像,如下图所示。

Y15b71L5PbF1Q2Zb.jpg

如许的架构有以下利益。

(1)线上线下镜像堆栈隔离,防止误操纵。

(2)测试情况通常会频仍构建镜像、摆设、测试,以是线下情况中 Harbor 的负载较大,运维复杂性高,服务不可用率更高,分开后可以包管线上情况的稳固性。

(3)设置得当的 Harbor 长途复制计谋,只有颠末测试且必要发布的镜像才会由 Harbor 复制到线上堆栈,大大淘汰了线上 Harbor 的镜像数目,性能更好,清算垃圾镜像等运维过程更简朴。 (本文为公众号亨利条记原创文章)

(4)线上线下情况网络在正常环境下是相互隔离的,既可淘汰网络间的镜像拉取,节流流量费用,也确保了线上体系的安全。

为了包管 Harbor 的稳固性和高性能,轻舟微服务平台的 Harbor 后端接纳了网易对象存储及 S3 对象存储驱动而且做了性能优化。

2.实现 Harbor 的高可用性

Harbor 高可用的一种可行方案是摆设两个 Harbor 实例,这两个 Harbor 实例共享存储而且可以各自独立工作,通过负载平衡同一对外提供服务。假如每个 Harbor实例内部的组件没有冗余的本领,则此架构有肯定的潜伏题目:当一个 Harbor 实例的后端组件发生故障时,负载平衡器大概仍旧把哀求发送到这个 Harbor 实例(由于前端依然正常),但是这个哀求终极处置惩罚失败。以是 Harbor 的高可用方案必要 Harbor 的每个组件都有冗余计划,使每个组件都有高可用性,任何一个组件出现故障都不会影响 Harbor 团体对外提供服务。

Harbor 要实现高可用,还必要办理以下题目。

(1)Harbor 利用的 PostgreSQL 数据库在国外应用广泛,自己提供了主备复制,但是团体的高可用性还比力短缺。早期轻舟微服务平台基于主备复制实现了高可用性及一套复杂的人工运维方案。厥后利用了开源项目 Stolon,实现了云上 PostgreSQL 的高可用和故障自愈本领,满意了 Harbor 对数据存储的要求,运行稳固,运维工具丰富,对 Harbor 的私有化交付非常有利。

(2)Harbor 利用 Redis 作为缓存,只支持单一的地点设置,并不支持 Redis 哨兵大概 Redis 集群等常见的高可用架构。Harbor 社区有一套基于 HAProxy 的方案,能满意 Harbor 生产级的应用,此中的一些参数必要用户调试和设置。 (本文为公众号亨利条记原创文章)

(3)异步使命实行日记和镜像等数据必要利用网盘大概对象存储,轻舟团队给 Harbor 贡献了一个功能:从 Harbor 1.7 开始支持将异步使命实行的日记放入数据库中,不再依靠于网盘或对象存储。镜像数据的高可用可以通过网盘大概对象存储办理,但是维护本钱较高。轻舟微服务平台基于 Rsync 和 Inotify 实现了一套文件主动同步方案,包管了当地文件模式下主备数据的同等性。该方案必要答应少少正在处置惩罚的镜像丢失,但是体系非常轻量,可共同相应的监控方案包管主备同步实时、有用。别的,此方案的数据迁徙和备份非常方便,用户可以通过 Rsync 实现数据的长途冷备份。

监控诉警在确保 Harbor 的高可用性上不可缺少。Harbor 是被摆设在 Kubernetes 集群中的,并利用 Prometheus 提供监控诉警功能,现在的监控项有以下几方面。

◎Harbor 摆设主机的资源利用环境。

◎Harbor 服务的容器康健环境,这是 Harbor 提供的功能。

◎Harbor 业务康健监控,好比复制失败告警、扫描失败告警等,可以通过对 Harbor 增长度量接口实现,也可以通过 Harbor 的 Webhook 功能实现。

3.进步Harbor的性能

Harbor 的性能重要涉及镜像并发推送和拉取、镜像复制、GC 等方面。作为镜像堆栈,大规模镜像的分发本领是最能评估 Harbor 性能的。 (本文为公众号亨利条记原创文章)

网易单个业务的副本数可以到达成百上千的规模,连续集成流水线规模也很大,以是必要关注 Harbor 的镜像并发推送和拉取性能。Harbor 1.7 及之前的版本由于Golang 语言包的题目,并发拉取凌驾肯定频率会堕落。其他要思量的是大规模推送和分发面对的带宽题目,无论是Harbor服务的网络带宽照旧后端存储的 I/O 带宽,都大概成为性能瓶颈。

办理带宽题目有多种方案:扩容、增长缓存、利用分布式镜像分发工具。轻舟团队在实验了多种方式之后,决定接纳 P2P 镜像分发体系。现在轻舟镜像堆栈集成了 Uber 开源的 Kraken 项目作为 P2P 分发工具,配上符合的监控方案,可较好地办理大规模镜像分发的题目。

4.镜像堆栈和DevOps

有的用户大概会以为镜像堆栈只是一个文件堆栈,是用来存放镜像的,实在这忽略了镜像堆栈的紧张意义。在 CNCF 的应用交付特殊爱好小组(AppDelivery SIG)中就有应用打包的专题。在现实应用中,镜像堆栈是应用交付流程中的一个紧张环节,能起到买通整个应用交付流程的作用。应用从代码编写到摆设上线,履历了代码、成品、镜像、工作负载的流程,这又涉及编译、构建、摆设等 CI/CD 的焦点流程,贯穿于这个流程中的就是镜像,以是镜像堆栈意义非凡。

在以应用为焦点的 DevOps 流程中,人们都会关注应用的演进过程,关注应用的生命周期,以是围绕镜像计划应用的版本管理,将代码、镜像、摆设关联起来,从而让用户追踪代码的终极交付,追踪云上服务的代码源头,让用户流通地操纵应用的交付流程,并从应用的视角贯穿这个 CI/CD 流程。社区提出的“源代码到镜像”概念,使流程对终端用户透明,用户只需关注详细业务的开辟过程,其他都是主动化完成的,而毗连用户和运维的正是这些过程的产出品。 (本文为公众号亨利条记原创文章)

镜像管理也是 CI/CD 流程的一部门,Webhook 可以触发摆设流水线,毛病扫描是云原生应用安全的焦点功能,镜像长途复制可以办理跨云摆设的题目。这些特性都真逼真切地将 Harbor 嵌入 DevOps 的流程中,而且在每个环节中都发挥着作用。

5.网易和Harbor社区

网易曾有自研的镜像堆栈产物,但在 Harbor 开源的后,轻舟团队开始关注 Harbor社区的发展,并在产物中引入 Harbor。一方面 Harbor 自己功能比力美满,社区活泼,发展较快;另一方面 Harbor 是 CNCF 镜像堆栈项目,是开放的社区,符合网易轻舟微服务的发展门路。

网易将 Harbor 作为镜像堆栈的尺度,围绕 Harbor 的功能计划了许多利用场景,同时积极优化和加强 Harbor 的功能,而且贡献、回馈社区。轻舟团队给Harbor贡献了异步使命日记的数据库功能,到场开辟 Harbor 的镜像复制功能,独立贡献并维护 Webhook 的功能,还到场 Harbor 的 P2P 分发功能开辟。除了功能上的贡献,轻舟团队还对 Harbor 做了大量生产级测试,并向社区提交了 Harbor 的性能瓶颈题目和优化点。

《Harbor权势巨子指南》现在当当网优惠中,点击下图直接购买。

接待转发、收藏以及点 “在看”和赞。返回搜狐,检察更多

责任编辑:





上一篇:【小狮子诊所】别被忽悠买专业卡打游戏,性能惨不忍睹 ...
下一篇:智能客服类产物代价安在?这几个思索给你答案
您需要登录后才可以回帖 登录 | 加入社区

本版积分规则

 

QQ|申请友链|小黑屋|手机版|Hlshell Inc. ( 豫ICP备16002110号-5 )

GMT+8, 2024-4-29 16:15 , Processed in 0.198937 second(s), 47 queries .

HLShell有权修改版权声明内容,如有任何爭議,HLShell將保留最終決定權!

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表