神刀安全网

GitHub的DGit改进了平台的可靠性、性能以及可用性

GitHub最近悄悄地发布了DGit,全称为“分布式Git”。这是一种基于Git创建的分布式存储系统,其目标是改进使用GitHub时的可靠性、可用性以及性能。

DGit是一个应用层面的协议,它利用了Git分布式的特性,将每个仓库在三台不同的、独立选择的服务器上保留三个备份。 按GitHub所说 ,这个简单的架构在可靠性、可用性和性能方面带来了许多直接的好处。

  • 考虑到托管某个仓库的三台服务器是互相独立的,那么他们同时变得不可用的可能性非常低。
  • 用户的请求可在这三台服务器之间进行负载均衡处理,由于这些请求大部分是读请求,因此可以立即响应,而无需在这三台服务器之间进行同步,这将带来直接的、接近于3倍的性能提升。
  • 多个仓库之间出现“命运共享”(fate sharing)的情况大大减少了。命运共享这种情况会造成一个或多个仓库的性能下降,其原由是这些仓库与另其他非常流行的或者过于庞大的仓库共享了相同的服务器。在DGit的实现中,由于这些仓库在独立的服务器中进行分发,因此这种情况同时发生在三台服务器上的可能性少之又少。这也使某个请求可以在负载相对较小的服务器中进行处理。
  • 分发服务器之间无需保持一个很近的距离,他们可以分布在不同的可用区域或是数据中心之间。这种方式显然能够改进可用性,并且对于在地理位置上更接近的用户也能够带来性能上的改进。

DGit使GitHub能够废除之前所使用的基于备份的模式(由于DGit的发布过程还在进行中,因此目前仍在使用这一模式)。对于每个活动的服务器来说,这种模式要求设置一个专用的备用服务器,以交叉线连接,数据将通过 DRDB 进行同步。

GitHub的DGit改进了平台的可靠性、性能以及可用性

对于GitHub的整体功能来说,废除这种模式能够带来一些额外的好处:

  • 当某一台服务器发生故障时,唯一必须要做的一件事就是将等待中的请求重新路由至一台新的服务器,并重启发生故障的服务器。
  • 此外,替换一台有故障的服务器变得不再那么紧迫了,因为至少还有两台服务器能够运行,他们可将数据迅速地分发至第三台服务器。
  • 由于新的方式不再需要使用一台专用的备用服务,这意味着GitHub能够更好地利用每个CPU以及所有的可用内存,以处理用户的请求。
  • DGit极大地简化了GitHub基础设施的管理,例如添加新的服务器、应对某些仓库变得非常庞大或非常流行等情况。

正如之前所说,DGit是基于Git本身所打造的,它并没有利用RAID、DRBD或其他分发技术。GitHub选择实现自己的算法,以处理序列化、加锁、故障检测以及重新分发等操作。在与InfoQ的一次对话中,GitHub表示他们使用了 三阶段提交(3PC)协议 以处理分布式事务。“DGit基本已经消除了在Git层由于单一托管或整个机架不可用所造成的服务故障”。

如上文所说,GitHub近几个月来正在逐步部署DGit,首先从他们自己的仓库开始部署。当他们对于新的系统具备了充分的信心之后,就会开始迁移受欢迎的公共仓库。在今年二月,GitHub开始批量地迁移仓库。目前大约有60%的仓库、98%的Gist,总计约67%的GitHub数据已经运行在DGit上了。GitHub向InfoQ表示:“我们正在日夜不停地通过导入作业将数据从之前的存储架构中迁移至DGit”。

查看英文原文: GitHub’s DGit Improves Reliability, Performance, and Availability

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » GitHub的DGit改进了平台的可靠性、性能以及可用性

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
分享按钮