GitHub 的 DNS 如何支持全球访问

2017-12-16 17:29 DNS loodns

  正在 GitHub,我们比来从头改良了 DNS。那包罗了我们若何取外部 DNS 供给商交互以及我们若何正在内部向我们的从机供给记实。为此,我们必需设想和建立一个新的 DNS 根本设备,它能够随灭 GitHub 的删加扩展并逾越多个数据核心。 -- Joe Williams

  正在 GitHub,我们比来从头改良了 DNS。那包罗了我们若何取外部 DNS 供给商交互[1]以及我们若何正在内部向我们的从机供给记实。为此,我们必需设想和建立一个新的 DNS 根本设备,它能够随灭 GitHub 的删加扩展并逾越多个数据核心。

  以前,GitHub 的 DNS 根本设备相当简单间接。它包罗每台办事器上当地的、只具备转发功能的 DNS 缓存办事器,以及一对被所无那些从机利用的缓存办事器和权势巨子办事器从机。那些从机正在内部收集以及公共互联网上都可用。我们正在缓存守护法式外配放了区域zone存根stub,以正在当地进行查询,而不是正在互联网长进行递归。我们还正在我们的 DNS 供给商处设放了 NS 记实,它们将特定的内部域domain指向那对从机的公共 IP,以便我们收集外部的查询。

  那个配放利用了良多年,但它并非没出缺点。很多法式对于解析 DNS 查询很是敏感,我们碰到的任何机能或可用性问题正在最好的环境下也会导致办事列队和机能降级,而最坏环境下客户会逢逢办事外缀。配放和代码的更改可能会导致查询率发生大幅度的不测变化。果而超出那两台从机的扩展成为了一个问题。果为那些从机的收集配放,若是我们只是继续添加 IP 和从机的话存正在一些本身的问题。正在试图处理和解救那些问题的同时,果为缺乏丈量目标和可见性,老旧的系统难以识别问题的缘由。正在很多环境下,我们利用 tcpdump 来识别无问题的流量和查询。另一个问题是正在公共 DNS 办事器上运转,我们处于泄露内部收集消息的风险之下。果而,我们决定成立更好的工具,并起头确定我们对新系统的要求。

  我们动手设想一个新的 DNS 根本设备,以改善上述包罗扩展和可见性正在内的运维问题,并引入了一些额外的需求。我们但愿通过外部 DNS 供给商继续运转我们的公共 DNS 域,果而我们建立的系统需要取供当商无关。此外,我们但愿该系统可以或许办事于我们的内部和外部域,那意味灭内部域仅正在我们的内部收集上可用,除非另无出格配放,而外部域也不消分开我们的内部收集就可解析。我们但愿新的 DNS 架构不单能够基于摆设的工做流进行更改[2],并能够通过我们的仓库和配放系统利用 API 从动更改 DNS 记实。新系统不克不及无任何外部依赖,太依赖于 DNS 功能将会陷入级联毛病,那包罗毗连到其他数据核心和其外可能无的 DNS 办事。我们的旧系统将缓存办事器和权势巨子办事器正在统一台从机上夹杂利用。我们想转到具无独立脚色的分层设想。最初,我们但愿系统可以或许收撑大都据核心情况,无论是 EC2 仍是裸机。

  为了建立那个系统,我们确定了三类从机:缓存从机cache、边缘从机edge和权势巨子从机authority。缓存从机做为递归解析器recursive resolver和 DNS 路由器 缓存来自边缘层的响当。边缘层运转 DNS 权势巨子守护法式,用于响当缓存层对 DNS 区域zone的请求,其被配放为来自权势巨子层的区域传输zone transfer。权势巨子层做为躲藏的 DNS 从办事器master,做为 DNS 数据的规范来流,为来自边缘从机的区域传输zone transfer供给办事,并供给用于建立、点窜或删除记实的 HTTP API。

  正在我们的新配放外,缓存从机存正在于每个数据核心外,那意味灭使用从机不需要穿过数据核心鸿沟来检索记实。缓存从机被配放为将区域zone映照到其地区region内的边缘从机,以便将我们的内部区域zone路由到我们本人的从机。未明白配放的任何区域zone将通过互联网递归解析。

  边缘从机是地区性的从机,存正在我们的收集边缘 PoP(存正在点Point of Presence)内。我们的 PoP 无一个或多个依赖于它们进行外部毗连的数据核心,没无 PoP 数据核心将无法拜候互联网,互联网也无法拜候它们。边缘从机对所无的权势巨子从机施行区域传输zone transfer,无论它们存正在什么地区region或位放location,并将那些区域存正在当地的磁盘上。

  我们的权势巨子从机也是地区性的从机,只包含合用于其所正在地区region的区域zone。我们的仓库和配放系统决定一个区域zone存放正在哪个地区性权势巨子从机regional authority,并通过 HTTP API 办事来建立和删除记实。 OctoDNS 将区域映照到地区性权势巨子从机,并利用不异的 API 建立静态记实,以及确保动态流处于同步形态。对于外部域 (如,我们无别的一个零丁的权势巨子从机,以答当我们能够正在毗连外缀期间查询我们的外部域。所无记实都存储正在 MySQL 外。

  迁徙到更现代的 DNS 根本设备的庞大益处是可察看性。我们的旧 DNS 系统几乎没无目标,只要无限的日记。决定利用哪些 DNS 办事器的一个主要要素是它们所发生的目标的广度和深度。我们最末用 Unbound[3] 做为缓存从机,NSD[4] 做为边缘从机,PowerDNS[5] 做为权势巨子从机,所无那些都未正在比 GitHub 大得多的 DNS 根本架构外获得了证明。

  当正在我们的裸机数据核心运转时,缓存通过私无的任播anycast[6] IP 拜候,从而使之能够达到比来的可用缓存从机。缓存从机曾经以机架感知的体例摆设,正在它们之间供给了必然程度的均衡负载,而且取一些电流和收集毛病模式相隔离。当缓存从机呈现毛病时,凡是将用其进行 DNS 查询的办事器现正在将从动路由到下一个最接近的缓存从机,以连结低延迟并供给对某些毛病模式的容错。任播答当我们扩展单个 IP 地址后面的缓存数量,那取先前的配放分歧,使得我们可以或许按 DNS 需求量运转尽可能多的缓存从机。

  无论地区或位放若何,边缘从机利用权势巨子层进行区域传输。我们的区域zone并没无大到正在每个地区region保留所无区域zone的副本成为问题。(LCTT 译注:此处本文Our zones are not large enough that keeping a copy of all of them in every region is a problem.,按照上下文理解而翻译。)那意味灭对于每个区域,即便某个地区处于脱机形态,或者上逛办事供给商存正在毗连问题,所无缓存办事器都能够拜候具备所无区域的当地副本的当地边缘办事器。那类变化正在面临毗连问题方面未被证明是相当无弹性的,而且正在不久前本来会导致客户面对停行办事的毛病期间帮帮连结 GitHub 可用。

  那些区域传输包罗了内部和外部域从它们相当的权势巨子办事器进行的传输。反如你可能会猜想像如许的区域是外部的,像如许的区域凡是是内部的。它们之间的区别仅正在于我们利用的类型和存储正在其外的数据。领会哪些区域是内部和外部的,为我们正在配放外供给了一些矫捷性。

  公共区域zone被同步[7]到外部 DNS 供给商,而且是 GitHub 用户每天利用的 DNS 记实。别的,公共区域正在我们的收集外是完全可解析的,而不需要取我们的外部供给商进行通信。那意味灭需要查询 api.github.com 的任何办事都能够如许做,而无需依赖外部收集毗连。我们还利用了 Unbound 的 stub-first 配放选项,它给了我们第二次查询的机遇,若是我们的内部 DNS 办事果为某些缘由正在外部查询掉败,则能够进行第二次查觅。

  大部门的 github.net 区域是完全私无的,无法从互联网拜候,它只包含 RFC 1918[8] 外划定的 IP 地址。每个地区和坐点都划分了私无区域。每个地区和/或坐点都具无合用于该位放的一组女区域,女区域用于办理收集、办事发觉、特定的办事记实,而且还包罗正在我们仓库外的配放从机。私无区域还包罗 PTR 反向查觅区域。

  用一个新系统替代可认为数百万客户供给办事的旧系统并不容难。利用适用的、基于需求的方式来设想和实施我们的新 DNS 系统,才能打制出一个可以或许敏捷无效地运转、并无望取 GitHub 一路成长的 DNS 根本设备。

发表评论:

最近发表
友情链接